Chatten mit dem Labor bei einem Spezialchemie-hersteller

Prüfung der Datenqualität

Zur Gewinnung von Erkenntnissen aus Laborberichten bietet sich ein RAG-Ansatz (Retrieval Augmented Generation) an. RAG zeichnet sich hier insbesondere dadurch aus, dass es auch unstrukturierte Daten effektiv nutzen kann und keine spezielle Vorverarbeitung der Daten erforderlich ist.

Der Hauptaufwand lag stattdessen in der fachlichen Bewertung der Inhalte sowie in der Feinjustierung des RAG-Systems und der Abfragelogik.

Als Grundlage stellten unsere [at]-Experten zunächst die at RAG PoC (Proof of Concept) Referenzarchitektur auf einem Azure native Stack bereit. In dieser kontrollierten Umgebung konnte systematisch geprüft werden, inwieweit sich die vorhandenen Daten für den Einsatz eines RAG-Ansatzes eignen und ob die technische Umsetzung auch praktisch möglich ist.

Datenschutz sicherstellen

Da die verwendeten Daten sensibel sind, wurden von Beginn an strenge Sicherheits- und Compliance-Anforderungen umgesetzt. Das Hosting erfolgte ausschließlich innerhalb der EU und wurde zusätzlich durch gezielte Isolationsmaßnahmen sowie die Abschaltung der Microsoft Missbrauchsüberwachung abgesichert. Dazu kam die Integration an ein Security Operations Center für Missbrauchsüberwachung, sowie die Implementierung von Guardrails und Ratelimits, die das systematische Abziehen von Informationen und aktiv vor Missbrauch zu schützen.

Anwendertest

Nach der positiven fachlichen Bewertung der Daten sowie der Anreicherung und Optimierung der Abfragesystematik wurde ein breiter User Acceptance Test (Anwendertest) durchgeführt. Dabei validierten die späteren Anwender:innen die Lösung erfolgreich im operativen Alltag im Labor und bestätigten deren fachliche Eignung und Mehrwert.

Ein Ratingsystem ermöglicht den Anwendern außerdem das Mitteilen von Feedback für konkrete Antworten/Empfehlungen aus der RAG-Applikation, welches auch nach der Produktivsetzung für kontinuierliche Qualitätsverbesserungen ausgewertet wurde.