8. Oktober 2024

GenAI ohne Halluzinationen

Retrieval-Augmented Generation überwindet bisherige Limitationen von GenAI im Unternehmenskontext

Generative Künstliche Intelligenz (GenAI) ist derzeit das Gesprächsthema und hat das Potenzial, unsere Arbeits- und Lebensweise grundlegend zu verändern. Obwohl GenAI bereits in der Lage ist, Texte zu erzeugen, die kaum von denen menschlicher Autoren zu unterscheiden sind, reicht die Qualität oft nicht aus, um im beruflichen Alltag zuverlässig eingesetzt zu werden. Unvollständige oder fehlerhafte Antworten von Sprachmodellen wie ChatGPT haben zu Unsicherheiten geführt und das Vertrauen in diese Technologien beeinträchtigt. Doch das muss nicht so bleiben: Mit einem neuen Ansatz lassen sich diese Herausforderungen leicht überwinden, sodass Unternehmen das Potenzial von GenAI bereits heute voll ausschöpfen können.

Eine anschauliche Analogie hilft, die Grenzen von Sprachmodellen besser zu verstehen: Stellen Sie sich einen Bibliothekar vor, der Zugang zu einer riesigen Sammlung von Büchern und Dokumenten hat. Er kennt den Inhalt jedes zugänglichen Buches auswendig und kann auf jede Frage basierend auf diesem Wissen antworten. Wird ihm jedoch eine Frage zu einem aktuellen Ereignis gestellt, das nach der letzten Aktualisierung seiner Sammlung eingetreten ist, oder nach Informationen aus Büchern gefragt, die er noch nie gesehen hat, kann er keine präzise Antwort geben. Dieses Phänomen ähnelt dem „Halluzinieren“ von Large Language Models (LLMs), bei dem Modelle Texte generieren, indem sie das nächste wahrscheinliche Wort vorhersagen – selbst dann, wenn sie unsicher sind, anstatt eine Wissenslücke zu erkennen.

Wie lässt sich dieses Problem lösen? Ähnlich wie beim Onboarding eines neuen Mitarbeiters, der mit den notwendigen Informationen ausgestattet wird, stellen wir dem Sprachmodell die für unseren Anwendungsfall relevanten Daten zur Verfügung. Dieser Ansatz, bekannt als Retrieval-Augmented Generation (RAG), ergänzt das Modell mit einer Vektordatenbank, die gesammelte Texte durchsuchbar macht. Bei einer Anfrage durchsucht das Modell diese Bibliothek und kombiniert die Ergebnisse mit seinem vorhandenen Wissen. Dadurch werden präzise Antworten inklusive Quellenangaben ermöglicht.

Die Einsatzmöglichkeiten von RAG sind vielfältig: Medizinische oder rechtliche Fachberatungen können in Sekundenschnelle mit verlässlichen Quellverweisen erfolgen. Tausende Zeilen Code lassen sich effizient durchsuchen und analysieren, sodass neu generierter Code direkt den unternehmerischen Standards entspricht. Zudem können Chatbots entwickelt werden, die rund um die Uhr alle unternehmensspezifischen Informationen bereitstellen. Es gibt für jedes Unternehmen schon heute viele Gründe sich mit GenAI und RAG auseinanderzusetzen.

Wie diese innovativen Lösungen mit DataRobot umgesetzt werden können, demonstrieren wir in diesem Video.

TEILEN