Retrieval-Augmented Generation (RAG)

Retrieval-Augmented Generation (RAG) ist ein Verfahren, das ein großes Sprachmodell mit einer durchsuchbaren Wissensbasis kombiniert. Statt Antworten allein aus dem Modell zu erzeugen, ruft das System zunächst passende Dokumente ab und lässt die Antwort auf diesen Quellen aufbauen. Das reduziert falsche Auskünfte und macht Antworten auf ihre Quelle rückführbar, was gerade im öffentlichen Bereich entscheidend ist. Für die Beschaffung eines KI-Assistenten ist RAG oft die tragende Anforderung, weil sie die Bindung der Antworten an die geprüfte Wissensbasis der Verwaltung ermöglicht.