Kommunen und Behörden schreiben KI-Assistenten für den Bürgerservice aus. Die Technik ist verfügbar, die schwierigen Fragen liegen woanders: im Anwendungsfall, in den Pflichten nach der KI-Verordnung der EU (AI Act) und in der Frage, wem die Daten und das Wissen am Ende gehören.
Im Vergabe-Archiv finden sich Verfahren mit Bezug zu Chatbots, Sprachassistenten und KI-gestützten Dialogsystemen. Getrieben wird das Thema von zwei Seiten. Auf der einen steht der Personaldruck in den Verwaltungen, auf der anderen die Erwartung der Bürgerinnen und Bürger, Anliegen rund um die Uhr und in einfacher Sprache klären zu können.
Gleichzeitig ist der rechtliche Rahmen konkret geworden. Die KI-Verordnung der EU (Verordnung (EU) 2024/1689, AI Act) ist am 1. August 2024 in Kraft getreten und gilt im Wesentlichen seit dem 2. August 2026, darunter die Transparenzpflichten nach Artikel 50[1]. Die Pflichten für Hochrisiko-KI-Systeme nach Anhang III gelten nach der Änderung durch die Verordnung (EU) 2026/1744 ab dem 2. Dezember 2027[2]. Wer heute ausschreibt, sollte diese Pflichten von Anfang an mitdenken, statt sie später teuer nachzurüsten.
Ein typischer Fehler ist ein zu vager Anwendungsfall. „Ein Chatbot für die Website“ klingt eindeutig, lässt aber offen, welche Anliegen der Assistent tatsächlich abschließend bearbeiten soll und welche er nur an die Sachbearbeitung weiterreicht. Genau daran hängt der Preis. Ein Assistent, der Öffnungszeiten und Formularlinks ausgibt, ist etwas anderes als einer, der durch einen Antrag führt und dabei auf Fachverfahren zugreift.
Als Auftraggeber sollten Sie deshalb vor der Ausschreibung klären: Welche Themen deckt der Assistent ab? Über welche Kanäle ist er erreichbar, nur als Web-Chat oder auch telefonisch als Sprachdialog? Und welche Sprachen muss er unterstützen? Gerade im öffentlichen Sektor ist Mehrsprachigkeit oft gefragt. Ohne diese Festlegung kalkuliert jeder Anbieter mit eigenen Annahmen, und die Angebote werden unvergleichbar.
Ein KI-Assistent, der plausibel klingende, aber falsche Auskünfte gibt, schadet mehr als er nützt. Bei einer Behörde ist eine falsche Auskunft nicht nur ärgerlich, sie kann rechtliche Folgen haben. Die entscheidende Anforderung lautet deshalb: Antworten müssen an die geprüfte Wissensbasis der Verwaltung gebunden sein und sich auf ihre Quelle zurückführen lassen, statt frei formuliert zu werden.
Dazu gehört ein definiertes Verhalten bei Unsicherheit. Ein guter Assistent sagt, wenn er etwas nicht weiß, und leitet an einen Menschen weiter, statt zu raten. Formulieren Sie das als messbare Anforderung, nicht als Wunsch, und verlangen Sie ein Verfahren, mit dem die Wissensbasis aktuell gehalten wird.
Für einen Bürger-Assistenten ist vor allem die Transparenzpflicht nach Artikel 50 Absatz 1 der KI-Verordnung maßgeblich: Der Anbieter muss das System so gestalten, dass Nutzerinnen und Nutzer informiert werden, dass sie mit einem KI-System und nicht mit einem Menschen kommunizieren, sofern das nicht offensichtlich ist[3]. Darüber hinaus ist zu klären, ob der konkrete Anwendungsfall als Hochrisiko-System einzustufen ist, etwa wenn der Assistent beurteilt, ob jemand Anspruch auf öffentliche Unterstützungsleistungen hat (Anhang III Nr. 5 Buchstabe a). Die Einordnung verändert die Pflichten erheblich.
Datenschutz und Barrierefreiheit gehören untrennbar dazu. Die Verarbeitung personenbezogener Daten muss der DSGVO genügen. Öffentliche Stellen des Bundes müssen ihre Websites und mobilen Anwendungen nach § 12a BGG und der Barrierefreie-Informationstechnik-Verordnung (BITV 2.0) barrierefrei gestalten[4], für Länder und Kommunen gelten entsprechende Landesregelungen. Beides gehört als verbindliche Anforderung in die Vergabeunterlagen, nicht in die Wunschliste.
Wo die Daten der Bürgerinnen und Bürger verarbeitet werden und ob sie zum Training des Modells verwendet werden dürfen, ist die politisch heikelste Frage jeder KI-Beschaffung. Ein niedriger Preis sagt nichts darüber, wo Daten verarbeitet und ob sie weiterverwendet werden. Regeln Sie den Hosting-Ort ausdrücklich, etwa innerhalb der EU, und schließen Sie die Nutzung eingegebener Daten für fremde Modelle aus, sofern das nicht gesondert vereinbart ist.
Ebenso wichtig ist der Ausstieg. Ohne geregelten Exit entsteht eine faktische Bindung an den Anbieter, die eine spätere Neuvergabe erschwert. Verlangen Sie die Herausgabe der gepflegten Wissensbasis und der Gesprächsverläufe in einem auswertbaren Format sowie Unterstützung beim Anbieterwechsel. Wie andere Auftraggeber vergleichbare Verfahren aufgebaut haben, sehen Sie im Vergabe-Archiv.
Diese Punkte sind im Muster-Leistungsverzeichnis KI-Assistent als technische Anforderungen ausformuliert: Anwendungsfall, Antwortqualität, Transparenz- und Datenschutzfunktionen, Datenhaltung und Exit, als editierbare Excel-Datei.
Quellen
Das Muster-LV KI-Assistent als editierbare Vorlage, die IT-Markterkundung für einen neutralen Marktüberblick und das Vergabe-Archiv mit vergleichbaren Verfahren aus über 100.000 Vergabeunterlagen.
Sie haben eine konkrete Beschaffung vor sich und wollen sehen, wie andere sie aufgesetzt haben? Das Vergabe-Archiv zeigt vergleichbare Verfahren. Bei Fragen zu den Produkten melden Sie sich gern.