Immer mehr Kommunen und Behörden schreiben einen KI-Assistenten für den Bürgerservice aus. Die Technik ist verfügbar, die schwierigen Fragen liegen woanders: im Anwendungsfall, in der Rechtskonformität nach EU AI Act und in der Frage, wem die Daten und das Wissen am Ende gehören.
In unserer Auswertung des Vergabe-Archivs ist die Zahl der Verfahren mit Bezug zu Chatbots, Sprachassistenten und KI-gestützten Dialogsystemen deutlich gestiegen: von einer einzelnen Bekanntmachung im Jahr 2023 auf 26 in 2024 und 29 in 2025, mit weiter steigender Tendenz. Getrieben wird das von zwei Seiten. Auf der einen steht der Personaldruck in den Verwaltungen, auf der anderen die Erwartung der Bürgerinnen und Bürger, Anliegen rund um die Uhr und in einfacher Sprache klären zu können.
Gleichzeitig ist der rechtliche Rahmen konkret geworden. Seit dem 1. August 2024 gilt die KI-Verordnung der EU (AI Act), die zentralen Pflichten greifen ab dem 2. August 2026[1]. Wer heute ausschreibt, sollte diese Pflichten von Anfang an mitdenken, statt sie später teuer nachzurüsten.
Der häufigste Fehler ist ein zu vager Anwendungsfall. „Ein Chatbot für die Website" klingt eindeutig, lässt aber offen, welche Anliegen der Assistent tatsächlich abschließend bearbeiten soll und welche er nur an die Sachbearbeitung weiterreicht. Genau daran hängt der Preis. Ein Assistent, der Öffnungszeiten und Formularlinks ausgibt, ist etwas anderes als einer, der durch einen Antrag führt und dabei auf Fachverfahren zugreift.
Als Auftraggeber sollten Sie deshalb vor der Ausschreibung klären: Welche Themen deckt der Assistent ab? Über welche Kanäle ist er erreichbar, nur als Web-Chat oder auch telefonisch als Sprachdialog? Und welche Sprachen muss er unterstützen? Gerade im öffentlichen Sektor ist Mehrsprachigkeit selten optional. Ohne diese Festlegung kalkuliert jeder Anbieter mit eigenen Annahmen, und die Angebote werden unvergleichbar.
Ein KI-Assistent, der plausibel klingende, aber falsche Auskünfte gibt, schadet mehr als er nützt. Bei einer Behörde ist eine falsche Auskunft nicht nur ärgerlich, sie kann rechtliche Folgen haben. Die entscheidende Anforderung lautet deshalb: Antworten müssen an die geprüfte Wissensbasis der Verwaltung gebunden sein und sich auf ihre Quelle zurückführen lassen, statt frei formuliert zu werden.
Dazu gehört ein definiertes Verhalten bei Unsicherheit. Ein guter Assistent sagt, wenn er etwas nicht weiß, und leitet an einen Menschen weiter, statt zu raten. Formulieren Sie das als messbare Anforderung, nicht als Wunsch, und verlangen Sie ein Verfahren, mit dem die Wissensbasis aktuell gehalten wird.
Für einen Bürger-Assistenten ist vor allem die Transparenzpflicht nach Artikel 50 der KI-Verordnung maßgeblich: Nutzerinnen und Nutzer müssen erkennen können, dass sie mit einem KI-System und nicht mit einem Menschen kommunizieren[2]. Darüber hinaus sollten Sie prüfen, ob Ihr konkreter Anwendungsfall als Hochrisiko-System einzustufen ist, etwa wenn der Assistent über den Zugang zu öffentlichen Leistungen mitentscheidet. Die Einordnung verändert die Pflichten erheblich.
Datenschutz und Barrierefreiheit gehören untrennbar dazu. Die Verarbeitung personenbezogener Daten muss der DSGVO genügen, und öffentliche Stellen sind nach der Barrierefreie-Informationstechnik-Verordnung (BITV 2.0) verpflichtet, ihre Angebote barrierefrei zu gestalten[3]. Beides gehört als verbindliche Anforderung in die Vergabeunterlagen, nicht in die Wunschliste.
Wo die Daten der Bürgerinnen und Bürger verarbeitet werden und ob sie zum Training des Modells verwendet werden dürfen, ist die politisch heikelste Frage jeder KI-Beschaffung. Erfahrungsgemäß ziehen gerade die scheinbar günstigsten Angebote ihre Wirtschaftlichkeit oft daraus, dass Daten in Drittländer fließen oder weiterverwertet werden. Regeln Sie den Hosting-Ort ausdrücklich, in der Regel innerhalb der EU oder Deutschlands, und schließen Sie die Nutzung eingegebener Daten für fremde Modelle aus, sofern das nicht gesondert vereinbart ist.
Ebenso wichtig ist der Ausstieg. Ohne geregelten Exit entsteht eine faktische Bindung an den Anbieter, die im Vergaberecht problematisch ist. Verlangen Sie die Herausgabe der gepflegten Wissensbasis und der Gesprächsverläufe in einem auswertbaren Format sowie Unterstützung beim Anbieterwechsel. Wie andere Auftraggeber vergleichbare Verfahren aufgebaut haben, sehen Sie im Vergabe-Archiv.
Diese Anforderungen haben wir in einem fertigen Muster-Leistungsverzeichnis KI-Assistent ausformuliert: Anwendungsfall, Antwortqualität, EU AI Act, Datenhaltung und Exit als abfragbare Positionen, sofort als Excel nutzbar.
Ein Punkt, der uns wichtig ist: Wir begleiten diese Themen nicht nur auf dem Papier. Neben dem Leistungsverzeichnis und der Ausschreibung unterstützen wir öffentliche Auftraggeber auch bei der inhaltlichen Vorbereitung und der Umsetzung, von der Markterkundung über die Definition der Use Cases und der Wissensbasis bis zur Bewertung der eingegangenen Angebote. Gerade bei einem neuen Thema wie KI hilft es, jemanden an der Seite zu haben, der die Technik und das Vergaberecht zusammendenkt.
Konkret heißt das: Wir helfen Ihnen, den Anwendungsfall so zu schneiden, dass er wirtschaftlich und rechtssicher ist, die Anforderungen des AI Act sauber einzuarbeiten und die Angebote strukturiert zu vergleichen. Wenn Sie das Verfahren begleiten lassen möchten, finden Sie den Einstieg bei unserer IT-Ausschreibungsunterstützung, für die Auswertung der Angebote bei den IT-Angebotsvergleichen und für die laufende Steuerung beim unabhängigen Projektmanagement.
Quellen
Von der Markterkundung über das Leistungsverzeichnis bis zur Umsetzung: Wir begleiten öffentliche Auftraggeber durch das gesamte Verfahren.
Sie haben eine konkrete Beschaffung vor sich und wollen wissen, wie andere sie aufgesetzt haben? Melden Sie sich, ein Erstgespräch kostet nichts.