Das Verwaltungshandeln von Behörden muss immer rechtskonform und nachvollziehbar sein. Dem kommt nochmal mehr Bedeutung zu, wenn Behörden KI-Systeme benutzen. Der Quellcode von KI-Anwendungen sollte daher soweit möglich für die Öffentlichkeit einsehbar sein - das sind Open Source Ansätze, die das Auswärtige Amt weiterverfolgt.

Bereits vor, aber vor allem auch nach, der Einführung einer KI-Anwendung muss es Prüfmechanismen geben. Im Auswärtigen Amt erfolgt die Entwicklung einer KI-Anwendung immer in enger Absprache zwischen allen Beteiligten. Das umfasst die technische Expertise auf der einen Seite, die im Auswärtigen Amt im KI- und Datenlabor verankert ist, und auf der anderen Seite die inhaltliche und rechtliche Expertise, die in den jeweiligen Fachreferaten und Abteilungen ist. Prototypen von KI-Anwendungen werden durch beide Seiten auf Herz und Nieren geprüft - das ist übrigens durch die KI-Verordnung der EU vorgeschrieben. Die für die Überwachung von KI notwendigen Behörden werden derzeit in Deutschland aufgebaut. Ein wichtiger und notwendiger Schritt zur Gewährleistung sicherer und rechtskonformer KI-Lösungen.