Agen­ti­sche KI in der Bun­des­ver­wal­tung

Agen­ti­sche KI und voll­stän­di­ge Ver­wal­tungs­ent­schei­dungs­pro­zes­se in der Bun­des­ver­wal­tung

Wor­um es ins­ge­samt geht

Die Bun­des­re­gie­rung beant­wor­tet eine Klei­ne Anfra­ge zur Nut­zung agen­ti­scher KI in der Bun­des­ver­wal­tung. Es geht um Defi­ni­tio­nen, lau­fen­de Pro­jek­te, Risi­ken, Rechts­grund­la­gen, Kos­ten, Betei­lig­te und Zukunfts­plä­ne.

Kern­punk­te der Regie­rungs­po­si­ti­on

1. Defi­ni­ti­on von agen­ti­scher KI

Agen­ti­sche KI sind Sys­te­me, die:

• mehr­stu­fi­ge Hand­lungs­ab­läu­fe pla­nen,
• exter­ne Tools/Datenquellen ein­bin­den,
• Infor­ma­tio­nen beschaf­fen,
• Zwi­schen­er­geb­nis­se bewer­ten,
• kom­ple­xe Auf­ga­ben­ket­ten mit ope­ra­ti­ver Eigen­stän­dig­keit aus­füh­ren.

2. Grund­prin­zip: Human in the Loop

• KI darf unter­stüt­zen, aber nicht auto­nom ent­schei­den.
• Inhalt­li­che Ver­ant­wor­tung bleibt immer beim Men­schen.
• KI-gene­rier­te Inhal­te müs­sen fach­lich geprüft wer­den.

Aktu­el­le Pro­jek­te & Ein­satz­be­rei­che

Die Bun­des­re­gie­rung lis­tet zahl­rei­che Pro­jek­te in ver­schie­de­nen Res­sorts (sie­he Anla­ge). Die meis­ten:

• rein unter­stüt­zend, z. B. Text­ent­wür­fe, Recher­che, Wis­sens­da­ten­ban­ken, Soft­ware­ent­wick­lung.
• kei­ne voll­stän­di­gen Ver­wal­tungs­ent­schei­dun­gen.

Eini­ge Bei­spie­le:

• SPARK (Pla­nungs- & Geneh­mi­gungs­ver­fah­ren): KI struk­tu­riert, prio­ri­siert, bewer­tet recht­lich vor – aber Ent­schei­dung bleibt beim Men­schen.
• BZSt: KI-gestütz­te Vor­be­rei­tung von Beschei­den (pAV), fina­le Ent­schei­dung manu­ell.
• Aus­wär­ti­ges Amt: PoC für Doku­men­ten­er­stel­lung, geplan­te KI-Unter­stüt­zung im Visum­ver­fah­ren.
• DWD (DAWID): Agen­ten­mo­dus zur Pro­zess­au­to­ma­ti­sie­rung im Wet­ter­be­reich, kei­ne recht­li­chen Ent­schei­dun­gen.

Kos­ten & Finan­zie­rung

• 2025: 243.341,30 €
• 2026: 3.180.582,45 €
• 2027/2028: noch in Pla­nung.
• Finan­zie­rung über Kapi­tel 2402 Titel 532 16.
• Sach­kos­ten­bud­get Digi­tal­Ser­vice GmbH: max. 500.000 €, davon 212.849 € für Pilo­tie­rung.

Betei­lig­te Akteu­re

• BMDS (feder­füh­rend)
• Digi­tal­Ser­vice GmbH (Ope­ra­tio­na­li­sie­rung, Aus­wahl, Eva­lua­ti­on)
• Wei­te­re Behör­den je nach Pro­jekt (BSI, BfDI, ITZ­Bund etc.).

Recht­li­che & orga­ni­sa­to­ri­sche Anfor­de­run­gen

• KI-VO (EU 2024/1689), DSGVO, VwVfG §35a.
• Daten­schutz-Fol­gen­ab­schät­zun­gen, IT-Sicher­heits­kon­zep­te, Grund­rech­te-Fol­gen­ab­schät­zun­gen wer­den erstellt.
• Kei­ne Ver­ar­bei­tung ver­trau­li­cher oder VS-Daten.
• Pro­to­kol­lie­rung, Doku­men­ta­ti­on und Nach­voll­zieh­bar­keit müs­sen gewähr­leis­tet sein.

Was KI nicht darf

• Berei­che, die unter ver­bo­te­ne Prak­ti­ken der KI-VO fal­len.
• Voll­stän­di­ge auto­no­me Ver­wal­tungs­ent­schei­dun­gen ohne mensch­li­che Prü­fung.
• Ein­satz in grund­rechts­re­le­van­ten oder beson­ders sen­si­blen Ver­fah­ren ohne kla­re Rechts­grund­la­ge.

Zukunfts­plä­ne

• Agen­tic AI Hub soll ver­ste­tigt wer­den.
• Zwei­te Pilo­tie­rungs­run­de bis Ende 2026 / Anfang 2027.
• Auf­bau eines dyna­mi­schen Beschaf­fungs­sys­tems zur Ska­lie­rung.
• Kei­ne geplan­ten Geset­zes­än­de­run­gen spe­zi­ell für agen­ti­sche KI.

Wesent­li­che offe­ne Punk­te

Die Bun­des­re­gie­rung:

• nennt Prüf­fak­to­ren, aber kei­ne kla­re Road­map für voll­au­to­ma­ti­sier­te KI-Ent­schei­dungs­pro­zes­se,
• beant­wor­tet nicht, ob kon­kre­te Pro­jek­te für voll­stän­dig KI-basier­te Ent­schei­dun­gen geplant sind,
• ver­weist mehr­fach auf Anla­gen oder ande­re Druck­sa­chen.

---

Quel­le: Druck­sa­che 21/8008