Mehr Macht für den Staat oder mehr Waf­fen­gleich­heit für den Bür­ger?

Die Bun­des­re­gie­rung will Deutsch­land zu einem füh­ren­den Stand­ort für Künst­li­che Intel­li­genz machen. Gemein­sam mit dem US-Chip­her­stel­ler Nvi­dia sol­len leis­tungs­fä­hi­ge KI-Sys­te­me ent­wi­ckelt und vor allem in der Indus­trie ein­ge­setzt wer­den. Dafür ste­hen staat­li­che Inves­ti­tio­nen in drei­stel­li­ger Mil­lio­nen­hö­he im Raum. Auch die öffent­li­che Ver­wal­tung soll zuneh­mend von Künst­li­cher Intel­li­genz pro­fi­tie­ren. Die Zie­le klin­gen viel­ver­spre­chend: mehr Wett­be­werbs­fä­hig­keit, effi­zi­en­te­re Behör­den, schnel­le­re Ver­wal­tungs­ver­fah­ren und tech­no­lo­gi­sche Unab­hän­gig­keit. Doch bei aller Begeis­te­rung über die­se Ent­wick­lung gerät eine ent­schei­den­de Fra­ge leicht aus dem Blick: Wel­che Rol­le spielt eigent­lich der ein­zel­ne Bür­ger in die­ser KI-Offen­si­ve?

Die deut­sche KI-Stra­te­gie kon­zen­triert sich auf­fäl­lig stark auf die Inter­es­sen der Indus­trie, gro­ßer Unter­neh­men und staat­li­cher Insti­tu­tio­nen. Ein Bei­spiel dafür ist das Hei­del­ber­ger KI-Unter­neh­men Aleph Alpha, das sich zuneh­mend auf Anwen­dun­gen für Unter­neh­men und die öffent­li­che Ver­wal­tung spe­zia­li­siert hat. Anders als ChatGPT rich­tet sich das Unter­neh­men mit sei­nen Ange­bo­ten nicht vor­ran­gig an pri­va­te End­nut­zer. Das ist wirt­schaft­lich nach­voll­zieh­bar, wirft aber eine grund­sätz­li­che Fra­ge auf: Soll Künst­li­che Intel­li­genz in Deutsch­land haupt­säch­lich die Leis­tungs­fä­hig­keit gro­ßer Orga­ni­sa­tio­nen stei­gern, oder soll sie auch dem ein­zel­nen Men­schen neue Mög­lich­kei­ten eröff­nen?

Die­se Fra­ge ist kei­nes­wegs neben­säch­lich. Denn Künst­li­che Intel­li­genz ist nicht ein­fach nur eine wei­te­re tech­ni­sche Inno­va­ti­on. Sie ist ein aus­ge­spro­chen mäch­ti­ges Instru­ment zur Ver­ar­bei­tung von Infor­ma­tio­nen, zur Ana­ly­se kom­ple­xer Zusam­men­hän­ge und zur Vor­be­rei­tung von Ent­schei­dun­gen. Wer über sol­che Fähig­kei­ten ver­fügt, gewinnt Wis­sen, Hand­lungs­mög­lich­kei­ten und damit unter Umstän­den auch Macht.

Gera­de im Ver­hält­nis zwi­schen Staat und Bür­ger ist das von erheb­li­cher Bedeu­tung. Schon heu­te besteht hier ein struk­tu­rel­les Ungleich­ge­wicht. Behör­den ver­fü­gen über juris­ti­sche Fach­kennt­nis­se, umfang­rei­che Daten­be­stän­de, spe­zia­li­sier­te Soft­ware und einen gro­ßen Ver­wal­tungs­ap­pa­rat. Der ein­zel­ne Bür­ger steht die­sem Appa­rat häu­fig allein gegen­über. Er muss kom­pli­zier­te Beschei­de ver­ste­hen, gesetz­li­che Vor­schrif­ten durch­schau­en, Fris­ten beach­ten und gege­be­nen­falls Wider­spruch ein­le­gen oder vor Gericht zie­hen. Wer nicht über ent­spre­chen­de Kennt­nis­se ver­fügt, muss einen Rechts­an­walt beauf­tra­gen. Das kos­tet Geld. Zwar gibt es Bera­tungs­hil­fe und Pro­zess­kos­ten­hil­fe, doch auch die­se sind an Vor­aus­set­zun­gen geknüpft und mit büro­kra­ti­schen Hür­den ver­bun­den.

Hier eröff­net frei zugäng­li­che Künst­li­che Intel­li­genz eine neue Per­spek­ti­ve. Ein Bür­ger kann einen Behör­den­be­scheid mit­hil­fe von ChatGPT ana­ly­sie­ren, sich unbe­kann­te Rechts­be­grif­fe erklä­ren las­sen, mög­li­che Feh­ler erken­nen und einen Wider­spruch for­mu­lie­ren. Men­schen mit gerin­gen Deutsch­kennt­nis­sen kön­nen sich kom­pli­zier­te Schrei­ben über­set­zen und ver­ständ­lich erläu­tern las­sen. Auch wer sich kei­nen Anwalt leis­ten kann, erhält damit zumin­dest eine ers­te Mög­lich­keit, sei­ne recht­li­che Situa­ti­on eigen­stän­dig ein­zu­schät­zen. KI ersetzt kei­ne qua­li­fi­zier­te Rechts­be­ra­tung und kann selbst Feh­ler pro­du­zie­ren. Aber sie senkt die Zugangs­hür­den zu juris­ti­schem Wis­sen erheb­lich.

Dass dies prak­ti­sche Aus­wir­kun­gen hat, zeigt die Dis­kus­si­on über KI-gene­rier­te Wider­sprü­che gegen Job­cen­ter-Beschei­de. Medi­en berich­te­ten über eine stei­gen­de Zahl sol­cher Ein­ga­ben und die zusätz­li­che Belas­tung von Behör­den und Gerich­ten. Dabei wur­de teil­wei­se kri­ti­siert, dass mit­hil­fe von ChatGPT umfang­rei­che oder juris­tisch feh­ler­haf­te Schrei­ben ent­ste­hen. Doch die­se Betrach­tung greift zu kurz. Denn ein Wider­spruch kann auch des­halb ein­ge­legt wer­den, weil eine Behör­de tat­säch­lich einen Feh­ler gemacht hat. Wenn KI dazu bei­trägt, sol­che Feh­ler auf­zu­de­cken, ist das kein Miss­brauch der Tech­no­lo­gie, son­dern eine zusätz­li­che Mög­lich­keit, bestehen­de Rech­te wahr­zu­neh­men.

Hier zeigt sich ein mög­li­cher Inter­es­sen­kon­flikt. Was für den Bür­ger eine Ver­bes­se­rung sei­ner recht­li­chen Mög­lich­kei­ten bedeu­tet, kann für die Ver­wal­tung zusätz­li­chen Arbeits­auf­wand ver­ur­sa­chen. Auch für Tei­le der Anwalt­schaft könn­te die Ent­wick­lung wirt­schaft­li­che Fol­gen haben. Wenn Bür­ger ein­fa­che Rechts­fra­gen selbst klä­ren und Wider­sprü­che eigen­stän­dig for­mu­lie­ren kön­nen, benö­ti­gen sie für man­che Ange­le­gen­hei­ten mög­li­cher­wei­se kei­nen kos­ten­pflich­ti­gen Rechts­bei­stand mehr. Dar­aus kön­nen Inter­es­sen ent­ste­hen, KI-gestütz­te Rechts­dienst­leis­tun­gen stär­ker zu regu­lie­ren. Aller­dings wäre es falsch, dar­aus pau­schal abzu­lei­ten, Behör­den oder Rechts­an­wäl­te woll­ten den Bür­gern die­se Mög­lich­kei­ten grund­sätz­lich neh­men. Die Anwalt­schaft selbst nutzt zuneh­mend KI, und die Qua­li­tät juris­ti­scher Bera­tung bleibt ein berech­tig­tes Anlie­gen.

Den­noch stellt sich die Fra­ge, wie zukünf­ti­ge Regie­run­gen mit die­ser Ent­wick­lung umge­hen wer­den. Könn­te eines Tages ver­sucht wer­den, den Ein­satz von KI bei Wider­sprü­chen, Beschwer­den oder juris­ti­schen Schrift­sät­zen ein­zu­schrän­ken? Ein all­ge­mei­nes Ver­bot wäre mit erheb­li­chen ver­fas­sungs­recht­li­chen Fra­gen ver­bun­den, ins­be­son­de­re im Hin­blick auf den Rechts­schutz gegen staat­li­ches Han­deln. Aber auch ohne ein aus­drück­li­ches Ver­bot könn­ten zusätz­li­che Anfor­de­run­gen, Ver­fah­rens­re­geln oder tech­ni­sche Beschrän­kun­gen die Nut­zung erschwe­ren. Eine sol­che Ent­wick­lung ist der­zeit nicht belegt. Sie soll­te aber als mög­li­ches Zukunfts­sze­na­rio in der poli­ti­schen Dis­kus­si­on berück­sich­tigt wer­den.

Auf der ande­ren Sei­te erhält der Staat selbst durch KI immer leis­tungs­fä­hi­ge­re Werk­zeu­ge. Behör­den könn­ten gro­ße Daten­be­stän­de schnel­ler aus­wer­ten, Infor­ma­tio­nen aus ver­schie­de­nen Quel­len ana­ly­sie­ren, Auf­fäl­lig­kei­ten erken­nen und Ent­schei­dun­gen auto­ma­ti­siert vor­be­rei­ten. Rich­tig ein­ge­setzt, kann dies Ver­wal­tungs­ver­fah­ren beschleu­ni­gen und Feh­ler redu­zie­ren. Die­sel­ben Fähig­kei­ten könn­ten jedoch auch zur umfas­sen­de­ren Über­wa­chung, zur auto­ma­ti­sier­ten Ver­dachts­bil­dung oder zur sys­te­ma­ti­schen Kon­trol­le von Bür­gern ver­wen­det wer­den.

Natür­lich exis­tie­ren recht­li­che Schran­ken. Die Daten­schutz-Grund­ver­ord­nung, die euro­päi­sche KI-Ver­ord­nung und die Grund­rech­te set­zen staat­li­chem Han­deln Gren­zen. Doch Geset­ze sind kein unver­än­der­li­cher Schutz­wall. Sie kön­nen poli­tisch ver­än­dert, durch Aus­nah­me­re­ge­lun­gen abge­schwächt oder in der Pra­xis miss­ach­tet wer­den. Die Wirk­sam­keit sol­cher Schutz­me­cha­nis­men hängt wesent­lich davon ab, ob unab­hän­gi­ge Gerich­te, Daten­schutz­be­hör­den und par­la­men­ta­ri­sche Kon­troll­in­stan­zen ihre Auf­ga­ben tat­säch­lich erfül­len kön­nen.

Hin­zu kommt ein grund­sätz­li­cher Aspekt: Was tech­nisch ein­mal auf­ge­baut ist, kann unter ver­än­der­ten poli­ti­schen Ver­hält­nis­sen auch für ande­re Zwe­cke ein­ge­setzt wer­den. Eine ursprüng­lich zur Ver­wal­tungs­ver­ein­fa­chung geschaf­fe­ne KI-Infra­struk­tur könn­te einer spä­te­ren Regie­rung Mög­lich­kei­ten eröff­nen, die bei ihrer Ein­füh­rung gar nicht vor­ge­se­hen waren. Des­halb genügt es nicht, allein auf die guten Absich­ten der jeweils amtie­ren­den Regie­rung zu ver­trau­en. Ent­schei­dend sind auch tech­ni­sche Begren­zun­gen, wirk­sa­me Kon­troll­mög­lich­kei­ten und die Fra­ge, wel­che Daten­be­stän­de über­haupt mit­ein­an­der ver­knüpft wer­den dür­fen.

Damit bekommt die Dis­kus­si­on über digi­ta­le Sou­ve­rä­ni­tät eine zusätz­li­che Dimen­si­on. In der deut­schen und euro­päi­schen Tech­no­lo­gie­po­li­tik wird die­ser Begriff häu­fig ver­wen­det, wenn es dar­um geht, die Abhän­gig­keit von ame­ri­ka­ni­schen oder chi­ne­si­schen Tech­no­lo­gie­kon­zer­nen zu ver­rin­gern. Deutsch­land und Euro­pa sol­len eige­ne KI-Infra­struk­tu­ren besit­zen, sen­si­ble Daten kon­trol­lie­ren und wich­ti­ge Tech­no­lo­gien selbst­be­stimmt ein­set­zen kön­nen.

Doch digi­ta­le Sou­ve­rä­ni­tät darf nicht aus­schließ­lich die Sou­ve­rä­ni­tät des Staa­tes und gro­ßer Unter­neh­men bedeu­ten. Sie muss auch die Selbst­be­stim­mung des ein­zel­nen Bür­gers umfas­sen. Was nützt es dem Bür­ger, wenn sein Staat tech­no­lo­gisch unab­hän­gi­ger wird, er selbst aber immer stär­ker von staat­li­chen Infor­ma­ti­ons­sys­te­men abhän­gig ist und weni­ger Mög­lich­kei­ten besitzt, deren Ent­schei­dun­gen zu über­prü­fen?

Gera­de des­halb soll­te frei zugäng­li­che KI nicht nur als wirt­schaft­li­ches Pro­dukt betrach­tet wer­den, son­dern auch als Instru­ment zur Stär­kung der Bür­ger­rech­te. Sie kann Men­schen befä­hi­gen, Infor­ma­tio­nen selbst­stän­dig aus­zu­wer­ten, poli­ti­sche und behörd­li­che Ent­schei­dun­gen kri­tisch zu hin­ter­fra­gen und ihre recht­li­chen Mög­lich­kei­ten bes­ser aus­zu­schöp­fen. Ein Bür­ger, der mit­hil­fe von KI einen feh­ler­haf­ten Bescheid erkennt und dage­gen vor­geht, nutzt die Tech­no­lo­gie zur Wahr­neh­mung sei­ner Rech­te. Er gewinnt ein Stück Unab­hän­gig­keit gegen­über einer Insti­tu­ti­on, die ihm bis­lang hin­sicht­lich Wis­sen und Res­sour­cen weit über­le­gen war.

Dabei geht es nicht dar­um, staat­li­che Insti­tu­tio­nen grund­sätz­lich unter Ver­dacht zu stel­len oder jeden Ein­satz von KI in Behör­den abzu­leh­nen. Ein moder­ner Staat darf und soll leis­tungs­fä­hi­ge Tech­no­lo­gien ver­wen­den, solan­ge ihr Ein­satz recht­mä­ßig, trans­pa­rent und kon­trol­lier­bar bleibt. Pro­ble­ma­tisch wäre jedoch eine Ent­wick­lung, bei der staat­li­che Insti­tu­tio­nen ihre tech­ni­schen Fähig­kei­ten immer wei­ter aus­bau­en, wäh­rend die Mög­lich­kei­ten der Bür­ger, sich mit ver­gleich­ba­ren Werk­zeu­gen zu infor­mie­ren und zu ver­tei­di­gen, ein­ge­schränkt wer­den.

Die gesell­schaft­li­che Bedeu­tung von Künst­li­cher Intel­li­genz lässt sich des­halb nicht allein an Wirt­schafts­wachs­tum, Pro­duk­ti­vi­tät oder ein­ge­spar­ten Ver­wal­tungs­kos­ten mes­sen. Eben­so wich­tig ist die Fra­ge, ob die­se Tech­no­lo­gie dazu bei­trägt, bestehen­de Macht­un­ter­schie­de abzu­bau­en oder wei­ter zu ver­grö­ßern.

Der ein­zel­ne Bür­ger wird dem Staat auch mit KI nicht voll­stän­dig gleich­ge­stellt sein. Dazu sind die insti­tu­tio­nel­len, finan­zi­el­len und recht­li­chen Unter­schie­de zu groß. Doch Künst­li­che Intel­li­genz kann ihm etwas ermög­li­chen, was bis­lang oft am feh­len­den Wis­sen oder am Geld schei­ter­te: staat­li­che Ent­schei­dun­gen eigen­stän­di­ger zu über­prü­fen, sich bes­ser zu infor­mie­ren und sei­ne Rech­te fun­dier­ter zu ver­tre­ten.

Es geht also um ein Stück Waf­fen­gleich­heit zwi­schen Bür­ger und Staat.

Dar­in liegt eine demo­kra­tie­po­li­ti­sche Chan­ce, die in der gegen­wär­ti­gen Debat­te über indus­tri­el­le KI, staat­li­che Effi­zi­enz und tech­no­lo­gi­sche Sou­ve­rä­ni­tät mehr Auf­merk­sam­keit ver­dient.

Die ent­schei­den­de Fra­ge lau­tet daher nicht nur, wie Deutsch­land durch Künst­li­che Intel­li­genz wirt­schaft­lich stär­ker und sei­ne Ver­wal­tung leis­tungs­fä­hi­ger wer­den kann. Sie lau­tet eben­so, wie sicher­ge­stellt wird, dass die Bür­ger die­se Tech­no­lo­gie frei und wirk­sam zur Wahr­neh­mung ihrer eige­nen Rech­te nut­zen kön­nen.

Künst­li­che Intel­li­genz darf nicht nur den Staat mäch­ti­ger machen. Sie muss auch dem ein­zel­nen Bür­ger die Mög­lich­keit geben, sich gegen­über staat­li­cher Macht bes­ser zu behaup­ten. Denn eine Tech­no­lo­gie, die Wis­sen und Hand­lungs­mög­lich­kei­ten in bis­her unge­kann­tem Aus­maß erwei­tert, soll­te nicht allein den Mäch­ti­gen zugu­te­kom­men, son­dern auch den­je­ni­gen, die ihnen gegen­über­ste­hen.