Antwort der Bundesregierung auf eine Kleine Anfrage der AfD zu den Risiken und Grenzen großer KI-Sprachmodelle (LLMs).
Wichtigste Aussagen
- Die Bundesregierung sieht sowohl Chancen als auch Risiken leistungsfähiger KI-Modelle und beobachtet deren Entwicklung kontinuierlich.
- Zu den diskutierten Vorfällen bei Anthropic (“Claude Mythos”) und OpenAI (Hugging-Face-Vorfall) erklärt die Bundesregierung:
- Das BSI steht mit den Unternehmen im Austausch.
- Die Vorfälle werden analysiert.
- Sie unterstreichen die Bedeutung von KI-Sicherheitsforschung und Kontrollmechanismen.
- Zur Stärkung der KI-Sicherheit baut Deutschland das AI Safety and Security Institute Deutschland (AISI Deutschland) aus, das Risiken und Fähigkeiten leistungsfähiger KI-Modelle untersuchen soll.
- Die Bundesregierung hält die bestehenden Regelungen der EU-KI-Verordnung (AI Act) grundsätzlich für geeignet, beobachtet aber deren praktische Wirksamkeit fortlaufend. Meldepflichten für schwerwiegende KI-Vorfälle werden als wichtiger Baustein hervorgehoben.
- Zur Gefahr einer KI-Blase und möglicher Fehlinvestitionen erklärt die Bundesregierung, dass die weitere Entwicklung davon abhänge, ob sich die hohen Investitionen in tragfähige Geschäftsmodelle umsetzen lassen. Eine pauschale Bewertung sei derzeit nicht möglich.
- Beim Arbeitsmarkt geht die Bundesregierung aktuell nicht von einem systematischen Arbeitsplatzabbau durch KI aus. Stattdessen werde vor allem ein Wandel von Tätigkeiten und Kompetenzanforderungen beobachtet.
- Genannte Studien deuten darauf hin, dass:
- KI das Wirtschaftswachstum erhöhen kann,
- starke Verschiebungen zwischen Branchen möglich sind,
- generative KI bislang eher als Unterstützung denn als Ersatz menschlicher Arbeit wirkt.
- Als Reaktion setzt die Bundesregierung auf:
- Weiterbildung,
- Umschulung,
- Förderprogramme für KI-Kompetenzen,
- Unterstützung von Unternehmen beim Qualifizierungsprozess.
- Zur digitalen Souveränität räumt die Bundesregierung ein, dass US-Anbieter im KI- und Cloud-Bereich sehr stark sind. Ziel sei es, Abhängigkeiten durch europäische Angebote, Open-Source-Lösungen, eigene Rechenzentren und Förderung deutscher KI-Unternehmen zu reduzieren.
- Die Bundesregierung bewertet die Ziele digitaler Souveränität weiterhin als erreichbar, versteht darunter jedoch nicht vollständige Unabhängigkeit, sondern die Verringerung strategischer Abhängigkeiten.
- KI in Pflege und Gesundheitswesen wird grundsätzlich als vertretbar angesehen, sofern Datenschutz, Menschenwürde und Sicherheitsanforderungen gewahrt werden. Dabei verweist die Bundesregierung auf die EU-KI-Verordnung und die DSGVO.
- Für KI-gestützte “quasi-therapeutische” Gespräche erkennt die Bundesregierung Risiken wie Fehleinschätzungen, Datenschutzprobleme und psychische Abhängigkeiten an. Entsprechende Anwendungen sollen den bestehenden europäischen Regulierungen unterliegen.
- Ein eigener Regierungsbericht zur „Gesamtrisikolage generativer KI“ ist derzeit nicht geplant. Die Regierung verweist stattdessen auf laufende Beobachtung, Forschung und bestehende Regulierung.
- Bundesdigitalminister Karsten Wildberger unterstützt die Idee einer internationalen KI-Kontrollinstanz nach dem Vorbild der Internationalen Atomenergie-Organisation (IAEA), um Sicherheitsstandards, Tests und den Austausch über schwerwiegende KI-Vorfälle international zu koordinieren.
Kurzfazit: Die Bundesregierung erkennt Sicherheits‑, Arbeitsmarkt- und Souveränitätsrisiken von KI an, sieht aber derzeit vor allem die Chancen. Statt neuer nationaler Regulierungen setzt sie vor allem auf die Umsetzung des AI Acts, Forschung zu KI-Sicherheit, den Ausbau europäischer KI-Kapazitäten und Weiterbildung der Beschäftigten.
Quelle: [Drucksache 21/8735]