Kalifornien – Newsom ordnet Prüfung eines Notabschalters für Frontier-KI-Modelle an
Kaliforniens Gouverneur Gavin Newsom hat am 18. September per Erlass die Ausarbeitung konkreter Vorschläge für einen verpflichtenden Notabschalter ("Kill Switch") bei sogenannten Frontier-KI-Modellen angeordnet. Die Government Operations Agency soll gemeinsam mit dem kalifornischen Katastrophenschutz und externen Fachleuten bis zum 16. November 2026 Empfehlungen vorlegen, wie unabhängige Organisationen künftig Vor-Ort-Audits in KI-Laboren durchführen und Sicherheitsrahmen extern verifizieren können.
Der Erlass baut auf dem bereits geltenden Transparenzgesetz SB 53 sowie den im September neu unterzeichneten Gesetzen SB 813 und AB 1405 auf, die die Zertifizierung solcher Prüforganisationen regeln. Die Reaktionen aus der Tech-Branche fallen gespalten aus: Anthropic und OpenAI unterstützen schärfere Sicherheitsauflagen, während Google und Meta vor überzogener Regulierung warnen.
Auch wenn Kalifornien nicht Deutschland ist, zeigt der Vorstoß eine Richtung, die für international tätige Mittelständler relevant wird: Governance-Anforderungen an große KI-Modelle verschärfen sich weltweit parallel zum EU AI Act, und wer KI-Agenten produktiv einsetzt, sollte Kontroll- und Abschaltmechanismen frühzeitig mitdenken statt sie nachträglich nachzurüsten.
(Erstellt mit KI-Unterstützung, redaktionell geprüft)