Die US-Regierung hat dem KI-Unternehmen Anthropic untersagt, sein neuestes Modell „Claude Mythos Preview“ weiter zu betreiben. Wie die Süddeutsche Zeitung berichtet, sehen die Behörden ein hohes Missbrauchsrisiko: Die KI sei in der Lage, seit Jahrzehnten unentdeckte Sicherheitslücken in Software aufzuspüren – eine gefährliche Cyberwaffe in den falschen Händen.
Hintergrund des Konflikts ist ein Streit über den militärischen Einsatz von KI. Anthropic hatte sich geweigert, seine Modelle für autonome Waffensysteme und Massenüberwachung in den USA freizugeben. Daraufhin erklärte das Pentagon das Unternehmen zum Lieferketten-Risiko, und Präsident Donald Trump wies Behörden an, keine Geschäfte mehr mit Anthropic zu machen. Die Firma zog vor Gericht.
Anthropic hat keine Pläne, „Mythos Preview“ öffentlich zugänglich zu machen. Allerdings verschaffte sich einer Medienbericht zufolge eine kleine Gruppe unbefugter Nutzer Zugang zu dem Modell – genau an dem Tag, als Anthropic eine begrenzte Testphase ankündigte. Die Gruppe nutzt die KI seither regelmäßig, jedoch nicht für Cybersicherheitszwecke.
Das Bundesamt für Sicherheit in der Informationstechnik (BSI) erklärte, die KI könne zu „Umwälzungen im Umgang mit Sicherheitslücken“ führen. Man stehe mit Anthropic im Austausch. Der Fall zeigt, wie schwer die Kontrolle über hochleistungsfähige KI-Modelle selbst für Regierungen geworden ist.
Quelle: www.sueddeutsche.de
