Google hat nach eigenen Angaben einen Cyberangriff verhindert, der auf einer Zero-Day-Lücke beruhte, die durch KI-Techniken entdeckt wurde. Die Google Threat Intelligence Group machte diese Informationen öffentlich, ohne viele Details zu nennen. Die Sicherheitslücke befand sich in einem Python-Skript, das es Nutzern ermöglicht hätte, die Zwei-Faktor-Authentifizierung eines weit verbreiteten, quelloffenen, webbasierten Systemadministrationstools zu umgehen.
Die Informationen zur Sicherheitslücke wurden dem betroffenen Anbieter im Rahmen von Responsible Disclosure offengelegt, und die damit verbundenen Aktivitäten wurden unterbunden. Google geht davon aus, dass die Lücke nicht mit der eigenen KI Gemini entdeckt wurde. Die Sicherheitsabteilung hat jedoch keinen direkten Beweis dafür, dass die Lücke mit KI-Hilfe gefunden wurde, sondern schließt dies lediglich aus bestimmten Indizien.
Der Schadcode enthielt zahlreiche informative Angaben, einen fiktiven CVSS-Wert und ein strukturiertes, lehrbuchhaftes Python-Format, das für Trainingsdaten generativer Sprachmodelle charakteristisch ist. Art von Lücke ist mit herkömmlichen Werkzeugen nur schwer zu finden, während KI-Modelle bei der Suche nach solchen Schwachstellen besonders effektiv sind.
Die Bekanntmachung von Google deutet darauf hin, dass eine neue KI-gestützter Cyberangriffe begonnen haben könnte. Dies war bereits seit Wochen ein Thema der Warnungen, und es bleibt unklar, wie lange diese Bedrohung andauern könnte. Das KI-Modell Claude Mythos Preview, das bei der Suche nach Lücken als besonders leistungsfähig gilt, wird nicht veröffentlicht, sondern nur ausgewählten Firmen zur Verfügung gestellt, um die IT-Sicherheit zu verbessern.
