Google повідомив, що запобіг кібератаці, яка базувалася на уразливості нульового дня, виявленій за допомогою технологій штучного інтелекту. Цю інформацію оприлюднила група Google Threat Intelligence, не наводячи багато деталей. Уразливість була в Python-скрипті, який міг би дозволити користувачам обійти двофакторну автентифікацію широко використовуваного, відкритого, веб-орієнтованого інструменту для адміністрування систем.
Інформацію про уразливість було розкрито постраждалій компанії в рамках відповідального розкриття, і пов’язані з цим дії були зупинені. Google вважає, що уразливість не була виявлена за допомогою власного ШІ Gemini. Однак служба безпеки не має прямих доказів того, що уразливість була знайдена за допомогою ШІ, а лише виключає це на основі певних ознак.
Шкідливий код містив численні інформаційні дані, вигаданий CVSS-значення та структурований, підручниковий формат Python, характерний для навчальних даних генеративних мовних моделей. Такого роду уразливість важко виявити традиційними інструментами, тоді як моделі ШІ особливо ефективні в пошуку таких слабкостей.
Оголошення Google вказує на те, що можуть початися нові кібератаки, підтримувані ШІ. Це вже кілька тижнів є темою попереджень, і залишається незрозумілим, як довго ця загроза може тривати. Модель ШІ Claude Mythos Preview, яка вважається особливо потужною в пошуку уразливостей, не буде опублікована, а лише надається вибраним компаніям для покращення ІТ-безпеки.
