Корпорация Google обнародовала тревожный прецедент: нейросети впервые напрямую поспособствовали обнаружению и успешной атаке через ранее неизвестную брешь в программном обеспечении. Специалисты группы по отслеживанию киберугроз Google (GTIG) опубликовали подробный отчёт, в котором описали кампанию злоумышленников, использовавших сгенерированный ИИ инструмент для обхода двухфакторной аутентификации.
Что именно произошло: уязвимость нулевого дня в системном инструменте
В ходе анализа новых эксплойтов эксперты GTIG наткнулись на скрипт, написанный на Python, нацеленный на популярный веб-инструмент для системного администрирования с открытым исходным кодом. Скрипт позволял полностью обходить двухфакторную аутентификацию (2FA), открывая злоумышленникам несанкционированный доступ к учётным записям.
«Наш анализ выявил уязвимость нулевого дня, реализованную в скрипте на Python, которая позволяет пользователю обходить 2FA в популярном веб-инструменте с открытым исходным кодом. GTIG совместно с пострадавшим поставщиком ответственно раскрыли информацию об этой уязвимости и пресекли опасную деятельность», — говорится в заявлении компании.
Как удалось доказать причастность искусственного интеллекта
Главной уликой, указывающей на использование нейросети, стали комментарии в коде вредоносного инструмента. Аналитики обратили внимание на характерные формулировки и стиль пояснений, практически дословно повторяющие типичные ответы больших языковых моделей (LLM). Подобный «почерк» ранее не встречался в инструментах, созданных человеком от начала до конца.
Какая именно LLM применялась злоумышленниками, пока не установлено. В Google однозначно утверждают лишь то, что это не их собственная разработка Gemini.
Прогнозы экспертов: кибератаки с ИИ будут только нарастать
Ведущий аналитик GTIG Джон Хультквист заявил, что количество хакерских атак с использованием инструментов на базе нейросетей будет неуклонно расти. По его словам, снижение порога входа для написания сложных эксплойтов неминуемо приведёт к расширению ландшафта угроз. Если раньше для поиска уязвимостей нулевого дня требовались высококвалифицированные специалисты, то теперь часть работы может взять на себя ИИ.
Что сделано для защиты пользователей
После обнаружения проблемы Google немедленно связалась с разработчиком уязвимого программного обеспечения. Информация о бреши была передана ответственно, чтобы у вендора была возможность выпустить патч до того, как эксплойт получит массовое распространение. Детали уязвимости временно не раскрываются, чтобы максимально обезопасить пользователей.
Инцидент стал серьёзным сигналом для всей индустрии кибербезопасности и подтвердил, что искусственный интеллект становится обоюдоострым инструментом — не только защитным, но и наступательным.
