Хакеры стартовали применять ссылки для обмена данными в ChatGPT для распространения вредоносов

Злоумышленники используют функцию обмена контентом ChatGPT для отображения поддельных страниц с информацией о сбоях OpenAI, которые направляют пользователей на загрузку вредоносного ПО. Оно замаскировано под настольное приложение ChatGPT.

Кампания LLMShare, которую обнаружили в Push Security, использует рекламу Google, чтобы направлять пользователей, ищущих ChatGPT, на вредоносную страницу на chatgpt.com. Те, кто кликнул на рекламу, попадают на легитимную страницу ChatGPT, но вместо чата видят сообщение о сбое, утверждающее, что веб-версия недоступна и следует загрузить настольное программа.

«В данный момент у нас высокая загрузка. Наш портал временно недоступен в связи с большого количества пользователей. Загрузите наше настольное программа, чтобы продолжить», — гласит поддельное сообщение.

В отличие от традиционных фишинговых страниц, размещаемых на подконтрольной злоумышленникам инфраструктуре, поддельное сообщение о сбое отображается через сам ChatGPT. Злоумышленники создали пользовательскую HTML-страницу, используя возможности рендеринга ChatGPT, и опубликовали её через общую ссылку chatgpt.com/s/, что позволило отображать поддельное уведомление о сбое с легитимного URL-адреса.

В Push Security отметили, что веб-страница содержит элементы управления «Show code» и «Remix with ChatGPT», а это свидетельствует о том, что поддельное уведомление о сбое на самом деле генерируется из пользовательского HTML и CSS, отрисованных с помощью запроса чат-боту.

Если посетитель нажимает на кнопку загрузки, он попадает на портал openew[.]app, который имитирует портал загрузки настольных приложений OpenAI. Исследователи утверждают, что сайт использует маскировку для отображения контента только целевым жертвам. Когда платформы безопасности, такие как URLScan, посещали этот URL-адрес, им показывался безобидный портал компании, занимающейся дополненной и виртуальной реальностью.

Между тем жертвы видят загрузки для macOS и Windows, которые устанавливают вредоносное ПО на устройства. Хотя пока неясно, какие именно программы в конечном итоге развёртываются, но более ранние кампании, использующие функции обмена данными на платформах ИИ, распространяли программы-похитители информации.

Тест BleepingComputer версии для Windows на Any.Run представил, что софт выполняет различные команды для определения того, является ли устройство легитимным компьютером или виртуальной машиной.

В Push Security также обнаружили атаки, использующие Claude Artifacts, функцию Anthropic для обмена отрендеренными приложениями и контентом, для размещения приманок в стиле ClickFix, которые обманом заставляли пользователей выполнять вредоносные команды.

Функции обмена данными на платформах ИИ и ранее использовались для распространения вредоносного ПО. В этом году злоумышленники применили рекламу Google, чтобы направлять пользователей, ищущих загрузки Claude, к общим беседам с ИИ, содержащим вредоносные инструкции по установке.

Другие кампании использовали общие беседы ChatGPT и Grok для проведения атак ClickFix, имитируя руководства по установке программного обеспечения.

Между тем Google ранее рассказала о том, что киберпреступники в первый раз использовали уязвимость нулевого дня, предположительно разработанную искусственным интеллектом.