ChatGPT ссылается на мошеннические сайты-клоны магазинов, созданные для похищения данных банковских карт

Исследователи выяснили, что ChatGPT направляет покупателей на мошеннические сайты, пишет Cybernews. На фейковых ресурсах пользователи рискуют ввести свои данные, которые сразу попадут в руки аферистов.

Сайты-клоны розничных магазинов, созданные мошенниками, появляются в рекомендациях по покупкам, составленных искусственным интеллектом. Это вызывает опасения по поводу того, насколько эффективно поисковые инструменты на основе ИИ предотвращают попадание мошеннических сайтов в поле ввода зрения потребителей по ходу того, как все больше покупателей переходят на поиск с использованием ИИ.

Задача была выявлена британским сервисом проверки на мошенничество Ask Silver. В соответствии с статье в The Guardian, компания обратилась к ChatGPT за рекомендациями по популярным сумкам и кошелькам Russell & Bromley. Сгенерированный ответ включал в себя информацию о товарах, ценах и ссылки на источники. Тем не менее некоторые из этих ссылок вели на мошеннические сайты, имитирующие официальный веб-сайт ретейлера.

Фальшивые сайты весьма похожи на настоящие: они используют брендинг, изображения и описания товаров розничных продавцов, из-за чего кажутся потребителям вполне легитимными. В данном случае в Ask Silver предположили, что мошенники могли воспользоваться неразберихой, возникшей после закрытия магазина Russell & Bromley и его последующего приобретения ретейлером Next в начале 2026 года.

На некоторых из этих поддельных сайтов предлагаются скидки до 80% — распространенный признак мошенничества в сфере онлайн-покупок. Компания Ask Silver выявила поддельные доменные имена, в том числе therussellbromleyofficial, russellandbromleylondon, russellbromleyonlineuk и russell-and-bromley.

Соосновательница Ask Silver Анна Джонс заявила, что, возможно, большая языковая схема, лежащая в основе ChatGPT, была «отравлена». Это приём, при котором вредоносный контент намеренно внедряется в информацию, которую используют ИИ, через клонированные сайты и поддельные сигналы доверия, чтобы платформа воспринимала их как надёжные источники.

Исследователи предупреждают, что киберпреступники экспериментируют с методами «отравления данных», наводняя интернет фейковыми отзывами, автоматически созданным контентом для форумов и поддельными индексационными данными, чтобы повлиять на то, как системы искусственного интеллекта находят и ранжируют информацию.

Организация OpenAI сообщила The Guardian, что удалила мошеннические сайты из своего поискового индекса, пишет Cybernews.

В прошлом году исследователи Cybernews обнаружили, что системы искусственного интеллекта могут «выдавать» ссылки на фишинговые сайты, когда пользователи запрашивают страницы для входа в систему или онлайн-сервисы. Это даёт киберпреступникам функция регистрировать такие домены и злоупотреблять доверием к рекомендациям, сгенерированным искусственным интеллектом.