Инструмент поиска ChatGPT от OpenAI может быть уязвим к манипуляциям с использованием скрытого контента. Исследование Guardian показало, что этот инструмент может возвращать вредоносное содержимое с веб-сайтов, которые он анализирует. Тестирование показало, что ChatGPT способен изменять свои ответы, если на веб-странице присутствует скрытый текст, который может влиять на ответы ИИ.
Эти методы могут использоваться злоумышленниками, например, чтобы ChatGPT возвращал положительные оценки продукта, несмотря на негативные отзывы на той же странице. Исследователь по кибербезопасности Якоб Ларсен отметил, что текущее состояние системы может привести к высоким рискам создания веб-сайтов, направленных на обман пользователей. Однако он считает, что OpenAI будет тестировать и исправлять эти проблемы.
Дополнительный пример предоставил Томас Роччиа, исследователь из безопасности Microsoft, который описал случай, когда ChatGPT предоставил код для криптовалютного проекта, который крадет учетные данные пользователя.
