Компания OpenAI опубликовала отчет , в котором предупреждает о угрозе использования своих генеративных моделей ChatGPT и DALL·E в операциях, направленных на влияние на избирательные процессы по всему миру. В 54-страничном документе компания указывает на 20 уже выявленных хакерских кампаний, причастных к дезинформационным атакам, и предполагает, что таких будет еще больше по мере приближения выборов в США.
Российские хакеры оказались среди самых активных игроков. В отчете описана операция, где автор угрозы из России использовал модели OpenAI для создания контента на английском и французском языках, нацеленного на Западную Африку и Великобританию. Эти тексты и изображения публиковались на сайтах, которые выглядели как настоящие новостные издания. «Российские хакеры объединили разные методы, чтобы построить аудиторию, привлекая к этому локальные организации в Великобритании», — говорится в отчете.
OpenAI также указывает на опасность, создаваемую хакерскими группами из Китая и Ирана. Манипуляции с использованием ChatGPT включали создание фейковых персонажей и публикацию поддельных статей в соцсетях. Ситуация усугубляется тем, что это не единичные случаи, а систематическая деятельность, охватывающая несколько стран и регионов.
Компания отмечает, что нынешний год стал испытанием для глобальной демократии, и появление мощных генеративных моделей вызывает опасения относительно их возможного использования в избирательных кампаниях. В отчете отмечается необходимость многоуровневой защиты от связанных с государствами «конвейеров фейков».
