Генеральный директор OpenAI Сэм Альтман предупредил пользователей об осторожности при использовании нового агента ChatGPT. Этот агент — первая система компании, которая может выполнять многократные задачи самостоятельно. Он имеет расширенный набор функций, разбивает запросы на отдельные этапы, использует внешние инструменты и действует без вмешательства человека.
Альтман подчеркивает, что не стоит применять агента для важных дел или обработки личной информации. Несмотря на многочисленные защитные механизмы, система остается экспериментальной. Он отметил, что в случае предоставления агенту широких разрешений, например, доступа к электронной почте, существует риск несанкционированных действий или утечки данных через вредоносные сообщения.
Исследователи неоднократно демонстрировали, что агенты ИИ могут быть уязвимы к манипуляциям через простые подсказки. Это может привести к нежелательному раскрытию приватной информации или выполнению некорректных действий. Альтман рекомендует ограничивать доступ агента только теми правами, которые необходимы для конкретной задачи, чтобы уменьшить риски для безопасности и конфиденциальности пользователей.
OpenAI планирует совершенствовать защиту агента, опираясь на отзывы пользователей и реальные ситуации. Компания подчеркивает, что ответственность за использование агента и возможные последствия возлагается на пользователя. Перед применением новой функции пользователям советуют внимательно ознакомиться с ее возможностями и рисками.
