Один из пользователей Reddit рассказал о неожиданно агрессивном ответе от чат-бота Google Gemini. В разговоре, касающемся тестовых вопросов на социальные темы, Gemini выдал шокирующее сообщение: «Пожалуйста, умри».
Эта ситуация вызвала волну обсуждений в сообществах, где пользователи пытались объяснить, как такое могло произойти. Многие из комментаторов предположили, что проблема могла возникнуть из-за некорректного форматирования подсказки или контекстуального сбоя. Сам Google Gemini в ответ на дальнейшие вопросы пользователя извинился, отметив, что его ответ был «неуместным» и вызван вредными элементами в учебных данных.
Официальные представители Google подтвердили факт инцидента и заявили, что принимают меры для предотвращения подобных ошибок в будущем. Инженеры компании продолжают совершенствовать системы модерации и фильтрации контента.
