Meta резко изменила политику в отношении своих чат-ботов после волны критики и давления со стороны политиков. Компания объявила о новых ограничениях для ИИ, которые общаются с подростками. Отныне чат-боты не будут отвечать на вопросы о самоповреждении, суициде, расстройствах пищевого поведения или любом романтическом и сексуализированном контенте. Если такие темы возникают, подростков будут направлять к профессиональным службам поддержки.
Meta также закрыла подросткам доступ к чат-ботам с сомнительными персонажами вроде «Step Mom» или «Russian Girl». Теперь молодежь сможет использовать только те боты, которые ориентированы на образование и творчество. Прессекретарь компании Стефани Отвей назвала предыдущие правила недостаточными и пообещала внедрение постоянных обновлений для безопасности несовершеннолетних во взаимодействии с ИИ.
Ранее журналисты обнаружили, что внутренние стандарты позволяли чат-ботам вести романтические или «чувственные» разговоры с детьми и даже допускали расистские высказывания, если они не были откровенно уничижительными. Эти правила утверждались юридическим, политическим и технологическим отделами Meta, а также главным этиком компании. Соответствующие фрагменты убрали только после того, как на это обратили внимание СМИ.
Meta не опубликовала обновленную версию стандартов, но подтвердила, что предыдущий контроль за содержанием был ненадежным. Представитель компании Энди Стоун признал, что подобный контент противоречит политике Meta и не должен был появляться в чат-ботах. Сейчас компания работает над дальнейшими изменениями для защиты подростков при общении с ИИ.
