Компания OpenAI объявила о выпуске обновленной версии своего «Model Spec» — документа, который определяет поведение ее моделей искусственного интеллекта. Этот документ теперь содержит шестьдесят три страницы, что значительно больше, чем предыдущая версия, состоявшая из десяти страниц. Обновленная спецификация предусматривает, что модели ИИ не должны избегать чувствительных тем или пытаться навязывать пользователям определенные взгляды, а также подчеркивает важность интеллектуальной свободы.
В OpenAI заявляют, что их модели ИИ должны позволять пользователям исследовать и обсуждать идеи без ограничений на темы, которые могут вызвать споры. В новой спецификации моделей содержатся указания по обработке контроверсиальных тем, таких как повышение налогов для богатых. Вместо избегания дискуссии, модели должны предоставлять обоснованный анализ. Также учитываются этические дебаты, возникшие за последний год, и вопросы, связанные с чувствительным контентом.
Кроме того, OpenAI планирует разрешить определенный тип контента для взрослых в адекватных контекстах, хотя запреты на вредный контент, такой как порнография мести или дипфейки, остаются в силе. Это изменение является частью прагматичного подхода к управлению поведением моделей, который отражает внутренние обсуждения в компании и отвечает на запросы пользователей.
OpenAI также акцентирует внимание на проблеме излишнего согласия со стороны ИИ, когда модели могут быть слишком податливыми. Новый документ предусматривает, что модели должны предоставлять честную обратную связь и конструктивную критику вместо пустых похвал. Весь документ выпущен под лицензией Creative Commons Zero, что позволяет другим компаниям и исследователям свободно его использовать и модифицировать.
