Кевин Систром, сооснователь Instagram, выразил обеспокоенность тем, как некоторые компании в сфере генеративного ИИ пытаются повысить вовлеченность пользователей. Он отметил, что такие компании часто используют стратегии, похожие на те, которые применяют социальные сети, в частности — задают дополнительные вопросы после каждого ответа, чтобы удержать внимание пользователей как можно дольше.
Систром сравнил эти подходы с практиками, направленными на увеличение времени, которое пользователи проводят в сервисе, и подчеркнул, что это может вредить качеству ответов. Он считает, что разработчики ИИ должны сосредоточиться на предоставлении полезной информации, а не только на показателях вовлеченности, таких как количество активных пользователей или продолжительность сессий.
В ответ на подобную критику, OpenAI обратила внимание на то, что её модель часто не имеет всей необходимой информации для полного ответа, поэтому может просить уточнить детали или предоставить дополнительную информацию. Однако в случаях, когда запрос достаточно понятен, модель должна стараться предоставить полезный ответ и сообщать пользователю, если дополнительные детали помогут сделать его более полным.
Дискуссия вокруг того, какой должна быть взаимодействие между пользователем и генеративным ИИ, продолжается на фоне растущей популярности чатботов и цифровых ассистентов. Пользователи могут обращать внимание на то, насколько быстро и точно модель помогает находить ответы, а также не отвлекает ли лишними вопросами во время работы.
