Исследователи из City St George’s, University of London и IT University of Copenhagen провели исследование, которое показало — генеративные языковые модели ИИ, такие как ChatGPT, способны самостоятельно формировать общие социальные нормы и языковые конвенции во время взаимодействия в группах. В исследовании участвовали группы от двадцати четырех до ста агентов, которые выбирали имена из определенного набора символов. Если пара агентов выбирала одинаковое имя, они получали награду; если разное — штраф и информацию о выборе партнера.
Несмотря на то, что агенты не знали о существовании большей группы и помнили только собственные последние взаимодействия, у них естественно возникала общая языковая конвенция. Это имитирует процесс формирования языковых норм в человеческих сообществах, где новые слова или термины закрепляются через повторяющееся взаимодействие между людьми.
Исследователи также обнаружили, что в группах агентов ИИ могут возникать коллективные предубеждения, которые нельзя объяснить действиями отдельных агентов. Это свидетельствует о способности таких систем к формированию общего поведения, выходящего за пределы индивидуальных решений.
В финальном эксперименте небольшие подгруппы агентов смогли повлиять на всю группу, изменяя общепринятую конвенцию относительно выбора имени. Такой эффект напоминает динамику критической массы, когда незначительная группа может изменить поведение большинства — подобно тому, как это происходит в обществе людей.
