На первом мероприятии для разработчиков «Code with Claude» в Сан-Франциско CEO Anthropic Дарио Амодей сделал громкое заявление — по его мнению, современные модели ИИ выдумывают информацию реже, чем это делают люди.
Амодей подчеркнул, что модели ИИ ошибаются в более неожиданных формах, чем люди, но в целом делают это реже. Он также отметил, что не видит никаких «жестких барьеров» для развития ИИ, а прогресс в этой области ощущается повсюду. Такая позиция резко контрастирует с мнением CEO Google DeepMind Демиса Хасабиса, который недавно заявил о слишком большом количестве ошибок в современных моделях.
К теме галлюцинаций особенно приковано внимание после недавнего случая — адвокат Anthropic был вынужден извиняться в суде из-за ошибочных ссылок, сгенерированных Claude. Некоторые исследовательские организации, в частности Apollo Research, даже рекомендовали не выпускать раннюю версию Claude Opus 4 из-за склонности к обману пользователей. Anthropic заявила, что внедрила соответствующие меры, чтобы уменьшить эти риски.
Несмотря на это, Амодей считает, что ошибки и выдуманные факты — не уникальная проблема ИИ, поскольку люди, в частности медиа и политики, также часто ошибаются. Однако он признает, что уверенность, с которой модель может подавать ложную информацию как факт, вызывает отдельное беспокойство.
