Все больше людей обращаются к чат-ботам на основе ШИ, таким как ChatGPT, для получения советов по здоровью на фоне роста нагрузки на медицинские системы и длинных очередей к врачам. Согласно опросу , около одного из шести взрослых в США как минимум раз в месяц используют такие инструменты для самостоятельной оценки состояния здоровья.
Исследование, проведенное группой ученых из Оксфорда, показало, что пользователи чат-ботов часто не получают лучших результатов, чем те, кто использует обычный поиск в интернете или полагается на собственные знания. В исследовании участвовали более 1300 человек, которым предложили медицинские ситуации, созданные врачами. Участники должны были определить возможные заболевания и искать решения с помощью чат-ботов, включая GPT-4o, Command R+ от Cohere и Llama 3 от Meta, а также других доступных им средств.
Выяснилось, что ответы ШИ-моделей часто содержали как полезные, так и сомнительные рекомендации, а участники нередко пропускали важные детали при формулировании запросов. Это приводило к тому, что пользователи реже правильно определяли заболевания и недооценивали серьезность некоторых состояний.
На фоне активного внедрения ШИ в сферу здравоохранения, крупные компании, такие как Apple, Amazon и Microsoft, разрабатывают новые инструменты для анализа данных и поддержки пациентов. Однако и медицинское сообщество, и разработчики ШИ подчеркивают, что такие системы еще требуют тщательного тестирования в реальных условиях и не должны служить основным источником решений по здоровью. Эксперты рекомендуют обращаться к проверенным источникам информации и специалистам при принятии решений, связанных с лечением.
