Scimex: почти 50% ответов ИИ на популярные запросы в медицине оказались не верны

Немецкие ученые из университета имени Фридриха-Александра в Эрлангене и Нюрнберге выявили, что почти 50% ответов искусственного интеллекта (ИИ) на популярные запросы в сфере медицины оказались не верны. Об этом пишет Турпром со ссылкой на издание Scimex.

«Ответы робота было трудно читать, и ответы часто содержали недостаточно информации или содержали неточности, что могло угрожать безопасности пациентов и лекарств…», — заявили исследователи.

Депутат Чепа: США не согласятся на «план победы» Зеленского

Исследователи из Германии изучили ответы ИИ и чатботов на предоставление медицинских рекомендаций.

Scimex опубликовал результаты исследования в середине октября 2024 года.

В эксперименте ученые использовали нейросеть Copilot от Microsoft, которая встпоена операционную систему Windows.

Они пытались оценить ее эффективность в медицинских консультациях. Согласно данным, медики не согласились с почти половиной советов ИИ.

Учёные задали чатботу 10 популярных вопросов по 50-ти лекарственным препаратам.

В итоге только 54% ответов совпадали с научным консенсусом, а значительная их могла угрожать здоровью и жизни пациентов.

Из количества неверных ответов, 42% могли вызвать лёгкие или средние побочные эффекты, а 22% могли привести к смерти.

Только 36%  неправильных ответов нейросети были определены как безвредные.

«…Несмотря на свой потенциал, пациентам по-прежнему важно консультироваться со своими лечащими врачами, поскольку чат-боты не всегда могут генерировать безошибочную информацию. Следует проявлять осторожность при рекомендации поисковых систем на базе искусственного интеллекта, пока не появятся системы цитирования с более высокой точностью», — резюмировали исследователи.

Ранее «Национальная лента новостей» сообщала, что Егор Бероев сыграет легенду советского футбола Никиту Симоняна в фильме «Золотой дубль».