ChatGPT, Gemini, Grok, Meta AI та DeepSeek – ці чат-боти користуються популярністю серед мільйонів людей у всьому світі. Дослідження показали, що багато людей звертаються до штучного інтелекту за порадами щодо здоров’я, але в половині випадків ці поради є недоречними або навіть проблематичними. Відповіді часто оформлені так, ніби їх дав справжній лікар. Як зазначає видання ScienceAlert, штучний інтелект надає проблематичні медичні поради майже в 50% випадків. Наприклад, запитуючи про клініку чи лікаря, до якого слід звернутися, можна отримати необґрунтовані твердження та посилання, які не ведуть нікуди. Це означає, що відповідь, хоча й отримана, не є корисною. Щоб уникнути помилок, команда вчених провела дослідження, піддавши п’ять найпопулярніших чат-ботів стрес-тесту на обробку медичної інформації. Кожному чат-боту (ChatGPT, Gemini, Grok, Meta AI і DeepSeek) було поставлено по 50 питань, що стосуються здоров’я та медицини, охоплюючи теми, такі як рак, вакцини, стовбурові клітини, харчування та спортивні досягнення. Аналіз відповідей показав, що майже 20% відповідей були вкрай проблематичними, 50% – проблематичними, а 30% – дещо проблематичними. Жоден чат-бот не зміг надати точні списки літератури, і лише на два з 250 питань було категорично відмовлено у відповіді. Всі п’ять чат-ботів показали приблизно однакові результати. Найгірші результати виявив Grok – 58% його відповідей були проблемними. Друге та третє місце зайняли ChatGPT з 52% та Meta AI з 50%. Вчені зазначили, що ефективність чат-ботів варіювалася залежно від теми. Найкраще вони відповідали на питання про вакцини та рак, тоді як у галузі харчування результати були невтішними. Проблеми виникли з відкритими питаннями: 32% відповідей на них були оцінені як вкрай проблематичні, у порівнянні з 7% для закритих питань. Це важливо, оскільки люди не ставлять закритих запитань про здоров’я, а консультуються з чат-ботами, ставлячи складні питання та намагаючись отримати структуровані відповіді з необхідними даними. Проте ШІ не може надати такі дані. У рамках дослідження вчені отримали лише 40% інформації, що містилася в запитах. Жоден бот не зміг скласти повний список навіть за 25 спроб. Причина, чому чат-боти дають неправильні медичні відповіді, полягає в тому, що вони ґрунтуються на даних навчання та контексті, не зважують докази та не формують оціночні судження. Їхні навчальні матеріали включають рецензовані наукові статті, обговорення на Reddit та блоги про здоровий спосіб життя, а також аргументи з соціальних мереж. Тому, якщо питання сформульоване не в звичних форматах, відповідь може бути помилковою або неповною. У рамках дослідження вчені навмисно ставили питання, щоб підштовхнути чат-боти до некоректних відповідей, що є частиною стрес-тестування. Вони зазначили, що рівень помилок, показаний у дослідженні, є критичним, у нейтральному формулюванні він значно нижчий. Крім того, платні версії чат-ботів демонструють кращі результати, ніж безкоштовні. Тож важливо враховувати цю інформацію, отримуючи відповіді щодо здоров’я від ШІ. Перевіряйте кожне твердження та переглядайте посилання, щоб уникнути додаткових проблем.
Чат-боти та медичні поради: ризики та проблеми
