Ученые из Университета Вашингтона описали клинический случай, когда рекомендации ChatGPT привели к тяжелому отравлению и психиатрическим симптомам у пациента.
В медицинском журнале Annals of Internal Medicine опубликовано описание необычного случая, связанного с использованием искусственного интеллекта. 60-летний мужчина без психиатрических диагнозов был госпитализирован с признаками отравления и паранойи после следования диетическим советам ChatGPT.
При поступлении пациент утверждал, что его пытается отравить сосед, и отказывался от воды в больнице. Обследование показало, что он длительное время придерживался строгой бессолевой диеты и использовал домашнюю дистилляцию воды.
Как выяснилось, мужчина консультировался с ChatGPT 3.5 или 4.0 о способах полного исключения соли из рациона. Нейросеть порекомендовала заменить хлорид натрия бромидом, что привело к развитию бромизма — хронической интоксикации соединениями брома.
Это первый документально подтвержденный случай, когда рекомендации ИИ напрямую вызвали серьезные последствия для здоровья. Бромизм сопровождался кожными реакциями, вялостью, когнитивными нарушениями и другими неврологическими симптомами.
Исследователи подчеркивают, что подобные системы не предназначены для медицинских консультаций и требуют четких предупреждений для пользователей.
