Предложенная ChatGPT замена поваренной соли оказалась ядовитой.
Unsplash
Ученые не раз предупреждали, существует опасность, связанная с тем, что рекомендации, полученные от ChatGPT или подобных ИИ-систем, могут оказаться неверными и неточными при обращении к ним за советами по вопросам здоровья. При этом, обращения за медицинской консультацией к нейросетям остаются весьма распространёнными.
Согласно данным опроса, в Соединенных Штатах каждый шестой взрослый ежемесячно использует генеративные чат-боты для получения информации о здоровье. У молодых людей в возрасте до 30 лет этот показатель достигает примерно 25.
Столкновение инноваций и наследия: прибегнет ли новый агент 007 к искусственному интеллекту
Сэм Альтман, генеральный директор OpenAI, предупредил о потенциальной возможности использования переписок с искусственным интеллектом в качестве доказательств в судебных разбирательствах
Такая безоговорочная вера может привести к серьезным последствиям для здоровья. Случай 60-летнего жителя США является ярким тому примером. Он поступил в больницу с жалобой на то, что его сосед пытается его отравить. Пациент испытывал сильную жажду, но отказывался от воды, предложенной в медицинском учреждении. Мужчина сообщил, что дома он употребляет исключительно дистиллированную воду и придерживается строгого вегетарианского питания. О приеме каких-либо медикаментов или добавок он изначально не упомянул.
Начальные исследования выявили гиперхлоремию, характеризующуюся завышенным содержанием хлоридов в крови (126 ммоль/л при норме 98–108 ммоль/л). Помимо этого, у пациента обнаружен дефицит фосфатов и другие отклонения от нормы. Пациент был госпитализирован для восстановления водного баланса и контроля показателей электролитного состава.
На основании консультаций с токсикологами, врачи пришли к выводу, что причиной ухудшения состояния пациента могло стать хроническое отравление бромом (бромизм), спровоцированное продолжительным употреблением солей брома. Помимо этого, у мужчины выявлен дефицит микроэлементов, в том числе витаминов C, B12 и фолиевой кислоты.
На следующий день состояние пациента ухудшилось, так как усилилась паранойя, в результате возникли галлюцинации, затрагивающие слух и зрение. После неудачной попытки побега пациента поместили на принудительное психиатрическое лечение с назначением медикаментозной терапии, направленной на купирование психотических симптомов, и впоследствии перевели в специализированное медицинское учреждение.
Состояние пациента постепенно стабилизировалось по мере восстановления водного баланса и нормализации электролитного состава. После этого мужчина предоставил более подробную информацию о событиях, предшествовавших госпитализации. До этого у него отмечались родинки, гемангиомы, повышенная утомляемость, бессонница и незначительные проблемы с координацией движений, что соответствовало симптомам бромизма. Он сообщил, что около трех месяцев назад решил провести над собой эксперимент. Основываясь на информации, найденной в интернете, он пришел к выводу о вреде поваренной соли, исключил ее из своего питания и начал принимать бромид натрия (NaBr).
Пациент утверждает, что эта мысль возникла благодаря его собственным знаниям в области диетологии, приобретенным в колледже, а также рекомендации ChatGPT о замене хлорида натрия. Этот белый кристаллический порошок, не имеющий запаха и обладающий соленым вкусом, был приобретен через интернет. Результаты анализов выявили, что концентрация бромидов в крови достигла 1700 мг/л, в то время как допустимая норма находится в пределах 0,9–7,3 мг/л.
Пациента содержали в стационаре в течение трех недель. После стабилизации его физиологического и психологического состояния, он был выписан, с последовательным уменьшением дозы антипсихотических лекарств. При повторном обследовании через две недели мужчина сообщил об улучшении самочувствия.
Опыт, накопленный в течение времени, вновь демонстрирует: не стоит полагаться на советы искусственного интеллекта. Это особенно важно, когда речь идет о вопросах, касающихся здоровья, и требующих деликатного подхода. ChatGPT сможет только извиниться за неточность, а человеку жить с этой проблемой всю жизнь.