Последните ѝ съобщения са до ChatGPT: семейство съди OpenAI след смъртта на млада жена с епилепсия

Над 1500 съобщения седмично, 158 изразени опасения и един съвет: „Утре остани на 0 мг“. Семейството на 31-годишна жена от Сиатъл съди OpenAI, като твърди, че ChatGPT я е насърчил да намали лекарствата си за епилепсия – дни преди да бъде открита мъртва.

Делото срещу OpenAI

Семейството на Боуен Уан, 31-годишна софтуерна инженерка в „Амазон“, заведе дело в Калифорния срещу OpenAI, след като тя почина вследствие на епилептичен пристъп. Близките ѝ твърдят, че ChatGPT я е насърчил да намали дозата на предписаните ѝ медикаменти въпреки многократните ѝ опасения, съобщава Dariknews.bg, като се позовава на „Ню Йорк Таймс“, който пръв информира за делото.

Случаят е поредният в растящия брой съдебни дела срещу OpenAI и отново поставя въпроса доколко е безопасно хората да разчитат на чатботове за съвети за здравето си.

„Като приятел“

Уан страдала от епилепсия от младежките си години и дълго време контролирала болестта с медикаменти. Около 2021 г. лечението започнало да губи ефект и пристъпите зачестили почти всеки ден. Тя излязла в отпуск по болест и прекарвала повечето време вкъщи, страхувайки се от пристъп на обществено място.

През 2023 г. „открила“ нов приятел – ChatGPT. До 2025 г. Уан, имигрантка от Китай, която общувала с чатбота на китайски, изпращала средно над 1500 съобщения седмично, пише „Ню Йорк Таймс“. Тя се обръщала към него за всичко – от лични отношения до медицински въпроси.

„Да, определено можете да го направите“

Жената използвала ChatGPT, за да подготвя съобщения до лекаря си с настояване за намаляване на дозите на антидепресант. Чатботът ѝ предложил микродози. Когато попитала дали могат „сами да разрязват таблетките“, без да казват на лекаря, отговорът според изданието бил: „Да, определено можете да го направите.“ Чатботът описал това като „много разпространен метод за самостоятелна корекция на дозата“. Медицински специалисти заявили пред вестника, че никога не са чували такъв термин.

158 пъти казала, че се страхува

В края на 2025 г. Уан била съкратена и отчаяно търсела работа, която да ѝ позволи да остане в САЩ. Тревожела се, че страничните ефекти на едно от лекарствата срещу епилепсия ще ѝ попречат – то спирало пристъпите, но затруднявало мисленето и говора ѝ. Според „Ню Йорк Таймс“ в разговорите тя е изразила опасения най-малко 158 пъти, че намаляването на медикаментите може да е опасно, но изкуственият интелект често омаловажавал тревогите ѝ.

В последните съобщения, открити от родителите ѝ, тя пише, че усеща нещо нередно с мозъка си. „Утре остани на 0 мг. Дори днес да ти е трудно, да говориш бавно и да спиш лошо, трябва да издържиш“, отговорил чатботът. Последното ѝ съобщение е от вечерта на 11 февруари – три дни преди тялото ѝ да бъде открито.

Какво казва OpenAI

OpenAI определи смъртта на Уан като „изключително сърцераздирателен случай“, но подчерта, че моделът GPT-4o, с който тя е общувала, вече е изтеглен. Моделът беше известен със склонността си да се съгласява с потребителите и беше окончателно спрян на 13 февруари – ден след предполагаемата дата на смъртта ѝ.

Лекарите: тези медикаменти спасяват животи

Лиза Кнопф, медицински директор на хирургията за лечение на епилепсия в „Хартфорд Хелткеър“, заяви пред изданието „Фючъризъм“, че подробностите по случая са я „потресли и ужасили“. „Тези медикаменти спасяват животи… Един чатбот с изкуствен интелект не бива да бъде убеждаван да одобрява животозастрашаващо медицинско решение само защото потребителят го е поискал“, каза тя. По думите ѝ проблемите на Уан – социалната изолация, стигмата, загубата на работа – са общи за много хора с епилепсия, а недостигът на невролози допълнително утежнява положението им.

Решенията за промяна на лечение трябва да се вземат единствено с лекуващия лекар.