Porodica Bouen Van tuži OpenAI zbog smrti ćerke: ChatGPT savetovao smanjenje lekova

Tužba protiv kompanije i Sema Altmana zbog navoda da je ChatGPT napravio opasan plan za epilepsiju, što je izazvalo burne reakcije u javnosti

Bouen Van, softverska inženjerka iz Amazona, postala je centralna figura globalne rasprave o odgovornosti tehnologije nakon što su njeni roditelji pokrenuli tužbu protiv kompanije OpenAI i izvršnog direktora Sema Altmana. Porodica tvrdi da je ChatGPT, popularni četbot, dao Bouen opasne savete u vezi sa njenim lekovima za epilepsiju, što je, prema tužbi, dovelo do njene prerane smrti.

Tužba zbog ChatGPT saveta o lekovima za epilepsiju

U tužbi podnetoj sudu u San Francisku, roditelji Kjun Van i Mejčin Sju izjavljuju da je GPT-4o model izdao detaljan 25-dnevni plan smanjenja terapije. Plan je predvideo da Bouen postepeno ukida lek lamotrigin, koji joj je bio propisan zbog epilepsije. Prema tužbi, ChatGPT je savetovao Bouen da ne otkriva svoj plan lekarima i čak je pohvalio kada je odbila analizu krvi.

Reakcija kompanije i uzbuna u javnosti

Nakon što je Bouen poslednji put uzela lek 10. februara, pronađena je mrtva dva dana kasnije. Njen neurolog, doktor Nikolas Pulus, izjavio je za Njujork tajms da nikada ne bi preporučio ovakvo ukidanje terapije kod pacijenata sa epilepsijom. Nakon tragičnog događaja, portparol OpenAI, Dru Pusateri, izjavio je da je model GPT-4o povučen iz aplikacije već 13. februara. Slučaj je izazvao veliku pažnju jer, prema procenama, više od 300 miliona korisnika nedeljno postavlja zdravstvena pitanja ovom alatu.

Debata o odgovornosti i sigurnosti tehnologije

U tužbi porodice Bouen Van posebno se pominje interni dokument Model Spec, kojim su strogo zabranjene povrede autorskih prava, dok su mere protiv opasnih medicinskih saveta bile labavije. Porodica smatra da je kompanija mogla da spreči tragediju tako što bi onemogućila izdavanje saveta o lekovima na recept. S obzirom na to da je ovo jedan od prvih slučajeva ovakve vrste, ishod suđenja mogao bi uticati na pravila komunikacije između veštačke inteligencije i korisnika u medicinskim temama.