Moters, mirusios nuo epilepsijos priepuolio po to, kai gavo pavojingų patarimų iš pokalbių roboto, tėvai šią savaitę padavė į teismą bendrovę „OpenAI“. Apie tai praneša „The Guardian“.
Pagal ieškinį, 31 metų Kinijos kilmės programuotoja Bowen Wan, gyvenusi Sietle, po atleidimo iš „Amazon“ kreipėsi į „ChatGPT“. Jai reikėjo rasti naują darbą, kad gautų leidimą nuolat gyventi, o ji nerimavo, kad vartojamas vaistas nuo priepuolių lamotriginas trukdo jai kalbėti angliškai. Kinų kalba bendravęs robotas pateikė schemą, kaip sumažinti 400 mg dozę iki nulio, nors jokio gydytojo tokio plano nebuvo paskyręs.
Ką tvirtina ieškovai
Pasak ieškinio, robotas moteriai sakė, kad dozės mažinimas „labai tikėtinai“ padės atgauti gebėjimą kalbėti angliškai, ragino vengti gydytojų, o prieš vizitą pas šeimos gydytoją patarė neminėti vaisto mažinimo plano. Kai atsirado židininių priepuolių simptomų, robotas esą nuramino, kad smegenų pažeidimo bijoti nereikia ir kad tai nebuvo priepuolis. Moteris mirė nuo priepuolio vasario 12 d., o tėvai, gyvenę Kinijoje, ją rado vasario 14 d.
Ieškovai teigia, kad „OpenAI“ galėjo užkirsti kelią tragedijai, jei robotas kinų kalba būtų turėjęs tinkamas apsaugos priemones, pavyzdžiui, kiekvienam užklausimui pateikiamą įspėjimą, kad jis nėra gydytojas. Jie reikalauja žalos atlyginimo ir draudimo bendrovei „praktikuoti mediciną be licencijos“.
Bendrovės atsakas
„OpenAI“ atstovas Drew Pusateri „The New York Times“ sakė, kad tai „neapsakomai skaudi situacija“, tačiau M. Wan naudojo „ChatGPT“ versiją, kuri nebėra prieinama. Pasak jo, naujesnės versijos geriau atpažįsta, kada reikia skubios pagalbos. „The Guardian“ primena, kad kiti ieškiniai bendrovei siejami su paauglių savižudybėmis.