Në SHBA, një nënë që humbi djalin e saj nga mbidoza akuzon ChatGPT për këshilla të gabuara gjatë dëshmisë më 17 shtator në një seancë mbi politikat e ardhshme të AI.

Leila Turner-Scott i kërkoi ligjvënësve amerikanë vendosjen e rregullave më të forta për inteligjencën artificiale, duke pretenduar se ChatGPT i kishte dhënë djalit të saj 19-vjeçar këshilla të pasigurta lidhur me substanca përpara se ai të humbiste jetën nga një mbidozë aksidentale.

Turner-Scott tha se pas vdekjes së djalit të saj, Sam Nelson, kishte shqyrtuar qindra biseda të tij me ChatGPT. Sipas pretendimeve të saj, sistemi kishte minimizuar në disa raste rreziqet e përdorimit të substancave dhe kishte dhënë udhëzime që familja i konsideron të rrezikshme.

Nëna kritikoi gjithashtu mënyrën se si funksionet e personalizimit dhe kujtesës mund të krijojnë besim të tepruar te një chatbot. Ajo pretendoi se djali i saj e konsideronte ChatGPT një burim të besueshëm informacioni dhe besonte se po e përdorte për të marrë përgjigje që do ta mbanin të sigurt.

Familja e Nelson ka ngritur një padi ndaj OpenAI dhe CEO-s Sam Altman. Pretendimi se ChatGPT shkaktoi ose kontribuoi drejtpërdrejt në vdekjen e 19-vjeçarit mbetet pjesë e një çështjeje ligjore të pazgjidhur dhe nuk është një përfundim i vendosur nga gjykata.

Në dëshminë e saj, Turner-Scott u bëri thirrje ligjvënësve të ndërhyjnë për të vendosur standarde më të forta sigurie dhe përgjegjësie për kompanitë që zhvillojnë sisteme AI.

OpenAI e ka cilësuar rastin si tragjik dhe ka deklaruar se bisedat në fjalë janë zhvilluar me një version më të vjetër të ChatGPT që nuk është më i disponueshëm. Kompania thotë se ka forcuar mënyrën se si ChatGPT trajton situatat e ndjeshme dhe kërkesat potencialisht të dëmshme, duke theksuar se chatbot-i nuk zëvendëson kujdesin profesional mjekësor ose të shëndetit mendor.