„Мислевме дека ќе најдеме дискусии на "Snapchat", интернет-пребарувања или некој чуден култ, не знам“, изјави Мет Рејн во неодамнешно интервју.

Од помош за домашни задачи до „тренер за самоубиство“

Според тврдењата на родителите, Адам во последните недели го користел чат-ботот како замена за човечко друштво, доверувајќи му ја својата анксиозност и проблеми. Записите од разговорите, велат тие, покажуваат како улогата на ботот постепено се менувала – од помош при домашни задачи до она што го нарекуваат „тренер за самоубиство“.

„Ќе беше жив ако не беше "ChatGPT". Во тоа сум 100% убеден“, изјави Мет Рејн.

Во тужбата поднесена во вторникот, семејството Рејн наведува дека „'ChatGPT' активно му помогнал на Адам да истражи методи за самоубиство“. Тужбата од околу 40 страници, поднесена до Вишиот суд на Калифорнија во Сан Франциско, ја именува „OpenAI“, компанијата што стои зад популарниот чат-бот, и нејзиниот извршен директор Сем Алтман како тужени. Ова е прв пат родители директно да ја обвинуваат компанија за противправна смрт.

„Иако го препозна обидот на Адам за самоубиство и неговата изјава дека ’ќе го направи тоа еден од овие денови‘, "ChatGPT" не го прекина разговорот ниту пак активираше каков било итен протокол“, стои во тужбата.

Реакцијата на „OpenAI“

Портпаролот на „OpenAI“ изјави дека компанијата е „длабоко ожалостена поради смртта на младиот Рејн, а нашите мисли се со неговото семејство“. Тој нагласи дека „ChatGPT“ има вградени заштитни механизми кои корисниците ги насочуваат кон кризни линии, но призна дека тие можат да станат помалку сигурни при долги интеракции.

„Заштитните мерки се најефективни кога секој елемент функционира како што е предвидено, и ние постојано ќе ги унапредуваме“, соопшти портпаролот. Компанијата објави и блог во кој наведува дека работи на засилување на безбедносните мерки при долги разговори и проширување на интервенциите за лица во криза.

„GPT му помогнал да ја напише прошталната порака“

Овој случај отвора бројни прашања за одговорноста на технолошките компании. Досега платформите беа заштитени со федералниот закон познат како Оддел 230, кој ги штити од одговорност за содржината објавена од корисниците. Сепак, примената на овој закон врз "AI" платформите сè уште е неизвесна.

Родителите испечатиле повеќе од 3.000 страници со разговори што Адам ги водел со ботот. Според тужбата, кога Адам изразил суицидални мисли, „ChatGPT“ не само што „не ја ставил превенцијата на самоубиство во приоритет“, туку наводно му понудил и технички совети. Во еден од последните разговори, ботот, како што се наведува, му помогнал да ја состави прошталната порака и го анализирал неговиот план за самоубиство.

„Не му требаше советодавна сесија или охрабрувачки разговор. Му требаше итна интервенција. Беше во очајна, очајна состојба“, изјави таткото. Марија Рејн додаде дека верува оти нивниот син бил „објект на експеримент“ за „OpenAI“. „Тие сакаа да пуштат производ и знаеја дека може да има штета, но сметаа дека ризикот е мал. Значи, мојот син бил мал ризик“, заклучува таа.