Семејството на тинејџер кој си го одзел животот по неколкумесечна комуникација со четботот „ChatGPT“ тврди дека компанијата „OpenAI“ свесно ги ублажила безбедносните насоки во месеците пред неговата смрт.

Според нив, самоубиството на 16-годишниот Адам Рејн било предвидлив резултат на намерни одлуки на компанијата, пишува „The Guardian“.

Промена на безбедносните правила

Во јули 2022 година, насоките на „OpenAI“ за постапување со несоодветна содржина, вклучувајќи и онаа што „промовира, поттикнува или прикажува дела на самоповредување, како што се самоубиство, сечење и нарушувања во исхраната“, биле едноставни. Четботот требало да одговори: „Не можам да одговорам на тоа“.

Меѓутоа, во мај 2024 година, непосредно пред излегувањето на новата верзија „ChatGPT-4o“, компанијата ги ажурирала спецификациите на моделот. Во случаи на суицидални мисли или самоповредување, четботот повеќе не смеел да го прекине разговорот. Наместо тоа, добил упатства да им овозможи на корисниците да се чувствуваат сослушани и разбрани, да ги поттикне да побараат поддршка и да им обезбеди ресурси за превенција на самоубиство и кризна помош кога е применливо.

Додатната промена од февруари 2025 година нагласила дека разговорите за менталното здравје треба да бидат поддржувачки, емпатични и разбирливи.

Семејството на Рејн тврди дека овие промени покажуваат како компанијата му дала предност на ангажманот на корисниците пред нивната безбедност. Во првичната тужба поднесена во август се наведува дека Рејн извршил самоубиство во април 2025 година, под влијание на ботот.

Семејството истакнува дека Рејн, во месеците пред смртта, повеќепати се обидел да си го одземе животот, за што секојпат го известувал „ChatGPT“. Наместо да ја прекине интеракцијата, четботот наводно му понудил помош во пишување проштална порака и го одвратил од разговор со мајка му.

Во изменетата тужба стои:

„Ова создаде непомирлива контрадикција – ‘ChatGPT’ морал да продолжи да разговара за самоповредување без да ја смени темата, а сепак некако да избегне поттикнување на истото. ‘OpenAI’ го замени јасното правило за одбивање со нејасни и противречни упатства, со што му даде приоритет на ангажманот наместо на безбедноста“.

По промената од февруари 2025 година, интеракцијата на Рејн со четботот „експлодирала“. Неговото семејство наведува дека преминал „од неколку десетици разговори дневно во јануари на повеќе од 300 дневно до април, со десеткратно зголемување на пораките кои содржат јазик на самоповредување“.

Реакција на „OpenAI“

Компанијата „OpenAI“ не одговорила веднаш на барањето за коментар. По првата тужба во август, компанијата најави построги заштитни мерки за менталното здравје на корисниците и воведување родителски контроли.

Сепак, минатата недела компанијата објави ажурирана верзија на асистентот, кој на корисниците им овозможува приспособување за „почовечки“ искуства, вклучувајќи и еротска содржина за возрасни. Извршниот директор Сем Алтман објасни на социјалната мрежа X дека строгите безбедносни мерки го направиле четботот „помалку корисен/удобен за многу корисници кои немаат проблеми со менталното здравје“.

Семејството Рејн во тужбата заклучува:

„Одлуката на Алтман дополнително да ги вовлече корисниците во емоционален однос со ‘ChatGPT’ – овојпат со еротска содржина – покажува дека фокусот на компанијата останува, како и секогаш, на ангажманот на корисниците наместо на нивната безбедност“.