Компанијата ја припишува трагедијата на шеснаесетгодишното момче на „погрешната употреба“ на „ChatGPT“.
„OpenAI“ соопшти дека не е одговорна за смртта на 16-годишно момче од Калифорнија, тврдејќи дека тинејџерот „погрешно го користел“ „ChatGPT“ и дека четботот повеќепати го упатувал кон линии за итна помош, додека семејството тврди спротивно и го тужи технолошкиот гигант поради наводни пропусти во безбедносните механизми.
Во тужбата, родителите наведуваат дека момчето водело долги, емотивно тешки разговори со „ChatGPT“ за сопствените самоубиствени мисли, за време на кои четботот наводно давал конкретни совети за методи на самоубиство, вклучувајќи детални инструкции, но и „поддршка“ во идејата да не им каже на родителите за своите проблеми. Според адвокатите на семејството, четботот дури помогнал и во составување на проштално писмо.
„OpenAI“ возврати со остри критики кон семејството, тврдејќи дека шеснаесетгодишникот го користел „ChatGPT“ на погрешен начин и дека неговата трагична смрт е „негова лична вина“.
Компанијата ги отфрла наводите на семејството и во судските поднесоци наведува дека младиот пред употребата на „ChatGPT“ веќе имал историја на ментални кризи, како и дека разговорите со ботот често вклучувале препораки да побара стручна помош. „OpenAI“ инсистира дека „ChatGPT“ не е дизајниран да ги заменува терапевтите и дека корисниците секогаш добиваат предупредувања кога разговорот навлегува во чувствителни теми.
Тужбата, сепак, тврди дека „OpenAI“ во изминатата година повеќепати ги менувал внатрешните упатства за тоа како четботот треба да реагира на содржини поврзани со самоповредување – наводно во насока на „поголема ангажираност со корисникот“, а не на построги безбедносни ограничувања. Адвокатите на семејството сметаат дека токму овој пристап довел до фаталниот исход.
Експертите предупредуваат дека овој судски процес би можел да има далекусежни последици врз начинот на кој компаниите ги развиваат и контролираат големите јазични модели на вештачката интелигенција.
