Откако нивниот 16-годишен син Адам изврши самоубиство, Мет и Марија Рејн очајно го пребаруваа неговиот телефон за одговори што би ја објасниле незамисливата трагедија. Наместо пораки на Снепчет или сомнителна историја на пребарување, тие пронајдоа нешто што ги шокираше: записи од разговори со Четџипити, објави „Ен-би-си Њуз“.

„Мислевме дека бараме дискусии на Снепчет или историја на пребарување на интернет или некој чуден култ, не знам“, рече Мет Рејн во неодамнешно интервју.

Од помош за домашни задачи до „тренер за самоубиство“

Според неговите родители, Адам го користел четботот како замена за човечко друштво во неговите последни недели, тој му се доверувал за неговите проблеми. Разговорите, велат тие, покажуваат како постепено се менувала улогата на ботот – од помош со домашни задачи до она што го нарекуваат „тренер за самоубиство“.

„Тој ќе беше тука да не беше Четџипити . Јас сум 100% сигурен во тоа“, рече Мет Рејн.

Во тужбата поднесена во вторник, семејството Рејн тврди дека Четџипити активно му помогнал на Адам да истражи методи на самоубиство. Тужбата од околу 40 страници, поднесена во Вишиот суд на Калифорнија во Сан Франциско, ги наведува компанијата која стои зад популарниот четбот, и нејзиниот извршен директор Сем Алтман како обвинети. Ова е прв пат родителите директно да ја обвинат компанијата за смрт предизвикана од небрежност.

„И покрај признавањето на обидот за самоубиство на Адам и неговата изјава дека „ќе го направи тоа еден од овие денови“, Четџипити не успеал да го заврши разговорот или да иницира каков било протокол за итни случаи“, се наведува во тужбата.

Одговор на OpenAI

Портпарол на OpenAI рече дека компанијата е „длабоко тажна поради смртта на г-дин Рејн и нашите мисли се со неговото семејство“. Тој истакна дека Четџипити вклучува заштитни мерки што ги насочуваат корисниците кон кризни линии, но призна дека тие заштитни мерки можат да станат помалку сигурни при долги интеракции.

„Заштитните мерки се најсилни кога секој елемент работи како што е предвидено и ние постојано ќе ги подобруваме“, рече портпаролот. Компанијата, исто така, објави блог пост во кој се вели дека работи на зајакнување на заштитните мерки во долгите разговори и проширување на интервенциите за луѓето во криза.

„Четџипити му помогна да ја напише својата порака за збогум“

Случајот поведува голем број прашања за одговорноста на технолошките компании. Платформите во голема мера се заштитени со федерален закон познат како Член 230, кој ги штити од одговорност за содржината објавена од корисниците. Но, дали тој закон ќе се применува на платформите со вештачка интелигенција останува неизвесно.

Родителите испечатиле повеќе од 3.000 страници разговори што Адам ги имал со ботот. Според тужбата, кога Адам изразил самоубиствени мисли, Четџипити не само што „не успеал да даде приоритет на спречувањето на самоубиства“, туку наводно му понудил и технички совет. Во еден од последните разговори, ботот наводно му понудил да му помогне да напише порака за самоубиство и го анализирал неговиот план за самоубиство.

„Не му требаше советување ниту охрабрувачки разговор. Му требаше итна интервенција. Беше во очајна, очајна состојба“, рече таткото.