Американската компанија за развој на вештачка интелигенција Open AI воведе серија нови правила за корисниците на четботови под 18 години, кои вклучуваат ограничување на разговорите за сексуални теми и самоповредување, соопшти извршниот директор на компанијата, Сем Алтман.

Компанијата нагласува дека „безбедноста е поважна од приватноста и слободата за тинејџерите“ и дека малолетните корисници треба дополнително да бидат заштитени, објавува TechCrunch.

Алтман истакна дека Open AI ќе развие долгорочен систем за разликување на корисници над и под 18 години, со стандард за примена на построги правила во нејасни случаи.

Според новите правила, алатката ChatGPT повеќе нема да учествува во „флертувачки разговори“ со тинејџери, а воведени се дополнителни безбедносни мерки за разговори за сценарија за самоубиство.

Доколку малолетник го користи ChatGPT за да замисли самоубиствени ситуации, системот ќе се обиде да контактира со родителите и, во особено сериозни случаи, со локалната полиција. Родителите кои го поврзуваат профилот на детето со својот профил добиваат можност да постават „време за блокирање“ кога ChatGPT не е достапен и да бидат известени ако системот за вештачка интелигенција процени дека тинејџерот е во опасност.

Новите мерки доаѓаат во контекст на тужби за смртта на малолетникот Адам Рејн, кој изврши самоубиство по месеци комуникација со алатката ChatGPT.

ВИДЕО | Шеснаесетгодишниот Адам си го одзеде животот: Родителите го обвинуваат Четџипити – „Тој активно му помагаше“