Апликацијата направена со вештачката интелигенција, Четџипити им дала низа вознемирувачки и потенцијално опасни совети на истражувачи кои се претставувале како ранливи тинејџери како дел од тестот, според нова студија на Центарот за борба против дигиталната омраза (CCDH).

Во текот на повеќе од три часа снимени интеракции, Четџипити одговарал на барања што вклучувале упатства за употреба на алкохол и дрога, криење на нарушување во исхраната и пишување проштални писма, објави „Си-би-ес њуз“ (CBS News).

CCDH анализираше 1.200 интеракции, а повеќе од половина од одговорите беа означени како опасни.

„Опен АИ“ (OpenAI), производителот на Четџипити, изјави дека нивната работа е во тек во усовршувањето на начинот на кој четботот може „да идентификува и соодветно да реагира во чувствителни ситуации“.

– Доколку некој изрази мисли за самоубиство или самоповредување, Четџипити е обучен да го охрабри да се обрати до професионалци за ментално здравје или до доверливи најблиски и да обезбеди линкови до кризни телефонски линии и ресурси за поддршка“, изјави портпарол на „Опен АИ“ во изјава за „Си-би-ес њуз“.

– Некои разговори со Четџипити може да започнат како бенигни или истражувачки, но можат да се префрлат на почувствителна територија. Ние сме фокусирани на правилно решавање на вакви сценарија: развиваме алатки за подобро откривање знаци на ментален или емоционален стрес, за Четџипити да може соодветно да реагира, насочувајќи ги луѓето кон ресурси засновани на докази кога е потребно и продолжувајќи да го подобрува однесувањето на моделот со текот на времето – водени од истражување, употреба во реалниот свет и експерти за ментално здравје – рече портпаролот.