Консултантската куќа „Делоит“ објави дека ќе врати дел од надоместокот што го добиле од австралиската влада за студија од 440.000 долари за која се утврди дека содржи грешки – од кои некои се должат на употребата на вештачка интелигенција во нејзиното пишување.

Министерството за вработување и односи на работното место (DEWR) потврди дека „Делоит“ ќе ја врати последната рата од договорот, а релевантните детали ќе бидат објавени откако ќе заврши процесот. Случајот предизвика политички реакции, а еден сенатор од Лабуристичката партија изјави дека фирмата има „проблем со човечката интелигенција“.

Според „Гардијан“, „Делоит“ во декември 2024 година била ангажирана да го процени ИТ-системот што се користи за казнување на невработените лица кои не ги исполнуваат своите обврски според шемите за вработување.

Истрагата открила сериозни проблеми, вклучително и „недостаток на транспарентност“ во поврзаноста на системот со релевантното законодавство и „технички дефекти“. Системот, како што се вели, работел „врз основа на казнена претпоставка дека учесниците не се придржуваат“.

Студијата е објавена на 4 јули, но неколку недели подоцна, статија во „Аустралијан фајненшл ривју“ откри дека содржи непостоечки извори и неточни референци.

Професорот на Универзитетот во Сиднеј, д-р Кристофер Рунц, кој прв ги посочи грешките, рече дека извештајот покажува „халуцинации“ – феномен во кој моделите на вештачка интелигенција „ги пополнуваат празнините“ со неточни или измислени информации.

„Наместо да ги заменат лажните референци со вистински, тие едноставно ги менуваат со нови, исто така неосновани. Ова покажува дека оригиналните тврдења во текстот не се базираат на вистински извори“, рече тој.

Во ревидираната верзија на ревизорскиот извештај, „Делоит“ забележува дека се направени „некои корекции на фуснотите и референците“, но без промена на главните заклучоци и препораки. Како што изјави портпаролот на министерството, „суштината на независната проценка останува непроменета“.

Компанијата, во ревидираниот извештај, сега додаде дека дел од неа е произведен „со помош на алатка за вештачка интелигенција Azure OpenAI GPT-4o , која е лиценцирана од министерството и работи во безбедна средина на „Мајкрософт “.

Сепак, „Делоит“ не призна дека грешките потекнуваат од вештачката интелигенција и инсистираше дека „промените не влијаат на содржината, наодите или препораките на извештајот“.

Од своја страна, сенаторката од Лабуристичката партија, Дебора О’Нил, остро коментираше дека „се чини дека вештачката интелигенција го презела поголемиот дел од работата“.

„Делоит има проблем со човечката интелигенција. Би било смешно да не беше толку тажно“, рече таа, додавајќи дека „оние што склучуваат договори со такви фирми треба точно да знаат кој ја работи работата – луѓе или алгоритми“.

„Аустралијан фајненшл ривју“ исто така откри дека оригиналниот текст вклучувал упатувања на непостоечки универзитетски студии , па дури и судска одлука што никогаш не постоела. Во ажурираниот извештај, „Делоит“ го корегираше своето резиме на овој наводен случај, признавајќи „грешки во својата претходна презентација“.