Педофилите користат технологија за вештачка интелигенција (ВИ) за да создадат и продаваат реалистични материјали за сексуална злоупотреба на деца, откри „Би-Би-Си“.

Некои луѓе пристапуваат до овие слики со плаќање претплата на популарни платформи за споделување содржини како „Патреон“. „Патреон“ вели дека имаат нулта толеранција за таква содржина на нивната платформа. Советот на началниците на националните полицајци во Британија изрази огорченост поради фактот што некои платформи остваруваат огромни профити, но не преземаат морална одговорност.

Креаторите и дистрибутерите на таква содржина користат софтвер со вештачка интелигенција наречен „Стејбл Дифјушн“, кој првично бил наменет да генерира слики за уметност или графички дизајн. „Стејбл Дифјушн“ им овозможува на корисниците да ја опишат саканата слика со зборови или краток текст, а потоа програмата ја генерира врз основа на тој опис.

Но, „Би-Би-Си“ откри дека софтверот се користи и за создавање реални слики за сексуална злоупотреба на деца, вклучително и силување на бебиња и малолетници. Полициските тимови на Обединетото Кралство кои истражуваат онлајн злоупотреба на деца веќе се среќаваат со таква содржина.

Новинарката Октавија Шеипшанкс ја истражува оваа тема веќе неколку месеци. Таа контактирала со „Би-Би-Си“ преку детската добротворна организација „НСПЦЦ“ за да ги сподели своите наоди.

„Откако стана возможно да се генерираат слики со вештачка интелигенција, создаден е огромен бран. Не се работи само за многу мали девојчиња, педофилите зборуваат и за мали деца“, рече таа.

Компјутерски генерирана „псевдо-слика“ која прикажува детска порнографија се третира како вистинска, автентична и е нелегално да се поседува.

Иан Кричли, шеф на Националниот совет за заштита на децата на началниците на полицијата, рече дека би било погрешно да се тврди дека никој не е повреден бидејќи нема вистински деца на сликите генерирани со вештачка интелигенција.

Тој предупреди дека педофилот може „да напредува на размери на злосторства, од мисли, преку слики генерирани од вештачка интелигенција, па сè до злоупотреба на вистинско дете“.

Сликите на злоупотреба се споделуваат во три чекори: педофилите ја генерираат сликата со софтвер за вештачка интелигенција, потоа ја промовираат на платформи како што е јапонската страница за споделување фотографии „Пиксив“, а таквите врски водат до платформи за споделување содржини што се плаќа, како што е „Патреон“.

Некои од креаторите на оваа содржина објавуваат слики на популарната јапонска платформа за социјални медиуми „Пиксив“, која главно се користи од уметници кои споделуваат манга и аниме.

Меѓутоа, бидејќи страницата е со седиште во Јапонија, каде што споделувањето сексуализирани цртежи и илустрации на деца не е нелегално, креаторите ја користат платформата за да ја промовираат својата работа преку групи и хаштагови кои индексираат теми користејќи клучни зборови.

Портпаролот на „Пиксив“ рече дека компанијата придава големо значење на решавањето на овој проблем. На 31 мај, тие објавија дека ги забраниле сите фотореалистични прикази на сексуални содржини во кои се вклучени малолетници.

Компанијата соопшти дека проактивно ги зајакнува своите системи за следење и доделува значителни ресурси за борба против прашањата поврзани со развојот на вештачката интелигенција. Октавиа Шипшенкс изјави за „Би-Би-Си“ дека нејзиното истражување сугерира дека корисниците произведуваат слики од злоупотреба на деца на индустриски размери.

„Волуменот е едноставно огромен, па тогаш овие креатори велат дека имаат за цел да направат најмалку 1.000 слики месечно“, рече таа.

Коментарите на корисниците на поединечни слики на „Пиксив“ јасно покажуваат дека имаат сексуален интерес за деца, а некои корисници дури нудат слики и видеа на злоупотреба генерирани без вештачка интелигенција.

„Во овие групи, кои можат да имаат до 100 членови, луѓето ќе споделуваат линкови до вистинска содржина. Најстрашните работи, не ни знаев дека има зборови за да опишам такви работи“, вели таа.

Многу корисници на „Пиксив“ вклучуваат врски што ги насочуваат луѓето кон американската платформа „Патреон“. „Патреон“ вреди околу 4 милијарди долари и тврди дека има повеќе од 250.000 корисници, повеќето од нив легитимни профили на познати личности, новинари и писатели.

Обожавателите можат да ги поддржат креаторите со плаќање месечна претплата за пристап до содржини како што се блогови, поткасти, видеа, слики и слично.

Сепак, истрагата на „Би-Би-Си“ откри профили на „Патреон“ кои нудат на продажба генерирани со вештачка интелигенција, фотореалистични вознемирувачки фотографии од деца, при што цените варираат во зависност од видот на бараниот материјал.

Едниот на својот профил напишал дека продава фотореалистички слики на „послушни девојки“, а другиот нуди „ексклузивна нецензурирана уметност“ за 8,30 долари.

Еден пример за таков профил на „Патреон“ бил пријавен од „Би-Би-Си“, кој потоа бил веднаш отстранет. „Патреон“ вели дека има политика на нулта толеранција за ова.

Компанијата рече дека зголемувањето на штетната содржина генерирана од вештачка интелигенција на интернет е „реално и вознемирувачко“ и дека тие „идентификувале и отстранувале се повеќе и повеќе“ од таков материјал.

Генераторот на слики со вештачка интелигенција „Стејбл Дифјушн“ е создаден врз основа на глобална соработка на академици и неколку компании, а е предводен од британската фирма „Стабилити АИ“.

Објавени се неколку верзии на софтверот, а во кодот се вградени ограничувања кои го контролираат видот на содржината што може да ја креира. Но, минатата година во јавноста била објавена верзија со „отворен код“, која им овозможила на корисниците да ги отстранат сите филтри.

Од „Стабилити АИ“ изјавија за „Би-Би-Си“ дека забранува секаква злоупотреба на нејзините платформи.

„Ние силно ги поддржуваме напорите за спроведување на законот против оние кои ги злоупотребуваат нашите производи за нелегални или злонамерни цели“.

Со оглед на брзиот развој на вештачката интелигенција, се поставуваат прашања за идните ризици што таа може да ги носи за приватноста, човековите права и безбедноста на луѓето.

Иан Кричли од „НПЦЦ“ изрази загриженост дека поплавата од ваква содржина може да го забави процесот на идентификување на вистинските жртви на злоупотреба.

„Ова создава дополнително барање во однос на полициските и судските дејствија за да се идентификува каде се злоставува вистинско дете, каде било во светот, наместо дете за кое се покажа дека воопшто не постои“, објаснува тој.

Кричли смета дека ова е клучен момент за општеството.

„Можеме да обезбедиме интернетот и технологијата да обезбедат фантастични можности за младите луѓе – или може да стане многу поштетно место“, заклучи тој.