УНИЦЕФ ги повика земјите ширум светот да го казнат создавањето содржини за сексуална злоупотреба на деца генерирани со вештачка интелигенција, предупредувајќи дека бројот на вакви слики кои ги сексуализираат децата забрзано расте, објави Ројтерс.

УНИЦЕФ истовремено ги повика и развивачите на технологии да вградат заштитни механизми во моделите на вештачка интелигенција со цел да се спречи нивна злоупотреба. Дигиталните компании, според агенцијата, треба да го ограничат ширењето на ваквата содржина преку посилна модерација и инвестирање во технологии за нејзино откривање.

„Штетата од злоупотребата на дипфејковите е реална и итна. Децата не можат да чекаат законите да го стигнат овој проблем“, соопшти УНИЦЕФ.

Дипфејковите претставуваат слики, видеа или аудио-снимки создадени со вештачка интелигенција кои веродостојно имитираат вистински лица.

Агенцијата изрази и сериозна загриженост за таканаречената „дигитална голотија“ – употреба на АИ за отстранување или менување на облеката на фотографии со цел создавање лажни голи или сексуализирани слики од деца. Според УНИЦЕФ, во изминатата година најмалку 1,2 милиони деца во 11 земји откриле дека нивните фотографии биле манипулирани во сексуално експлицитни дипфејкови.

Како позитивен пример, Обединетото Кралство неодамна најави забрана за користење алатки со вештачка интелигенција за создавање материјали за сексуална злоупотреба на деца, со што стана првата земја во светот што воведува ваков закон.

Во последно време под лупа се најдоа и чет-ботови со можност за генерирање слики. Истрага на Ројтерс покажа дека чет-ботот Grok, развиен од xAI во сопственост на Илон Маск, продолжил да генерира сексуализирани слики и покрај предупредувањата за недостиг на согласност. Компанијата подоцна соопшти дека ги ограничила алатките за уредување и генерирање слики, во зависност од законите во одредени држави.