Индонезија и Малезија станаа првите држави во светот што го забранија пристапот до „Грок“ на Илон Маск, откако четботот беше користен за создавање сексуално експлицитни и неовластени слики, објави „Дојче веле“.

Индонезиските регулатори привремено го блокираа ботот во саботата, а Малезија го следеше примерот во неделата.

„Грок“, кој е достапен преку платформата Икс (поранешен Твитер), предизвика глобален револт откако беше користен за генерирање слики од жени во сексуално експлицитни пози и во бикини, без нивна согласност.

Некои од сликите вклучувале и деца.

„Владата ги смета неовластените сексуални дипфејкови за сериозно кршење на човековите права, достоинството и на безбедноста на граѓаните во дигиталниот простор,“ изјави индонезиската министерка за комуникации и дигитални прашања, Меутија Хафид, во соопштение во саботата.

Малезиската Комисија за комуникации и мултимедија (MCMC) во неделата соопшти дека го блокира пристапот до „Грок“ откако тој повеќепати бил користен „за генерирање непристојни, сексуално експлицитни, навредливи и неовластено манипулирани слики, вклучително и содржини со жени и малолетници“.

MCMC соопшти дека стапила во контакт со „Икс“ на Маск и со „Икс АИ“ – компанијата зад „Грок“ – барајќи воведување ефикасни заштитни механизми.

Според Комисијата, добиените одговори не го адресирале соодветно ризикот што го претставуваат алатките со вештачка интелигенција, туку се повикувале на механизми за пријавување од страна на корисниците.

Тинејџерки од Шпанија добиле голи слики од нив креирани од ВИ, јавноста згрозена

„MCMC смета дека ова е недоволно за спречување штета или за обезбедување усогласеност со законот“, се наведува во соопштението.

Комисијата додаде дека ВИ-ботот ќе остане блокиран сè додека не бидат воведени ефикасни заштитни мерки.

Што е чатботот „Грок“ на Илон Маск?

„Грок“ е само еден од учесниците во трката за вештачка интелигенција, во која се вклучени и производи од компании како „Гугл“ и „Мајкрософт“.

ВИ-алатките постојано отвораат прашања за недоволна регулација, при што регулаторите тешко успеваат да ги следат брзите технолошки напредоци. Во некои случаи, тие дури се соочуваат и со директни повици да ја ограничат регулацијата – како што е случајот во САД за време на администрацијата на Трамп.

Маск, кој важи за близок сојузник на претседателот Трамп, го лансираше „Грок“ во 2023 година, со бесплатен пристап за корисниците на „Икс“.

Во летото 2025 година, компанијата ја претстави функцијата „Грок имеџин“ за генерирање слики, со т.н. „зачинет режим“ („spicy mode“), кој дозволуваше создавање содржини за возрасни.

Жалби за генерирањето слики од „Грок“ пристигнаа од Европската Унија, Обединетото Кралство, Индија и од Франција. Како одговор, функцијата за генерирање слики беше ограничена само на корисници на „Икс“ што плаќаат, но критичарите велат дека тоа малку придонело за решавање на проблемот.

Мрежата „Икс“ на Илон Маск под истрага: Алатката „Грок“ креира непристојни фотографии од жени и деца