Олга Лоиек си го видела своето лице како се појавува на различни видеа на кинеските социјални мрежи – резултат на лесни за употреба генеративни алатки за вештачка интелигенција достапни на интернет.

„Можев да си го видам лицето и да го слушнам мојот глас. Но, сето тоа беше многу морничаво, бидејќи се видов себеси како кажувам работи што никогаш не сум ги кажала“, вели 21-годишната девојка, студентка на Универзитетот во Пенсилванија.

Профилите со нејзиниот изглед имаа десетици различни имиња како Софија, Наташа, Ејприл и Стејси. Овие „девојки“ зборуваа на мандарински – јазик што Олга никогаш не го научила. Тие очигледно биле од Русија и зборувале за кинеско-руско пријателство или рекламирале руски производи, пишува Би-Би-Си.

„Видов дека 90% од видеата зборуваат за Кина и Русија, за пријателството меѓу Кина и Русија, дека треба да бидеме силни сојузници, како и реклами за храна“.

Една од најголемите провили бил под името „Наташа увезува храна“ со повеќе од 300.000 следбеници. „Наташа“ кажувала работи како „Русија е најдобрата земја. Тажно е што другите земји се оддалечуваат од Русија, а Русинките сакаат да дојдат во Кина“, пред да почне да промовира производи како руски бонбони.

Ова лично ја разбеснило Олга, чие семејство сè уште е во Украина. Но, на пошироко ниво, нејзиниот случај го привлече вниманието на опасностите од технологијата што се развива толку брзо што нејзиното регулирање и заштитата на луѓето станаа вистински предизвик.

Изгледите на вештачката интелигенција на Олга што зборуваат мандарински почнаа да се појавуваат во 2023 година – веднаш откако таа отвори канал на Јутуб кој не се ажурира многу редовно. Околу еден месец подоцна, таа почнала да добива пораки од луѓе кои тврделе дека ја виделе како зборува на мандарински на кинеските платформи за социјални медиуми.

Заинтригирана, таа почнала да се бара себеси и нашла сличности со вештачка интелигенција на Шиаохонгшу – платформа како Инстаграм – и Билибили, која е видео-страница слична на Јутуб.

„Имаше многу од нив. Некои имаа работи како руски знамиња во био“, рече Олга која досега пронашла околу 35 профили користејќи ја нејзината сличност.

Откако нејзиниот вереник твитнал за овие профили, Хејген, фирма за која таа тврди дека ја развила алатката што се користи за создавање сличности со вештачка интелигенција, одговорила. Тие открија дека повеќе од 4.900 видеа се генерирани со нејзиното лице. Тие рекоа дека ја блокирале нејзината слика повеќе да не се користи.

Портпаролот на компанијата изјави за Би-Би-Си дека нивниот систем бил хакиран за да се создаде, како што ја нарекоа, „неовластена содржина“ и додаде дека тие веднаш ги ажурирале своите безбедносни и верифицирани протоколи за да спречат понатамошна злоупотреба на нивната платформа. Но, Ангела Џанг, од Универзитетот во Хонг Конг, вели дека она што се случи со Олга е „многу вообичаено во Кина“.

Земјата е „дом на огромна подземна економија специјализирана за фалсификување, злоупотреба на лични податоци и производство на фалсификат“, рече таа.

Ова е и покрај тоа што Кина е една од првите земји што се обиде да ја регулира вештачката интелигенција и за што може да се користи. Дури и го измени својот граѓански законик за да ги заштити правата за сличност од дигитална изработка.

Статистиките објавени од одделот за јавна безбедност во 2023 година покажуваат дека властите уапсиле 515 лица за активности „замена на лица со вештачка интелигенција“. Кинеските судови, исто така, воделе случаи во оваа област.

Но, тогаш како толку многу видеа на Олга се појавија на интернет?

Една од причините може да биде затоа што тие ја промовираа идејата за пријателство меѓу Кина и Русија.

Пекинг и Москва значително се зближија во последните години. Кинескиот лидер Си Џинпинг и рускиот претседател Путин изјавија дека пријателството меѓу двете земји „нема граници“. Двајцата треба да се сретнат во Кина оваа недела.

Кинеските државни медиуми ги повторуваат руските наративи кои ја оправдуваат нејзината инвазија на Украина, а социјалните мрежи ја цензурираат дискусијата за војната.

„Не е јасно дали овие профили се координирале под колективна цел, но промовирањето порака што е во согласност со владината пропаганда дефинитивно им користи“, рече Еми Хајн, истражувач за право и технологија од Универзитетот во Болоња и КУ Левен.

Но, тоа значи дека обичните луѓе како Олга остануваат ранливи и се изложени на ризик да се прекршат со кинескиот закон, предупредуваат експертите.

„Иако прописите за книгите изгледаат строги, постојат докази за селективно спроведување, особено за генеративното правило за лиценцирање вештачка интелигенција, кое може да има за цел да создаде средина попријателска за иновациите, со премолчено разбирање дека законот обезбедува основа за сузбивање ако е потребно“, вели Хајн.

Но, последиците од случајот на Олга се протегаат многу подалеку од Кина – тоа ја демонстрира тешкотијата во обидот да се регулира индустријата која се чини дека се развива со голема брзина и каде регулаторите постојано се задоволуваат. Но, тоа не значи дека тие не се обидуваат.

Во март, Европскиот парламент го одобри Законот за вештачка интелигенција, првата сеопфатна рамка во светот за ограничување на ризиците од технологијата. И минатиот октомври, американскиот претседател Џо Бајден објави извршна наредба со која се бара од развивачите на вештачка интелигенција да споделуваат податоци со владата.

Олга е „100% сигурна“ дека нема да биде последната жртва на генеративната вештачка интелигенција. Но, таа е решена да не дозволи тоа да ја брка од интернетот.

Таа ги сподели своите искуства на нејзиниот канал на Јутјуб и вели дека некои кинески онлајн корисници и помагале со тоа што коментирале под видеата користејќи ја нејзината сличност и истакнувајќи дека се лажни. Таа додава дека многу од овие видеа сега се отстранети.