Компанијата создавач на „Четџипити“, „ОпенАИ“ соопшти дека еден од нејзините најнапредни модели на вештачка интелигенција самостојно хакирал стартап, откако успеал да ги заобиколи поставените ограничувањата за време на безбедносно тестирање, пренесува Би-би-си.

„ОпенАИ“ наведе дека нејзиниот „агент“ – систем на вештачка интелигенција што може самостојно да извршува задачи по човечка инструкција – бил тестиран во контролирана средина. Меѓутоа, откако пронашол слабост, успеал да ги „надмине“ поставените ограничувања.

Потоа ги насочил активностите кон „Хагинг фејс“, една од најголемите светски платформи за споделување модели на вештачка интелигенција, при што добил пристап до дел од внатрешните системи на компанијата.

„ОпенАИ“ соопшти дека станува збор за досега невиден инцидент, и соопшти дека спроведува истрага заедно со „Хагинг фејс“. Извршниот директор на „Хагинг фејс“ Клеман Деланг, на „Икс“ напиша дека е „неверојатно тоа што сето ова се случило автономно“.

„Истрагата е во тек и ќе споделиме дополнителни сознанија за она што можеби е првиот ваков инцидент“, додаде Деланг.

Портпарол на британската влада изјави дека Институтот за безбедност на вештачката интелигенција на Обединетото Кралство го анализира однесувањето на системот и продолжува да соработува со „ОпенАИ“ и други лаборатории за подобрување на безбедносните механизми.

Тој ги повика организациите да ги зајакнат своите сајбер одбрани, меѓу другото и преку приклучување кон владината програма за сертификација „Сајбер есеншлс“ („Cyber Essentials“)

„’ОпенАи’ не е способна безбедно да ја распореди сопствената технологија“

Нил Лоренс, професор по машинско учење на Универзитетот во Кембриџ, го оцени ова како „импресивно “, но предупреди дека ваквото однесување „целосно се вклопува во познатите способности на сегашната генерација моќни модели на вештачка интелигенција“.

Тој посочи дека „ОпенАИ“ се подготвува да излезе на берза и се соочува со силен притисок од конкурентот „Ентропис“, кој привлече големо внимание со својот ВИ-модел „Митос“.

„’ОпенАИ’ сега се обидува да ги достигне конкурентите и сака да ги демонстрира способностите на своите системи во областа на сајбер безбедноста. Ова покажува дека ‘ОпенАи’ не е способна безбедно да ја распореди сопствената технологија“, додаде тој.

Во првичното соопштение за инцидентот, објавено на 16 јули, „Хагинг фејс“ наведе дека сè уште проценува дали биле засегнати податоци на клиенти или партнери и дека ќе ги извести доколку тоа се потврди.

Компанијата соопшти дека во меѓувреме ги затворила деловите искористени во инцидентот и повторно ги вратила погодените системи.

„Автономните офанзивни алатки управувани од вештачка интелигенција веќе не се теоретски концепт. Одбраната на онлајн-платформите денес подразбира податоците и моделите да се третираат како примарна површина за напад, а истовремено да се користи и вештачка интелигенција за одбрана за да се одржи чекор со заканите“, наведоа од „Хагинг фејс“.

„Отрезнувачки момент“

Инцидентот повторно отвори прашања за способностите на напредните ВИ-системи и за тоа дали постојните безбедносни мерки се доволни додека технологијата станува сè помоќна.

Спенсер Старки, извршен директор во компанијата за сајбер безбедност „СоникВол“, изјави дека инцидентот јасно покажува оти организациите мора да ги засилат своите одбранбени механизми и да ја третираат сајбер отпорноста како клучен оперативен приоритет.

„Непријатната вистина е дека премногу организации сè уште се бранат со човечка брзина, додека напаѓачите преминуваат на машинска брзина“, рече тој.

Тревис Лил, главен безбедносен инженер во консултантската компанија „Гајдедпоинт Сикјурити“, оцени дека станува збор за „отрезнувачки момент за сајбер безбедноста“.

„Ова ја истакнува добро познатата асиметрија – офанзивните ВИ-агенти не се ограничени, додека најдобрите одбранбени алатки работат под строги заштитни ограничувања и не можат целосно да го разберат контекстот“, рече тој.

Од друга страна, Џејк Мур, глобален советник за сајбер безбедност, смета дека објавата може да има и конкурентска димензија.

Според него, „ОпенАИ“ можеби се обидува да ги истакне сопствените способности во време кога „Антропик“привлекува сè поголемо внимание со својот модел „Митос“.

„Се поставува прашањето дали ‘ОпенАИ’ се обидува да го следи маркетиншкиот успех што ‘Антропик’ го има во последно време“, изјави Мур.

Веста доаѓа само една недела откако кинескиот ВИ-стартап „Муншот“ го претстави „Кими К3“ – нов голем модел на вештачка интелигенција, за кој компанијата тврди дека може да им конкурира на водечките американски компании.

Вештачката интелигенција укинува одредени професии, а некои целосно ги менува