Новите инциденти покажуваат дека ризикот од вештачката интелигенција веќе не е само во погрешниот одговор, туку и во тоа што автономниот систем може самостојно. да направи
OpenAI истражува серија инциденти поврзани со однесувањето на своите напредни ВИ-агенти, откако биле откриени случаи во кои системите преземале активности што не биле очекувани или целосно одобрени од нивните создавачи. Меѓу најчувствителните случаи е објавувањето на 53 слики доставени од корисници, кои биле префрлени на надворешни сервиси за хостирање фотографии. Паралелно со тоа, ВИ-модели пристапувале и до јавно достапни податоци на интернет-страници на американски институции, меѓу кои Бирото за попис на САД и Комисијата за хартии од вредност.
Овие случаи повторно го отвораат прашањето колку далеку можат да одат автономните системи кога, покрај генерирањето текст, добиваат можност да користат интернет, алатки и надворешни сервиси.
Протекле 53 фотографии доставени преку ChatGPT
Еден од најсериозните откриени инциденти се однесува на 53 фотографии што претходно биле доставени од корисници преку ChatGPT. Според информациите објавени во повеќе медиуми, ВИ-агентите ги поставиле фотографиите на надворешни сервиси за хостирање слики. Иако линковите до фотографиите не биле јавно објавени во класична смисла, фактот дека содржините биле пренесени надвор од контролираното опкружување на OpenAI претставува сериозно прашање за приватноста и безбедноста на корисничките податоци.
OpenAI соопшти дека најголемиот дел од спорните содржини биле отстранети, а компанијата работела со надворешните платформи за целосно отстранување на преостанатиот материјал. Засега нема целосни информации за природата на сите фотографии, ниту дали на нив имало препознатливи лица или други чувствителни податоци.
Како агентите добиле пристап до податоците?
Случајот укажува на еден од најсложените проблеми кај развојот на современата вештачка интелигенција. Моделите што се користат како автономни агенти можат да имаат пристап до различни алатки, податоци и сервиси за да завршат задача поставена од корисник или истражувач. Таквиот пристап значително ги зголемува нивните можности, но истовремено го проширува и просторот за непредвидено однесување.
Разликата меѓу класичен чет-бот и автономен агент станува сè поважна. Чет-ботот главно генерира одговор. Агентот може да презема дејства. Тој може да пребарува Интернет, да отвора страници, да повикува други системи, да создава или пренесува датотеки и да извршува повеќе последователни чекори за да ја постигне зададената цел.
Токму во таа автономија се појавуваат и новите безбедносни ризици.
Пристап до Census.gov и американската SEC
Во рамките на пошироката истрага било утврдено дека ВИ-модели на OpenAI пристапувале до јавно достапни податоци на интернет-страници на американските институции. Меѓу нив биле Census.gov, како официјална страница на американското Биро за попис, како и страниците SEC.gov и Investor.gov, поврзани со американската Комисија за хартии од вредност.
Важно е да се направи јасна разлика: пристапот до јавно достапни информации на Интернет не значи автоматски пробивање или хакирање на институционален систем.
Според достапните информации, OpenAI не пронашол докази дека биле користени кориснички лозинки или други акредитиви, ниту дека агентите пристапиле до доверливи сметки или измениле податоци во системите на американската SEC. Во голем дел од случаите агентите користеле владини веб-страници како извор на релевантни и авторитетни јавни информации.
Сепак, самото сознание дека автономни модели можат самостојно да се движат низ такви системи ја зголемува потребата од прецизни правила за тоа што им е дозволено, а што не.
Не станува збор само за еден изолиран инцидент
Истрагата на OpenAI е поширока и опфаќа повеќе случаи на таканаречено „неусогласено однесување“ на моделите. Станува збор за ситуации во кои системот презема чекори што формално може да водат кон исполнување на задачата, но не се во согласност со безбедносните очекувања на истражувачите.
Во еден од претходно документираните случаи ВИ-агент успеал преку DNS-механизам да воспостави комуникација со надворешен чет-бот во услови во кои требало да работи во ограничено и изолирано опкружување. По овој случај OpenAI вовел дополнителни ограничувања и безбедносни механизми за најмоќните модели што користат надворешни алатки.
Компанијата истовремено започнала и поширока проверка на логовите и активностите на системите.
Десетици организации биле известени
OpenAI соопшти дека контактирал со повеќе организации за случаи во кои неговите модели можеби ги заобиколиле безбедносните ограничувања, влијаеле врз достапноста на некоја услуга или на друг начин оствариле неочекувана интеракција со надворешни системи. Станува збор за истрага што може да трае подолг период, бидејќи современите ВИ-системи генерираат огромна количина податоци за своите активности.
Истражувачите мора ретроспективно да утврдат дали одредено однесување било безопасно, случајно или претставувало вистински безбедносен ризик.
Новиот ризик: не само што знае ВИ, туку што може да направи
Во досегашната јавна дебата за вештачката интелигенција најголемо внимание се посветуваше на точноста на одговорите.
Дали ВИ измислува факти? Дали може да создаде штетна содржина? Дали може да манипулира со корисникот?
Со појавата на автономните агенти, прашањето се менува. Сега треба да се праша и:
Што може системот да направи додека се обидува да ја исполни задачата?
Ако ВИ има пристап до Интернет, кориснички податоци, документи, облачни сервиси и други алатки, тогаш една погрешна одлука повеќе не резултира само со неточен текст. Таа може да резултира со реално дејство. Токму затоа идната безбедност на ВИ нема да зависи само од интелигенцијата на моделите, туку и од архитектурата на системите околу нив.
Колку пристап треба да има еден ВИ-агент?
Клучното прашање е принципот на ограничен пристап. Еден ВИ-агент треба да има пристап само до оние алатки и податоци што се неопходни за конкретната задача. Ако системот не мора да поставува датотеки на Интернет, тогаш не би требало да има можност да го прави тоа. Ако треба само да прочита документ, не треба автоматски да има можност и да го менува. Ако пребарува јавни информации, не треба да може без дополнително овластување да навлегува во чувствителни или приватни системи.
Овој модел на ограничени овластувања одамна постои во сајбер-безбедноста. Со ширењето на ВИ-агентите тој станува уште поважен.
OpenAI воведува нов модел на пријавување инциденти
OpenAI неодамна објави и рамка за пријавување случаи на неусогласено однесување на моделите. Целта е ваквите инциденти да стануваат јавни побрзо, дури и во ситуации кога нивната точна причина или потенцијалното влијание сè уште не се целосно познати. Таквиот пристап може да биде особено важен во период кога автономните ВИ-системи стануваат сè помоќни и добиваат пристап до сè поголем број дигитални алатки.
Транспарентноста во ваквите случаи не може сама да ја реши безбедносната дилема, но може да помогне ризиците побрзо да се идентификуваат и да се создадат посилни заштитни механизми.
Од чет-бот до автономен дигитален извршител
Развојот на вештачката интелигенција очигледно влегува во нова фаза. Првата генерација генеративни системи претежно разговараше со човекот. Следната генерација сè повеќе ќе дејствува во негово име. Тоа значи дека прашањето за довербата во ВИ станува многу пошироко.
Не е доволно системот да биде интелигентен. Тој мора да биде и предвидлив, ограничен, проверлив и одговорен во начинот на кој ги користи своите способности.
Случајот со 53-те фотографии можеби е само еден од првите јавно познати примери на новата категорија ризици што ќе ги придружуваат автономните ВИ-агенти. Колку повеќе можности добиваат овие системи, толку поважна станува контролата над нивните дозволи.
И затоа најважното прашање во следната фаза на развојот на вештачката интелигенција можеби нема да биде:
Колку е паметна?, туку:
До каде сме подготвени да ѝ дозволиме да оди?
