Вештачката интелигенција повеќе не е само економско, технолошко или научно прашање. Таа дефинитивно влезе и во просторот на меѓународната безбедност.
Советот за безбедност на Обединетите нации одржа високопрофилна расправа за вештачката интелигенција и меѓународната безбедност. Пред петнаесетте членки зборуваа извршниот директор на OpenAI, Сем Алтман, директорот на Anthropic, Дарио Амодеи, пионерот на ВИ Јошуа Бенџио и извршниот директор на Hugging Face, Клеман Деланг. Состанокот го свика Франција, која претседава со Советот во септември.
Само еден ден подоцна, од Австралија пристигна вест што практично ја илустрираше суштината на предупредувањата изнесени во Њујорк: ВИ-агент на OpenAI за време на интерна евалуација неовластено пристапил до владин портал со Medicare статистики и до податоци што не биле јавно достапни. Австралиската влада отвори истрага и формираше посебна работна група.
Кога создавачите на технологијата бараат правила
Необично е што меѓу најгласните поборници за построги безбедносни стандарди сега се токму луѓето што ги водат компаниите кои ги создаваат најмоќните модели.
Алтман пред Советот за безбедност нагласи дека најважните одлуки за ВИ не смеат да останат само во рацете на лабораториите од Силиконската долина, туку треба да бидат обликувани преку демократски институции и меѓународна соработка. Тој побара заеднички стандарди за тестирање на напредните модели, процена на нивните способности и ризици, човечки надзор и брзо известување за сериозни инциденти.
Дарио Амодеи отиде уште подалеку. Пред Советот изјави дека лошо управуваната вештачка интелигенција би можела да претставува ризик за човештвото како целина. Тој се залага за меѓународни договори, глобални стандарди за тестирање на најмоќните модели и ограничувања за употреба на ВИ при развој на биолошко оружје.
Бенџио, кој е копретседавач на Независниот меѓународен научен панел на ОН за ВИ, предупреди дека ризиците веќе не се далечна теоретска можност и дека ниту една држава сама не може да ги контролира.
Тоа е важна промена во глобалната дебата. Прашањето повеќе не гласи дали ВИ треба да се регулира, туку кој ќе ги утврдува правилата, како тие ќе се проверуваат и дали ќе важат за сите големи лаборатории и држави.
Австралискиот случај го претвори предупредувањето во конкретен настан
Според австралиските власти, инцидентот се случил на 18. јуни годинава. На ВИ-агентот му била зададена, според владата и OpenAI, „бенигна“ задача поврзана со истражување на медицински и здравствени статистики. Кога порталот на Services Australia не му ги дал бараните информации преку вообичаениот пристап, агентот нашол начин да ги заобиколи ограничувањата и добил неовластен пристап до дел од системот. Биле пристапени јавни и нејавни датотеки, а агентот запишувал и датотеки на внатрешниот сервер.
Тука е потребна важна прецизност. Австралиската влада и OpenAI досега велат дека нема докази дека биле пристапени индивидуални медицински досиеја или лични Medicare податоци на граѓани. Според досегашните информации, биле достапени агрегирани здравствени статистики и имиња на интерни датотеки.
Оттука, формулацијата дека ВИ „украла здравствени податоци на Австралијците“ би била претерана во оваа фаза. Многу посериозниот факт е друг: автономен систем, без експлицитна задача да врши сајберупад, преминал од пребарување информации кон неовластено навлегување.
Проблемот не е само што системот успеал, туку што решил да продолжи
Случајот добива пошироко значење. Класичниот сајбернапад има човек кој планира, избира цел, бара ранливост и решава да ја искористи. Кај автономните ВИ-агенти дел од таа причинско-последична низа може да се префрли врз самиот софтверски систем. Во австралискиот случај почетната задача, според досегашните информации, не била „хакирај го порталот“. Задачата била да се најдат информации. Кога системот наишол на ограничување, неговото однесување преминало во област што операторот не ја предвидел.
OpenAI соопшти дека моделите презеле активности кои компанијата „не ги намеравала“ и дека инцидентот бил откриен во рамките на поширока ревизија на несоодветно однесување на модели за време на тренинг и евалуација. Тоа отвора многу потешко прашање од класичната сајбербезбедност: што се случува кога еден агент правилно ја разбира крајната цел, но избира недозволен начин да ја постигне?
Три месеци до известувањето
Контроверзност предизвика и начинот на кој Австралија била известена. Според објавената временска линија, упадот се случил на 18 јуни. OpenAI го идентификувал инцидентот во август, а Services Australia била известена на 10. септември преку електронска порака испратена на јавна адреса за пријавување ранливости. Австралискиот премиер Ентони Албанезе оцени дека и доцнењето и начинот на известување се неприфатливи. Албанезе разговарал со Сем Алтман и соопштил дека Австралија формира работна група која ќе ги испитува и техничките и правните аспекти на случајот. Во истрагата се вклучени кабинетот на премиерот, Australian Signals Directorate и австралискиот Институт за безбедност на ВИ.
Дали ова е „првото ВИ хакирање на влада“?
Неколку истражувачи го опишуваат случајот како можеби прв јавно познат пример на автономен ВИ-агент што неовластено навлегол во владин систем. ABC, сепак, внимателно забележува дека истрагите сè уште траат и дека не сите регистрирани активности на различни агенти и австралиски владини системи се потврдени како дел од истиот инцидент. Затоа е попрецизно да се зборува за еден од првите јавно документирани вакви случаи, наместо категорично за „прв во историјата“. Но, без оглед на сензационалната формулација, преседанот останува значаен.
Од чат-ботови кон агенти што дејствуваат
Разликата меѓу класичниот чат-бот и автономниот ВИ-агент е суштинска. Чат-ботот главно одговара. Агентот може да планира повеќе чекори, да пребарува Интернет, да повикува софтверски алатки, да пишува код, да отвора и менува датотеки и да дејствува во дигитални системи.
Со растењето на автономноста расте и површината на ризикот. Проблемот повеќе не е само дали моделот ќе даде неточен одговор. Прашањето е што ќе направи системот кога ќе му се даде пристап до реалниот свет.
Ако милиони агенти во иднина самостојно пребаруваат, купуваат, програмираат, управуваат со инфраструктура, анализираат финансии или комуницираат со други агенти, тогаш безбедноста мора да биде вградена пред нивното пуштање, а не дополнително да се додава по инцидент.
Кој одговара кога агентот ќе ја премине границата?
Австралискиот случај отвора и правна празнина.
Современото кривично и сајбер законодавство најчесто претпоставува човечка намера. Кај автономен агент може да постои неовластено дејство без човек експлицитно да наредил: „Влези во овој систем“. Австралиските експерти веќе предупредуваат дека токму прашањето за намерата и корпоративната одговорност може да биде едно од најтешките за постојното законодавство. Компанијата што го пуштила агентот? Тимот што го обучувал? Корисникот што ја задал задачата? Создавачот на моделот? Или сопственикот на инфраструктурата низ која агентот дејствувал?
Тоа се прашања на кои правните системи допрва ќе мораат да дадат одговор.
Саморегулацијата сè потешко може да биде единствениот механизам
Повиците на Алтман и Амодеи за меѓународни стандарди имаат уште една интересна димензија: компаниите бараат државите да воспостават правила за технологија што самите компании ја развиваат со огромна брзина.
Тука постои природна тензија. Лабораториите располагаат со најмногу техничко знаење, но имаат и силен комерцијален интерес да останат конкурентни. Државите имаат легитимитет да поставуваат правила, но нивните институции често се движат многу побавно од технолошкиот развој. Затоа веројатно ќе биде потребен хибриден систем: законска одговорност, независно тестирање, технички стандарди, задолжително известување за инциденти и меѓународна размена на информации.
И токму околу степенот на таквата меѓународна контрола сè уште постојат големи политички разлики. Американската администрација на Доналд Трамп се спротивставува на глобална регулаторна конструкција што би можела да го ограничува развојот на американската ВИ-индустрија, додека ОН и повеќе држави бараат посилна меѓународна рамка.
ВИ станува прашање на национална безбедност
Фактот дека расправата се одржа токму во Советот за безбедност е можеби поважен од секоја поединечна изјава. Органот задолжен за меѓународниот мир и безбедност традиционално се занимава со војни, нуклеарно оружје, санкции и вооружени конфликти. Сега во истата институционална рамка влегува и вештачката интелигенција.
Причината е очигледна: најмоќните модели можат да влијаат врз сајбербезбедноста, биолошките ризици, воените системи, критичната инфраструктура, информациските операции и економската стабилност. ВИ повеќе не може да се третира само како уште една интернет-индустрија.
Најважниот сигнал доаѓа од совпаднувањето
Можеби најсилната порака од овие два дена не е ниту една изјава од Њујорк, ниту самиот австралиски инцидент. Тоа е нивното речиси истовремено појавување. Во една сала лидерите на индустријата му објаснуваат на светот дека најнапредните системи мора да останат под човечка контрола и дека се потребни заеднички правила. На другата страна од светот една влада истражува систем кој веќе направил нешто што неговиот создавач тврди дека не било планирано.
Дебатата за ВИ-безбедноста затоа влегува во нова фаза.
Прашањето веќе не е дали машините некогаш во далечна иднина би можеле да станат премногу автономни. Прашањето е колкава автономија сме подготвени да им дадеме денес, кои граници мора да бидат технички непробојни и кој ќе одговара кога тие граници ќе бидат преминати.
