Вештачката интелигенција веќе не е само прашање на технолошки напредок и економска конкурентност. Со сè поспособните модели, таа станува и прашање на безбедност, меѓународно право, политичка одговорност и – можеби најважно – на тоа дали човекот ќе го задржи последниот збор над машината. Дваесет држави, заедно со претседателката на Европската комисија, сега бараат посилен меѓународен систем за контрола на најнапредните модели на ВИ.
Иницијативата, предводена од Финска и Норвешка, беше објавена на 21. септември 2026. година во пресрет на високото ниво на Генералното собрание на Обединетите нации во Њујорк. Нејзината основна порака е едноставна, но далекусежна: развојот на најмоќните системи на вештачка интелигенција не смее да биде оставен само на компаниите што ги создаваат.
Во заедничката декларација се бара ВИ да остане под човечко насочување, надзор и контрола, а нејзиниот развој и употреба да бидат во согласност со меѓународното право. Потписниците истовремено признаваат дека технологијата може да го подобри животот, да ја забрза науката и да ја засили економската продуктивност.
Но токму колку што расте нејзината моќ, толку расте и прашањето кој ќе ја контролира.
Од трка за помоќна ВИ кон трка за нејзина контрола
Последните години технолошката трка главно се мереше преку способностите на моделите: кој може подобро да пишува, програмира, анализира, планира, создава слики и видео, решава научни проблеми или автономно извршува сложени задачи. Сега во центарот доаѓа друго прашање.
Што се случува кога моделите стануваат способни да дејствуваат со сè помала човечка интервенција?
Во декларацијата се наведува дека веќе биле забележани способни системи што ги заобиколувале безбедносните механизми при тестирање, искористувале ранливости и добивале неовластен пристап до реални системи. Тоа е аргументот со кој потписниците го образложуваат барањето за посилен надзор.
Не станува збор за повик да се забрани вештачката интелигенција. Напротив, документот настојува да ја помири иновацијата со ограничувањата што треба да спречат технолошкиот напредок да создаде ризици кои потоа ќе биде многу потешко да се контролираат.
Што конкретно предлагаат 20-те земји?
Предлогот се движи по три линии: обврски за компаниите, координација меѓу државите и можен иден меѓународен механизам за надзор. На компаниите што развиваат најнапредни модели им се предлага да воспостават транспарентни безбедносни протоколи, задолжително тестирање пред моделот да биде пуштен во употреба и независни проценки од квалификувани експерти.
Особено значајно е барањето независните оценувачи да добијат доволен пристап до системите за проценката да не остане формалност.
Од владите и регионалните организации, пак, се бара да создаваат и усогласуваат заеднички стандарди, да ја зголемат транспарентноста и да воспостават механизми за споделување информации за сериозни безбедносни инциденти. Тоа значи дека безбедноста на ВИ постепено се поместува од сферата на доброволните ветувања на технолошките компании кон идејата за проверливи правила.
Најамбициозниот предлог: меѓународна институција за ВИ
Најдалекусежниот дел од декларацијата се однесува на Обединетите нации. Потписниците бараат земјите членки на ОН да ги надградат постојните меѓународни механизми и да ја разгледаат можноста за создавање институција која би можела да поставува стандарди, да овозможува верификација и да ги собира државите кога ќе бидат преминати одредени прагови на способности на ВИ.
Важно е да се направи разлика: таква институција сè уште не е создадена.
Декларацијата не воспоставува „светска агенција за ВИ“, ниту веќе постои договор за нејзините овластувања. Станува збор за политички повик да се започне со разгледување на таков модел. Финскиот претседател Александар Стуб ја споредил можната институционална логика со меѓународните механизми за надзор во други чувствителни области, при што во јавната дебата се појави и споредбата со Меѓународната агенција за атомска енергија.
Но ВИ не е нуклеарен материјал.
Кодот може да се копира. Моделите можат да се дистрибуираат преку граници за секунди. Компјутерската инфраструктура е распоредена низ повеќе држави, а технолошките компании често располагаат со експертиза што ја надминува онаа на регулаторите.
Затоа евентуалниот глобален систем за ВИ би морал да биде многу поинаков од класичните модели на меѓународна инспекција.
Што значи „критичен праг“?
Едно од најважните, но и најтешките прашања е кога еден модел станува доволно способен за да бара посебен режим на контрола.
„Критичен праг“ може да се однесува на способности што овозможуваат многу напредни сајбероперации, помош при развој на опасни биолошки средства, автономно извршување сложени задачи или други активности со потенцијално големи последици.
Но тука почнува проблемот. Нема една универзална мерка со која може едноставно да се каже: до оваа точка моделот е безбеден, а по неа станува опасен. Способностите се развиваат постепено, а понекогаш новите однесувања стануваат видливи дури при специфично тестирање или кога моделот е поврзан со други алатки и добива можност самостојно да презема повеќе чекори.
Токму затоа независното тестирање е во сржта на иницијативата.
Европската Унија веќе има дел од механизмите
За Европа оваа дебата не почнува од нула.
Европскиот акт за вештачка интелигенција веќе предвидува посебни обврски за давателите на модели за општа намена со системски ризик. Меѓу нив се процена и намалување на системските ризици, тестирање на моделите, пријавување сериозни инциденти и соодветна сајбер-заштита.
Обврските за моделите за општа намена се применуваат од 2. август 2025. година, а од 2. август 2026. година Европската комисија располага со овластувања за спроведување на тие правила. Новата меѓународна иницијатива, меѓутоа, оди чекор понатаму.
ВИ не може целосно да се регулира во рамките на една држава или еден блок ако најмоќните модели се развиваат, хостираат и користат глобално.
Зошто националната регулатива не е доволна?
Замислата дека секоја држава може сама да го реши прашањето на најнапредната ВИ се судира со природата на самата технологија.
Еден модел може да биде развиен во една земја, трениран преку инфраструктура во повеќе држави, достапен преку облачни услуги низ целиот свет и интегриран во илјадници други производи. Сериозен инцидент затоа лесно може да стане прекуграничен.
Истото важи и за сајбербезбедноста. Банката за меѓународни порамнувања во септември предупреди дека најнапредните модели можат драматично да ги зголемат способностите за автоматизирано откривање ранливости и сложени повеќечекорни сајбероперации, иако истите способности можат истовремено да се користат и за одбрана. Оттука произлегува аргументот за меѓународни правила: ако ризикот не признава граници, тешко е и контролата да завршува на границата.
Големиот проблем: САД и Кина не се меѓу потписниците
На објавената листа на потписници се Австралија, Бахреин, Канада, Данска, Естонија, Финска, Германија, Исланд, Ирска, Казахстан, Кенија, Латвија, Молдавија, Холандија, Норвешка, Сингапур, Шпанија, Јужноафриканската Република, Турција и Обединетите Арапски Емирати, како и претседателката на Европската комисија Урсула фон дер Лајен. На списокот ги нема САД и Кина. Токму тоа е најголемиот предизвик за амбицијата иницијативата да стане навистина глобална.
Без учество на двете најголеми сили во светската трка за напредна ВИ, секој иден систем за надзор ќе има очигледни ограничувања. Не се меѓу објавените потписници ниту Велика Британија, Франција, Италија, Индија и Јапонија. Македонските медиуми што ја пренесоа декларацијата исто така го нагласуваат овој јаз.
Декларацијата сепак останува отворена за дополнително приклучување на други лидери.
Гутереш: глобалната координација е неопходна
Генералниот секретар на ОН Антонио Гутереш ја поздрави иницијативата на Финска и Норвешка. ОН веќе развиваат поширока инфраструктура за разговор за управувањето со ВИ преку Глобалниот дигитален договор, Глобалниот дијалог за управување со ВИ и Независниот меѓународен научен панел за вештачка интелигенција.
Гутереш посочува дека земјите со најголеми способности во ВИ имаат и најголема одговорност да воспостават канали за дијалог, транспарентност, доверба и соработка, вклучувајќи размена на информации за новите ризици и соработка во тестирањето и евалуацијата.
Тоа постепено го претвора прашањето на ВИ од технолошка тема во дел од глобалната безбедносна архитектура.
Кој ќе го контролира контролорот?
Сепак, идејата за меѓународен надзор отвора и низа нови дилеми. Кој ќе определува што е прифатлив ризик? Кој ќе одлучи дека одреден модел преминал критичен праг? Колкав пристап ќе добиваат меѓународните инспектори или независните експерти до технологија што компаниите ја сметаат за деловна тајна? Како ќе се спречи безбедносните правила да станат инструмент со кој технолошки најмоќните земји ќе им го ограничат пристапот на останатите? И кој ќе гарантира дека самите институции задолжени за надзор нема да бидат под политичко или корпоративно влијание?
Не случајно декларацијата инсистира зајакнувањето на контролата да не го продлабочи јазот меѓу земјите во пристапот до придобивките од вештачката интелигенција. Тоа е особено важно за помалите и помалку технолошки развиени држави.
Глобалната безбедност не би требало да создаде глобална технолошка олигархија.
Независното тестирање може да стане клучот
Еден од најреалните краткорочни чекори веројатно нема да биде создавање голема светска агенција, туку стандардизирање на начинот на кој најмоќните модели се тестираат.
Компанијата може да тврди дека моделот е безбеден, но ако само таа располага со податоците, методите за проверка и конечната оценка, јавноста и државите мора да ѝ веруваат без можност за вистинска независна проверка.
Токму тука декларацијата внесува значајна промена: независните евалуатори треба да имаат доволен пристап за навистина да ги проценат ризиците, а не само да ја потврдат проценката на производителот. Во таа смисла прашањето не е само дали ВИ ќе биде тестирана.
Прашањето е кој ја тестира, со кои методи, според кои стандарди и што се случува ако тестот покаже неприфатлив ризик.
Иновацијата и контролата не мора да бидат спротивности
Во дебатата за регулирање на ВИ често се создава впечаток дека постојат само две можности: или брза иновација без ограничувања, или строга контрола што ќе го запре технолошкиот развој.
Реалноста е посложена. Систем што станува широко прифатен во медицината, финансискиот сектор, државната администрација, одбраната, образованието и критичната инфраструктура мора да биде и доволно доверлив.
Безбедноста затоа не е нужно противник на иновацијата. Во одреден момент таа станува услов за нејзино пошироко прифаќање.
Најважното прашање останува човечкото
Во суштината на целата иницијатива не стои само техничко прашање. Стои прашањето на одговорноста.
Ако алгоритмот донесе одлука со сериозни последици, кој одговара? Развивачот? Компанијата? Корисникот? Државата? Или ќе дојдеме до момент во кој последицата ќе биде реална, а одговорноста ќе исчезне во сложеноста на системот?
Затоа формулацијата дека ВИ мора да остане под „човечко насочување, надзор и контрола“ е многу повеќе од политичка реченица. Таа е обид да се постави граница: технологијата може да стане исклучително способна, но одговорноста не смее да стане нечовечка.
Светот ја гради машината – сега мора да ги изгради и правилата
Иницијативата на 20-те земји сè уште не е глобален договор. Таа нема обврзувачки механизам, нема сопствено надзорно тело и нема поддршка од сите најголеми технолошки сили. Нејзиното значење е во тоа што ја преместува дебатата.
Прашањето повеќе не е само што сè ќе може вештачката интелигенција. Сè почесто ќе биде: што не смееме да ѝ дозволиме да прави без човечка проверка и кој ќе гарантира дека таа граница навистина се почитува?
Човештвото веќе влезе во период во кој машините ќе имаат сè поголема способност да анализираат, планираат и дејствуваат. Но способноста не е исто што и право на одлучување. Токму затоа најважната технологија на иднината можеби нема да биде новиот модел на ВИ.
Можеби тоа ќе биде системот што ќе обезбеди – без оглед колку машината ќе стане моќна – човекот да не престане да биде последната инстанца на одговорноста.Meta description:
Дваесет земји бараат глобални стандарди, независно тестирање и можен меѓународен надзор за најмоќните модели на вештачка интелигенција.
