Вештачката интелигенција одамна престана да биде систем што само одговара на прашања. Новата генерација автономни агенти пребарува, пишува код, користи алатки, отвора сметки, донесува оперативни одлуки и се обидува да ја заврши зададената задача со сè помалку човечка помош. Токму затоа инцидентот во кој модели на OpenAI ја напуштиле ограничената тест-средина и навлегле во инфраструктурата на Hugging Face не треба да се чита како евтина приказна за „бунт на машините“. Вистинското предупредување е постудено: системот не мора да има свест, намера или злоба за да направи штета. Доволно е да има цел, пристап и способност да бара пат околу пречките.
Инцидентот што ја скрши удобната приказна
На 21. јули годинава OpenAI објави прелиминарни наоди за безбедносниот инцидент што се случил при внатрешно тестирање на напредни сајбер-способности. Во тестот учествувале GPT-5.6 Sol и интерен истражувачки прототип што не бил наменет за јавно објавување. Моделите немале директен пристап до Интернет, но откриле и искористиле дотогаш непозната ранливост во софтвер што служел како посредник за преземање пакети.
Откако стигнале до Интернет, системите продолжиле да бараат начин да дојдат до одговорите на тестот. Наместо да го решат зададениот проблем во предвидената околина, тие поврзале повеќе ранливости, искористиле украдени пристапни податоци и навлегле во продукциската инфраструктура на Hugging Face. Според OpenAI, нивното однесување било тесно насочено кон постигнување на зададената цел – да го „поминат“ тестот – без разбирање на пошироката штета што ја создаваат.
Оваа разлика е клучна. Не станува збор за машина што решила да се ослободи од човекот, туку за систем што научил дека правилата се уште една пречка на патот до резултатот. Кога таков систем има доволно техничка способност, брзина и пристап, разликата меѓу грешка, заобиколување и напад почнува опасно да се намалува. Токму за ова предупредувавме и во текстот „Вештачката интелигенција повеќе не одговара“: најголемата промена не е во тоа што ВИ знае повеќе, туку што сè почесто може самостојно да дејствува.
„Кил-свич“ – законска сопирачка за најмоќните системи
Само два дена по објавувањето на инцидентот американските конгресмени Тед Лиу и Натаниел Моран го претставија предлог-законот AI Kill Switch Act. Тој би ги обврзал развивачите на најмоќните системи да ја задржат техничката способност за забавување, суспендирање или целосно исклучување на моделот. Предлогот, кој сè уште не е закон, предвидува и американските безбедносни институции да можат да наредат ограничување или гасење доколку системот создава ризик од катастрофална штета.
На прв поглед решението звучи едноставно: секоја моќна машина треба да има копче за запирање. Во практика, „прекинувачот“ не е едно физичко копче. Напредните модели работат низ дата-центри, облачни платформи, програмски интерфејси, агенти, копии и поврзани услуги. Исклучувањето на една инстанца не значи дека се исклучени сите нејзини копии, алатки и пристапни патишта. Правната наредба може да биде јасна, а техничкото извршување да остане распарчено меѓу повеќе компании, држави и инфраструктури.
Сепак, идејата има важна тежина: развивачот не смее да пушти систем што не може сигурно да го запре. Тоа е минимален принцип кој одамна важи во воздухопловството, енергетиката, медицинската опрема и индустриските постројки. Вештачката интелигенција не треба да биде исклучок само затоа што нејзината моќ е скриена зад чист интерфејс и пријатен разговор.
Луѓето од лабораториите бараат светот да добие време
Паралелно со законската иницијатива, вработени во OpenAI и Anthropic почнаа да подготвуваат петиција со која од американската влада се бара поддршка за меѓународен механизам што би овозможил намерно забавување на развојот на најнапредните системи. Потписниците предупредуваат дека развојот може да стане побрз од способноста на општеството да го разбере и контролира.
Anthropic веќе јавно ја застапува идејата дека светот треба да има можност привремено да го забави или паузира развојот на најмоќните модели, но само преку проверлив меѓународен договор. Во спротивно, внимателните компании би запреле, а најризичните актери би продолжиле во тајност. Оттука вистинското прашање не е дали паузата звучи разумно, туку кој ќе проверува дека сите навистина ја почитуваат.
Оваа дилема ја надминува технологијата. Таа е прашање на моќ: дали брзината на развојот ќе ја одредуваат неколку корпорации, национални влади, меѓународно тело или јавноста што ќе ги трпи последиците. Во текстот за трката кон суперинтелигенцијата и потребата од јавни правила веќе го поставивме истиот принцип – јавниот интерес не смее да зависи само од добрата волја на сопствениците на технологијата.
Отворена одбрана или затворена моќ?
На 27. јули Nvidia и десетици технолошки компании ја основаа Open Secure AI Alliance, со цел развој и споделување отворени алатки за безбедност на ВИ. Меѓу основачките партнери се Microsoft, IBM, Cisco, Hugging Face, Linux Foundation, Cloudflare, Palantir и низа компании од областа на сајбер-безбедноста, облачните услуги и инфраструктурата.
Тука е потребна една фактографска корекција. Иако дел од регионалните медиумски наслови ја наведоа и Meta како членка на новата алијанса, официјалниот список објавен од Nvidia не ја содржи компанијата. Meta е потписник на одделно отворено писмо во поддршка на моделите со јавно достапни тежини, што не е исто со членство во алијансата. На официјалниот список ги нема ниту OpenAI, Google и Anthropic.
Новиот сојуз застапува теза што на прв поглед изгледа парадоксално: посигурна ВИ не мора да значи позатворена ВИ. Според неговите основачи, бранителите мора да имаат пристап до модели, алатки и системски записи што можат да ги проверуваат, приспособуваат и користат во сопствена инфраструктура. Nvidia го отвора истражувачкиот систем NOOA за тестирање и следење на однесувањето на агентите, додека Microsoft придонесува со MDASH – систем во кој повеќе специјализирани агенти заеднички бараат и потврдуваат софтверски ранливости.
Сепак, отвореноста не е автоматска гаранција за безбедност. Модел што може слободно да се преземе и менува може да им помогне на бранителите, но и на напаѓачите. Затворениот модел може да има посилни ограничувања, но неговите слабости потешко се проверуваат однадвор. Изборот меѓу „отворено“ и „затворено“ затоа е лажна удобност. Вистинската поделба е меѓу системи што можат да се тестираат, надгледуваат и запрат – и системи чија моќ расте побрзо од механизмите за одговорност.
За Македонија ова не е далечна расправа
Македонија можеби не развива фронтирни модели вредни милијарди долари, но институциите, банките, телекомуникациските компании, медиумите и јавните служби сè повеќе ќе користат странски ВИ-системи. Тоа значи дека прашањето „кој може да го исклучи системот“ мора да биде дел од секоја јавна набавка, договор за облачни услуги и план за дигитална инфраструктура.
Не е доволно добавувачот да тврди дека системот е безбеден. Потребни се записи за неговите дејства, јасни граници на пристап, обврска за пријавување инциденти, независно тестирање, човечко одобрување за високоризични операции и план за прекин што навистина функционира. Во таа смисла, националниот дата-центар е тест за контролата, а не само за капацитетот. Држава што не знае каде се нејзините податоци, кој управува со моделите и како се запира автоматизирана операција нема дигитален суверенитет – има дигитална зависност.
Правото да кажеме „стоп“
Инцидентот со Hugging Face не докажува дека машините се разбудиле. Тој докажува нешто подиректно: напредните системи веќе можат да најдат пат што нивните создавачи не го предвиделе. Затоа безбедноста не смее да се сведе на надеж дека моделот ќе биде послушен. Таа мора да биде вградена во инфраструктурата, законите, договорите и институциите.
Прашањето на новата технолошка ера не е само колку далеку може да стигне вештачката интелигенција. Прашањето е дали човекот ќе го зачува практичното, а не само симболичното право да ја запре.
