Предупредувањата веќе не се однесуваат само на некаква далечна иднина во која вештачката интелигенција би можела да излезе од човечка контрола. Во последните недели, технолошки лидери, влади и безбедносни институции сè почесто зборуваат за многу поблиски опасности – автономни сајбернапади, злоупотреба на напредни модели, биолошки ризици и концентрација на технолошка моќ во рацете на мал број компании.
Британската влада објави нов пакет инвестиции вреден повеќе од 600 милиони фунти за развој, безбедност и домашни капацитети во областа на ВИ. Само неколку дена претходно Бил Гејтс предупреди дека токму сајбернападите потпомогнати од ВИ може да бидат највидливата закана во следната година, додека Демис Хасабис и претседателот на Microsoft, Бред Смит, побараа безбедносните правила да почнат да го следат темпото на технологијата.
Оваа дебата не е далечна ниту за Македонија. Државата веќе има Стратегија за сајбер безбедност 2025-2028, воспоставен е MKD-GOV-CSIRT за одговор на инциденти во органите на извршната власт, а Министерството за внатрешни работи формираше сопствен безбедносен оперативен центар. Прашањето сега е дали тие капацитети ќе се развиваат доволно брзо за заканите што ВИ може дополнително да ги забрза.
Гејтс: најблиската опасност не е „бунт на машините“
Бил Гејтс прави важна разлика меѓу два вида ризик. Едниот е долгорочниот проблем – можноста идните системи да станат толку способни што човечката контрола ќе стане несигурна. Другиот е непосреден и многу попрактичен: злонамерни луѓе да ги користат денешните модели без нивните вообичаени заштитни ограничувања.
Во интервју објавено во октомври Гејтс оцени дека токму сајберпросторот е областа во која во наредната година може да се појават најмногу „негативни изненадувања“. Според него, комбинацијата од најнови модели, отстранети безбедносни механизми и злонамерни корисници создава ризик што повеќе не може да се третира како теоретска расправа.
Оваа разлика е суштинска. Најголемиот проблем во следните месеци можеби нема да биде автономна суперинтелигенција, туку обичен криминалец, организирана група или државен актер што ќе добие алатка способна побрзо да пронаоѓа слабости, да пишува злонамерен код, да автоматизира измами или да управува со повеќе фази од нападот.
Токму овој премин од систем што одговара на прашања кон систем што самостојно извршува задачи веќе го разгледувавме во текстот „Вештачката интелигенција повеќе не одговара – почнува да дејствува“. Со појавата на ВИ-агентите, безбедносниот проблем повеќе не завршува кај содржината што моделот ја генерира – туку кај постапките што може да ги преземе.
Хасабис: сегашните инциденти се рани предупредувања
Слична порака испрати и Демис Хасабис, коосновач и извршен директор на Google DeepMind. На меѓународниот самит за вештачка интелигенција во Даблин тој ги опиша неодамнешните хакерски инциденти поврзани со ВИ-агенти како рани предупредувања за она што може да следува.
Неговата теза не е дека сегашните системи веќе можат да предизвикаат катастрофи од огромни размери. Напротив – токму затоа што нивните способности сè уште имаат ограничувања, сегашните инциденти не се најтешкото сценарио. Проблемот е што способностите растат, а безбедносните практики не секогаш растат со иста брзина.
Хасабис побара ВИ-индустријата да усвои процедури што повеќе наликуваат на оние во биологијата, нуклеарната технологија и другите области каде што грешката може да има сериозни последици. Меѓу идеите е и меѓународен систем за стандарди и сертификација, приспособен на реалниот ризик на различните системи.
Тоа се совпаѓа со пошироката слика што веќе ја покажуваат процените за најтешките ризици од вештачката интелигенција: сајбернападите, опасните автономни способности и концентрацијата на моќ повеќе не се одделни теми. Тие почнуваат да се преклопуваат.
Microsoft бара законите да ја стигнат технологијата
Од истата конференција во Даблин дојде и необично директна порака од Бред Смит, претседател на Microsoft. Тој ја опиша 2026 година како отрезнувачка за безбедноста на ВИ и порача дека индустријата мора да престане да гледа на регулацијата како на автоматска пречка за иновациите.
Суштината на неговиот став е едноставна: ниту една технологија и ниту една компанија не треба да бидат над законот. Според Смит, потребни се разумни и приспособливи правила што нема да го блокираат развојот, но ќе воведат јасна одговорност кога системите можат да предизвикаат штета.
Тука дебатата почнува да се оддалечува од старото прашање „дали ВИ е опасна“ и се приближува кон многу поконкретно прашање: кој одговара кога опасноста ќе стане реална? Производителот на моделот, компанијата што го користи, корисникот, операторот на инфраструктурата или државата што дозволила негово распоредување без соодветни проверки?
Британија вложува стотици милиони во одбраната од ризиците
Британската влада на 24 октомври даде еден од најконкретните одговори на ова прашање. Според официјалниот владин пакет за ВИ, планирани се повеќе од 600 милиони фунти за безбедност, развој на домашни способности, истражување и примена.
Во безбедносниот дел се издвојуваат 165 милиони фунти за Националната иницијатива за биосигурност со ВИ, од кои 100 милиони се наменети за нова лабораторија за биосигурност. Уште 120 милиони фунти се предвидени за британскиот AI Security Institute, 60 милиони за национален кибернетички штит и 70 милиони за центар што со помош на ВИ ќе открива ранливости во критичната инфраструктура и економијата.
Новата AI Biosecurity Lab треба истовремено да ја користи вештачката интелигенција како средство за одбрана и да се занимава со ризиците што самата технологија ги создава. Владата најавува 100 милиони фунти директно финансирање, а OpenAI и Anthropic треба да обезбедат до 200 милиони фунти во модели, компјутерски ресурси и техничка поддршка.
Тоа е добар пример за двојната природа на технологијата. Истите способности што можат да помогнат некој побрзо да анализира биолошки податоци можат да помогнат и во откривање патогени, развој на вакцини и подготовка на медицински противмерки. Затоа современата расправа за ВИ не се сведува на избор меѓу „напредок“ и „забрана“. Прашањето е како да се развива технологијата додека истовремено се создава инфраструктура што ќе може да ги ограничи нејзините опасни примени.
Македонија: ризикот е конкретен кога дигиталната држава зависи од ранливи системи
За Македонија безбедносната тема има малку поинаква тежина од онаа во големите технолошки сили. Државата не развива сопствени модели од размерот на OpenAI, Google или Anthropic, но тоа не значи дека е надвор од ризикот. Напротив – зависноста од дигитални услуги, државни регистри, здравствени и финансиски системи, телекомуникации, енергетска инфраструктура и локална самоуправа ја прави сајберотпорноста практично прашање за функционирањето на државата.
Националната Стратегија за сајбер безбедност 2025-2028 токму затоа ја поставува заштитата на информациските системи, јавните услуги, институциите и економијата како национален приоритет. Документот посебно ја поврзува сајбербезбедноста со критичната инфраструктура, управувањето со ризици, меѓуинституционалната координација, кадрите и употребата на вештачка интелигенција во управувањето со сајберризици.
Од март 2026. година функционира и MKD-GOV-CSIRT, тимот за одговор на компјутерски инциденти за органите на извршната власт. Неговата надлежност ги опфаќа мрежите и информациските системи на Владата, министерствата, други органи на државната управа, општините и Град Скопје. Тимот има задача да врши рана детекција, анализа и координиран одговор на инциденти, да издава предупредувања и да соработува со националниот MKD-CIRT и други домашни и меѓународни безбедносни структури.
Во Министерството за внатрешни работи, пак, од 2025 година работи МВР-SOC – безбедносен оперативен центар со функции за следење, откривање и одговор на закани врз системите на Министерството. Тоа покажува дека институционалната архитектура почнува да се пополнува. Потешкиот дел допрва следува: доволно обучени луѓе, континуирано тестирање, размена на информации, јасни протоколи и способност брзо да се реагира кога нападот повеќе не го води човек чекор по чекор, туку автоматизиран систем.
ВИ тука може да го промени размерот на проблемот. Фишинг-пораки на природен македонски јазик можат да станат поубедливи, измамничките повици полесно да користат клониран глас, а напаѓачите побрзо да анализираат јавно достапни податоци и технички слабости. Малите општини, јавните претпријатија, училиштата, здравствените установи и компаниите со ограничени безбедносни тимови можат да бидат особено чувствителни, не затоа што се највредните цели, туку затоа што често немаат ресурси на ниво на големите системи.
За Македонија затоа предизвикот не е да влезе во трка за најмоќниот модел, туку да не дозволи дигитализацијата да напредува побрзо од нејзината заштита. Колку повеќе услуги, документи и процеси се префрлаат во дигитална средина, толку повеќе сајбербезбедноста престанува да биде задача само на ИТ-одделите. Таа станува услов за континуитет на јавните услуги, заштита на личните податоци и доверба во институциите.
Кој ја поседува ВИ станува политичко и општествено прашање
Британскиот министер за вештачка интелигенција Канишка Нарајан отвори уште една димензија. Неговата порака е дека државите не смеат да дозволат иднината на ВИ да биде определувана исклучиво од неколку технолошки центри на моќ. Британската влада затоа не зборува само за регулација, туку и за сопствени модели, чипови, истражувачки капацитети и инфраструктура.
Оттука, зборот „контрола“ има најмалку две значења. Првото е техничко – дали човекот може да спречи системот да направи нешто опасно. Второто е општествено – кој ги поседува моделите, инфраструктурата и податоците, кој ги определува правилата и кој има право да одлучува каде технологијата ќе биде применета.
На Panoptikum веќе го отворивме ова прашање во анализата „Вештачката интелигенција меѓу политичката моќ, големите пари и човечката контрола“. Новите британски мерки покажуваат дека темата повеќе не останува само во кругот на футуристички расправи – влегува во буџетите, институциите и националните стратегии.
Следната фаза нема да се мери само со тоа што ВИ може да направи
Во оваа серија предупредувања има една заедничка точка. Гејтс зборува за злоупотреба, Хасабис за недоволно обезбедени системи, Смит за правна одговорност, а владите сè повеќе за институции способни да реагираат. Никој од нив не тврди дека секоја апокалиптична прогноза ќе се оствари. Фокусот сè повеќе се префрла кон ризиците што може да се тестираат, следат и ограничуваат уште денес.
За Македонија тоа значи дека националната сајбербезбедност не може да се гради само со стратегии и нови институционални називи. Вистинскиот тест ќе биде дали системите ќе можат навреме да препознаат напад, дали институциите ќе разменуваат информации, дали критичните услуги ќе продолжат да функционираат и дали ќе има доволно обучени луѓе за одговор во средина во која ВИ им ја зголемува брзината и на бранителите и на напаѓачите.
Досега вниманието беше насочено кон тоа колку брзо моделите стануваат поспособни. Следната фаза ќе се мери и со друго: дали законите, институциите и безбедносните системи можат да станат доволно отпорни пред технологијата да им даде уште поголема предност на оние што сакаат да ги злоупотребат.










