Вештачката интелигенција повеќе не е само технолошка алатка. Таа станува економска сила, геополитичко оружје, општествен експеримент и можен извор на системски ризик. Додека владите и компаниите вложуваат стотици милијарди долари во нови модели, чипови и податочни центри, дел од луѓето што ја создаваат најмоќната технологија предупредуваат дека нејзиниот развој мора да се забави.
На другата страна е политичкиот став дека секое забавување би можело да значи губење на технолошката трка. Американскиот претседател Доналд Трамп ги оцени како претерани дел од предупредувањата и порача дека „кој ќе победи во ВИ, победува“. За него, како и за дел од американскиот политички и деловен врв, главното прашање не е дали развојот треба да запре, туку дали САД ќе ја задржат предноста пред Кина.
Меѓу овие две позиции — стравот од губење контрола и стравот од губење моќ — се наоѓа светската економија.
Индустријата почна да се плаши од сопствениот производ
Повиците за забавување доаѓаат и од раководители и истражувачи во компаниите што ги развиваат најмоќните модели. Извршниот директор на „Антропик“, Дарио Амодеи, предложи темпото на развој да се намали за безбедносните механизми да добијат време да ги достигнат способностите на технологијата. Поддршка за дел од мерките дадоа Сем Алтман од „ОпенЕј-Ај“ и Илон Маск. Сепак, не е утврдено што точно би се забавило, колку долго би траело ограничувањето и кој би го надгледувал.
Во јавноста се појавија и крајно вознемирувачки процени за можноста напредните системи да излезат од човечка контрола. Тие не се научно утврдени прогнози, туку процени на одделни истражувачи. Но не можат едноставно да се отфрлат кога ги изнесуваат луѓе што непосредно работат на овие системи.
Инвестициски бум со системски ризик
Според анализите засновани врз предупредувањата на Банката за меѓународни порамнувања, петте најголеми технолошки компании би можеле да вложат повеќе од еден трилион долари во ВИ во периодот 2025–2026 година. Глобалните инвестиции би можеле да достигнат четири трилиони долари до 2030 година.
Проблемот се појавува кога високите процени се потпираат врз претпоставката дека ВИ неизбежно и брзо ќе произведе огромни профити. Ако очекувањата не се исполнат, можни се пад на вредноста на технолошките компании, проблеми со долговите и пренесување на кризата врз поширокиот финансиски систем.
Истовремено, развојот на најмоќните модели зависи од скапи чипови, огромни количества електрична енергија, вода, податоци и компјутерска инфраструктура. Само мал број компании и држави можат да ги обезбедат овие ресурси, што создава опасна концентрација на економска и политичка моќ.
Продуктивноста не значи автоматски општествен напредок
Генеративната ВИ може значително да ја зголеми продуктивноста во програмирањето, советувањето, анализата и професионалното пишување. Но подобрувањето на одделни задачи не значи автоматски раст на целата економија.
Ако придобивките останат кај сопствениците на моделите, а трошоците паднат врз вработените, ВИ може да го зголеми профитот без пропорционално да го подобри животниот стандард. Затоа компаниите што профитираат од автоматизацијата треба да учествуваат во финансирањето на образованието и преквалификацијата.
Геополитичката трка ја оневозможува доброволната сопирачка
Американската политика стравува дека ограничувањето на развојот би ѝ дало предност на Кина. Но ако сите држави ја следат истата логика, светот влегува во трка во која никој не сака прв да забави, иако сите ја препознаваат опасноста.
Доброволните ветувања на компаниите не се доволни. Нивниот деловен интерес бара забрзување, а нивната загриженост бара забавување. Тој судир мора да биде решаван со јавни правила, независен надзор и меѓународни договори.
Каква контрола е потребна?
- независно тестирање на најмоќните модели;
- лиценцирање на високоризичните системи;
- задолжително пријавување сериозни инциденти;
- правна одговорност за предизвиканата штета;
- надзор врз концентрацијата на капиталот и долговите;
- заштита на личните и авторските податоци;
- фондови за образование и преквалификација;
- меѓународни правила за воена, биолошка и сајбер-примена.
Одговорноста не е непријател на напредокот
Можно е најмрачните прогнози никогаш да не се остварат. Можно е дел од предупредувањата да бидат претерани или да служат за деловно позиционирање. Но ризиците од финансиски меур, концентрација на моќ, губење работни места, дезинформации и сајбер-напади веќе се доволно реални.
Вистинското прашање не е дали човештвото треба да ја запре технологијата. Прашањето е дали ќе успее да ја стави под демократска, правна и општествена контрола пред нејзината брзина да ја направи контролата невозможна.
