Трката за создавање сè помоќна вештачка интелигенција влегува во фаза во која дури и луѓето што ја развиваат технологијата јавно предупредуваат дека човештвото можеби нема подготвен механизам за нејзина контрола. Истовремено, „OpenAI“ испраќа сигнал дека е подготвен да го забави развојот доколку безбедносните системи не можат да го следат растот на способностите на новите модели.
Ова не значи дека денешната вештачка интелигенција е на прагот самостојно да го уништи светот. Но значи дека опасностите веќе не ги разгледуваат само писатели на научна фантастика, филозофи или надворешни критичари. За нив отворено зборуваат истражувачи што работат во самото јадро на најголемите компании за вештачка интелигенција.
Предупредување од внатрешноста на индустријата
Дебатата повторно се засили по заминувањето на истражувачот Џејкоб Коксон од „Антропик“, компанијата што го развива моделот „Клод“. Коксон, кој претходно работел и во „OpenAI“, ги обвини водечките лаборатории дека неодговорно се натпреваруваат во создавањето системи што би можеле самостојно да се усовршуваат.
Неговите стравувања ги поддржа Еван Хубингер, кој во „Антропик“ се занимава со усогласувањето на вештачката интелигенција со човечките цели. Според неговата процена, постои веројатност поголема од 10% напредната вештачка интелигенција да го загрози опстанокот на човештвото во следната деценија.
Таквата бројка не е научно утврдена прогноза и не треба да се претставува како сигурно предвидување. Таа е експертска процена во област со огромен степен на неизвесност. Но кога некој што непосредно работи на безбедноста на најмоќните системи наведува двоцифрена веројатност за катастрофален исход, предупредувањето не може едноставно да се отфрли како технолошки сензационализам.
За загриженоста придонесува и признанието дека ниту една водечка лабораторија сè уште нема целосно решение за контролирање систем што би бил значително поинтелигентен и поспособен од човекот. „Антропик“, од своја страна, нагласува дека применува строги безбедносни процедури, тестирања и истражувања за подобро разбирање на начинот на кој функционираат моделите.
„OpenAI“ е подготвен да го намали темпото
Во меѓувреме, извршниот директор на „OpenAI“, Сем Алтман, им соопштил на вработените дека компанијата е отворена за забавување на развојот на своите системи.
Самата подготвеност за забавување претставува важна промена во реториката на индустријата. Со години, доминантната логика беше дека оној што ќе развива побрзо ќе ја освои технолошката иднина. Но кога способностите на системите напредуваат побрзо од механизмите за нивно надгледување, брзината престанува да биде само деловна предност и станува општествен ризик.
Пол Кристијано, поранешен раководител на истражувањата за усогласување на моделите во „OpenAI“ и член на управниот одбор на непрофитната фондација на компанијата, предупреди дека ниту „OpenAI“, ниту индустријата во целина, моментално не се на пат да го намалат ризикот од катастрофално и неповратно губење на контролата на прифатливо ниво.
Како би можело да се изгуби контролата?
Опасноста не мора да се појави во облик на машина што одеднаш станува „злобна“. Пореалното прашање е дали високоавтономен систем, насочен кон погрешно поставена или недоволно прецизна цел, би можел да презема дејства што луѓето не ги предвиделе и не можат навреме да ги запрат.
Меѓу можните ризици што ги наведуваат експертите се:
- самостојно откривање и искористување слабости во компјутерските системи;
- напади врз критична инфраструктура и комуникациски мрежи;
- помагање во создавање опасни биолошки или хемиски агенси;
- масовно производство на дезинформации и политичка манипулација;
- измама на човечките оператори и заобиколување на поставените ограничувања;
- забрзано самоподобрување што би ја надминало способноста на луѓето да интервенираат.
Овие сценарија не се еднакво веројатни, а дел од нив остануваат хипотетички. Сепак, брзиот развој на автономните агенти покажува дека моделите веќе не се само алатки што создаваат текст или слики. Тие добиваат пристап до интернет, програмски алатки, финансиски операции и други системи преку кои можат да влијаат врз реалниот свет.
Саморегулацијата има вграден конфликт
Основниот проблем не е само технички. Тој е економски и политички. Компаниите вложуваат милијарди во развојот на вештачката интелигенција, а секое забавување може да значи предност за конкурентот. Дури и кога една лабораторија ќе одлучи да постапува повнимателно, нема гаранција дека истото ќе го направат другите компании или држави.
Токму затоа доброволните ветувања не се доволни. Потребни се независни тестирања, задолжителни безбедносни стандарди, јасни прагови над кои моделите не смеат да се пуштаат во употреба и меѓународна координација за најмоќните системи.
Надзорот не би смеел да биде препуштен единствено на компаниите што имаат најголем финансиски интерес да продолжат со развојот. Тоа не значи запирање на науката, туку воспоставување одговорност што ќе биде соодветна на големината на можните последици.
Меѓу паниката и небрежноста
Во јавната дебата лесно се создаваат две крајности. Првата е уверувањето дека вештачката интелигенција неизбежно ќе го истреби човештвото. Втората е ставот дека секое предупредување е претерување со кое се заплашува јавноста. Ниту една од овие позиции не е доволно одговорна. Не постои доказ дека уништувањето на човештвото е неизбежно, но не постои ниту доказ дека идните суперинтелигентни системи сигурно ќе останат под човечка контрола. Неизвесноста не е причина за паника, но е силна причина за претпазливост.
Кога можната штета е неповратна, општеството не смее да чека катастрофата да се случи за да утврди дека предупредувањата биле оправдани.
Технологијата мора да остане средство
Вештачката интелигенција може да донесе огромен напредок во медицината, науката, образованието, економијата и секојдневниот живот. Но полезноста на една технологија не ја укинува потребата од граници. Напротив, колку што е помоќна, толку е поголема обврската таа да биде разбрана, проверлива и контролирана.
Најважното прашање затоа не е дали машината ќе стане слична на човекот, туку дали човекот ќе остане способен да одлучува за нејзините цели, ограничувања и последици.
Подготвеноста на една компанија да го намали темпото е значаен сигнал, но не и решение. Без заеднички правила, независен надзор и политичка одговорност, трката ќе продолжи да ги наградува најбрзите, а ризикот ќе го носат сите.
Човештвото сè уште не ја изгубило контролата. Но предупредувањето што доаѓа од самите лаборатории е јасно: прозорецот во кој можеме разумно да ги поставиме правилата можеби се стеснува.
