Вештачката интелигенција одамна престана да биде само алатка што пишува текстови, создава слики, преведува, анализира податоци или помага во програмирањето. Нејзиниот забрзан развој отвора многу посериозно прашање: што ќе се случи кога системите способни да анализираат, планираат и дејствуваат ќе добијат сè поголема улога во области во кои една погрешна одлука може да има огромни последици?
Во јавната дебата одговорите често се движат меѓу две крајности. Од една страна е визијата за вештачката интелигенција како технологија што може суштински да ги промени медицината, науката, образованието, индустријата и продуктивноста. Од другата се предупредувањата за масовно исчезнување на работни места, автоматизиран киберкриминал, биолошки ризици, автономно оружје, воени ескалации, па дури и можност човештвото еден ден да ја изгуби контролата врз системите што самото ги создало.
Но овие опасности не се исти. Некои веќе постојат. Други се предмет на експерименти и симулации. Трети, иако сериозно се разгледуваат од дел од научната заедница, засега остануваат хипотетички.
Кога ВИ ја игра улогата на нуклеарна сила
Еден од највознемирувачките експерименти поврзани со ВИ се однесува на симулации на нуклеарни кризи.
Во истражување на King’s College London, големи јазични модели биле поставени во симулирани конфликти во кои требало да донесуваат одлуки како лидери на спротивставени држави. Во таквите експериментални сценарија моделите можеле да избираат меѓу дипломатски чекори, воени акции, закани и различни форми на нуклеарна ескалација. Резултатите покажале висока зачестеност на нуклеарно сигнализирање и ескалација во симулираните ситуации.
Oттука произлегуваат сензационалните наслови дека „четботовите речиси секогаш избирале нуклеарен напад“. Неопходно е внимателно толкување.
ВИ не „сака“ нуклеарна војна
Ваквите експерименти не докажуваат дека вештачката интелигенција има желба да започне војна. Денешните јазични модели немаат сопствени политички интереси, страв од смртта, човечка морална интуиција ниту лично чувство за последиците од уништувањето. Тие реагираат врз основа на поставените услови, дадените правила и моделите научени од огромни количества текстуални податоци.
А во тоа се крие предупредувањето. Ако еден ден таквите системи добијат значајна улога во воено планирање, разузнавачка анализа, процена на закани или стратешко советување, тогаш не е доволно тие само да бидат „интелигентни“. Мора да се знае како реагираат кога информациите се нецелосни, времето е ограничено, противникот е непредвидлив, а последиците од погрешна процена се катастрофални.
Опасниот фактор – временскиот притисок
Посебно интересен е ефектот на временскиот рок. Во симулациите се покажало дека систем кој во поотворени околности може да биде релативно воздржан, под силен временски притисок може да избере поагресивна стратегија. Тоа е значајно предупредување. Реалните воени кризи речиси никогаш не се одвиваат во идеални услови. Одлуките често се носат во минути, понекогаш со недоволни или противречни информации.
Ако ВИ стане советник во таков процес, прашањето веќе не е само дали правилно пресметува, туку дали нејзината логика на оптимизација е соодветна за човечки ситуации во кои претпазливоста понекогаш е поважна од „победата“.
Четботот денес не може сам да испука ракета
Меѓу експерименталната симулација и реалниот свет постои огромна разлика. Денешните комерцијални модели немаат автономна контрола над нуклеарните арсенали. Системите за нуклеарна команда имаат повеќеслојни институционални, технички и човечки механизми за авторизација. Затоа вистинското прашање не е дали некој четбот утре ќе „одлучи“ да започне нуклеарна војна.
Пореалистичниот ризик е посуптилен. Што ако ВИ произведе погрешна процена? Што ако човекот што треба да ја провери ѝ верува премногу? Што ако нема доволно време за дополнителна проверка? Машината во таков случај не мора формално да ја донесе последната одлука за да има огромно влијание врз неа.
Биологијата – истата технологија може да лекува и да наштети
Вториот голем ризик се биолошките науки. Вештачката интелигенција може да биде извонредно корисна за пребарување научна литература, анализа на протеини, идентификување молекули, развој на терапии и планирање сложени експерименти.
Овие способности имаат и двојна употреба. Истата технологија што може да му помогне на научник побрзо да развие лек, теоретски може да му помогне и на злонамерен актер подобро да разбере опасен биолошки процес. Компаниите што развиваат најмоќни модели веќе известуваат за откриени обиди нивните системи да бидат користени во ризични истражувачки и оперативни активности.
Проблемот станува уште покомплексен затоа што границата меѓу легитимно и опасно биолошко истражување не е секогаш јасна. Научна постапка што е неопходна за создавање вакцина може, во поинаков контекст и со друга намера, да има сосема поинаква примена.
Киберризикот е многу пореален од научната фантастика
Додека јавноста често дискутира за сценарија во кои некаква иднина суперинтелигенција го „презема светот“, многу понепосредна опасност е автоматизацијата на кибернападите. Современите системи можат да:
пишуваат и анализираат програмски код;
откриваат софтверски слабости;
автоматизираат обработка на големи количества информации;
генерираат убедливи пораки за измама;
помагаат во анализирање компјутерски системи;
координираат повеќечекорни дигитални задачи.
Истите способности што му помагаат на инженерот да открие безбедносен пропуст можат да му помогнат и на напаѓачот да го искористи. Затоа кибербезбедноста е една од областите каде што ризикот од ВИ веќе не е само теоретска расправа.
Моќна алатка во рацете на човекот
Ова води до една важна разлика. Во многу од сегашните ризични употреби човекот сè уште е иницијаторот. Човек ја избира целта. Човек бара информации. Човек ја користи ВИ како средство. Оттука произлегува едно од најважните прашања за следната фаза на развојот: што ќе се случи кога системите ќе добијат многу поголема автономија? Односно, кога нема само да одговараат на прашања, туку ќе можат самостојно да планираат, користат алатки, извршуваат задачи, донесуваат пододлуки и продолжуваат со работа без постојана човечка интервенција.
Што ако задачата на машината не е она што навистина сме го сакале? Ова е суштината на таканаречениот проблем на усогласување на ВИ со човечките цели и вредности.
Еден од најпознатите мисловни експерименти е таканаречениот „максимизатор на спојувалки“. Замислата е едноставна. На исклучително моќна машина ѝ се задава безопасна цел: да произведува што е можно повеќе спојувалки. Ако машината ја следи таа цел без добро разбирање на човечките вредности и ограничувања, во екстремната верзија на експериментот може да започне да ги користи сите достапни ресурси само за таа задача.
Поентата, се разбира, не се спојувалките. Поентата е дека една исклучително способна машина не мора да биде злобна за да стане опасна. Доволно е беспрекорно да извршува цел што човекот погрешно ја формулирал.
Денешната ВИ сè уште не е таква машина
Овде повторно е неопходна мерка. Денешните четботови немаат независна контрола над светската инфраструктура, економијата или ресурсите што ги претпоставуваат ваквите филозофски сценарија. Затоа не е оправдано сегашната генеративна ВИ автоматски да се претставува како систем што е на чекор од преземање на светот. Прашањето станува порелевантно со секој нов степен на автономија.
Колку повеќе на ВИ ѝ се овозможува да располага со компјутерски алатки, финансиски средства, роботски системи, инфраструктура и долготрајни автономни задачи, толку повеќе расте и значењето на безбедноста и контролата.
Бил Гејтс предупредува на турбулентна транзиција
Во расправата за иднината на ВИ Бил Гејтс предупредува дека ризиците не треба да се сведуваат единствено на апокалиптични сценарија. Според неговите оценки, преминот кон економија и општество во кои ВИ има централна улога може да биде еден од најтурбулентните технолошки периоди во современата историја.
Особено внимание се посветува на три области: пазарот на труд, можноста технологијата да се користи за нанесување штета и влијанието врз младите и човечките односи. Вештачката интелигенција веќе навлегува во правото, медицината, корисничките услуги, софтверското инженерство, финансиските услуги и производството.
Со развојот на роботиката автоматизацијата може да се прошири и на многу физички професии. Што ќе се случи со работните места? Тоа можеби ќе биде најнепосредното прашање за милиони луѓе.
Историјата покажува дека технолошките револуции создавале нови професии истовремено со исчезнувањето на старите. Брзината на развојот на ВИ создава нов проблем. Ако одредени професии исчезнуваат или фундаментално се менуваат побрзо отколку што луѓето можат да се преквалификуваат, тогаш дури и долгорочно позитивниот технолошки развој може да произведе сериозна краткорочна социјална нестабилност.
Особено чувствителни може да бидат младите кои влегуваат на пазарот на труд. Многу почетни позиции традиционално постоеле токму за човекот постепено да стекне искуство. Ако токму тие задачи најлесно се автоматизираат, се поставува прашањето како ќе изгледа почетокот на професионалната кариера во новата економија.
ВИ може истовремено да биде огромна придобивка
Сликата не е еднострано црна. Истата технологија може да помогне во развој на лекови, попрецизна медицинска дијагностика, персонализирано образование, предвидување природни катастрофи, развој на нови материјали, оптимизирање на енергетски системи и забрзување на научни откритија.
Затоа прашањето никогаш не било само дали ВИ е „добра“ или „лоша“. Таквата поделба е премногу едноставна. Вистинското прашање е кој ја контролира, за што се користи, какви ограничувања постојат и кој одговара кога нешто ќе тргне погрешно.
Паниката и самозадоволството се подеднакво опасни
Во дебатата за ВИ се создадоа два спротивставени табора. Едните предупредуваат дека човештвото создава технологија која еден ден може да стане неконтролирана. Другите сметаат дека таквите сценарија се претерано спекулативни и дека вниманието треба да биде насочено кон проблемите што веќе постојат: измами, дезинформации, нарушување на приватноста, концентрација на економска моќ, губење работни места и кибернапади. Можно е и двете групи да допираат различни делови од истиот проблем.
Нема убедлив доказ дека денешната ВИ е пред самостојно уништување на човештвото. Истовремено има сè повеќе причини да се сфати сериозно фактот дека системите стануваат помоќни, поавтономни и подостапни.
Не мора машината да стане непријател
Можеби најголемата заблуда е претпоставката дека ВИ мора да стане свесна, злобна или непријателски настроена за да биде опасна. Не мора. Грешка во моделот. Погрешна процена. Лошо дефинирана цел. Злонамерен корисник. Прекумерна човечка доверба во автоматизиран совет. Недоволно тестирана автономија.
Сите тие механизми можат да предизвикаат сериозна штета без никакво „машинско востание“.
Човекот мора да остане последната инстанца
Прашањето затоа не е дали треба да се запре развојот на вештачката интелигенција. Такво нешто веројатно ниту е реално, ниту би било нужно пожелно.
Прашањето е дали институциите, компаниите, научниците и државите можат да создадат правила што ќе се развиваат приближно со истата брзина како самата технологија. Во високоризичните области тоа значи строг надзор, независно тестирање, јасна одговорност, ограничување на автономијата и задржување на значајна човечка контрола. Особено кога станува збор за оружје, критична инфраструктура, биолошки истражувања и системи што можат да предизвикаат масовна штета.
Наместо „Ќе нè уништи ли ВИ?“ – поважно прашање
Прашањето „Може ли вештачката интелигенција да го уништи човештвото?“ е привлечен наслов, но самото прашање лесно ја претвора сложената тема во апокалиптичен спектакл. Многу поважно е нешто друго: колку моќ сме подготвени да ѝ дадеме на вештачката интелигенција пред да бидеме сигурни дека знаеме како да ја контролираме?
Историјата на технологијата покажува дека човекот честопати прво создава моќна алатка, а потоа ги создава правилата за нејзината употреба. Кај вештачката интелигенција цената на таквото доцнење може да биде многу поголема.
Технологијата не мора да стане непријател на човекот за да стане опасна. Доволно е човекот да ѝ даде премногу моќ, премногу брзо и со премалку контрола.
