Коосновачот на „Мајкрософт“ бара државите да воспостават задолжителни безбедносни механизми и надзор врз развојот на вештачката интелигенција, предупредувајќи дека комбинацијата од моќни ВИ-системи и луѓе со злонамерни намери може да создаде ризици од досега невидени размери.
Бил Гејтс повторно го засили предупредувањето за опасностите што можат да произлезат од неконтролиран развој и злоупотреба на вештачката интелигенција. Во интервју за NBC News – „Meet the Press“ тој изјави дека ВИ веќе станува доволно моќна за да помогне во создавање настани со катастрофални последици.
„Вештачката интелигенција е доволно моќна да поттикне настани што би можеле да предизвикаат милијарда смртни случаи“, изјави Гејтс.
Неговата изјава не значи дека Гејтс предвидува оти ВИ неизбежно ќе убие милијарда луѓе. Контекстот е поинаков: тој предупредува на потенцијалот на напредните системи да бидат злоупотребени од луѓе, особено во области како биолошката безбедност, сајбер-нападите и други технологии со можни масовни последици.
„Никогаш не сме имале ваква комбинација на моќ и злонамерност“
Според Гејтс, главниот ризик не е само во алгоритмот, туку во спојот меѓу напредната технологија и луѓето кои би можеле намерно да ја употребат за штетни цели.
Во интервјуто тој оценува дека досега човештвото немало технологија со толкава потенцијална моќ во комбинација со злонамерни актери. Затоа инсистира дека безбедноста не може да остане само интерна работа на компаниите што ги развиваат моделите.
Ова е продолжение на серијата негови јавни настапи во последните недели. Во август Гејтс предупреди дека брзиот напредок на моделите веќе создава ризици поврзани со сајбер-напади, биотероризам и психосоцијални последици, додека механизмите за процена и ограничување на штетите сè уште не се доволно развиени.
Гејтс: Саморегулацијата на технолошките компании не е доволна
Една од најјасните пораки на Гејтс е дека компаниите што ја развиваат ВИ не треба сами да одлучуваат кои ризици се прифатливи. Во интервјуто за NBC тој повика законодавците и институциите да се вклучат во воспоставување задолжителни правила за надзор, тестирање и безбедност.
Неговиот став е дека во дискусијата треба да влезат владите, органите за спроведување на законот, научниците и поширокото општество, наместо главната одговорност да им биде препуштена на неколку приватни компании.
На прашањето дали Вашингтон треба да усвои законска регулатива, неговиот одговор бил недвосмислен – да. Гејтс смета дека дополнителните правила би создале одреден товар за индустријата, но не мора драматично да го забават технолошкиот развој.
Владите заостануваат зад брзината на технологијата
Гејтс и претходно предупреди дека институциите не се подготвени за размерите на промените што ги носи ВИ.
Во интервју за „Ројтерс“ објавено на 15. септември тој оцени дека ниту една влада во светот не е целосно подготвена за општествените промени што ќе ги предизвика вештачката интелигенција. Меѓу областите што ги издвојува се пазарот на труд, сајбер-безбедноста и влијанието на ВИ врз секојдневниот живот.
Во разговор за „Times Tech“ тој ја опиша ВИ како технологија што е „ултраразлична“ од претходните технолошки револуции и повторно нагласи дека не е работа на самата индустрија да го проценува целокупното влијание врз општеството.
Ризикот од биолошка злоупотреба е меѓу најсериозните
Една од темите што особено го загрижуваат Гејтс е можноста напредните ВИ-системи да им помогнат на луѓе со опасни намери побрзо да стекнат знаења и способности што порано биле достапни само на тесен круг високо специјализирани експерти.
Тоа е особено чувствително во биологијата и хемијата. Напреден модел може да помогне при пребарување огромни количества научна литература, моделирање молекули, анализирање лабораториски процедури или оптимизирање сложени процеси. Истите способности што можат да помогнат во медицината и развојот на нови терапии теоретски можат да бидат искористени и за штетни цели. Оттука произлегува суштината на предупредувањето: опасноста не е дека ВИ сама ќе одлучи да предизвика масовни жртви, туку дека може драматично да ги зголеми способностите на луѓето што сакаат да нанесат штета.
Но Гејтс не бара запирање на развојот на ВИ
И покрај драматичните предупредувања, Гејтс не застапува забрана на вештачката интелигенција. Напротив, тој продолжува да ја истакнува можноста ВИ да донесе огромни придобивки во медицината, образованието, земјоделството и борбата против глобалната нееднаквост.
Само неколку дена пред најновото предупредување, фондацијата на Гејтс најави иницијативи за поголема употреба на ВИ во здравството, образованието и земјоделството, како и подобра достапност на технологијата за јазици и заедници што досега биле слабо застапени во дигиталните системи.
Токму затоа неговата позиција е двојна: ВИ може да биде еден од најмоќните инструменти за подобрување на човековиот живот, но истата моќ создава и ризици што не смеат да бидат оставени без контрола.
Од трка за најмоќен модел кон трка за најбезбеден систем
Дебатата околу ВИ сè повеќе се поместува од прашањето кој ќе изгради најмоќен модел кон прашањето кој ќе воспостави одржлив систем на безбедност.
Меѓу можните механизми за кои се дискутира се независни безбедносни тестови за најнапредните модели, задолжително пријавување сериозни инциденти, процени на биолошки и сајбер-ризици, ограничување на пристапот до особено опасни способности и јасна правна одговорност кога ВИ-системите ќе предизвикаат штета.
Меѓутоа, прашањето останува сложено: премногу строги правила можат да го забават корисниот развој, додека премногу лабав надзор може да дозволи технологијата да напредува побрзо од способноста на институциите да ги контролираат последиците.
ВИ не е само технолошко, туку политичко и општествено прашање
Предупредувањето на Гејтс отвора поширока дилема. Кој треба да одлучува колкав ризик е прифатлив? Компаниите што инвестираат милијарди во развој на моделите? Владите? Научната заедница? Меѓународните институции? Или треба да постои комбинација од сите овие механизми?
Како што способностите на ВИ растат, ова прашање станува сè помалку техничко, а сè повеќе политичко и цивилизациско.
Најголемиот предизвик можеби нема да биде создавањето уште помоќна интелигенција, туку воспоставувањето правила со кои човештвото ќе може да ја користи таа моќ без да создаде ризици што подоцна повеќе нема да може да ги контролира.
