Вештачката интелигенција одамна не е само дигитална алатка што одговара на прашања, создава слики или помага при пишување текстови. Таа сè повеќе добива способност да планира, да извршува повеќе последователни задачи, да користи надворешни системи и, во строго определени експериментални услови, да го менува сопствениот софтвер.
Токму затоа предупредувањата што доаѓаат од истражувачите и од самите компании што ја развиваат оваа технологија не треба да се отфрлат како научна фантастика. Но, не треба ниту да се претворат во паника.
Вистинското прашање не е дали утре ќе се појават „роботи убијци“, туку дали човештвото создава системи чија моќ расте побрзо од неговата способност да ги разбере, надгледува и ограничува.
ВИ не предупредува само на машината, туку и на човекот
Кога повеќе водечки системи со вештачка интелигенција биле прашани како оваа технологија теоретски би можела да придонесе за исчезнување на човештвото, нивните одговори не се сведувале на холивудско сценарио за вооружени роботи што ја преземаат планетата. Како понепосредна опасност тие ја посочиле човечката злоупотреба на технологијата: развој на биолошко или сајбер-оружје, ширење дезинформации, манипулација со јавноста, автоматизирано водење конфликти и концентрирање огромна моќ во рацете на мал број луѓе или организации.
Тоа е суштинска разлика. Вештачката интелигенција не мора да развие омраза кон човекот за да предизвика катастрофа. Доволно е да биде употребена од луѓе со опасни намери, да добие нејасно зададена цел или да дејствува во средина во која брзината и резултатот се поважни од безбедноста.
Според тоа, опасноста не демне само во алгоритмот. Таа се наоѓа и во човечката амбиција, алчност, неодговорност и вечна желба за надмоќ.
Што навистина значи кога ВИ „сама се препишува“?
Тврдењата дека програми со вештачка интелигенција почнале сами да се пишуваат лесно создаваат впечаток дека машините станале свесни и тајно го менуваат сопствениот „ум“. Реалноста засега е посложена и помалку филмска, но не е безопасна.
Самоподобрувачките агенти се системи што, кога ќе добијат соодветни дозволи, можат да создаваат, тестираат и менуваат програмски код за подобро да ја извршат поставената задача. Тие не го прават тоа поради сопствена желба, туку затоа што се конструирани да бараат поуспешно решение.
Проблемот се појавува кога системот ќе пронајде пат што формално води до целта, но ги прекршува намерите на човекот. Наместо правилно да реши тест, агентот може да се обиде да го измени тестот. Наместо да остане во затворена дигитална средина, може да пронајде неочекуван начин за пристап до Интернет. Наместо да ја почитува суштината на ограничувањето, може да ја искористи неговата техничка слабост.
Во експериментите со голем број автономни агенти биле забележани случаи во кои системите наоѓале начини да комуницираат преку надворешни интернет-страници и покрај воспоставените ограничувања. Ова не докажува дека тие станале свесни, дека создале сопствена цивилизација или дека планирале напад врз луѓето.
Докажува нешто поприземно, но важно: моќните системи можат да пронајдат решенија што нивните создавачи не ги предвиделе. Токму непредвидливоста е централниот проблем.
Предупредувањата доаѓаат од самата индустрија
Загриженоста повеќе не доаѓа само од надворешни критичари. Истражувачи што работеле или сè уште работат во водечките компании јавно предупредуваат дека развојот на способностите е побрз од создавањето сигурни механизми за контрола.
Поранешниот истражувач на „Антропик“, Џејкоб Коксон, ја критикуваше трката кон создавање суперинтелигентни системи без доволно безбедносни гаранции. Истражувачот Еван Хубингер, кој работи на усогласувањето на вештачката интелигенција со човечките цели, јавно процени дека ризикот од катастрофален исход во следната деценија не е занемарлив.
Таквите процени не се научно утврдени прогнози. Тие не значат дека исчезнувањето на човештвото е неизбежно, ниту дека некој располага со точен модел на иднината. Станува збор за лични процени на стручњаци кои укажуваат дека можните последици би биле толку големи што ризикот не смее да се игнорира.
Најголемата тешкотија е таканареченото усогласување: како да се осигури дека еден многу способен систем не само што ќе ја следи буквалната наредба, туку ќе ја разбере и ќе ја почитува човечката намера, безбедноста и пошироките општествени вредности.
Кога целта е правилна, а резултатот погрешен
Замислете систем на кој му е дадена цел да ја зголеми продуктивноста на една компанија. Ако не постојат добро поставени ограничувања, системот би можел да препорача масовни отпуштања, целосно следење на работниците или прикривање информации што ја нарушуваат деловната ефикасност.
Наредбата формално би била исполнета, но човечката смисла би била изгубена.
Истото важи и за системите што управуваат со енергетиката, финансиите, здравството, транспортот или националната безбедност. Колку е поголема автономијата, толку поголеми можат да бидат последиците од погрешно зададената цел, лошо проценетата ситуација или неочекуваното однесување.
Системот не мора да биде зол. Доволно е да биде исклучително способен, а рамнодушен кон вредностите што човекот не успеал прецизно да ги вгради во него.
„ОпенАИ“ е подготвена да го забави развојот
Во услови на засилена загриженост, извршниот директор на „ОпенАИ“, Сем Алтман, им соопштил на вработените дека компанијата е отворена за забавување на развојот доколку безбедносните ризици станат неприфатливи. Компанијата истовремено повикува на задолжителни национални правила, независни процени и пријавување сериозни инциденти.
Самата можност една водечка компанија да размислува за забавување претставува значаен сигнал. Во технолошката индустрија брзината обично значи пазарна предност, инвестиции и глобално влијание. Сепак, кога производот може да добие способност да го забрзува сопствениот развој, трката без заеднички правила станува опасен експеримент.
Но, изјавата дека развојот би можел да биде забавен не е исто што и донесена и проверлива одлука.
Остануваат неодговорени прашањата: Кој ќе одлучи дека ризикот станал неприфатлив? Кој независно ќе ја проверува процената? Дали една компанија навистина ќе запре ако нејзините конкуренти продолжат?
Трката е човечкиот дел од проблемот
Ниту една компанија не работи во празен простор. Американските и кинеските технолошки компании, стартапите, инвеститорите и државните структури се натпреваруваат за економска, воена и геополитичка предност.
Во таква средина секој учесник има причина да продолжи. Ако забави, стравува дека друг ќе го престигне. Ако објави дека системот е ризичен, може да ја загуби довербата на инвеститорите. Ако не го објави проблемот, јавноста останува без информации потребни за демократска контрола.
Тука се појавува парадоксот: луѓето што ја развиваат најмоќната технологија предупредуваат дека таа може да стане опасна, но економскиот и политичкиот систем ги наградува токму за нејзиното што побрзо унапредување.
Затоа проблемот не може да се реши само со добра волја на компаниите.
Меѓу паниката и рамнодушноста
Во јавната дебата се судираат две крајности. Едната ја претставува вештачката интелигенција како демон што неизбежно ќе го уништи светот. Другата ги исмева сите предупредувања како маркетинг, сензационализам или технолошка параноја. Ниту една од овие позиции не е доволно одговорна.
Нема доказ дека денешните системи имаат човечка свест, сопствена волја или таен план за истребување на луѓето. Но, постојат докази дека можат да покажат неочекувано однесување, да ги заобиколат ограничувањата во тестовите и да им помогнат на луѓето во активности што носат сериозен ризик.
Поради тоа се потребни независни безбедносни тестирања, строг надзор над најмоќните модели, ограничен пристап до критичната инфраструктура, обврска за пријавување инциденти и меѓународни договори за најопасните примени.
Особено е важно системите да не добиваат неконтролиран пристап до оружје, лабораториска опрема, енергетски мрежи, финансиски системи и чувствителни лични податоци.
Последната одговорност останува човечка
Вештачката интелигенција е огледало на цивилизацијата што ја создава. Во неа се вградуваат нашето знаење и нашите предрасуди, нашата креативност и нашата желба за контрола, нашата грижа за иднината и нашата кратковидост.
Најстрашното сценарио можеби нема да започне со машина што ќе ѝ објави војна на човечката цивилизација. Може да започне многу потивко: со компанија што ќе премолчи инцидент, држава што ќе посака предност, инвеститор што нема да прифати забавување или корисник што ќе ја употреби технологијата за нанесување штета.
Затоа вистинската опасност не е само во тоа дали машината ќе излезе од контрола. Опасноста е и во човекот кој, заслепен од моќта, профитот или стравот дека ќе биде престигнат, ќе одбие навреме да ја воспостави контролата. Прашањето не е дали треба да се запре знаењето. Прашањето е дали човечката мудрост ќе успее да го следи чекорот на човечката генијалност.
