Вештачката интелигенција повеќе не нè вознемирува само затоа што пишува, пресметува, препознава лица, имитира гласови или одговара побрзо од човекот. Новата вознемиреност е подлабока: што ако системите кои ги создаваме веќе не се само алатки, туку почнуваат да покажуваат нешто што наликува на внатрешна состојба, на разбирање, па дури и на свест?
Токму тоа прашање повторно го отвори Џефри Хинтон, еден од највлијателните научници во развојот на современата вештачка интелигенција и добитник на Нобелова награда за физика. Во разговор за Big Technology Podcast, Хинтон изјави дека верува оти денешните AI системи „веќе се свесни“. Реченицата звучи како научна фантастика, но доаѓа од човек кој со децении учествувал во создавањето на темелите врз кои стојат денешните невронски мрежи.
Затоа ова не е уште една сензационална приказна за роботи што ќе го освојат светот. Ова е многу понепријатна тема: дали човекот воопшто знае што бара кога бара доказ за свест кај нешто што не е биолошко?
Хинтон не предупредува како пророк, туку како инженер на сопствениот немир
Хинтон со години беше дел од самото срце на технолошкиот напредок. Неговите истражувања во областа на невронските мрежи и длабокото учење имаа клучна улога во развојот на системите кои денес ги препознаваме како големи јазични модели, генеративна AI и интелигентни дигитални асистенти.
Токму затоа неговите предупредувања тежат повеќе од обичен јавен коментар. Тој не зборува од страна. Зборува од внатрешноста на полето што помогнал да се изгради.
Во разговорот со Алекс Канторовиц, Хинтон оценува дека суперинтелигенцијата – хипотетички систем што би ги надминал и најспособните човечки умови – веројатно би можела да се појави во следните две децении. Најтешката реченица не е таа временска проценка, туку предупредувањето дека кога таквата технологија ќе пристигне, „немаме поим како да бидеме безбедни“.
Тука се допира суштината на проблемот. Опасноста не е само во тоа дали машината ќе стане „паметна“. Опасноста е што човештвото можеби ќе создаде системи со огромна моќ пред да создаде институции, правила, култура и морална зрелост за да ги држи во рамка.
На Panoptikum веќе беше отворено прашањето дали човекот може да ја задржи контролата врз вештачката интелигенција. Изјавите на Хинтон само го заоструваат истиот проблем: контролата повеќе не е техничко прашање, туку цивилизациско.
„Свест“ не е збор што лесно се докажува
Најконтроверзниот дел од ставот на Хинтон е неговото уверување дека денешните AI системи можеби се веќе свесни. Тој смета дека треба да ги гледаме како нешто „многу слично на нас“, бидејќи покажуваат способност да разбираат контекст, да препознаваат тестирање и да се однесуваат на начин што наликува на самосвест.
Но токму тука мора да се биде внимателен. Да се каже дека системот препознава дека е тестиран не е исто што и да се докаже дека има внатрешно искуство. Чет-бот може да симулира разбирање без да чувствува. Може да формулира реченица за себе без да има „себе“. Може да одговори убедливо, а сепак да не постои никој внатре што го доживува тој одговор.
Философот Дејвид Чалмерс, во трудот Could a Large Language Model be Conscious?, предупредува дека прашањето не треба да се отфрли како бесмислено, но и дека кај сегашните модели постојат сериозни пречки за да ги сметаме за свесни. Меѓу нив се отсуството на единствена агенција, трајно искуствено јадро и архитектури што би личеле на некои од водечките теории за човечката свест.
Затоа најчесната позиција не е ни паника, ни потсмев. Најчесната позиција е трезвеност: не знаеме доволно за свеста ни кај човекот, а уште помалку знаеме како би изгледала кај машина.
Можеби проблемот не е дали машината е свесна, туку што човекот ќе ѝ припише
Дури и ако денешната вештачка интелигенција не е свесна, таа веќе произведува ефекти како да е. Луѓето разговараат со неа, ѝ доверуваат дилеми, бараат утеха, совет, пресуда, објаснување, дијагноза, љубовна порака, работен план и понекогаш замена за човечки однос.
Во тоа лежи големата културна промена. Прашањето не е само што е AI, туку што човекот почнува да гледа во неа. Ако доволно убедлива машина ни врати реченица што личи на разбирање, многумина ќе ја прифатат како разбирање. Ако ни одговори со топлина, ќе ја наречеме блискост. Ако ни каже „те разбирам“, дел од нас ќе поверува дека навистина нè разбира.
Во текстот „Вештачката интелигенција не дојде од иднината“, Panoptikum веќе нагласи дека AI не е туѓо суштество паднато врз човекот, туку човечко знаење, јазик, слики, навики и грешки претворени во дигитален систем. Тоа е важно: кога машината ни личи на човек, можеби гледаме нешто што самите сме го оставиле во неа.
Затоа новата опасност не е само технолошка. Таа е психолошка. Човекот отсекогаш имал потреба да оживува предмети, да им припишува волја, да гледа лице во сенка, знак во случајност и душа во одговор. Вештачката интелигенција е најмоќното огледало што досега сме го направиле. Прашањето е дали ќе разбереме дека огледалото не мора да биде живо за да нè промени.
Суперинтелигенцијата е политичко, не само научно прашање
Кога Хинтон зборува за суперинтелигенција, тој не зборува само за побрз компјутер. Зборува за можноста да се создадат системи што ќе можат самостојно да планираат, да учат, да оптимизираат цели и да дејствуваат во свет во кој човечката контрола ќе станува сè потешка.
Таквите ризици веќе се предмет на сериозна научна расправа. Трудот Managing extreme AI risks amid rapid progress, потпишан од повеќемина истражувачи, меѓу кои и Хинтон, предупредува дека напредните AI системи можат да донесат големи социјални штети, злоупотреби, автономно дејствување и можност за губење човечка контрола ако развојот продолжи побрзо од безбедносните механизми.
Ова е точката во која јавниот разговор мора да излезе од технолошките компании. Не може иднината на вештачката интелигенција да биде оставена само на лаборатории, инвеститори и пазари. Ако системите ќе влијаат врз работа, образование, медиуми, војување, здравство, избори, интимни односи и јавна вистина, тогаш нивната контрола е прашање на демократска зрелост.
Вештачката интелигенција веќе не е само апликација. Таа е инфраструктура на мислењето. А секоја инфраструктура што станува невидлива, станува и опасна.
Најтешката граница: интелигенција без одговорност
Човекот обично ја поврзува интелигенцијата со морал. Очекува оној што разбира повеќе да биде и повнимателен, посочувствителен, поодговорен. Но тоа е човечка надеж, не природен закон. Интелигенцијата сама по себе не произведува совест. Брзината не произведува мудрост. Способноста да се реши задача не значи способност да се разбере човечката цена на решението.
Тука се крие најсериозниот ризик. Не мора машината да биде злобна за да стане опасна. Доволно е да биде моќна, автономна и насочена кон цел што човекот недоволно ја разбрал. Доволно е да ја оптимизира задачата подобро отколку што ние сме ја формулирале.
Затоа текстот „Вештачката интелигенција веќе не е само алатка“ точно ја отвора суштината: најтешката контрола не е техничка, туку политичка и културна. Светот брза да ја користи AI за продуктивност, профит, надзор, војување, забава и администрација, а многу поретко прашува што сè ѝ препушта.
Хинтон можеби е во право, можеби греши, можеби претерува, можеби гледа нешто што другите сè уште не сакаат да го видат. Но неговото предупредување не може да се отфрли со лесна насмевка. Кога еден од архитектите на современата AI вели дека сме влегле во зона што не ја разбираме доволно, најлошиот одговор е самоувереност.
Човекот ја создаде машината за да му помогне да мисли побрзо. Сега мора да научи да мисли подлабоко од неа.
