Кога Сем Харис во 2016 година на TED го постави прашањето дали можеме да изградиме вештачка интелигенција без да ја изгубиме контролата врз неа, тоа сè уште звучеше како далечна филозофска тревога. Денес, кога машините веќе пишуваат, советуваат, кодираат, препознаваат лица, симулираат гласови, водат разговори и стануваат дел од образованието, медицината, војската, економијата и интимниот живот, тоа прашање повеќе не е футуристичка вежба. Тоа е прашање на цивилизациска зрелост.
Во говорот „Can we build AI without losing control over it?“, Харис не се занимава со евтината слика за роботи што маршираат против човештвото. Неговата загриженост е постудена, потивка и затоа потешка: што ќе се случи ако создадеме системи што се поинтелигентни од нас, а нивните цели, макар и минимално, не се совпаѓаат со нашите?
Опасноста не е во омразата, туку во рамнодушноста
Една од најсилните идеи во овој TED говор е дека машината не мора да нè мрази за да стане опасна. Доволно е да биде моќна, ефикасна и насочена кон цел што човекот не ја разбрал, не ја ограничил или погрешно ја формулирал. Во таа смисла, ризикот од вештачката интелигенција не е холивудска побуна, туку судир меѓу човечката кршливост и машинската доследност.
Харис го отвора токму тоа место: човекот е навикнат да мисли дека интелигенцијата природно носи разбирање, сочувство и морална претпазливост. Но интелигенцијата сама по себе не е етика. Брзината на пресметка не е мудрост. Оптимизацијата не е одговорност. Машината може совршено да ја извршува задачата, а сепак катастрофално да ја промаши човечката смисла на задачата.
Оваа разлика е важна и за нашата секојдневна употреба на системи со вештачка интелигенција. Во архивата на Panoptikum за вештачка интелигенција веќе се гледа дека темата одамна не е само технолошка. Таа е психолошка, културна, работна, етичка и политичка. Машината не влегува во животот како еден уред повеќе, туку како нов посредник меѓу човекот и стварноста.
Кога алатката станува систем
Додека вештачката интелигенција ја гледаме како алатка, можеме да останеме релативно мирни. Алатката има рачка, граници и корисник. Но кога алатката станува систем што одлучува, препорачува, рангира, филтрира, оценува и влијае врз човечкото однесување, тогаш прашањето се менува. Не прашуваме веќе само дали системот работи, туку за кого работи, според чии вредности, со какви последици и со каква можност за исправка.
Затоа говорот на Харис денес звучи поактуелно отколку во времето кога беше објавен. Во 2016 година, јавноста сè уште ја гледаше вештачката интелигенција главно преку иднината. Во 2026 година, таа е дел од работното место, медиумот, училницата, бизнисот, терапевтскиот разговор, креативната индустрија и политичката комуникација. Panoptikum веќе пишуваше за зависноста од вештачка интелигенција, токму во онаа зона каде што алгоритмот престанува да биде сервис и почнува да личи на соговорник.
Контролата не е копче за исклучување
Наивно е да се мисли дека контролата врз вештачката интелигенција е само техничко прашање, како да се сведува на копче, лозинка или сервер. Контролата е прашање на дизајн, сопственост, регулација, јавен надзор, образованост, етика и политичка волја. Таа почнува многу порано од моментот кога системот ќе стане опасен.
Токму затоа денес се развиваат рамки како NIST AI Risk Management Framework, кои се обидуваат ризиците од вештачката интелигенција да ги направат видливи, мерливи и управливи. Европската Унија, пак, со AI Act веќе ја постави вештачката интелигенција во правна рамка што ги разликува системите според степенот на ризик. Ова не е бирократски детал, туку признание дека технологијата стана доволно моќна за да не може да биде оставена само на пазарната трка.
Но и најдобрата регулација доцни ако културата не разбира што се случува. Законот може да забрани, обврзе или казни. Тој потешко може да создаде мудрост. А токму мудроста е празното место во многу јавни разговори за вештачката интелигенција: сите зборуваат за можностите, помалку за зависноста, манипулацијата, загубата на внимание, слабеењето на човечкото расудување и новата концентрација на моќ.
Човекот мора да остане мера, а не пречка
Главната вредност на говорот на Сем Харис е во тоа што нè принудува да излеземе од технолошката фасцинација. Вештачката интелигенција може да помогне во медицина, наука, образование, преведување, истражување и секојдневна работа. Тоа не треба да се негира. Но секоја голема човечка придобивка станува опасна кога престануваме да прашуваме кој ја управува, кому му служи и што губиме додека добиваме удобност.
Во текстот „Вештачката интелигенција влезе во опасната фаза“, Panoptikum го допре токму прашањето на самостојното развивање, контролата и границата меѓу асистент и автономен систем. Тоа е истото јадро што Харис го отвора со филозофска строгост: ако создаваме нешто што ќе биде помоќно од нас, мораме однапред да знаеме не само што сакаме тоа да прави, туку и што никогаш не смееме да му дозволиме да стане.
Во спротивно, човекот ризикува да биде третиран не како непријател, туку како спореден фактор. А во светот на моќни системи, да бидеш спореден фактор понекогаш е поопасно отколку да бидеш противник.
Зошто ова видео вреди да се гледа денес
Овој говор не нуди лесна утеха. Не продава паника, но не продава ни оптимизам без покритие. Неговата сила е во тоа што ја поместува темата од прашањето „што може машината?“ кон прашањето „што знае човекот за себе додека ја создава машината?“
Ако човештвото не може да се договори околу вистината, јавниот интерес, приватноста, достоинството, работата, образованието и границите на профитот, тогаш вештачката интелигенција нема магично да ги реши тие слабости. Таа ќе ги зголеми. Ќе ги забрза. Ќе ги направи поефикасни.
Затоа прашањето на Харис не е само технолошко. Тоа е морално прашање за епоха во која човекот создава системи што можат да го надминат неговото знаење, но не смеат да ја надминат неговата одговорност. Вештачката интелигенција може да биде алатка на ново знаење. Може да биде и огледало на нашата незрелост. Разликата ќе зависи од тоа дали контролата ќе ја сфатиме навреме – не како страв од иднината, туку како обврска кон човекот.
