Во јавната расправа за вештачката интелигенција сè поизразено се судираат две пораки: дека технологијата ќе отвори невидени можности и дека нејзината моќ може да стане опасна. Особено внимание заслужува тоа што двете пораки често доаѓаат од истите луѓе — предводниците на компаниите што ја развиваат.
Од граѓанинот се очекува истовремено да биде корисник, восхитен набљудувач и трпелив носител на ризикот. Да ја прифати технологијата како иднина, а неизвесноста како неизбежна цена. Токму затоа расправата треба да почне од прашањето за одговорноста: кој одлучува што е прифатлив ризик и кој ќе ги понесе последиците ако проценката биде погрешна?
Сем Алтман, извршниот директор на OpenAI, на конференцијата Dreamforce во Сан Франциско признал дека јавноста има основа да стравува од развојот на ВИ. Истовремено изразил уверување дека компаниите можат безбедно да ја развиваат технологијата и дека треба да ја добијат довербата на светот. Според извештајот што го пренесува Би-би-си, тој навел дека развојот би требало да забави или запре ако безбедноста не може да ги следи способностите на системите.
Признавањето на ризикот е неопходно. Но, довербата бара повеќе од уверување во добрите намери на раководителите. Таа бара проверливи постапки, јасни ограничувања и можност некој надвор од компанијата да каже: ова сè уште не е подготвено за употреба.
Колку е поголема најавената моќ на технологијата, толку помалку смее нејзината безбедност да зависи од личниот авторитет на нејзиниот промотор.
Никој не ја поседува „сета памет на светот“
Персонализацијата на технолошките пресврти создава привлечни приказни. Еден човек станува лице на една епоха, а сложениот труд на истражувачи, инженери, автори и институции се собира во неговото име.
Алтман во оваа расправа е симбол на корпоративна моќ и технолошка амбиција. Но претставата дека еден човек ја собрал светската памет ја замаглува колективната природа на знаењето. Зад секој голем технолошки систем стојат наталожени човечки откритија, јазици, методи и искуства.
Оттука произлегува суштинско општествено прашање: како заеднички создаваното знаење се претвора во услуга чии услови ги определува ограничен круг сопственици?
Не е спорно дека создавањето производ бара труд, вложување и организација. Спорно станува кога деловниот успех почнува да се толкува како овластување да се одредува правецот на целото општество. Способноста да се изгради моќна алатка не дава сама по себе демократски мандат за управување со нејзините општествени последици.
Закерберг и границите на независната проверка
Марк Закерберг застапува став дека компаниите имаат силни сопствени поттици да развиваат безбедни системи. Според Ројтерс, тој ги посочува конкуренцијата и можната одговорност за штета, а независните оценувања ги смета за добра практика. Навел и дека „Мета“ одложила објавување свој ВИ-агент поради безбедносни причини. Независната проверка има вредност само ако независноста е реална. Треба да се знае кој го избира проверувачот, кој го плаќа, до што има пристап и дали може да објави неповолен наод. Уште поважно е што се случува по таквиот наод.
Проверка што завршува со препорака која компанијата може едноставно да ја игнорира има ограничена заштитна сила. За сериозен надзор се потребни и последици: дополнително тестирање, ограничување на конкретна примена или одложување додека не се отстрани утврден проблем. Пазарните поттици можат да помогнат, но не треба однапред да се прогласат за доволни. Штетата може да погоди луѓе што никогаш не го купиле производот, не прифатиле услови за користење и немале можност да изберат дали ќе бидат изложени на него.
И забавувањето треба да биде подложно на надзор
Повикот за забавување на развојот исто така заслужува критичко испитување. Според Ројтерс, OpenAI разговара со Anthropic и Google DeepMind за соработка околу безбедноста. Агенцијата нагласува дека не ги потврдила независно сите детали од првичниот извештај. Таквата соработка може да биде корисна. Споделувањето сознанија за опасни пропусти би можело да спречи повторување на исти грешки. Но правилата што ги договараат најголемите компании треба да се испитаат и од аспект на конкуренцијата.
Дали безбедносниот услов одговара на конкретен ризик? Дали важи еднакво? Дали непотребно ги исклучува помалите истражувачки тимови?
Овие прашања не докажуваат дека повиците за претпазливост се неискрени. Тие покажуваат зошто јавниот интерес не може целосно да се препушти на договор меѓу заинтересираните компании.
Суперинтелигенција за сите — под чии услови?
Ветувањето за широко достапна суперинтелигенција звучи како ветување за проширување на човечките можности. Во најдобрата замислена верзија повеќе луѓе би добиле пристап до помош за учење, истражување, создавање и решавање сложени задачи. Но достапноста има повеќе значења. Едно е да можеш да користиш услуга. Друго е да можеш да ја провериш, приспособиш или замениш. Трето е да имаш влијание врз правилата според кои функционира.
Затоа, изразот „за сите“ треба да се оценува преку конкретни услови: цена, јазична достапност, заштита на податоците, можност за избор и право на приговор. И самата суперинтелигенција треба да се разгледува како најавувана цел, без корпоративното ветување да се третира како доказ дека целта е веќе остварена.
За Македонија ова отвора практична тема. Дали институциите ќе имаат знаење да ги оценат системите што ги набавуваат? Дали македонскиот јазик ќе биде соодветно поддржан? Дали граѓанинот ќе може да добие човечко образложение кога автоматизиран систем влијае врз услуга од која зависи?
Тоа се мерки на корисноста што можат да се проверуваат.
Кога конкуренцијата зборува со историски закани
Позната е крајно острата споредба припишана на инженерот на DeepSeek, Љу Шенгју: можната доминација на Anthropic ја поврзува со хипотетичка нацистичка предност во атомското вооружување. Неговиот став се поврзува со страв од корпоративен монопол и со застапување отворен код и евтин пристап. Таквата споредба е полемичка реторика; таа не е доказ за намерите или однесувањето на Anthropic. Историскиот ужас не треба да служи како замена за аргументи.
Сепак, прашањето за монопол заслужува сериозен одговор. Концентрацијата на моќ треба да се оценува со податоци за пристапот, зависноста на корисниците и можностите за конкуренција. И застапниците на отвореноста треба да објаснат што конкретно отвораат и под кои услови. Ниту една компанија не станува претставник на човештвото само затоа што се спротивставува на друга.
Човечката способност да расудува
Во расправата за моќните системи лесно се губи секојдневното прашање: какви луѓе ќе стануваме додека ги користиме?
Образованието треба да го зачува процесот на разбирање. Ученикот треба да може да објасни како дошол до одговорот. Новинарот треба да го провери изворот. Програмерот треба да го разбере решението за кое презема одговорност. Раководителот треба да умее да ја образложи одлуката и кога предлогот дошол од машина.
Вредноста на алатката треба да се мери и според тоа дали ја развива човечката самостојност. Брзината е корисна кога остава повеќе простор за мислење; станува проблем кога го отстранува мислењето од постапката.
Затоа јавната расправа треба да бара докази за безбедност, јасно утврдена одговорност, независно испитување и можност за оспорување одлуки. Треба да ги заштити и истражувањето и граѓанинот, со мерки соодветни на конкретниот ризик.
На човештвото му е потребна технологија што ги проширува неговите способности и институции што ја ограничуваат злоупотребата на нејзината моќ. Колку повеќе знаење собираат машините, толку поголема станува човечката обврска да одлучува разумно кому му ја доверува контролата.
