Научната фантастика почнува таму каде што човекот престанува да се прашува само што може да создаде и почнува да се прашува што ќе стане откако ќе го создаде тоа. Затоа нејзината вистинска тема никогаш не биле вселенските бродови, роботите, далечните планети или машините што мислат. Тие се сценографија. Средства со кои едно многу постаро прашање добива нов облик: што е човекот кога ќе исчезнат границите што досега го определувале?
Човекот со векови ја градел својата претстава за себе врз неколку големи сигурности. Тој бил суштество што мисли, создава, избира, памети, зборува и му дава смисла на светот. Машината била алатка. Природата била граница. Смртта била крај. Телото било судбина. Знаењето било човечки напор.
Една по една, тие сигурности почнуваат да се поместуваат.
Кога алатката почнува да го менува својот творец
Технологијата долго ја разбиравме како продолжение на човечката рака. Чеканот ја зголемувал силата, телескопот видот, автомобилот движењето, компјутерот пресметувањето. Во таа слика односот бил едноставен: човекот ја користи алатката, а алатката му служи на човекот. Денес таа граница веќе не е толку јасна.
Нашите уреди не го менуваат само она што можеме да го направиме. Тие постепено го менуваат и начинот на кој внимаваме, паметиме, избираме, разговараме, работиме и го доживуваме времето. Алгоритмот што ни предлага што да гледаме не е само удобна функција. Ако доволно долго му препуштаме да избира наместо нас, тој почнува да учествува во создавањето на нашите навики, а навиките незабележливо стануваат карактер.
Тука технологијата престанува да биде само прашање на инженерството и станува философско прашање. Не е повеќе доволно да прашаме што може една машина. Треба да прашаме што прави нејзиното постоење со човекот што ја користи.
Во текстот за новата реалност во која технологијата повеќе не е нешто надвор од нас, оваа промена веќе се појавува како една од линиите што го обликуваат современиот човек. Прашањето не е дали ќе живееме со технологијата. Тоа одамна е решено. Прашањето е дали ќе умееме да живееме со неа без постепено да ѝ ги отстапиме деловите од себе што најтешко повторно се освојуваат.
Слободата не исчезнува секогаш со забрана
Научната фантастика отсекогаш била опседната со контролата. Држави што го следат секој граѓанин, системи што ги предвидуваат човечките постапки, машини што донесуваат одлуки, општества во кои редот е постигнат по цена на личната слобода. Таквите светови некогаш изгледаа далечни затоа што контролата во нив беше видлива. Имаше забрани, камери, чувари, казни.
Потешката верзија на несободата е онаа што не се чувствува како присила.
Што ако никој не ти забранува што да читаш, но алгоритмот незабележливо одлучува што воопшто ќе стигне до тебе? Што ако можеш слободно да избираш, но изборите постојано ти се подредуваат според претходното однесување? Што ако човекот има повеќе можности од кога било, а сепак неговите желби стануваат сè попредвидливи? Тогаш проблемот веќе не е класичната цензура. Проблемот е обликувањето на вниманието.
А човекот повеќе отколку што сака да признае е она на што го насочува своето внимание.
Слободата затоа не е само можност да избереме меѓу понудените опции. Таа е и способност да застанеме, да се посомневаме во понудата и да одлучиме дека можеби не го сакаме она што некој систем научил дека најверојатно ќе го посакаме.
Машината што мисли и човекот што престанува да мисли
Вештачката интелигенција го прави ова прашање уште поостро. Најчестиот страв е дека машината еден ден ќе стане премногу интелигентна. Можеби постои и потивка опасност: човекот да стане премногу подготвен да не ја користи сопствената интелигенција таму каде што машината може да му понуди доволно добар одговор.
Да мислиш е напорно. Да се сомневаш е непријатно. Да донесеш одлука значи да прифатиш дека можеш да погрешиш. Ако системот може да предложи што да напишеме, што да купиме, кој пат да го избереме, што да прочитаме, како да работиме и можеби еден ден што е најразумно да одлучиме – искушението да му ја предадеме одговорноста ќе биде големо.
Тогаш прашањето веќе нема да биде дали машината станала човек. Ќе биде дали човекот доброволно се откажал од дел од она што го правело човек.
Тоа е и подлабоката страна на прашањето за човековата контрола врз вештачката интелигенција. Контролата не значи само да постои копче со кое системот може да се исклучи. Таа значи човекот да го задржи правото и способноста да проценува, да одбива, да презема одговорност и да живее со последиците од сопствените одлуки.
Што останува од човекот кога машината може речиси сè?
Замислата за интелигентна машина нè вознемирува затоа што удира во самата претстава што ја имаме за сопствената посебност.
Долго време верувавме дека човекот е посебен затоа што мисли. Потоа откривме дека не секое мислење е толку мистериозно колку што сме претпоставувале. Велевме дека човекот е посебен затоа што создава. Сега машините создаваат текстови, слики, музика и код. Велевме дека сме незаменливи затоа што учиме. Машините учат на поинаков начин, понекогаш со брзина што не можеме да ја следиме.
Значи ли тоа дека човекот станува помалку вреден? Само ако неговата вредност сме ја врзале исклучиво за способностите во кои може да биде надминат.
Можеби токму тука започнува едно од најинтересните прашања што научната фантастика му ги остава на нашето време: дали човечкото достоинство произлегува од тоа што сме најпаметното суштество во просторијата, или од нешто што не може да се сведе на натпревар во ефикасност?
Човекот не е само оној што решава проблем. Тој е суштество за кое нешто има значење. Може да страда поради изборот што го направил. Може да прости кога логиката на интересот бара одмазда. Може да одбере нешто непрактично затоа што го смета за правилно. Може да се жртвува за некого од кого нема никаква корист.
Ако тие нешта ги отстраниме од сликата, можеби ќе добиеме поефикасен свет. Не е сигурно дека ќе добиеме и почовечки.
Напредокот нема сопствен морал
Технологијата има една особина што лесно нè заведува: секој нов чекор изгледа како доказ дека се движиме напред. Но „напред“ е просторна, не морална категорија.
Можеме да бидеме понапредни технички и понезрели човечки. Можеме да имаме подобри средства за комуникација и посиромашен разговор. Повеќе информации и помалку разбирање. Подолг живот и послабо чувство зошто вреди да се живее. Совршени системи за поврзување и сè подлабоко чувство на отуѓување од самите себе.
Ниту еден изум сам по себе не може да одговори што треба да правиме со него.
Техниката може да ни каже како да стигнеме побрзо до целта. Не може да ни каже дали целта вреди. Може да ни помогне да живееме подолго. Не може да ни каже за што вреди да го употребиме тоа дополнително време. Може да произведе бескрајно количество содржини. Не може наместо нас да реши кои од нив заслужуваат место во нашиот живот.
Токму тука философијата повторно станува неопходна во свет што често мисли дека технологијата ја направила непотребна.
Најголемата опасност не е роботот
Во популарната претстава, идната опасност има метално тело, студен глас и интелигенција поголема од човечката. Тоа е добра слика за филм, затоа што непријателот може да се види. Вистинските опасности можат да бидат многу побанални.
Човек што повеќе не може да остане сам со сопствените мисли. Општество што ја заменува вистината со она што предизвикува поголема реакција. Политика што располага со прецизни податоци за стравовите на граѓаните. Пазар што знае како да произведе желба пред човекот да биде свесен дека ја има. Генерации што ги познаваат сите начини да комуницираат, а сè потешко умеат да разговараат.
Ниту една од тие појави не бара бунт на машините. Доволно е човекот да стане пасивен корисник на системите што самиот ги создал.
Смислата не може да се автоматизира
И тука, можеби, научната фантастика се среќава со најстарото човечко прашање.
Не: што можеме да направиме? Туку: зошто?
Секоја цивилизација создава алатки, институции, правила и системи. Но човекот не живее само од нив. Му треба чувство дека неговиот живот има некаква насока, дека изборите не се само оптимизација, дека љубовта не е биохемиски алгоритам, дека достоинството не е статистичка категорија и дека времето не е само ресурс што треба што поефикасно да се искористи.
Современиот човек веќе живее среде парадоксот: располага со огромна количина знаење, а прашањето за смислата не станало полесно. Напротив, светот во кој секоја информација е на дофат може да биде и свет во кој е сè потешко да се разбере што заслужува внимание.
Тоа е пошироката тема на човекот меѓу смислата, стравот и системот: колку повеќе светот ни нуди готови одговори, толку поголема станува личната одговорност да решиме на кои прашања воопшто вреди да одговориме.
Иднината не е место во кое ќе пристигнеме
Можеби затоа најдоброто во научната фантастика никогаш не било предвидувањето.
Не е особено важно дали некој писател точно го предвидел видеоповикот, роботот или летот кон друга планета. Вистинската моќ на жанрот е во нешто потешко: да ја земе една идеја од сегашноста, да ја продолжи до нејзината крајност и да нè натера да погледнеме што има на крајот од тој пат.
Во тој смисловен експеримент иднината станува огледало. Во него не гледаме какви ќе бидат машините. Гледаме какви би можеле да станеме ние.
А тоа можеби е и причината зошто научната фантастика станува поважна токму кога делови од нејзиниот некогашен свет почнуваат да личат на секојдневие. Колку повеќе од она што сме можеле само да го замислуваме станува технички возможно, толку помалку ни треба литература што ќе ни каже што е можно. Повеќе ни треба мисла што ќе нè праша што од можното е пожелно.
Човекот можеби ќе создаде машини што ќе знаат повеќе од него. Можеби ќе го продолжи животот, ќе го менува сопственото тело, ќе населува други светови и ќе создава форми на интелигенција што денес едвај ги разбираме. Ниту едно од тие достигнувања, само по себе, нема да одговори на прашањето како треба да се живее. Тој одговор не може да биде пресметан еднаш засекогаш.
Затоа најдлабокото прашање на научната фантастика не е дали машината еден ден ќе стане доволно слична на човекот. Прашањето е дали човекот, опкружен со сè посовршени машини, ќе остане доволно човек за да знае што да прави со моќта што ја стекнал.
Иднината не е нешто што нè чека. Таа е последица од она што денес сме подготвени да го создадеме, да го дозволиме, да го прифатиме – и, кога е потребно, да го одбиеме.
