Što prijeti čovječanstvu kompjuterizacijom cijelog našeg života

2024 Autor: Seth Attwood | [email protected]. Zadnja promjena: 2023-12-16 16:06

Pametni telefoni, roboti i računala nam olakšavaju život, ali možda u tome nešto gubimo? Novinar je razgovarao s američkim piscem Nicholasom Carrom o opasnostima, pa čak i prijetnjama pretjerane automatizacije.

Uvriježeno je mišljenje da automatizacija svega i svakoga poboljšava kvalitetu našeg života. Računala nam pomažu postići vrhunske performanse. Softverske aplikacije čine zadatke bržim i lakšim. Roboti preuzimaju naporan i naporan posao. Stalni dotok inovacija iz Silicijske doline samo jača uvjerenje ljudi da nove tehnologije čine život boljim.

Međutim, postoji još jedno mišljenje. Pisac Nicholas Carr nepristranoj analizi podvrgava postulate modernog digitalnog svijeta. Njegov esej "Čini li nas Google glupima?", objavljen u Atlanticu 2008., još uvijek je kontroverzan, kao i njegov bestseler iz 2010., The Shallows.

Zagovornici teorije da će tehnologija spasiti naš svijet Carra vide kao jednog od svojih najmoćnijih protivnika. A oni koji su oprezni s posljedicama tehnološkog napretka za čovječanstvo poštuju ga zbog uravnotežene argumentacije.

Sada Carra zanima novo pitanje: trebamo li se bojati da postupno neće biti teških zadataka za nas u svijetu? Hoće li naši životi postati preučinkoviti zahvaljujući novim tehnologijama?

Sastao sam se s piscem prije nekog vremena kako bih razgovarao o njegovoj novoj knjizi, Stakleni kavez: automatizacija i mi, i što ga je natjeralo da je napiše.

1. Razotkrivanje glavnog mita o novim tehnologijama

Tom Chatfield:Ako sam dobro razumio, u knjizi "Stakljeni kavez" pokušavate razbiti mit da je pojednostavljenje naših života zahvaljujući tehnološkom napretku nužno pozitivna pojava.

Nicholas Carr:I na osobnoj i na institucionalnoj razini, navikli smo misliti da su učinkovitost i udobnost prema zadanim postavkama dobri, a njihovo maksimalno povećanje je svakako vrijedan cilj. Čini mi se da je ovakav pristup tehnologiji u svim njezinim oblicima, posebice u obliku računalne automatizacije, prilično naivan. To se također odnosi na naše vlastite želje i stvarni život u suvremenom svijetu.

Hoće li računala ikada zamijeniti ljude?

T. Ch.:Pa ipak, većina pristaša tehnološkog napretka drži se utilitarističkog stajališta prema kojemu najveće greške činimo zbog zanemarivanja učinkovitosti i logike, a zapravo ni sami ne znamo što je dobro za nas. Stoga je, s njihove točke gledišta, zadatak tehnološkog napretka identificirati nedostatke ljudskog mišljenja, a zatim stvoriti sustave koji bi te nedostatke nadoknadili. Je li ovo mišljenje pogrešno?

N. K.: S jedne strane, mnoge inovacije u razvoju računalne tehnologije i razvoju automatiziranih sustava nemaju nikakve veze s širokom tvrdnjom da su ljudi vrlo nesavršeni u usporedbi s računalima. Da, računalo se može programirati za obavljanje određenih operacija neograničeno uz dosljednu kvalitetu. A istina je da čovjek za tako nešto nije sposoban.

No, neki idu i dalje i tvrde da su ljudi previše nesavršeni, da njihova uloga treba biti što je moguće više ograničena, a računala bi trebala biti odgovorna za sve osnovne zadatke. Ovdje se ne radi samo o pokušaju nadoknađivanja ljudskih nedostataka – ideja je da se ljudski faktor u potpunosti ukloni, zbog čega će, kako se tvrdi, naš život postati puno bolji.

T. Ch.: Čini se da to nije najbolja ideja. Postoji li optimalna razina automatizacije?

N. K.: Po mom mišljenju, nije pitanje trebamo li automatizirati ovaj ili onaj složeni zadatak. Pitanje je kako koristiti automatizaciju, kako točno pomoću računala nadopuniti ljudska znanja i vještine, nadoknaditi nedostatke u ljudskom razmišljanju i ponašanju, a također i potaknuti ljude da maksimalno iskoriste vlastito iskustvo za postizanje novih visina.

Pretvaramo se u promatrače računala

Pretjerano oslanjanje na softver može nas pretvoriti u promatrače računalnih monitora i operatere tijeka procesa. Računala mogu igrati vrlo važnu ulogu jer smo samo ljudi – možemo postati žrtvom predrasuda ili propustiti važne informacije. Ali opasnost je u tome što je previše lako prenijeti sve naše funkcije na računala, što bi po mom mišljenju bila pogrešna odluka.

2. Trebate li stvarni život približiti scenariju videoigre?

T. Ch.: Sa zadovoljstvom sam primijetio da u svojoj knjizi navodite videoigre kao primjer interakcije čovjeka i stroja, u kojoj je poanta prevladati poteškoće, a ne izbjeći ih. Najpopularnije igre su vrsta posla koji igraču daje osjećaj zadovoljstva. Možemo se samo požaliti da posao koji mnogi od nas svakodnevno moraju obavljati zahtijeva puno manje vještine i donosi nam mnogo manje zadovoljstva.

Video igre stimuliraju igrača da uloži dodatni napor i koristi mozak što je više moguće

N. K.: Video igre su zanimljive po tome što se njihov koncept kosi s općeprihvaćenim principima stvaranja softvera. Svrha računalnih igrica nije nimalo osloboditi korisnika od neugodnosti. Naprotiv, stimuliraju igrača da uloži dodatni napor i da što više koristi mozak. Uživamo u video igrama upravo zato što nas izazivaju sa sve većim izazovima. Stalno se nalazimo u teškim situacijama – ali ne u situacijama koje izazivaju očaj. Prevladavanje svake nove razine samo brusi naše vještine.

Ovaj proces je vrlo sličan načinu na koji osoba stječe životno iskustvo u stvarnom životu. Kao što znamo, za razvoj sposobnosti čovjek se treba uvijek iznova suočavati s ozbiljnim preprekama i uvijek ih iznova svladavati, koristeći sva svoja znanja i vještine. Postupno, osoba doseže novu razinu, nakon čega se povećava složenost prepreka.

Mislim da ljudi vole videoigre iz istog razloga iz kojeg dobivaju zadovoljstvo stjecanjem novih iskustava i prevladavanjem prepreka. Rješenje teškog zadatka, u kojem se stječu nova znanja, potrebna za prevladavanje novih, još složenijih poteškoća, čovjeku pričinjava veliko zadovoljstvo.

Potpuna predanost računalu dovest će nas do života u kojem će biti malo mjesta za samoostvarenje

Jedna od glavnih zabrinutosti koju izražavam u knjizi je da je naš stav prema napretku povezan sa željom da što više izbjegnemo rješavanje teških problema. Čini mi se da je ovo gledište u suprotnosti sa samim konceptom životnog zadovoljstva i samospoznaje.

3. Hoće li računala eliminirati potrebu za ljudima?

T. Ch.: Za razliku od videoigara, u stvarnom svijetu naporan rad nije nužno nagrađen. Stvarni svijet je nepravedan i neuravnotežen. Možda je trend koji najviše uznemiruje ovdje to što interesi pojedinca (psihološki, osobni, pa čak i u smislu opstanka) sve više odstupaju od korporativnih i vladinih predodžbi o svrsishodnosti. Bojite li se da će računala konačno zamijeniti ljude?

Mnoge igre je teško proći i zahtijevaju neuobičajene vještine i domišljatost od igrača. Pa zašto bi nam ostatak tehnologije samo olakšao život?

N. K.: Kad sam skupljao materijal za knjigu, jako me uplašio članak (citati iz kojih citiram u tekstu), koji je napisao stručnjak za vojnu strategiju. Prema njegovim riječima, s obzirom na sve veće razmjere korištenja računalnih tehnologija na bojnom polju, vrlo brzo možda jednostavno neće biti mjesta za osobu u vojnim poslovima. Brzina donošenja odluka toliko je porasla da ljudi jednostavno ne mogu pratiti računala. Neizbježno idemo prema potpuno automatiziranom ratovanju: bespilotne letjelice same će odlučiti kada će ispaliti projektile na mete, a robotski vojnici na zemlji sami će odlučiti kada će pucati.

Po mom mišljenju, ova situacija se ne opaža samo u vojnim poslovima, već iu mnogim drugim područjima - na primjer, u svijetu financija. Ljudi jednostavno ne drže korak s računalima kada trguju financijskim instrumentima, na primjer.

Što nas čeka? Ne samo da možemo izgubiti sposobnost koja nas razlikuje od računala za kritičku procjenu vlastitih postupaka - možda ćemo takve sustave implementirati nepromišljeno, vjerujući da je glavna stvar brzina donošenja odluka. A onda, ako se uvjerimo da smo pogriješili, otkrit ćemo da nema povratka. Vrlo često se pokaže da je nemoguće integrirati osobu u sustav izvorno izgrađen na računalnoj tehnologiji.

T. Ch.: I ja sam se užasnuo kada sam pročitao odlomak u vašoj knjizi o automatiziranom ratovanju. Imao sam osjećaj da se proces koji će nas dovesti do potpuno autonomnih borbenih sustava ne može zaustaviti. Dio mog užasa dolazi iz sjećanja na financijsku krizu 2008., koja je praktički izbrisala bilijune dolara. Barem su sada ljudi odgovorniji prema svojim financijama. Ali ako se to dogodi u vojnoj sferi, neće biti uništeni dolari, već ljudski životi.

Budućnost bez ljudi?

N. K.: Ne radi se samo o tome da se nove tehnologije, posebno softverske tehnologije, danas mogu vrlo brzo replicirati i distribuirati. Poanta je da se svi ti procesi odvijaju u konkurentskom okruženju. Bilo da je riječ o utrci u naoružanju ili poslovnom natjecanju, čim jedan od suparnika stekne kratkoročnu prednost na račun jedne ili druge tehnologije, ova tehnologija se odmah uvodi gdje god je to moguće - jer nitko ne želi biti u hendikep.

Mislim da je u ovoj situaciji previše lako izgubiti iz vida činjenicu da smo u biti životinje. Ljudi su prošli evolucijski put tisućljećima da bi mogli živjeti i preživjeti. Uloga čovječanstva, kao i naš osjećaj zadovoljstva i samospoznaje, usko su povezani s našim iskustvom življenja u svijetu koji nam postavlja uobičajeni tempo.

Stoga, kada osobu, sa svim njezinim fizičkim prednostima i nedostacima, suprotstavimo brzom i preciznom računalu, javlja se želja da cijeli svoj život prepustimo računalima. Međutim, zaboravljamo da će nas potpuna predanost računalu dovesti do života u kojem će biti malo mjesta za samospoznaju.

4. Kako automatiziramo svijet?

T. Ch.: Vjerujem da moramo biti kritični prema novim tehnologijama, ali zabrinut sam zbog ljudi koji nepotrebne poteškoće i antitehnološku "autentičnost" pretvaraju u fetiš. Postoji tako moderna škola mišljenja koja hvali teški fizički rad i tvrdi da sve što radimo mora biti zanatsko i autentično. Po mom mišljenju, takva pozicija miriše na snobizam i ne uzima u obzir ogroman broj pozitivnih postignuća koje je sa sobom donijela demokratizacija tehnološkog napretka.

N. K.: u potpunosti se slažem s tobom. U jednom intervjuu su me pitali kako bi moj oprezan odnos prema napretku pomogao, primjerice, ljudima koji rade u teškim uvjetima u tvornicama za preradu mesa. Odgovorio sam da će, naravno, uvijek biti mjesta za automatizaciju proizvodnje gdje treba poboljšati uvjete rada ljudi. Samo što možete inovirati pametno, ili možete to učiniti nepromišljeno; možemo pronaći način da uzmemo u obzir vrijednost ljudskog iskustva i važnost samospoznaje, ili jednostavno možemo veličati sposobnosti računala. Nije lako napraviti pravi izbor. Ako ovaj zadatak percipiramo isključivo crno-bijelo - ili se slijepo zalažemo za težak, iscrpljujući fizički rad u bilo kojoj situaciji, ili, obrnuto, vidimo smisao života u sibarizmu - to neće pomoći uzroku.

Najteži rad koji zahtijeva iznimnu preciznost najbolje je prepustiti strojevima

Ljudi neprestano stvaraju i koriste alate. Od pamtivijeka moramo donositi odluke vezane uz podjelu rada, s podjelom količine posla između osobe i alata koji mu stoje na raspolaganju. I čini mi se da nevjerojatna učinkovitost računala u obavljanju širokog spektra zadataka samo komplicira proces donošenja takvih odluka.

5. Što nas čeka?

T. Ch.: Pa ide li čovječanstvo prema uspjehu?

N. K.: Povjesničar prirodne povijesti Thomas Hughes, koji je preminuo prošle godine, predložio je koncept "tehnološkog zamaha". Vjerovao je da se tehnologije ugrađene u društvene strukture i procese počinju razvijati same od sebe, vukući društvo za sobom. Sasvim je moguće da je naša putanja već zacrtana i da ćemo nastaviti svojim dosadašnjim putem, bez postavljanja pitanja krećemo li se u pravom smjeru. Stvarno ne znam što će se dogoditi. Najviše što mogu učiniti je pokušati razumjeti ova stvarno teška pitanja najbolje što mogu.

Nadam se da ćemo mi, kao pojedinci i kao članovi društva, moći zadržati određenu razinu razumijevanja onoga što nam se događa, kao i određenu razinu znatiželje i donositi odluke temeljene na našim dugoročnim interesima., a ne na temelju naših uobičajenih koncepata pogodnosti, brzine, točnosti i učinkovitosti.

Doći će dan, a roboti će nas osloboditi svih poteškoća. Treba li nam?

Čini mi se da trebamo nastojati osigurati da računala obogate naše životno iskustvo i otvore nam nove mogućnosti, a ne da nas pretvaraju u pasivne promatrače ekrana monitora. I dalje mislim da će, ako izvučemo više iz novih tehnologija, one moći učiniti ono što su tehnologija i alati činili kroz ljudsku povijest – stvoriti zanimljiviji svijet oko nas i pomoći nam da i sami postanemo bolji. U konačnici, sve ovisi o nama samima.