Amy Webb je jedna od vodećih američkih futuristkinja, svjetska referenca za masovne podatke i analizu i predviđanje trendova u području tehnologije i znanosti. Netko je tko vidi u budućnost, tko zna predvidjeti koliko će crni scenariji biti u budućnosti ukoliko ništa ne učinimo i koliko bi bolji mogao biti svijet ako nešto promijenimo. O svemu tome piše u svojim poznatim knjigama. U pretposljednjoj knjizi objašnjava umjetnu inteligenciju, čiji je razvoj u rukama šačice tehnoloških velikana koji kroje našu budućnost. U posljednjoj knjizi, objavljenoj ove godine, piše o vremenu sintetičke biologije i pet scenarija koji pokazuju kako programiranje DNK-a može prodrijeti u sve sfere života, od genetske selekcije do proizvodnje hrane.

Amy Webb je kvantitativna futuristkinja i osnivačica Future Today Institute, vodeće kompanije za predviđanje i strategiju, koja pomaže liderima i njihovim organizacijama da se pripreme za kompleksniju budućnost, te profesorica strateškog predviđanja na Stern School of Business Sveučilišta u New Yorku.

Kao dugogodišnja obožavateljica znanstvene fantastike blisko surađuje s holivudskim scenaristima i producentima u stvaranju filmova, televizijskih emisija i reklama o znanosti, tehnologiji i budućnosti. Revija Forbes proglasila ju je jednom od pet žena koje mijenjaju svijet. Bila je jedna od BBC-jevih 100 žena u 2020. godini, a uvrštena je i na listu Thinkers50, na kojoj je 50 najutjecajnijih svjetskih mislilaca u području menadžmenta.

Za N1 je govorila o ključnim tehnološkim trendovima, napretku umjetne inteligencije, neobičnoj privlačnosti metakozmosa i virtualnim megajahtama, mogućnostima sintetičke biologije i dvije moguće budućnosti. Koju ćemo izabrati?

Amy Webb, možete li nam za početak objasniti tko su zapravo futuristi i koja je uloga praćenja tehnoloških trendova?

Futurist je netko tko koristi podatke i gradi modele za sustavno istraživanje mogućih budućih scenarija. Zadatak futurista zapravo nije predviđanje budućnosti – ovdje se ljudi često zbune – mi futuristi ne predviđamo, nego pripremamo ljude za budućnost.

To možemo različito raditi. I sama se u velikoj mjeri oslanjam na kvantitativne podatke i metodologije, kako bih shvatila kakve dugoročne efekte mogu imati različite sile i trendovi koji danas postoje. Ustvari, mi futuristi osvještavamo o tome što će se dogoditi sutra.

Za nas su trendovi samo smjernice koje nam pomažu da razumijemo kako se stvari tijekom vremena mogu promijeniti. Da bismo mogli reći da je nešto trend, mora biti ispunjeno mnogo kriterija. Moramo biti sposobni sastaviti model, kvalificirati ga i testirati. Obično su za nas trendovi vrlo dugoročni. Ne zanimaju nas toliko najmodernije stvari, nego velike sile koje oblikuju različite dijelove društva.

Svake godine pripremate opsežno izvješće o budućim trendovima, pitanjima koja ona aktiviraju i budućim scenarijima koje bi ti trendovi mogli donijeti. Ove godine je 15. po redu, u njemu na 668 stranica predstavljate 547 tehnoloških i znanstvenih trendova u područjima kao što su umjetna inteligencija, metakozmos, rad, mediji, blockchain, klima… Kada sam slušala vaše ovogodišnje predstavljanje, prvo sam bila oduševljena, a zatim šokirana, zabrinuta – čini mi se nevjerojatnim što se sve već događa i što nas čeka u budućnosti. Brine li vas kuda idemo i kojom brzinom? Jeste li puni nade za budućnost?

U Future Today Institutu konstantno modeliramo trendove i to u mnogim različitim područjima. I sama se uglavnom fokusiram na tehnologiju i znanost. Istraživanja provodimo tijekom cijele godine, a jednom godišnje objavljujemo izvješće koje prvenstveno služi da pomogne drugima da razmisle o tome što je već dostupno u različitim područjima i što dolazi.

Pragmatičarka sam. Ne mislim da će budućnost nužno biti bolja ili gora od sadašnjosti. Budućnost je, naime, rezultat odluka koje donosimo. Zato bi moj odgovor vama bio – mislim da imamo mnogo prilika, ali i da svi donosimo loše odluke. To vrijedi za sve zemlje, svuda se donose razne loše odluke, koje nam ne pomažu u razmišljanju kako da stvorimo bolju budućnost i bolje društvo.

Jedno od najvažnijih područja tehnološkog razvoja je nesumnjivo umjetna inteligencija. Neki kažu da smo u ranoj fazi umjetne inteligencije, da još ništa nismo vidjeli. Koje su neke od zanimljivih i zabrinjavajućih primjena umjetne inteligencije u ovom trenutku?

Umjetna inteligencija je ono što zovemo područje ili polje tehnologije dugog horizonta. Bit će potrebno još mnogo, mnogo godina da se umjetna inteligencija razvije do kraja i pojavi.

Mnogi ljudi nisu svjesni da se umjetna inteligencija u nekom obliku razvija već 150 godina, možda 200 godina. To je zato što su prva računala, nazvana računskim strojevima, izumljena otprilike u to vrijeme. Još u 19. stoljeću matematičarka Ada Lovelace je razmišljala što bi ovaj stroj s vremenom mogao učiniti. Objavljivala je tekstove o algoritmima i načinima na koje strojevi mogu sami razmišljati. Dugo je bilo potrebno da dobijemo dovoljno jaka računala, dovoljno mreža, kako bismo mogli raditi ono što danas možemo raditi. Ovo ističem jer, iako je umjetna inteligencija tehnologija s dugim horizontom, zanimljivi napretci događali su se sve brže. To je zato što nova tehnologija omogućava još više nove tehnologije.

Jedno od važnih dostignuća bilo je kada je prije deset godina prva gigantska neuronska mreža, jedna od metoda umjetne inteligencije koja oponaša funkcioniranje ljudskog mozga, uz pomoć 16.000 računala i deset milijuna videozapisa na YouTubeu, naučila sama prepoznati mačke na snimkama. Nakon toga je netko prije nekoliko godina napravio web stranicu pod nazivom These cats do not exist, koja je generirala slike mačaka koristeći posebnu vrstu tehnologije nazvanu generativna kontradiktorna mreža (generative adverserial network odn. GAN). Međutim, te mačke još nisu izgledale stvarno – radilo se o vrlo čudnim mačkama.

Danas, samo pomoću mobilnog telefona možete stvoriti beskonačan broj mačaka koje izgledaju kao prave mačke. Ovo su dvodimenzionalne, ravne slike mačaka, a sada se približavamo tome da možemo stvoriti pokretne mačke, koje proizvode zvuk, koje izgledaju kao prave mačke, ali su zapravo umjetno stvorene.

Ovo je samo jedan primjer razvoja umjetne inteligencije, ali mi se čini važnim jer sadrži mnogo inovacija i razvoja u periodu od jednog desetljeća.

Slično ubrzan put napretka primjećujemo i u korištenju tehnika strojnog učenja za pomoć u otkrivanju novih lijekova. Recimo, umjetnu inteligenciju su također koristili i za određivanje redoslijeda genoma SARS-CoV-2… Napredak vidimo posvuda.

Nalazimo se na trajektoriju dugog horizonta, ali tijekom naših života počet ćemo primjećivati prilično korjenite promjene. I tvrdim da smo mnoge već doživjeli.

S druge strane, ova tehnologija donosi i mnogo opasnosti, etičkih dilema. Jedan primjer je sposobnost tehnologije umjetne inteligencije da prepozna naša lica, što izaziva mnogo kontroverzi, posebno kad se koristi na javnim površinama bez javnog obavještenja. Ali istina je, vi tvrdite, da sustavi umjetne inteligencije više ne trebaju naše lice da bi znali tko smo. Koliko su danas napredne ove tehnologije?

Mi smo pokretni kontejneri podataka. Puni smo podataka. Naša lica su podaci, naše držanje su podaci, način na koji hodamo je podatak. Ako imate sustav koji može identificirati ove vaše jedinstvene karakteristike, može vas prepoznati.

Više ne morate vidjeti lice osobe da biste znali tko je ta osoba, jer se novi sustavi mogu osposobiti da vas prepoznaju i na temelju vaših osobina, načina na koji se ponašate u datom trenutku. Na osnovu vaših prethodnih karakteristika ponašanja i osobina, oni čak mogu utvrditi podudara li se vaše ponašanje u datom trenutku s predviđenim ponašanjem.

Što više koristimo uređaje i što više prenosimo svoje podatke uređajima i sustavima, to su oni u stanju bolje odrediti ne samo tko smo, nego i što smo u datom trenutku. Naše lice je najočitiji podatak, koji je i jednostvano dobiti – gotovo svi koristimo društvene mreže, na kojima ima mnogo naših fotografija, na osnovu kojih se uče algoritmi.

Međutim, teže je dobiti podatke kao što je otisak srca. Ovo nije isto što i otkucaji srca, nego se radi o specifičnom pokretu na, recimo, koži ili našoj odjeći, koji je uzrokovan otkucajima srca. To su točke podataka koje bi se uz pomoć prave vrste tehnologije, prave vrste lasera, mogle detektirati na udaljenosti od tisuću metara. Zatim bi te podatke uporedili s bazom podataka i otkrili da ste to vi. Čak i ako vas ne vide.

Takve aplikacije se već koriste u vojne svrhe, a dijelom se tamo i razvijaju. Međutim, možemo zamisliti budućnost kada više ne budemo imali osobne iskaznice jer će nas moći identificirati samo na osnovu našeg disanja ili otisaka srca dok se krećemo po gradovima ili u unutrašnjosti prostora.

Postoje i tehnologije koje nisu distopijske i zastrašujuće, kao što su senzori koji detektiraju jeste li imali srčani udar ili ne, ili koje prate koliko se krećete tijekom dana. Kao i tehnologije koje pomažu ljudima da nakon moždanog udara ponovno počnu koristiti svoje tijelo ili ponovno nauče govoriti nakon traumatskih događaja.

Mnogi stručnjaci upozoravaju da problem s umjetnom inteligencijom nije toliko u samoj tehnologiji koliko u podacima i tome tko ih posjeduje. Ako znamo da su podaci u rukama devet velikih kompanija (Amazon, Google, Facebook, Tencent, Baidu, Alibaba, Microsoft, IBM i Apple), kako kažete u svojoj knjizi The big Nine, koliko bismo trebali biti zabrinuti?

Smatram da svaka konsolidacija kompanija, bez obzira na područje, treba biti razlog za zabrinutost.

Najveći izazov je da kada u svijetu ostane samo jedan, dva ili devet velikih igrača, mnogo nade polažemo u šačicu ljudi koji na kraju donose odluke umjesto svih nas. To je istovremeno i neizbježno. Teško mi je zamisliti područje ili industriju – što uključuje i medije – u kojoj ne bi došlo do konsolidacije tijekom vremena i gdje je na kraju ostalo samo nekoliko tržišnih lidera.

U slučaju tehnološke industrije, jasno je da postoji samo nekoliko kompanija koje donose odluke za sve i koje grade sustave koje koriste svi. To vrijedi za društvene mreže, digitalnu reklamu i, naravno, umjetnu inteligenciju. Mislim da je to nešto o čemu treba razmišljati i ozbiljno razmisliti o tome, je li to pravi smjer za društvo u budućnosti.

Jedan od najvažnijih trendova koje ste istaknuli u svom zadnjem Izvješću o tehnološkim trendovima je da umjetna inteligencija trajno mijenja našu percepciju stvarnosti. Na koji način? Što danas oblikuje našu stvarnost?

Upravo u ovom trenutku imamo jednostavan primjer – međusobno razgovaramo preko Zooma. Iz nekog razloga u mojoj verziji Zooma je postavljen preuzeti filter, koji poboljšava izgled – imam osjećaj da je nešto mutno. Kada koristim Microsoft Teams, moje lice jače blista nego kada koristim Zoom, zato radije koristim Zoom, jer mislim da izgledam malo ljepše. Ovo je mali primjer, ali nam pomaže da shvatimo kako umjetna inteligencija mijenja naš osjećaj stvarnosti.

U Kini su provedene neke zanimljive studije u kojima su ljudi vršili plaćanja uz pomoć biometrijskih podataka o licu. Neki terminali su imali filter zbog kojeg se ljudima činilo da izgledaju dobro kada se vide na ekranu, drugi terminali taj filter nisu imali. Podaci govore da ljudi sami sebe bez filtera ne žele gledati, zato neće izvršiti kupovinu na terminalima bez filtera. Ovo su zanimljivi podaci o ponašanju koji su inače još u ranoj fazi, ali nam na neki način pomažu razumjeti kako umjetna inteligencija počinje iskrivljavati naš osjećaj stvarnosti. Ali postoji i mnogo drugih načina.

Ako pogledate društvene mreže i koliko se brzo putem njih šire dezinformacije i objave koje su kreirali roboti – gotovo biste pomislili da tako, kako piše u tim objavama, svi na planetu misle jer je to tako prošireno na vašem zidu. U stvarnosti nije tako. Ali s vremenom počnete vjerovati u ono što čitate, počinjete vjerovati u te dezinformacije. I zbog toga ljudi donose užasne odluke.

Prije dva tjedna doživjeli smo još jednu zaista užasnu pucnjavu u SAD-u. Osamnaestogodišnjak je ušao u razred pun učenika četvrtog razreda i ubio ih. Djelimično zbog društvenih mreža – zbog onoga što je tamo pročitao i toga što je želio tamo pokazati. Trebali bismo razmisliti o tome kako odlučujemo i kako biramo, zašto vidimo stvari koje vidimo i kakav je naš odnos prema tim informacijama. Trebali bismo zahtijevati i transparentnost, uvid u odluke koje se donose u razvoju tih sustava.

Jedan su od primjera, koji pokazuju da je stvarnost sve manje stabilna, a mogućnosti manipulacije sve veće, sintetički mediji – računalno generirani sadržaji kreirani pomoću umjetne inteligencije. Među sintetičke medije spadaju, recimo, deep fake videi (duboki falsifikati) kao i virtualni influenceri. Na gornjoj slici vidimo Shudu, poznatu kao prvi digitalni supermodel.

Kada govorimo o promjeni stvarnosti, moramo govoriti o metakozmosu (čija je jedna od varijanti Facebookov metakozmos/metaverse), mreži nekakvih paralelnih, virtualnih svjetova u kojima ljudi mogu komunicirati, poslovati… Metakozmos je drugi trend koji ističete u svom izvješću. Zašto je tolika pompa oko toga? Zašto bi ljudi željeli živjeti u njemu?

Ideja o metakozmosu vrlo je usko povezana sa sljedećom verzijom weba, koji neki nazivaju web tri (promjena paradigme na internetu – prema decentraliziranom, korisnički orijentiranom i produbljenom online iskustvu, op. a.). Zašto su ljudi sada toliko oduševljeni? Uvjerena sam da to je zbog toga jer je Mark Zuckerberg u listopadu promijenio ime svoje kompanije iz Facebook u Meta.

Koncept metakozmosa nije nov, ljudi već neko vrijeme pričaju o virtualnoj stvarnosti i stvaraju pompu. Dakle, ništa od toga nije novo. Ono što je novo jest da su neka vrlo velika tehnološka imena počela iz različitih razloga pozicionirati svoje kompanije na malo drugačiji način.

To uključuje kompaniju Square, koja se preimenovala u Block (kao Blockchain) i time jasno naznačila svoj pomak prema metakozmosu, i Facebook, koji se preimenovao u Metu. Mislim da na taj način kompanije pokušavaju zabiti svoju zastavu u pijesak, kako bi dominirale određenim područjima i pomogle u stvaranju novih pravila.

Ali hoćemo li svi živjeti kao animirani avatari i ići na posao kao animirani avatari? Vjerojatno ne ovako kako to danas izgleda. Budućnost je obično samo djelić onoga što si danas predstavljamo da će biti, ali obično se ispostavi da je nešto drugačije. Znamo, međutim, da mnogi ljudi koji igraju igrice provode svoje vrijeme na Twitchu i drugim platformama. Postoji i generacija djece koja je opsjednuta igranjem Minecrafta i korištenjem Robloxa (platforme za igranje i programiranje igrica).

Ali razlog zašto su svi ludi za tim i zašto ima toliko pompe je taj, što pompa izaziva još više pompe. Ako šačica utjecajnih ljudi počne pričati o nečemu, a vi ne znate o čemu pričaju, pojavljuje se “FOMO” (fear of missing out) – strah od propuštanja nečega. Mislim da je ono što sada primjećujemo to da se poslovna zajednica osjeća kao da nešto propušta, zato svi žure učiniti ono što se može. To djelomično objašnjava što se događa.

Do 2024. godine, metakozmos bi mogao postati tržište vrijedno 800 milijardi dolara. Tehnološki velikani poput Facebooka ili Mete, Microsofta, Applea i Googlea već ulažu mnogo novca da bi se to ostvarilo.

Čini se da ljudi metakozmos shvaćaju prilično ozbiljno. Nedavno je iz metakozmosa odjeknula vijest da je luksuzni NFT – virtualna megajahta, kojom se možete voziti po metakosmosu – prodana za 650.000 dolara.

Po mom mišljenju, mnogo je ljudi koji su uložili u nezamjenjive žetone (NFT) jer su mislili da je to brz način, brz visokotehnološki način da ulože nešto novca i postignu visoke prinose, ili da kuju NFT (eng.minting; znači proces pretvaranja digitalne datoteke u digitalno dobro na bazi blockchaina, op. a.) i dobiju visoke povrate. Obično s tako naglim porastom aktivnosti – i ovdje se radilo o prilično velikom povećanju – u određenom trenutku slijedi slom.

Nedavno je objavljena vaša nova knjiga o sintetičkoj biologiji pod naslovom The genesis machine. U njoj upoređujete sintetičku biologiju s računalnim programiranjem i tvrdite da sada možemo programirati biološke sustave na način na koji programiramo računala. Zar to ne pokreće alarm u vašoj glavi?

U području koje se zove sintetička biologija, sada se događaju poprilično nevjerojatne stvari. Sintetička biologija je relativno novo područje, koje kombinira računarstvo, inženjerstvo i dizajn s biologijom.

Alati za sintetičku biologiju omogućavaju vam da uređujete i kreirate, stvarate nove organizme ili organizmima dajete drugačije sposobnosti nego što su imali prije. Sintetička biologija stvarno gleda na biologiju s inženjerskog stajališta. To nam daje neke vrlo zanimljive opcije. To bi moglo značiti da možete napraviti pivo koje svijetli u mraku. To je zaista uzbudljivo. Obično, kada ljudi počnu raditi u tom području, među prvim projektima su svijetleće stvari – svijetleće ribe, svijetleće biljke, svijetleće pivo. Međutim, može se učiniti mnogo više.

Danas se svi oslanjamo na najlon, prilično izdržljiv i jak materijal koji se koristi u raznim stvarima – u užadima, cipelama, posvuda u svijetu. Budući da je za njegovu proizvodnju potrebna nafta, veliki je zagađivač, zato nije dobar za planet, osim toga, povezan je s geopolitičkim trenjima, a time i neizvjesnošću. Ipak, to je supstanca koja nam je potrebna i na koju se oslanja moderno društvo.

Neki istraživači su otkrili način kako korištenjem sintetičke biologije napraviti najlon koji je održiv, bolji za planet i nije vezan za geopolitička usklađivanja. Uz pomoć sintetičke biologije su iz fermentiranog šećera i sličnih tvari napravili istu molekulu koju bi dobili i od nafte.

Zato mislim da su pred nama neke zaista zanimljive mogućnosti – bilo da se radi o stvaranju održivog tekstila i materijala ili smanjenju naše ovisnosti o gnojivima za usjeve. Uz pomoć sintetičke biologije možemo, recimo, promijeniti usjev tako da bude otporan na klimatske promjene ili će ga biti moguće uzgajati u zatvorenim prostorima. Možemo proizvoditi meso na staničnoj osnovi bez štete po životinju. Puno je nade na horizontu. Postoje i pokušaji da se uspori starenje ili razvoj personaliziranih lijekova ili razvoj cjepiva. Neki ljudi širom svijeta su tijekom pandemije primili cjepivu zasnovanu na informacijama RNK-a. To je također proizvod sintetičke biologije.

Jedna od stvari koje futuristi poput vas rade jest da na osnovu podataka i dokaza objasnite kakva je vjerojatna budućnost. Kakva bi mogla biti budućnost po najpesimističnijem i najoptimističnijem scenariju?

Najgori ishod je da bi neke zemlje koristile sve ove podatke u svoje autoritarne svrhe kao način kontrole ljudi. Dok bi u nekim drugim zemljama regulacija i planiranje potpuno izostali, zbog čega bi razvoj bio prepušten privatnom sektoru – profitnim organizacijama čiji cilj je da zarade novac. Ni u jednom od tih slučajeva, dakle, nitko zaista ne razmišlja o dugoročnim efektima i o tome kako će to utjecati na buduće generacije, društvo.

To također stvara tenzije, jer znači da su vrijednosti nekih zemalja vrlo različite od drugih i da su te vrijednosti ugrađene u tehnologiju koja se razvija. To važi za umjetnu inteligenciju, sintetičku biologiju, kvantno računarstvo, poluprovodnike – za mnogo ključnih tehnologija koje pokreću moderno tehnološko doba.

Ukoliko želimo izbjeći ovaj katastrofalni scenarij, po mom mišljenju je vrlo važno da uradimo suprotno, što će istovremeno biti u interesu oba svijeta – da kompanije i dalje zarađuju mnogo novca, da zemlje i dalje mogu poštovati svoju lokalnu kulturu i norme, da vlade vode državu kako žele, ali da u centar svega toga stavljaju ljude i provode dugoročno planiranje koje tehnologiju promatra kao javno dobro.

Mislim da postoji način kako to učiniti i potaknuti obje strane da sjednu za isti stol, ali to mora biti naš prioritet. Dobra budućnost ne dolazi slučajno, uistinu sjajna budućnost je rezultat jako napornog rada i dio tog rada je ponekad donošenje odluka koje nam kratkoročno nešto otuđuju ili nam stvaraju neugodnosti, a dugoročno pomažu. To su teški izbori i moramo se odlučiti jesmo li spremni na takav način ulagati u našu budućnost. Mislim da je to optimističan scenarij, ako to učinimo.

Možete li nam konkretnije reći – što bi države, kompanije i civilno društvo trebali uraditi?

Vlade trebaju dugoročno planirati, bez obzira tko je na vlasti u bilo kojem trenutku. Moraju imati zajedničku viziju i složiti se oko nje te nastojati pretvoriti je u stvarnost. Prije pedeset godina toga je bilo više, ali sada je sve manje jer su vlade vrlo fragmentirane zbog polarizacije i ekstremne politike. A ja vam govorim iz SAD-a, gdje se sve ovo događa. Postoje zemlje širom svijeta koje oblikuju dugoročne vizije i jako ih nastoje ostvariti.

Također bi bilo dobro da vlade počnu uvoditi regulatorne inovacije. Previše regulative, naime, usporava napredak, ali ako regulacije uopće nema i ako nema odgovarajućih politika, nalazimo se u nezgodnom položaju. Regulatori ne smiju čekati i moraju biti kreativni.

Tvrdim da mnoge postojeće strukture, pravni i regulatorni okviri danas više nemaju smisla zbog razvoja znanosti i tehnologije. Moramo postati kreativni i početi razmišljati malo drugačije.

Kompanije moraju unaprijed procijeniti rizike i dugoročno planirati – na koje načine se nešto može pokazati kao dobro i koji su slučajevi kada to postaje loše. Moraju razmišljati eksponentno i raditi postupne promjene, uvijek iznova i iznova, kako bi mogli stvoriti stvari koje će za sve biti u najboljem interesu. I da uistinu razmisle postoji li način da nastavimo zarađivati puno novca, a istovremeno raditi bolje.

Na razini pojedinaca, međutim, moramo se probuditi. Stalno koristimo stvari zaista ne razmišljajući o tome kako, recimo, radi ovaj telefon, kako radi internet, koje podatke dajemo, odgovara li nam to. Mislim da trebamo biti razboritiji i  razviti određenu razinu pismenosti. U svim tim slučajevima morat ćemodonositi neugodne odluke, što je u redu. Neugodne odluke danas mogu pomoći da se uspostavi mnogo bolje sutra.

Koja znanstvenofantastična knjiga ili film najbolje opisuje svijet u koji ulazimo?

Trenutno bih rekla Vrli novi svijet Aldousa Huxleya ili Priča o djevojci Margaret Atwood… Ne mogu odabrati samo jedan znanstvenofantastični film ili knjigu koja bi opisivala budućnost, jer takvih koje mi se čine neugodno blizu onome što se sada događa, ima previše.

Ali mislim da nije nužno da je tako. Želim da za deset godina ne budemo imali osjećaj da svi živimo u seriji Black Mirror.

N1 pratite putem aplikacija za Android | iPhone/iPad i društvenih mreža Twitter | Facebook | Instagram.