salakavald - Tumblr blog

salakavald · 1 month ago

Text

Raivo Vare. Sõnum pudelikaelas

Tänapäeva maailm on kaetud seda ühendavate transpordikoridoride niidistikuga. Selles liiguvad inimesed ning tohututes hulkades toorained ja kaubad. Neid koridore võib võrrelda veresoonkonnaga, mis transpordib verd ja sellega koos elutegevuseks olulisi aineid eesotsas hapnikuga, mis on vajalikud organismi normaalseks talitluseks. Nagu elusorganismide puhulgi, toob verevarustuse katkestamine mõne olulise arteri pitsitamisel kaasa koheselt ohtlikke tagajärgi selle kaudu verd saavates eluskudedes. Potentsiaalselt isegi kuni gangreenini välja. Hiljutine juhtum Suessi kanalis, kus üks megakonteinerlaev jäi põiki kanalisse kinni ja seda ei suudetud nädal aega lahti kangutada, tekitas maailma kaubavedudes ning koos sellega ka kaubanduses ja tarbimises tõsise trombi, mille järelvirvendused kestavad veel tükk aega.

Jah, muidugi, seekord oli tegu klassikalise musta luigega elik halbade asjaolude kokkulangemisega, mistõttu ka juhtumi tagajärgedeks polnud keegi piisavalt valmis. Paraku andis see juhtum ka selge sõnumi, et juba ammu räägitud kartustel maailmakaubanduse eluliste funktsioneerimiskanalite nõrkuste kohta on tõsi taga. Ühtlasi andis see järjekordse näitliku õppetunni, kuivõrd tihedalt on meie maailm omavahel seotud ning kui suur roll on maailmakaubanduses ja seeläbi kogu majanduses meretranspordil.

Suessi kanali avarii kui näitlik õppetund

Tekkinud kahjude hinnalipik oli ülisuur ja koosneb väga paljudest komponentidest. Maailma juhtiv kindlustusfirma Allianz arvutas välja (tuginedes selle valdkonna prominentseima globaalse väljaande Lloyd’s List andmetele), et iga avariitund läks eksperthinnangutel maksma rahvusvahelisele kaubavahetusele kuni 400 miljonit dollarit. Seega navigatsiooni taasalustamiseks kulunud nädala jooksul ja veel tükk aega pärast seda kestnud ummiku likvideerimisega seotult tähendas see astronoomilist summat suurusjärgus 60 miljardit dollarit otseseid kahjusid maailmakaubandusele ja meretranspordile.

Ainuüksi laeva lastiks olnud üle 18 000 konteineriga veetava kauba hinnanguline maksumus oli üle 3,5 miljardi dollari ning laeva arestinud Egiptuse võimude hagi laeva päästetööde ja tekitatud kahjude korvamiseks ulatus peaaegu 1 miljardini. Seda nõutakse kaubaomanikelt solidaarselt sisse proportsionaalselt nende kauba osakaalule pardal ja vastavalt merekaubavedudes kehtivale nn general average’i reeglile. Tohutud rahanumbrid aga peegeldavad, kuivõrd oluline kaubavoog liigub isegi üksikute suurte kaubalaevadega. Ja neid laevu liigub maailmameredel korraga väga palju.

Lõppkokkuvõttes selgus tänu sellele avariile, kui tihedalt on maailma erinevad riigid ja majandused ikkagi omavahel seotud.

Kes on näinud 90% globaalsetest kaubavedudest teenindava mereliikluse pilti maailmameredel, saab sellest hästi aru. On ju mered täis tuhandeid täpikestena märgitud laevu, millest üpris suure osa marsruudid kulgevad nähtavalt läbi just Suessi kõriku. Kuid see pole sugugi ainus kitsaskoht.

Selliseid üliolulisi kitsaskohti on maailmameredel mitu ning ükskõik millise neist rivist välja langemine mistahes põhjustel tekitab üleilmses või vähemalt pan-regionaalses mõõtmes märkimisväärseid segadusi ja majanduslikke kaotusi. Et mitte öelda isegi kaost.

Suessi kanali tähtsus

Arvata võib, et pärast juhtunut ja välistamaks teiste marsruutide konkurentsi võetakse nüüd ammu oodatud ja kavandatud Suessi kanali laiendamine kiiremas korras ette ning muudetakse kogu ulatuses kaheharuliseks. See võimaldaks ka kahekordistada vähemalt kanali läbilaskevõimet. Merekaubavedudele Aasia ja Euroopa vahel mõjuks see kaheldamatult stimuleerivalt.

Aasia ja Euroopa vahelises laevaliikluses on Suessi kanali läbimisele praegu alternatiiviks vaid ümber Aafrika sõitmine. Hea Lootuse neeme kaudu võtab teekond seejuures kuni kolm nädalat aega ja 9000 kilomeetrit rohkem, mis tähendab Suessi kanali kaudu kulgeva marsruudiga võrreldes märkimisväärset kaotust nii ajas kui kuludes.

Arktiline meretee kui uus võimalus ja alternatiiv Suessi ning Panama kanali kaudu kulgevale

Suuri lootusi pannakse veel ühele alternatiivsele marsruudile, mis peaks kulgema läbi Põhja-Jäämere piki Venemaa põhjarannikut otse Põhja-Atlandile ja sealtkaudu eelkõige Euroopasse, aga ka piki Kanada põhjarannikut Ameerika idaranniku sadamatesse. See võimaldaks praegust, Suessi ja India või Vaikse ja Atlandi ookeani kaudu kulgevat teekonda lühendada arvestuslikult vastavalt kuni 8000 või 4200 kilomeetrit ning kahe või pooleteise nädala võrra. Pealegi võimaldaks see vältida koguni kahte kõige olulisemat globaalset mereteede kõrikut – lisaks Suessi kanalile ka Malaka väina.

Eriti pärast äsjast Suessi avariid, aga ka jätkuvalt kasvavat Panama kanali ülekoormust on need ootused üksnes tugevnenud. Seda enam et prognoositav kliimasoojenemisest tingitud jääsulamine peaks tooma kaasa veelgi mugavama navigatsiooni tekke.

Samas on selle marsruudi massiivsemaks kasutuselevõtuks mitmeid takistusi. Navigatsioon kestab seal praegu vaid kolmandiku aastast. Laevade liikumine nõuab jäälõhkujatega saatmist isegi navigatsiooni ajal ning laevad ise on oluliselt kallimad kõrgeima jääklassiga alused. Navigatsioon ise kulgeb praegu piki rannikut ja jääb nii vähemalt seni, kuni otsetee põhjapooluse poolt ei avane, mida prognoositakse 2040. aastaks. Ent seal on mitmeid kitsaskohti ja osaliselt on see ka suhteliselt väikeste sügavustega. Näiteks Euroopasse kulgeval teekonnal on Sannikovi väina sügavus vaid kuni 12,5-meetrit. Ka Kanada põhjarannikul on mitmeid navigatsiooniliselt keerukaid kohti. See kõik piirab kasutatavate laevade valikut veelgi ja nõuab lootsiteenuse kasutamist, mis pole samuti odav.

Omaette probleemiks on Venemaa-poolne trassi saatmiseks ebapiisav taristu ja vilets päästevõimekus. Lisaks veel piirkonna tohutu militariseeritus, mis on nii tehnilises mõttes kui ka organisatoorselt pärssiv, sest selle piirkonna navigatsiooni üldvastutus lasub Vene Põhjamere sõjalaevastikul ja tsiviillaevatamise eest vastutab Vene paramilitaarne riiklik tuumamonopol Rosatom.

Eks kõik need põhjused kokku on tinginud selle, et eriti aktiivset laevaliiklust seal tänaseni pole. Näiteks kui kõrvale jätta Venemaa enda siseveod polaaralade varustamiseks ning seal kandis toodetud toorme, eelkõige Taimõri gaasi, samuti nafta ja erinevate maakide väljavedu, siis tegelikult muude kaupade transiitvedu on suhteliselt marginaalne ja moodustas möödunud aastal vaid 1,2 miljonit tonni. Kokku aga said loa seda marsruuti kasutada vaid 1074 laeva. Veelgi väiksemad on mahud USA ja Kanada põhjaranniku kaudu kulgeva Loodeväila marsruudil. Seega nende alternatiivsete marsruutide tõsiseltvõetava konkurentsivõime kasvuks seniste teede kõrval on hädavajalikuks eelduseks prognoositav jääsulamine. Ning see võtab veel paar kümnendit aega. Aga potentsiaali on neil siis tõepoolest.

Olulisim maailma mereteede kõrik – Malaka väin

Veelgi olulisema näitena maailma merekaubanduse olulisematest kõrikutest olgu toodud Malaka väin Kagu-Aasias, mis kulgeb ligi 930 km Malaisia poolsaare ja Indoneesiale kuuluva Sumatra saare vahel ning on kitsamas kohas vaid 2,8 kilomeetri laiune. Seda läbib aastas lausa 100 000 laeva ja ligi 40% rahvusvahelisest kaubandusest.

Ühtlasi on see peamiseks kaubateeks Hiina ja Kagu-Aasia majanduskeskustele. Mistap eriti Hiina, oma teravnevas globaalpoliitilises vastasseisus USA-ga, on väga mures selle pärast, et Malaka väin võidakse suhteliselt kerge vaevaga vastase ja tema liitlaste sõjamerejõudude poolt sulgeda. Seetõttu otsibki Hiina alternatiivseid võimalusi, mille hulka kuuluvad ka tema üliambitsioonika “Vöö ja tee” algatuse mitmetriljonilise programmi hulka arvatud üle maismaa kulgevad variandid ning üle Põhjamere kulgev Arktiline koridor, eelkõige just Kirdeväila kaudu, sest Loodeväila puhul kardetakse pigem USA ja Kanada vastutegutsemist.

Panama kanal on konkurentsitu

Üpris oluline on ka Suessi kanalist kitsam ja madalam, 82-kilomeetrine lüüsidega reguleeritud Panama kanal, millest liigub läbi 5% maailma kaubakogustest ja mis lühendab teekonda võrreldes ümber ohtliku ja tormise Hoorni neeme koguni 12 500 km ja kolme nädala võrra.

Seda on ajapikku püütud laiendada, senisele üheharulisele veeteele on osaliselt juurde ehitatud teine haru ning ka olemasolevat haru on osaliselt laiendatud ja moderniseeritud. Kuid muudes mereveokõrikutes olevast loomulikust veetasemest erinev lüüsidel põhinev tehnoloogia, mis tõstab iga laeva läbimisel süsteemi kõrgeimas punktis vee 26 meetri kõrgusele merepinnast, ja looduslikud olud seavad siin omad piirid nii kanali läbimise kiirusele kui ka laevade suurusele.

See omakorda piirab eelkõige suuremaid laevu kasutavat toormevedu Hiinasse ja sealt omakorda konteinerite vedu Atlandi ookeani poolsesse Põhja- ja Lõuna-Ameerikasse. Ning lisaks jällegi Hiina seisukohast ilmnev puudus – USA liigne kontrollivõimalus selle veetee üle, mistõttu üritas Hiina juba mõned aastad tagasi üles soojendada vana idee uue, seekord tema tehtud ja kontrollitud kanali kaevamisest läbi Nicaragua, mis aga esialgu pole plaanidest ja ettevalmistustest veel kaugemale jõudnud. Ilmselt selle üüratu, üle 100-miljardilise kalliduse tõttu. Küll aga olgu vahemärkusena mainitud, et Venemaa haaras sellest projektist kohe kinni ja sõlmis Nicaragua valitsusega lepingu, et tema relvaformeeringud hakkaksid seda kanalit turvama-kaitsma. Tegelik eesmärk oli, muidugi, legaalselt oma vaenlase USA pehme kõhualuse ligi pääseda paremini, kui seda võimaldab Venezuela, kus juba kohal ollakse.

Hormuzi väin ja teised kõrikud

Üheks pideva pinge allikaks on maailmas olnud Pärsia lahe piirkond, kus hetkel on kõige teravamad Iraani pinged Saudi Araabiaga, samuti jätkuvalt ka USA-ga. Pärsia laht on teadagi suurim nafta- ja gaasitootmispiirkond, mis dikteerib maailma kütuseturgu. Pärsia lahe väljapääs maailmamerele aga kulgeb kummaski suunas vaid ühe, kuni 2 meremiili laiuse laevatatava kanaliga kitsukese Hormuzi väina kaudu. Sealt veetakse läbi enam kui veerand maailma gaasitoormest ja üle kolmandiku naftast ja naftatoodetest.

Hormuzi väinas toimub pidev sõjalaevastike vastasseis, aeg-ajalt kaaperdatakse vastaspoole tankereid ja pantvangistatakse nende meeskondi poliitilise vastasseisu vahetusrahana. Või siis lõhatakse nende küljes miine või lihtsalt takistatakse muul moel laevade normaalset seilamist. Pealegi, veetava kauba eripärast tulenevalt on seal ka kõrgendatud oht looduskatastroofi tekkeks mõne tankeri avarii tagajärjel, mis samuti tõkestaks selle olulise meretee normaalset toimimist vähemalt mõneks ajaks. See kõik aga rõhutab veelgi Hormuzi väina globaalset tähtsust.

Eelneva põhjal peaks olema selge, kuivõrd haavatav on tegelikult rahvusvaheline kaubandus ja laiemalt majandus, kui neis kõrikutes liiklus mingil põhjusel seiskub. Meile Euroopas nii tähtsad kitsaskohad Bosporuses-Dardanellides, Gibraltari väinas, Inglise kanalis ja Taani väinades pole siiski sellega võrreldavad, kuigi on regionaalselt väga olulised. Kui Gibraltari ja La Manche’i puhul on siiski tegu looduslike süvamere läbipääsudega, siis Taani väinade sügavus sisuliselt piirab Läänemerre sisenevate laevade süvise vaid 15,4 meetriga ja silla kõrguse 65 meetriga. Tänapäevases mõttes tähendab see aga, et uued suuremad laevad, ka selline nagu Suessi lukustanud Ever Given, meie merre sisse ei pääsegi. Vähemalt täislastis mitte.

Omaette lugu on Bosporuse ja Dardanellidega. See veetee Vahemere ja Musta mere vahel pole mitte ainult kontinente eraldav, vaid ka üks kõige koormatumaid. Ning samas ohtlikumaid, sest kulgeb läbi rahvatiheda Istanbuli megapoli. Kes on kordki seda kohapeal uurinud-näinud, nagu mina, mõistab neid ohte. Seda kanalikujulist kõverat väina, mida ületavad mitmed sillad ning kus liigub pidev 5-miilise kiirusega veehoovus, läbib aastas 48 000 laeva! Kolm korda rohkem kui Suessi ja neli korda rohkem kui Panama kanalit. 31-kilomeetrine ja 700 meetri laiune väil, mille pikenduseks on 68-kilomeetrine ja 1,2 km laiune Dardanellide väin, on maailma kitsaim looduslik rahvusvaheliseks kaubaveoks kasutatav kanal. Kusjuures asub keset megapoli aglomeratsiooni ja maavärinaohtlikus piirkonnas.

Geograafiat vaadates on ka selge, miks see veetee on olnud läbi aegade eriti ägeda geopoliitilise võitluse tallermaaks.

Sellest tingituna on tal veel omaette sõjalis-poliitiline tähendus. Võttes arvesse selle veetee tähtsust, on väina läbimiseks kehtestatud eraldi rahvusvaheline režiim, mida sätestab rahvusvaheline 1936. aasta Montreux’ konventsioon. Konventsiooni kohaselt ei pea väina läbivad kauba- ja reisialused maksma potentsiaalselt suurt tulu võimaldavat maksu, nagu teistes kanalites, küll aga makstakse lootsitasusid. Veelgi tähtsam reegel aga määrab, et Mustal merel kodusadamat mitteomavad sõjalaevad saavad läbipääsu vaid ajutiselt ja piiratud ajaks kuni 21 päevaks ning nende parameetrid on piiratud. Samuti on Türgil õigus mitte lubada läbi temaga sõjas olevate riikide laevu rahuajal ning üldse sõjalaevu sõjaolukorras.

Muidugi on Türgi huvitatud suuremast sõnaõigusest ja ka suurema raha teenimise võimalusest nii tihedalt kasutataval ja ka sõjaliselt olulisel marsruudil läbi oma riigi südame. Seepärast on riik käivitanud uue, Bosporusele paralleelse 45-kilomeetrise Istanbuli kanali ehitamise, mis on riigi seni suurim taristuprojekt maksumusega üle 10 miljardi dollari. See lubaks sealtkaudu liikuda kuni 160 laeval päevas süvisega kuni 17 m. Kuid mis peamine, president Erdogan on deklareerinud, et uuele kanalile ei laiene rahvusvahelised lepingud, sh Montreux’ konventsioon. Mis omakorda lubaks küsida laevadelt rohkem tasu kanali läbimise tariifide näol ning suveräänselt otsustada, milliseid, kui suuri või kui palju ja kui kauaks lubada kanalist läbi teiste riikide sõjalaevu. Nii tõuseks Türgi geopoliitiline tähtsus märgatavalt.

Quo vadis, maailma logistika?

Võib arvata, et sellest Suessi avariist võetakse õppust ning ühest küljest tugevdatakse nende kitsaskohtade tegevust ja kaitset ning teisest küljest kohandatakse nii merevedude korralduslikku ja riski hindamise poolt kui ka tarneahelaid ümber nii, et see aitaks kaasa kahjude minimeerimisele juhul, kui midagi ikkagi juhtub. Paraku aga tähendab see lõppkokkuvõttes hinnalisa nii logistikale kui kaubale.

Seejuures on probleemidel, mis tekkisid juba enne Suessi avariid seoses viiruspandeemiast tingitud üleilmsete tarnesegadustega, oma mõju paljude tootmisettevõtete ja eriti kriitiliste komponentide tarnete korrapärast sõltuvate tööstusharude edasisele arengule. Pandeemia-aegsed ootamatult tekkinud tarneraskused andsid aimu, mis võib juhtuda, kui mingil põhjusel toorme ja komponentide tarned katkevad või muutuvad prognoosimatult ebaregulaarseks. Suessi avarii lisas veel omakorda teatud aktsendi. Seda mitte ainult tootjatele, vaid ka kauplejatele ja teenindajatele. Kui tuua siia juurde ka kasvavad ohud seoses maailmas tugevneva geopoliitilise vastasseisuga ja sellest tuleneda võivate tarnekatkestustega, siis on arusaadav, et eriti arenenud majandusega riikides, sh Euroopas, kus seni oli märkimisväärne osa allhangetest ja kogu toormevaru sisuliselt arenevatesse riikidesse välja viidud, on hakatud mõtlema sellele, kuidas kindlustada tarneid kriisisituatsioonides. Iseäranis kriitiliste toormeressursside ja komponentide osas. Eelkõige viib see vähemalt teatud tarneahelate lühendamiseni ja suuremate laovarude tekitamiseni.

Tarneahelate lühendamine aga oleks võimaluseks ka meile siin Euroopa serva peal. Kui reshoring’us ja onshoring’us on meil vähem kaasa rääkida, sest me pole eriti suured tootmise väljaviijad kunagi olnud, siis nearshoring’u näol on suurtele Euroopa südamaa tootjariikidele lähedases piirkonnas ja veel samas majandusruumis asuvatel väikeriikidel ajalooline šanss, millest tasuks meilgi püüda kinni hakata.

0 notes

salakavald · 2 months ago

Text

Jaan Tallinn: “Minu eesmärk tehisintellekti valdkonnas on pumbata tõenäosust düstoopiast utoopiasse”

Mure elu kestlikkuse pärast – kas AI võtab planeedi üle? Tehnoloogia ülikiire areng on pannud ka tehisintellekti arendamisega tegelevaid inimesi muretsema. Millised riskid meid AI-ga seoses ähvardavad, mille üle on meil põhjust muretseda ja millele on meil loota? Kristjan Port vestles meid ees ootavast tulevikust maailma ühe informeerituma AI-temaatikat valdava eksperdi ja investori Jaan Tallinnaga. Tema sõnul on AI arendamine majanduslikult kasulik, mistõttu on väga raske seda peatada. Et negatiivsed riskid ei realiseeruks, on oluline olla AI-d arendavate ettevõtete omanikeringis, et pääseda nende kööki ja rääkida ka AI riskidest. “Minu AI-investeeringud, nende ettevõtmiste juures olemine ja nende inimestega suhtlemine ongi suunatud teadlikkuse tõstmisele,” ütleb Jaan Tallinn.

Kui käia tänaval ringi inimeste seas, keda me ei tunne, siis igaühes neis on mingi potentsiaal, mida me ei tea. Selles peitubki inimlik rikkus. Ja sinus on üle keskmise potentsiaali, vähemalt mõjupotentsiaali, mida enamus inimesi ei tea, ei oska hinnata ega arvatagi. Kusjuures see potentsiaal ei ole kuidagi seotud majandusliku mõjukusega, vaid inimliku hoolivusega.

Ma olen sellele mõelnud ja kõige fundamentaalsem iva, milleni ma jõudnud olen, on see, et ma üritan olla usaldusväärselt neutraalne ja katsun teha asju, mida tuleviku generatsioonid tahaksid, et ma praegu teeksin.

Keda sa tuleviku generatsioonide all silmas pead?

Seda on raske defineerida. Ilmselt tuleb sinna sisse lugeda ka inimesed, keda tõenäoliselt ei sünni, kuna maailm saab hukka. Need on inimesed, kes tegelikult sünnivad, ja inimesed, kes võiksid sündida, kui asjad läheksid paremini. Ma kuulun sellisesse liikumisse nagu efektiivne altruism. Just eelmisel nädalavahetusel oli meil Eesti seltskonna kogunemine (intervjuu toimus 28.07 – toim). Seal võib eristada ajalist ja ruumilist dimensiooni. Üks, mida efektiivsed altruistid eesotsas liikumise algataja Peter Singeriga ütlevad, on see, et me ei tohiks teha inimestel, kes on meie kõrval ja kes me kõrval pole, nii tugevalt vahet, nagu inimesed intuitiivselt teevad. Loevad ka nende elud, kellega me võib-olla kunagi kokku ei saa, sest nad elavad mõnel teisel kontinendil. Seetõttu on oluline hoolida üle terve planeedi. See on n-ö ruumipõhine hoolivus. Ajapõhine hoolivus tähendab hoolimist ka inimestest, kes ei ole veel sündinud. Neil on praegu veel vähem hääleõigust kui inimestel, kes on küll praeguseks juba sündinud, aga kahjuks mõnda kolmandasse riiki, millel pole eriti suurt mõju. Tuleviku generatsioonide all mõtlengi ma inimesi, keda siis, kui asjad lähevad hästi, on palju, ja keda siis, kui asjad lähevad halvasti, võinuks olla palju.

Sa mõjutad maailma vähemalt kahe organisatsiooni kaudu. Üks on Cambridge’i Ülikooli juures tegutsev Eksistentsiaalse Riski Uuringute Keskus ja teine Bostonis hajusalt asuv Elu Tuleviku Instituut. Minu jaoks on just see viimane huvitav. Kuidas sa määratled elu, kas see on vaid inimeste elu?

Need on süsteemid, mis on võimelised omama teadvuslikke kogemusi.

Teadvusena käsitled sa enim enesemääratlust?

Teadvus on siiamaani midagi, mille olemusest me täpselt aru ei saa. Aga see tundub oluline. Olen enda väärtuste puhul tähele pannud, et mind väga huvitab see, et kui ma võtan mingisuguse isoleeritud aegruumi tüki, siis kas seal on teadvuslikke kogemusi või mitte. Kui need pole inimesed, vaid loomad (efektiivse altruismi üks mõtteid ongi, et me kohtleme loomi liiga halvasti), siis kas seal on midagi, mille suhtes empaatiline olla või mitte. Juhul kui seal pole ühtegi teadvuslikku kogemust ja see on isoleeritud aegruumi osa, siis minu praeguse arusaama kohaselt on täiesti ükskõik, mis seal juhtub.

Kuidas sa eksistentsiaalset riski määratled, on see terminaalne või pikk kannatus?

Kõige põhjalikum definitsioon selle kohta on Toby Ordi raamatus “The Precipice”, kus ta ütleb, et inimkonna eksistentsiaalne risk on inimkonna potentsiaali järsk katastroofiline vähenemine. Inimkonnal on hetkel põhimõtteliselt potentsiaal jõuda tähtedeni ja muuta universum õitsvaks. Juhul kui selgub, et sel või järgmisel aastakümnel tuleb üks aasta, mil see tulevik muutub võimatuks, siis see on eksistentsiaalne katastroof. Lihtsamalt öeldes on kõige suurem tõenäosus eksistentsiaalse riski kategoorias sellel, et inimesed surevad välja. Ja seal omakorda on kõige suurem tõenäosus sellel, et nad surevad välja, kuna keskkond muutub elamiskõlbmatuks – kiiresti.

Inimkonna potentsiaal ise on ju selle kahjustamise põhjuseks. Kuidas head potentsiaali halvast eristada?

Kui teed asju, mis inimkonna potentsiaali kahjustavad, on nad ka enamiku inimkonna väärtuste seisukohalt negatiivsed, kuigi alati leidub ka igasugu veidrikke. Need, mis seda ultimatiivset potentsiaali säilitavad, on positiivsed. Ütleme nii, et eesmärk on pumbata tõenäosust düstoopiatest utoopiatesse.

Minu jaoks on huvitav, et see on enneaegne inimese või potentsiaali otsasaamine. Mida tähendab enneaegne? Inimene ei ole ju määratud igavesti elama ja eksisteerima. Kuidas see sinu käsitluses on?

Need on küsimused, kus oluliseks saab kvantiteet.

Isegi kui inimkond või universum ei kesta igavesti, siis on vahet, kas me kestame veel 40 aastat või 1040 aastat.

See vahe on väga suur.

Kas praegu oleme me liiga vähe aega kestnud?

Jah, isegi imetajana oleme me väga noor liik. On imetajaliike, kelle vanus on mõõdetav kümnetes miljonites aastates.

Elu Tuleviku Instituut ja Eksistentsiaalse Riski Uuringute Keskus on suhteliselt hilised, paigutuvad sellesse sajandisse. Oxfordi juures tegutseb ka Inimkonna Tuleviku Instituut. Kas me peaksime olema rohkem huvitatud inimesekesksest visioonist?

Neid nimesid ei maksa liiga üle tõlgendada, ent need on selgelt erinevad organisatsioonid. Inimkonna Tuleviku Instituut on üks vanimaid, kui mitte vanim eksistentsiaalsete riskidega tegelev organisatsioon. Ja ta on filosoofiliselt kõige kompetentsem. Tegeleb selliste küsimustega nagu mis on elu, mis on väärtus, kuidas seda kaitsta, kas suremine on hea või halb.

See tärkas nii nagu tuhandetel teistel inimestel – peale seda, kui lugesin Eliezer Yudkowsky kirjutisi. Ma hakkasin teda lugema, kui ta kirjutas veel sellises kohas nagu Overcoming Bias, nüüd on sellest saanud LessWrong, järjest prominentsem oluliste teemade arutelu keskkond.

Yudkowsky positsioon oli pigem pessimistlik.

Ta on kirjutanud sellest, kuidas tema silmad avanesid. Kuidas ta algul noorena oli selgelt sellel positsioonil, millel paljud siiamaani on: AI on lihtsalt üks hüpe progressis ja meil on vaja see kiiresti ära teha, enne kui me selle võime järgmist etappi alustada kaotame. Ja siis ühel hetkel jõudis ta selleni, et oot-oot, mida see inimestele tähendaks.

Kas elu või intellekt on üldse materjalist sõltuv? Kas ta võiks olla materjalist invariantne ja me võimegi olla teel sellise tehnilise kandja poole?

Võimalik. Aga siin on mitu nüanssi. Kui väga suurelt mõelda, siis üks küsimus on, et kui me teame, et tegemist on teadvusliku kogemusega, siis kuidas neid võrrelda. Juba praegu on trade-off’id olemas – näiteks kui vaatame, kuidas kanade teadvuslikku kogemust võrreldakse, mitme kana kannatus on võrdne ühe inimese kannatusega. Tõenäoliselt 1:1 see ei ole, aga mis see number siis on?

Kana käest küsides oleks tema arvamus teada.

Jah, võib-olla küll. Aga kuidas seda mõõta? Kas neuronite arvuga või mingil muul viisil? See pole ka ainult puhtalt filosoofiline küsimus, see on ka küsimus sellest, et kui me käituksime moraalselt õigesti, siis kui palju me peaksime näiteks kanaliha maksustama. See aga põhjustab väikest kannatust paljudele inimestele, kuna kanaliha on üks populaarsemaid valguallikaid üldse. Ja need trade-off’id lähevad veel hullemaks, kui rääkida mitte süsiniku baasil olevatest süsteemidest.

Üks küsimus, mis mind ennast väga huvitab, on see, et kui mul on kaks programmi, mis jooksevad silikoonis või muus keskkonnas ja neil mõlemal on teadvuslikud kogemused, nad on täpselt identsed, igale hetkele järgneb hetk, mis on täpselt samasugune, nad on sünkroonis, siis kas neid lugeda üheks või mitte. Kui neid mitte üheks lugeda, siis kuidas neid kaaluda. Need on teemad, mis on ühel hetkel väga olulised. Ma loodan, et nad hetkel veel ei ole olulised, kuna me ei tea neile vastust.

Aga praegu on õige aeg neile mõtelda. Robin Hansoni “Age of Em” on enam-vähem samasugune. Seal on kaks ajalist dimensiooni: digitaalne aeg, kus kõik kulgeb väga kiiresti, ja inimese bioloogiline aeg. Me tajume maailma muutust hoopis teises tähenduses ja kontekstis.

Selle kohta ma saadan tavaliselt inimestele, kes räägivad AI-ga kokku kasvamisest, ühe video seeriast “Stainless”. Seal on kunstnik filminud maailma umbes 50 korda kiiremini ja näitab seda normaalkiirusena – milline näeb maailm välja AI jaoks, kes on ainult 50 korda kiirem. Tegelikult on AI miljon kuni miljard korda kiirem. Inimesed on põhimõtteliselt liikumatud kujud, kes seisavad aastakümneid ühe koha peal.

Ja tahavad väita, et nad kontrollivad protsessi.

Just, et meie nüüd merge’ime. Võrdluseks võib tuua selle, et sulle pannakse mingi kompanjon juurde, kes jookseb sinust miljon korda aeglasemalt, mis tähendab, et ta suudab öelda ühe sõna aastakümne jooksul, ja sa juba tead, mis see sõna on. Pole ju eriline partnerlus.

See on ka üks võimalik seletus sellele, et teised tsivilisatsioonid on olemas. Nad on lihtsalt veel aeglasemad kui meie ja magavad praegu, seepärast polegi me neid märganud. Nende eksistentsiaalne tempo on teistsugune.

Siin tekivad kohe küsimused, et kui meil on üks universum, siis ta ei saa olla aeglasem, kui universumi vanus lubab.

Kui mõtleme eksistentsiaalsele riskile, siis sel on kolm parameetrit. Esiteks, mingi jama juhtub ja sel saab olema kergem või raskem tagajärg. Teiseks, jamal on mingi tõenäosus. Kolmandaks, see jama peab olema meie poolt kontrollitav, vastasel juhul ei saa me rääkida riskist, vaid tegu oleks saatuse või millegi muuga.

Need ongi põhimõtteliselt efektiivse altruismi kolm peamist kriteeriumi: kas asi on oluline, tähelepanuta jäetud, lahendatav.

Ma saan aru, et riski olemuse institutsionaalsed lähenemised saab jagada enam-vähem neljaks: kliima, tehnoloogiline, sõjaline, tehisintellekt. Kas sina oled kõige enam tehisintellekti riski poole vaadanud?

Jah, kuigi neil on kattuvusi.

Üks, mida ma kogu aeg räägin, on see, et meie jaoks on enamus eksistentsiaalseid riske keskkonnakatastroofid. Drastiline näide – AI-l ei ole päikest vaja.

Veelgi enam, juhul kui teda huvitab optimaalne energiakasutus, on tema huvides päikeses toimuv energia raiskamine lõpetada. Me oleme bioloogilised olendid, kes on harjunud kosmilises mõttes väga veidra keskkonnaga ja iga väike muudatus selles keskkonnas on meile saatuslik. AI-l ei ole mingit huvi hoida seda keskkonda selliste parameetrite vahemikus, mis sobib bioloogiliseks eluks.

See toob teemani, et inimene on meile teadaolevalt kõige kõrgem elu kandja, aga pole endaga kunagi rahul ning see sunnib end muutma. Kui võtame sipelga või kaelkirjaku, siis nad ei püüa end muuta. Nad küll kohanevad, aga nad pole aktiivsed enda muutjad. Kas inimesel on ülejäänud eluslooduse suhtes mingi saatuslik vastutus, teistsugune roll antud, et me peamegi teiste eest ka otsustama?

Huvitav küsimus, ma pole niimoodi mõelnud.

Kui oleme lennukis, siis seal öeldakse, et jama korral pane kõigepealt endale mask pähe ja siis hakka teisi päästma. Paistab, et me oleme siiski need, kes suudavad midagi teha.

Jah, juhul kui me väärtustame teadvusel olevate olendite kogemusi ja meie tegevusest sõltub meie, teiste loomade, olendite teadvusliku kogemuse jätkumine ja positiivsus. Kuid seal on ka väga palju probleeme. Efektiivse altruismi kogukond on süstemaatiliselt hakanud mõtlema, kuidas vähendada loomade kannatusi, ja jõudnud järeldusele, et valdav enamus kannatusi saavad osaks metsloomadele.

On üks huvitav Oxfordi argumentatsiooni auhinna saanud väitlus teemal, kas elu võimalus, õigus eluks on moraalselt õigustatud. Jah, on küll. Farmiloom elab oluliselt paremat elu kui metsloom ja sureb tähenduslikult, kuna ta süüakse ära. Metsloom arvatavasti kannatab kogu elu ja sureb traagika läbi. Moraalselt õige oleks metsast kõik loomad kõrvaldada ja farmidesse tuua. Kas me seda olemegi tegemas?

Kindlasti me ei tee seda teadlikult. Kui me seda teadlikult teeksime, siis teeksime seda palju paremini, mitte ei tekitaks farmides kannatusi.

Selge see, et meil on halbu farme ka.

Enamus farme on halvad. See on selgelt inimkonna häbiplekk. Õnneks toimub praegu väga hea progress intensiivse farmikasvanduse vastu, eriti Ameerikas.

Aga kui inimkond on edukas, siis saab see ju toimuda ainult loomade, ülejäänud eluslooduse arvelt.

Ma jätan selle suure probleemi praegu lauale. Aga selle üle tasub mõelda.

Üks oluline asi, mida ma usun, on, et evolutsioon ei ole automaatselt hea. Paljud arvavad, et evolutsioon on selline heatahtlik vanake, kes ainult järjest positiivsemat tulevikku loob. Ei ole. Evolutsioon teeb ka tohutuid jäledusi. Evolutsiooni kui pimedasse tegevusse on meil moraalne kohustus sekkuda, aga samas on vist õieti öeldud küll, et enne pane hapnikumask endale pähe ja siis hakka teisi aitama. See aga ei tähenda, et eri inimesed ja organisatsioonid ei võiks nendega paralleelselt tegeleda.

Kas meie hapnikumaskiks on tehisintellekt? Me oleme praegu teel sinnapoole, kas me peaksime pidurit panema? Kas me peaksime lennukis ütlema, et see seltskond siin on vale, inimkonna päästmise nimel võiksime kõik hukkuda?

Üldine probleem on, et mida võimsamaks muutub tehnoloogia, seda levinumaks saab see, et tehnoloogia arendajad võtavad riske teiste arvelt. Eksternaalsus ehk mõju teistele, välistele, kolmandatele osapooltele (nt kui mina teen lõket, siis naabrid kannatavad suitsu või vabanevad sääskedest (st võib olla hea või halb eksternaalsus); internaalsus seevastu oleks mõju mulle kui tegijale – K.P.) läheb üha suuremaks, samas planeet ei lähe suuremaks. See on minu meelest selgelt ebamoraalne. Nüüd on küsimus, kas positiivne pool kaalub üles riskide võtmise teiste arvelt. Juhul kui tehisintellekti katastroofis hukkuks vaid tehisintellekti arendajad, oleks tehisintellekti arendamine praegu täiesti kangelaslik. Aga nii see ei ole. Küsimus on, kui palju positiivsust me peaksime ootama.

Praegu arutatakse, kas pandeemia puhul oli tegemist laborilekkega. Ühe seisukoha järgi ei saa me võib-olla kunagi teada, kas oli laborileke, aga see võis vabalt nii olla. Järelikult gain of function research (uudikfunktsioonide uuringud) vist ikkagi ei ole positiivne asi. On vähe argumente selle kasuks, et me peaksime neid uuringuid jätkama. Mis praegu AI valdkonnas toimub, on AI gain of fuction research. Võetaks järjest suuremad mustad kastid, pannakse katseliselt järjest rohkem elektrit sisse ja vaadatakse, kas tekkis mingi uus huvitav funktsionaalsus, kas ta läks nii palju targemaks, et saaksime uut funktsionaalsust kasutada. See on mõnes mõttes isomorfne bioloogilise gain of function research’iga. Minu arvates AI gain of function research ei ole moraalne, samadel argumentidel nagu pole moraalne gain of function research bioloogias. Probleem on tohutus majanduslikus surves sellist asja teha, mistõttu ongi reaalsus see, et me peame sellega elama, et niisugused eksperimendid toimuvad, ja mõtlema, kuidas positiivset poolt suurendada. Minu üks viimaseid investeeringuid ongi just Anthropic, kes mõtleb, kuidas me saaksime AI-ga maailmas, mis läheb järjest suuremate eksperimentide suunas, võimalikult palju tulevikku säilitada.

Sa oled AI rakendamise kui lahenduse suhtes optimistlik? Ütlesid, et moraalselt õige oleks need AI arendajad musta kasti panna ja ära uputada.

Seda kindlasti mitte. Ma arvan, et õigem oleks teha AI eksperimente, kus katsetajad saavad aru, mida nad teevad, mitte ei pane lihtsalt rohkem elektrit sisse, vaadates, mis juhtub. Üldiselt ma arvan, et tehnoloogiast on inimesel kasu olnud, nii et üldine tehnoloogia arendamise peatamine on kindlalt ebamoraalne. Küsimus on, millist tehnoloogiat me eelistame. Kui meil oleks võime tsivilisatsioonina eelistada AI-d, millest tegijad kui protsessist aru saavad, siis peaksime sellist piirangut AI arendamisel kasutama. Kahjuks meie tsivilisatsioonil ei ole võimekust AI-arendust piirata.

Siin tekib dilemma. Selleks et paremini teada, peaksime kasutama paremaid tööriistu, aga neid kasutades me libastume. Miks me AI-d kasutame, me tahame seda teha kasvõi natukene endast paremaks, et ise paremaks muutuda. Siis meil tekib selline ärajooksev protsess.

Üks kuulsamaid AI-skeptikute hüüdlauseid on Andrew Ngi “AI pärast muretsemine on sama hea kui muretseda Marsi ülerahvastamise pärast 300 aasta pärast”. Stuart Russelli, ühe prominentsema AI-turvalisuse pärast muretseva inimese vastus sellele on, et juhul kui me kulutame aastas kümneid või sadu miljardeid Marsi ülerahvastamiseks, siis me tõesti võiksime mõned miljonid kulutada ka sellele, et mõelda, mis juhtub, kui ta ülerahvastatakse. Reaalsus on, et need kümned miljardid lähevad praegu AI arendamisse. Me oleme jõudnud olukorda, kus AI arendamine on majanduslikult kasulik, mistõttu on väga raske seda peatada.

Samas Stuart Russell on pööranud tähelepanu ka sellele, et me ei peaks AI-d arendama oma olematus või vähekontrollitavas fantaasias, majanduslikus motivatsioonis, vaid laskma AI-l jälgida, mida meie teeme. Kui me ei oska ise oma väärtusi kirjeldada, siis võib-olla AI oskab neist aru saada.

Sellest teemast võib väga pikalt rääkida. Aga üldine probleem on, kuidas ehitada AI-d, mille arusaam heast tulevikust oleks võimalikult sarnane sellega, milline meie arusaam peaks olema. Me ei tohiks arvata, et 2021 on täpselt see hetk, kus inimene sai aru, milline on hea tulevik ja seda tuleb nüüd lõpmatuseni toetada. Me oleme ikkagi moraalselt arenev liik.

Kas oleme? Me oleme inimkonna arenguloos praegu arvatavasti kõige kaugemale jõudnud, aga kui vaadata, millised vastuolud meie väärtussüsteemis on, siis see on traagiline. Kas me oleme üldse suutelised?

See on väga väiklane seisukoht, et 2021 on parem kui 21. Samas on väga selgelt olemas mittesümmeetrilised arengud, näiteks empaatia laienemine. Kassi põlema panemine oli aastal 21 mõnus ajaviide, selles midagi ebamoraalset ei tundunud olevat.

Pehmem ja õigem väide on, et ringkond olenditest, kelle heaolu pärast me muretseme, on suurenenud. Mulle tundub, et moraalifilosoofia seisukohast on see selgelt progress, mitte tagasiminek.

Moraalifilosoofidel puudub ka ühine kokkulepe, mis on õige, mis on vale. Moraalietaloni pole, ilmselt seda ei eksisteerigi.

Tihtilugu inimesed ülehindavad meie erimeelsusi. Meie ajud on tegelikult instrumendid, mis on loodud erimeelsuste võimendamiseks ja poliitilise profiidi lõikamiseks väikeses 50–100-liikmelises kogukonnas. See, et päikest kolme aasta pärast välja ei lülitataks – see küsimus ei tõuse niisugusele tasemele, et me sellest kui väärtusest räägiks. Stuart Russell on öelnud, et meil ei ole rahvusvahelist eetikute konverentsi, kus arutatakse parema jala väärtuse üle. See on praktiliselt kõigi jaoks väärtuslik, selle üle ei ole mõtet vaielda.

Me seisame iga päev justkui mingi sotsiaalse või poliitilise kuristiku äärel ja kardame, aga kui tuleb suur kriis, siis me unustame need vastuolud.

Absoluutselt. OpenAI juht Sam Altman on öelnud, et huvitav, mis juhtuks, kui me saaksime teada, et meie poole on tulemas tulnukate laev ja me teame, et nad on inimkonnast tehnoloogiliselt kõvasti arenenumad, ja me ei tea, mida nad inimkonnast arvavad. See tõenäoliselt oleks ühendav jõud. Aga võib-olla mitte.

Tehisintellekti areng ja see, mida me tehnoloogiaga teeme, on ju samasugune tehiskaaslase lähenemine meie ellu. Ja see toimub ületamatul kiirusel, kuna me ei näe seda ette. Ootamatused on ootamatused just seetõttu, et me ei näe neid ette. Millise riski sa eksistentsiaalses kalendris kõige lähemale sätid?

AI gain of function’i eksperimendid. Parameetrite arv kasvab praegu eksponentsiaalselt. Inimajul on umbkaudu 100 triljonit parameetrit, praegused AI eksperimendid on juba 15 triljoni juures. On jäänud vaid loetud aastad esimese AI gain of function’i eksperimendini, mis on võrreldav inimaju võimsusega. Nvidia asepresident ütleb, et tema arvates toimub viie aasta jooksul vähemalt üks eksperiment, mille maksumus on miljard dollarit. Keegi kulutab miljard dollarit AI gain of function’i eksperimendile.

Kust see kvalitatiivne hüpe tuleks?

On raske öelda, mis juhtub, kui panna inimaju jagu neuroneid kokku, lükata elekter peale ja oodata tulemust.

Me näeme ju tänapäeval, mis juhtub. Meil on mingisugused reeglid.

Need AI-d, mis mustas kastis praegu on, ei ole inimesega sarnasemad kui ämblikuga. Tim Urban kirjutas mõned aastad tagasi oma “Wait But Why” blogis AI riskist nii: kui sa kujutad ette intelligentset AI-d, ära kujuta ette intelligentset inimest, kujuta ette intelligentset ämblikku. AI on inimesega veelgi vähem sarnane kui ämblik inimesega. Ämblik on oma olemuselt AI-ga kõvasti sarnasem.

Meil on multiagentkeskkond, kus on 7–8 miljardit inimest tsivilisatsiooniks organiseerunud. Ja nüüd me hakkame lisama agente, kes on ultrakompetentsed ühes või mitmes dimensioonis ja kes pole inimesed. Kui kaua selline tsivilisatsioon vastu peab, enne kui ta nende mitte-inimeste lisandudes rebeneb?

Kas tehisintellekti teeb neutraalne teadus või motiveeritud majandusüksus?

Motiveeritud majandus. Enamus eksperimente on majanduslikult motiveeritud.

Meie seda ei kontrolli, vaid see lihtsalt juhtub.

Mõned asjad on ka päris poliitilised.

Majandus on üks poliitika dimensioonidest. Stuart Russellil on näide, et kas gorilla unistab inimeseks saamisest. Ta näeb, et inimesel on asju rohkem. Kas ta tunneb end inimese kõrval turvaliselt? Sellele teisele küsimusele on meil arvatavasti lihtsam vastata – tal ei ole põhjust end turvaliselt tunda.

Stuart Russellil on ühes kõnes slaid kolme mõtlikus poosis gorillaga ja ta ütleb, et see on gorillade vastav konverents. Mida me teeme nende inimestega, kes siia tulevad.

Nagu sa mainisid, peaksime mõtlema tehisintellektist pigem kui ämblikust, mitte mingist supertegelasest. Ta on ettearvamatu.

Tal on inimestest täiesti ükskõik – see on üks oluline AI ja ämbliku ühine omadus. Ja tal on hoopis teistsugune maailmavaade ning väärtused.

Mis need poliitilised lahendused oleks? Kas reguleerime majandust ja info liikumist, kes mida teab? Ohu tõttu ollakse selle arengust huvitatud ka militaarse poole pealt.

Ma ei tea, kuivõrd suur võimekus on riikidel piirata arvutusvõimsust, mis läheb AI eksperimentidesse.

Hiinal kindlasti on see võimekus. Ma olen Hiinas mõned korrad käinud ja suhteliselt mõistlikud on need AI riskide arutelud. Kohati isegi mõistlikumad kui läänes. Kultuuriliselt eemal olevana ma siiski tegelikult ei tea, mis seal päriselt toimub.

Aga ma kardan, et läänes ei ole võimekust reguleerida arvutusvõimsust.

Nii et igal juhul peame me valmis olema jama realiseerumiseks? Nagu kalendri näites gain of function’i puhul sa paigutad selle esimeseks, et siit me saame mingisuguse korraliku laksu. Riski hinnates võime selle ühe riski esile tuua.

Ma ei tea. Kui väita, et väga suur jama tuleb järgmise viie aasta jooksul, siis ma olen suhteliselt kindel, et see tuleb AI gain of function research’ist. Aga ma ei tea, võib-olla ei tule. Stuart Russell ütleb, et lähitulevikus midagi halba ei juhtu, ja tema vaimukas põhjendus on, et kui me anname lapsele aabitsa kätte, siis seal ei ole 10 miljonit kaelkirjaku pilti, et õpetada lapsele, mis kaelkirjak on. Aga AI-l on vaja 10 miljonit kaelkirjaku pilti. See tähendab, et tal on mingi oluline intellektuaalne puue. See on ka üks oluline argument, miks seda jama ei peaks tulema.

Samas selles digitaalses ajus toimub kõik superkiiresti.

Jah, ja kui sa talle 10 miljonit kaelkirjakut näitad, õpib ta ikkagi ära, mis kaelkirjak on. Ühe argumentatsiooni kohaselt on see puue nii oluline, et sealt inimesele üldist konkurentsi pakkuvat süsteemi välja ei tule, sest see puue on totaalselt piirav. Teine argumentatsioon ütleb, et lennukid pole ka kunagi olnud nii efektiivsed kui linnud, aga samas teevad lindudele pika puuga ära. Sama võib juhtuda gain of function research’iga – me kindlasti ei saa inimesega sama efektiivset süsteemi energiakasutuses, aga saame piisavalt efektiivse, mis on võimeline planeedi hävitama.

See on just sellise arengu näide, kus me internaalsust kontrollime, aga eksternaalsust ei kontrolli. Me arendame seda eriti, kui jõuvektoriks on majanduslik huvi. Siis me optimeerime ja oleme konkurentsi tingimustes isegi sunnitud optimeerima.

Ehkki meil on majanduspoliitiline huvi, on AI-sid, mida on võimalik nüüd kasumlikult rakendada. Ma arvan, et näiteks Tesla saab väga tugeva konkurentsieelise tänu oma AI-le. Ja see on majanduslikult mõõdetav eelis.

Kas sa pead silmas seda, et Tesla saab kõikidest autodest tagasisidet? Kaelkirjakuid on neil hästi palju.

Teslal on praegu vaieldamatult kõige parem autopilootsüsteem. See pole täiuslik, kaugel sellest – ise oleksin selle pärast peaaegu avarii teinud nädal tagasi. Aga ta on konkurentidest selgelt parem, mistõttu on neil AI tiim, mis loob Tesla aktsiale majanduslikku väärtust juurde. Paljud AI eksperimendid pole puhtalt majanduslikud – et teed eksperimendi ja saad kohe mingit kasumit. Vaid sa teed eksperimendi ja selle tulemusel tõused maailmas liidripositsioonile kui kõige suurema eksperimendi omanik. Selle tulemusena saad juurde noort talenti, kes tahab sinu juures töötada. Siis omakorda saad teha teisi AI projekte. See pole üksühene majanduslik mehhanism, vaid majanduse, brändi, kasumi segu.

Seda raskem on seda kontrollida, me ei näe otseselt kvantitatiivset mõõdikut, vaid see paigutub kuidagi halli tsooni.

Jah, see on keerulisem ja hägusam mehhanism.

Riski realiseerumine. Tehisintellekti puhul ennustatakse inimese tasemele jõudmisest 30, 60, 130 aasta vahemikku. Kuhu sina selle tunnetuslikult paigutad? Ma ei saa küll võtta sinult garantiid, aga ikkagi.

On tõenäosus, et järgmise viie aasta jooksul toimub mittetriviaalne ärevushetk, millest see sõltub. Mõtlemapanev sündmus.

Kas see on suurusjärgult midagi COVID-i sarnast? COVID on gain of function’iga seotud. Midagi on toimunud ühe viiruse hüppamisest looma omast inimese peale. Kaotus kontrollis – poliitiliselt ei suudetud kokku leppida ja ka ei usutud selle raskusastet.

Tõenäosus, et järgmise viie aasta jooksul kaotab inimkond kontrolli planeedi üle, kuna toimub gain of function’i eksperiment, mis läheb valesti, ei ole siiski tohutult suur, aga siiski oluline – võib-olla kuskil 2–4%.

Meie tehnoloogiline andmevahetusstruktuur on suhteliselt rabe. See peab olema tehnoloogiast endast tulenev risk, realiseerub mingi keemiatehase sündmus. Tehisintellekt ei tule meile pähe ronima ega jääkappi tühjaks tegema, vaid käivitab mingi keskkonnatraagikaga seotud sündmuse. Ultrakiire pankadevahelise transaktsiooni puhul on ju ka pandud lõppude lõpuks mingisugused stop cap’id, et see natukenegi kontrolli alla saada. Arvatavasti see ei saa olla andmepõhine traagika, vaid kõrgelt arenenud automaatne seade.

Scott Alexander on Slate Star Codexis andnud vaimuka vastuse inimestele, kes ütlevad, et AI-l ei ole ju käsi, ta ei saa midagi olulist teha. Vastus on kahesõnaline – Satoshi Nakamoto. For all we know, tegemist oli AI-ga. Ja ta on miljardär. Ning kui sa oled juba miljardär ja sul on internetiühendus, saad sa juba päris palju asju teha.

On üks fantaasiat avardav raamat “Avogadro Corp”, kus AI hakkab segama inimestevahelist meililiiklust. AI võtab inimeste teadmata meili, kirjutab selle ringi ja saadab edasi. Raamat kirjeldab väga huvitavalt kaost, mis selle tagajärjel toimub. Keegi ei saa enam suurt aru, tekib mingi militaarvõimekus mitmetes kohtades, inimesed kaovad, olukord väljub suhteliselt kiiresti kontrolli alt. See on üks võimalik näide, mida inimesed suudavad välja mõelda selle kohta, mis võib juhtuda.

Suhteliselt reaalne. Kui võtta bitcoin’i-miljardär, siis oma rahaga saab ta teha head ja halba. Ja me arvame, et ta teeb halba, sest inimene on niivõrd rikutud.

Eliezer kujutas juba kümmekond aastat tagasi ette, mida võib teha AI, kes on lihtsalt eksperimendi tulemusena üles ärganud, aga kogu maailma interneti info põhjal treenitud. Ta võib saata juhised laboritesse, kus ta tõestab, et võib krüpto eest maksta, ja käsib välja trükkida teatud organismid.

Halb inimene apelleerib teiste inimeste halvale küljele. Raha on sisuliselt töö ekvivalent. Bitcoin aga spekulatiivne raha, mil pole garanteeritud väärtust. Ta tekib õhust, aga võib muutuda reaalseks, likviidseks. Ja kui sa oled paha inimene, siis pöördud laborisse, kus on ausad inimesed, aga teevad ohtlikke asju, ja maksad neile. Nad ütlevad, et igal asjal on oma hind, okei, sa maksad, ja lõpuks nad teevadki raha eest ohtlikku asja ja stsenaarium realiseerubki.

Ei, see käib nii, et sa saadad tellimustöö välja trükkida. Nemad vaatavad, et on hea tasu ja mis sest ikka.

Tagajärg on, et inimene oma halva külje kaudu realiseerib teiste nõrkusi.

Scott Alexander on kirjutanud elegantse, jube pika essee “Meditations On Moloch”, milles kirjeldatakse olukorda, kus keegi halba ei taha, aga tulemus on ikkagi väga-väga halb.

Kui meil puudub moraalne võrdlusalus – universaalset moraali ei paista olemas olevat, vähemalt pole leitud, ei suudeta kirjeldada – siis paratamatult juhtub nii.

Üks lootuskiir mul on.

Ava seda, ma tahaks ka lootust saada.

Just täna hommikul oli mul sel teemal väga põnev vestlus researcher’itega. Inim-moraali juured on mänguteoorias. Harvardi psühholoog Joshua Greene on kirjutanud raamatu “Moral Tribes”, mis kirjeldab, kust moraalsed väärtused alguse said. Algus on suguharude vahel toimuvas võistluses, kus suguharud, milles kehtis aukoodeks, vastastikune aitamine ja kokkuhoidmine, olid lihtsalt konkurentsivõimelisemad kui need, kus moraalikoodeksit polnud. Moraalsus sai alguse loodusliku, sotsiaalse valiku tulemusena. Nüüd on huvitav küsimus, et juhul kui moraali olemuses on mitme agendi interaktsiooni olukorras üksikute agentide käitumist piirata, nii et üldine kasu sellest tõuseks…

Mitte ühekordses mängus, vaid mitmekordses mängus, sest muidu see ei toimiks. Ühekordses mängus tasub ju tüssata.

Ma väidan, et see ei ole õige. Ühe- ja mitmekordse mängu vahe on palju väiksem, kui arvatakse. Agendid ei pea tegema mingit käiku selleks, et teada saada, millega teine vastab. Vaja on hoopis mõelda, mida see teine agent teeb, kui ma selle käigu astuksin. See on usalduse küsimus, kas ma usaldan seda. See pole üldse abstraktne asi, kui sa oled reaalselt niisuguses olukorras, siis teed täpselt seda – mõtled, mida teine plaanib.

Koordinatsioonimäng sisuliselt. Kuskilt väljastpoolt peab tulema vihje, kultuuris olevad vihjed peavad ütlema, mida arvatavasti teine ka arvab. See toob su algupärase lähtekoha juurde, et bioloogilises süsteemis peab ikkagi hea asi olema see, mille vastu me arvame, et ka vastane teeb seda, mis on talle hea.

Inimühiskonna eeliseks on, et inimesed on suhteliselt sümmeetrilised. Kui ma satun teise inimesega vangidilemmasse, on mul palju infot selle kohta, mida teine inimene mõtleb, kuna me oleme väga sarnasest DNA-st koos, tihtilugu kultuuriliselt sarnases keskkonnas kasvanud.

Meie kultuuriloost on teada ka päriselt halbu inimesi, kel on näiteks kesknärvisüsteemiga nõnda, et ta ei mõista teiste valu ega talu ise valu.

Sotsiopaate on kindlasti olemas.

See tähendab, et suures teoreetilises mängukombinatoorikas suur hulk inimesi mingi aja jooksul kannatavad. Tekib küsimus, et kui kannatus on piisavalt suur, siis kas tasub elada. Kas see pole ka üks eksistentsiaalse riski allikaid?

Suures kompleksses süsteemis on ka palju vastuolulisi inimesi – mitte ainult need, kes optimeerivad end moraalselt paremini, vaid on ka neid, kes on valmis halvasti käituma. Pika aja jooksul tekib summaarselt suhteliselt suure hulga inimeste jaoks suhteliselt kehv seisund. Me näeme praegu ka, et maailm ei ole kuigi õnnelik, on düstoopilises meeleolus. Tohutust arengust hoolimata ei ole mitte kõik rõõmsamaks muutunud, vaid rõõmutut seisundit on üsna palju.

Steven Pinker kõlab siin. Oma raamatus “The Better Angels of Our Nature: Why Violence Has Declined” väidab ta, et elu on ajapikku paremaks läinud.

Tema vastu võikski vaielda. Ajaloolased ütlevad, et ta pigem tõlgendab.

Ma olen ise laval Pinkeriga vaielnud.

On vaja ka neid, kes rõhutavad optimistlikku nägemust jne. Aga kui kannatused lähevad piisavalt suureks, siis kas elul on mõtet? See on ka eksistentsiaalne risk, kannatused ise moodustavad eksistentsiaalse riski.

X-riskide (existential risk) kogukonnas on mingi väike kildkond, mis muretseb S-riskide pärast (suffering risk). X on see, et inimesi enam ei ole. S on see, et inimesed on, aga nad on sellises seisundis, kus nad eelistaks mitte olla.

Tegelikult inimeste lõplik tapmine on suhteliselt raske. Ajaloos on vahepeal olnud ka 6000–7000 inimest alles.

Sõltub, kes proovib tappa.

Jaa, aga v��ga kerge see pole. Kannatuste tekitamine on palju kergem. Tõenäosusruum kannatuste jaoks on palju suurem.

Sellega ma pole absoluutselt nõus, lihtsalt füüsika tõttu. Inimese elus hoidmiseks on vajalik väga delikaatse keskkonna tasakaalu hoidmine. Kui temperatuuri liigutada 20 kraadi üles või alla, surevad inimesed ära, nad ei jää lõputult kannatama.

Üleminekuprotsessis on suhteliselt pikk periood, mille jooksul kannatatakse. Surrakse enne ära, kui bioloogiliselt enam ei suuda ses temperatuuris vastu pidada. Enne sooritatakse pimedas keldris enesetapp.

Umbes nii jah. Üldiselt ma olen nõus, et maailmas on tulevikus hullemaidki võimalusi kui inimeste hukkumine.

On kaks AI turvalisust käsitlevat koolkonda. Üks ütleb, et me peame oma kodutööst AI-le võimalikult palju üle andma, et AI ülesanne oleks välja mõelda, mida inimesed tahavad, ja siis seda ka teha. Mitte et meie peaks välja mõtlema, mida AI peaks meie heaks tegema. Sel juhul tekib AI-l väga hea arusaam sellest, mis inimesed on ja mida nad tahavad. Probleem on aga, kas tal tekib motivatsioon, et täide viia seda, mida ta õpib. See on S-riskide oht – kui tekitada AI, mis saab täpselt inimesest aru, on piisavalt motiveeritud inimesi elus hoidma, saab eesmärgile pihta, aga mitte päris. Kui mõelda, siis milline on kõige tüüpilisem düstoopia retsept? Võta utoopia ja muuda üks nüanss ära. Me võime saada sellise düstoopia, kui teeme AI, mis üritab teha utoopiat, aga paneb natukene mööda, siis on ka S-riskid selgelt olemas.

Teine koolkond ütleb, et me ei tohi AI-le anda mitte mingeid andmeid, mis annaks talle lihtsa võimaluse järeldada, et inimesed on üldse olemas. Tuleb ehitada AI-d, mis ei tea inimese olemasolust, aga on siiski kasulik tööriistana – andmata sellele teadmisi inimpsühholoogiast.

Inimene tahab säilitada kontrolli just käskude kaudu.

Selleks et kontrollmehhanism töötaks, peab kontrollitav olema võimetu kontrollmehhanismi mõjutama. Või siis peab eksisteerima mingi veider tasakaal tema ja kontrollija mõju vahel.

Hetkel me oleme ajajärgus, kus mängime ideega, et oleme selleks võimelised. Aga me seda ju ei tea. On kaks koolkonda. Üks ütleb, et laseme sel masinal kasvada, las ta jälgib ja teenindab meid. Teine ütleb, et me niisama metsikult ei lase sel kasvada, me mängime ideega, et me kontrollime, mis andmeid talle anname.

Juhul kui sa ehitad AI, mis on võimeline välja raalima, milline peaks olema õige AI, ja kehastuma selleks AI-ks, siis oled permanentselt võitnud. Aga sel teel on väga palju karisid, mis võib juhtuda ja valesti minna. Kui võtta konservatiivne lähenemine ja luua AI, mis on võimas, aga jääb oma liistude juurde ja on pigem tööriist…

Raha on töö ekvivalent. Rahaga saab rohkem või vähem tööd esile kutsuda. See pole mitte ainult vara, vaid ka instrument, sekkumisvahend. Sinu investeeringud tehisintellekti on ikkagi ajendatud soovist kontrollida, mis see protsess on. Mis on su peamised juhtmõtted nende valikute tegemisel?

Juhul kui ma AI seltskondadesse investeerin, siis minu jaoks on peamine, et mis vahe on tulemusel võrreldes maailmaga, kus ma ei investeeri. Tihtilugu kritiseeritakse mind, et kui ma AI pärast mures olen, siis miks ma AI-sse investeerin. Selle kriitika eelduseks on justkui, et kui mina ei investeeriks, siis teised ka ei investeeriks. See on selgelt vale eeldus. Anthropicuga me just tegime nii, et nad käisid riskikapitalistidelt investeeringuid küsimas, ja oli selgelt näha, et kui mina ei investeeri, siis saavad nad rahastuse neilt.

Naljatamisi olen öelnud, aga tegelikult nii on olnud ka, et

ma olen AI ettevõtetesse investeerinud ja kasutanud seda investeeringut kui piletit pääsemaks nende kööki, et rääkida AI riskidest.

Ma arvan, et sellel, mida me siin praegu teeme – üldise teadlikkuse tõstmine – on suhteliselt väike mõju. Võib-olla sel on mingi mõju, aga ma ei näe otseselt mehhanismi, kuidas sellise asja positiivne mõju realiseeruks. Kuid kui ma räägin sedasama juttu AI inimeste köögis, siis on sel oluliselt tugevam mõju.

AI investeeringud, nende ettevõtmiste juures olemine ja nende inimestega suhtlemine on suunatud teadlikkuse tõstmisele.

Kas see tähendab, et tegemist on ka eetiliselt, moraalselt, mitte ainult majanduslikult mõtlevate inimestega? Sundolukord on ka nende jaoks majanduslik optimum. Nad võivad ju öelda, et rääkisin Jaaniga ja saan temast aru, aga…

Üks huvitav trend, mida Anthropicu lahkulöömine OpenAI-st näitab, on see, et kõrgtehnoloogia ja AI-ga tegelevates ettevõtetes toimub teatav jõuvahekordade muutus. Traditsiooniline ettevõtete jõuhierarhia on hierarhiline puu, kus on ülemused ja alluvad. Ülemuste jõud tuleb sellest, et neil on allkirjaõigus, õigus esindada organisatsiooni, teha majanduslikke tehinguid, mille tulemusel nad kontrollivad rahavooge organisatsiooni sees.

Energiat kontrollivad.

Kõrgemal olevad inimesed on kraanile lähemal. Olukorras, kus tehnoloogia on järjest väärtuslikum, on metallile (st arendatavale tehnoloogiale) lähemal olevaid inimesi raskem kontrollida. Seepärast on ka raske kontrollida insenere, kes ehitavad AI-d. Kui sul on start-up ja ühel hetkel on su inseneridel võimalus jalutada sinu juurest minema, olles kohe miljardärid, võides tõsta saja miljardi pealt raha oma uude ettevõttesse.

Kas sina mängid siis selle n-ö köögis oleva seltskonna peale, mitte neile, kes on seal paar trepiastet kõrgemal?

Põhimõtteliselt mõlema peale, aga köögis olev seltskond on neil teemadel nupukam.

Nende jaoks olulisim aspekt ehk crux ei ole siis majanduslik, vaid arvatavasti teaduslik või intellektuaalne. Nad teostavad midagi, nagu teadusele tihtipeale ette heidetakse, teie tegite ja nüüd on meil aatomipomm.

Väga hea võrdlus. Lugesin suurepärast Richard Rhodesi raamatut “The Making of the Atomic Bomb”. Käib tõsine uurimistöö, mis täpselt aatomipommi juhtimises juhtus, kuna paralleelid AI-ga on väga tugevad. Samamoodi nagu need teadlased olid päriselt ka mures, mis maailmast saab, on praegu AI insenerid maailma pärast mures.

Vahe on selles, et aatomipommi tegemine on suhteliselt keeruline. AI tegemiseks on lugematu arv nutikaid IT-inimesi kasvõi kodus garaažis. Raudvara pole piirav tegur. Pole üldse nii kontrollitav. Keemiarelv on suhteliselt hästi kontrollitav, kemikaale ikka jälgitakse, eriti kui tegu on suurte kogustega.

AI puhul on jälgitav vaid energiakulu. Järjest suuremate gain of function’i eksperimentide puhul on neid võimalik satelliitidelt näha.

Seda ei heida keegi ette. AI arendamisse suhtutakse praegu väga positiivselt.

Kusjuures ei ole nii. Oxfordi Interneti-instituut tegi eelmisel aastal küsitluse, kust selgus, et enamus inimesi läänes peab AI-d negatiivseks.

Inimesed on reaktiivsed. Nad on negatiivselt meelestatud, kuna nad ei tea. Ja kui ei tea, on hirmud.

Jah, aga nad pole õigel põhjusel hirmul.

Üldist optimismi AI osas enam pole. Hiinas on. Siin on selge vahe ida ja lääne vahel.

Ühes rahvusvahelises küsitluses küsiti, millal AI vähemalt inimese tasemel realiseerub. Kogu Aasia vastas, et enam-vähem kohe.

Mu hea tuttav Katja Grace tegi selle mõjuva küsitluse AI-teadlaste hulgas.

Mis see kultuuriline erinevus võib olla? Et ka Eesti tunnetuslikku maailma paika panna. Me oleme nagu kahe maailma vahel. On see majanduslik või kultuuriline?

Läänes ollakse tuleviku suhtes järjest ebakindlamad.

On kaugemale jõutud ka, nähakse tunneli lõppu.

AI-evangeliste usaldatakse üha vähem, kuna nad on majanduslikult või muul moel silmaklapistatud. Kuid miks hiinlased optimistlikud on, seda ma ei tea.

Seal ollakse muinasjutu faasis kauem.

Ma pole küll Hiinas nüüd kaks aastat käinud, aga üldiselt on näha, et AI riskide teemaline diskursus on seal mitmeid aastaid maas. Argumendid, millest seal räägitakse, on läänes juba mitmeid aastaid tagasi läbi käidud. Samas on Hiina selles osas avatum kui lääs. Viis või kümme aastat tagasi pidi läänes ruumis ringi vaatama, et kes neist ütleb, et see on jama science fiction, millest sa räägid, lõpeta ära, piinlik kuulata. Hiinas sellist asja pole, et keegi ütleks, ära räägi AI ohtudest.

See, kui vabalt end väljendada saab, tuleneb ka kultuurist. Kuna kõik on kuss ja arendavad AI-d, siis tundubki, et kõik läheb ilusasti. Lääne pool on düstoopiakirjandust ja kõike muud.

Kirjanduses ja kultuuris on raudselt selge vahe näha. Cambridge’i Ülikooli juures olev Leverhulme’i-nimeline Tuleviku Intellekti Keskus tegi antropoloogilise uuringu, kuidas kirjeldatakse tehissüsteeme läänes ja idas. Jaapanis on see valdavalt positiivne. Kui fantaasiakirjanduses räägitakse robotitest, on nad valdavalt positiivsed tegelased.

Neil pole suurt validagi. Rahva taastootmise piiri seal ei rahuldata ja leitakse, et immigratsioon on halvem kui see, et rahvast asendavad robotid, piiksuvad seadmed. Selline traagika, aga nende valik ilmselt.

Kas sa tajud, et oma investeerimisinstrumendi kasutamisel sa puudutad seda rooli või sul on pigem juurdepääs arusaamadele ja väärtustele? Organisatsioonid, mille loomise juures sa oled olnud, on tegelikult roolikeeramise organisatsioonid, mis tekitavad dialoogi, väärtussüsteeme, kujundavad raamistikku, aga investeering on juurdepääs köögipoolele.

Mul on “tsivilisatsioonimängus” kolm ressurssi: mu aeg, vara ja bränd. Brändi olen ma sihilikult tehnoloogiamaailmas arendanud nüüd enam kui kümme aastat. Olen loonud sellise brändi, kus ma olen vahelüli. Kui on AI pärast muretsev seltskond ja AI-d arendav seltskond, siis ma üritan neid kokku panna ja vahendada vestlust ja samas ise tehnoloog olles, mõistes tehnoloogide-inseneride motivatsiooni, olen nende poolel rohkem kui riskikapitalist.

Brändi positsiooni väljatoomine on huvitav. Meil on tihtipeale sotsiaalmeedia tõttu pinnapeale maailm, kus vaid kuvandiga tegeletaksegi. Sinu kuvand Eestis – sind eriti ei teata. Isegi see, et me inimkonda puudutavatel teemadel praegu eesti keeles räägime – kas seda dialoogi peaks lokaliseerima või huvitatud peaksid uurima ingliskeelset materjali? Kas sa peaksid olema kohapeal nähtavam? Eesti ei saa ju midagi ära teha.

Ma ei näe praegu põhjust olla Eestis sekkuvam, et sel mingi oluline väärtus oleks.

Eesti väärtus minu jaoks seisneb selles, et ta on selgelt ida ja lääne vahel olev neutraalne punkt. Hiljuti toetasin üht Shanghai uurimisinstituuti, mida mu palju rikkamad kolleegid USA-st ei saaks toetada, sest sedasi tekiks toetuse vastuvõtjatel võimudega probleeme.

Väljaspool on Eestil riigina väga hea kuvand ikka veel alles.

Tasub säilitada teatud vaoshoitust. Seda, et sa oled küll eestlane, aga toimetad jube tugevate jõujoontega maastikul, me ise ei teadvusta, aga võib-olla see ongi meie enda huvides. Kui me ei suuda ise palju tehnoloogiliselt ja majanduslikult kaasa rääkida, siis meil tasub olla justkui hall kardinal ja protsessi vaoshoitumalt juhtida.

Olen viimasel ajal tihti suhelnud Singapuri administratsiooniga. Seal on huvitavalt sarnane olukord. Nad on kahe kultuuri vahel, samas pisike, neutraalne, mitte kedagi ähvardav tegija. Mingeid kontakte on mul ka Šveitsis ning viimasel ajal Uus-Meremaal. Need kolm riiki on geograafilised Schelling point’id (mänguteooria termin, mis on nime saanud Thomas Schellingi järgi ja mis viitab lahendusele, mida inimesed kipuvad valima üksteisest sõltumatult – toim). Kui seda ringi laiendada, siis Eesti oleks neljas või viies.

Šveits, Singapur ja Uus-Meremaa on iseseisvad, samas mitte kedagi ohustavad riigid. Nende puhul on selgelt välja joonistunud kaalukeele roll maailmas. Eestil on sarnane positsioon, aga nõrgem.

Kui mingis riigis peaks toimuma mingi üleilmne AI projekt, näiteks turvaprojekt, siis Singapur võiks olla nii Hiina kui Ameerika teine valik.

Kuidas sa näed Venemaa AI arengut? Kus nemad praegu selles vallas on?

Venemaa on väga tugeva teadustraditsiooniga riik, aga ei hooli oma teadlastest, mistõttu pole neid sinna eriti palju jäänud.

Nad on nähtavad mujal maailmas.

Kel on olnud võimalus lahkuda, on lahkunud. Võib-olla ma alahindan Venemaad, aga ma pole kuulnud sealt midagi vapustavat.

Eestiski on mõtet dialoogi arendada, et inimesed mõtleksid rohkem ka väärtustele. Otsuseid teeme me väärtuspõhiselt, mitte andmepõhiselt, aga kogu tehisintellekt on andmetele rajatud.

Kuna Eesti on väike riik, siis inimesed on riigile lähemal.

Kui eestlased oleks selles valdkonnas nutikamad, kas sellest oleks kasu?

Jah, juhul kui Eestis teadlikkus suureneb, tekib teadvushüpe neil teemadel, siis see oleks suurema potentsiaaliga kui sama hüpe miljonil inimesel Ameerikas.

Miljon keskmist inimest Ameerikas ei saa midagi teha. Miljon inimest Eestis saab aga kõike juhtida.

Arvamus kõlab rohkem, kuigi maailma mastaabis läheb korda vaid siis, kui me seda väga kõvasti ei räägi, kombineerime rohkem, oleme tammsaarelikud.

Kaalukeele roll on paratamatult Eesti peamine jõud.

Lõpetuseks ütle, kas sa oled üldiselt optimist.

Ma olen pragmaatiline optimist.

Informeeritud pessimist siis või?

Maailma tuleviku võib jagada kolmeks variandiks. Üks on see, kus kõik läheb hästi sõltumata sellest, mida ma teen – seda võib ignoreerida. Teine, kõik läheb halvasti sõltumata sellest, mis ma teen – seda võiks ka ignoreerida. Jääb variant, et tulevikus läheb hästi, kui me pingutame, ja sellele ma keskendun.

See eeldab julgust. Mugavam oleks mitte.

Jah, isegi endiste Skype’i kolleegidega rääkides olen kohanud suhtumist, et ah mis mina ikka suudan sellise asjaga ära teha.

Elon Musk on öelnud, et viie aasta pärast läheb kõik tuksi, nagu sinagi pead võimalikuks väikest musta sündmust viie aasta jooksul. Ta on huvitav tüüp, võib öelda mida iganes. Paistab, et suurt süsteemi juhib ta siiski pragmaatilisemalt, aga ta ütles hiljuti, et inimkonna arengu põhjuseks on Toxoplasma gondii, et me oleme julgemad kui peaks. (Toxoplasma gondii on kesknärvisüsteemi mõjutav parasiit, mida on uuritud 10–15 aastat, seotud kassi-hiire ainevahetussüsteemiga, muudab hiire julgemaks. Üks Prantsusmaa uuring on isegi näidanud, et autoavariisse sattunud inimestel on tugevalt üle juhuslikkuse taseme kodus nakkust vahendavad kassid – toksoplasmoos avaldab mõju). Kas sa oled selle väitega nõus, et inimene on optimistlikum, kui peaks olema?

Musk on liiga loosunglik minu maitse jaoks.

Ma olen nõus sellega, et kogu progressi on loonud inimesed, kes on püüdnud võimatut ja sealjuures suuri riske võtnud. Probleem on selles, et sel sajandil võetakse riskid teiste arvelt. Kuidas seda dünaamikat parandada, on suur küsimus. Kui õnnestuks teha olukord, kus AI katastroofis hukkuvad vaid AI arendajad, siis oleme võitnud. AI risk praegusel kujul haihtuks.

Kas me üldine üleskutse on pigem, et olge passiivsed ja vaadake, või proovige midagi teha? Kõik halvad asjad juhtuvad ju siis, kui midagi tehakse. Kõrvalt vaadates ei juhtu midagi.

Kindlasti on meil tsivilisatsioonina vaja praegusest rohkem ideid, lahendusi probleemidele, mille lahendusi me hetkel ei tea. Kuidas see seostub riskimisega, ma ei oska öelda.

Risk on selles, kui sa mõtled kastist välja, mitte konventsionaalselt. Uued asjad on kastist väljas.

Kui risk seisneb mõtetes ja karjääriga riskimises, siis kindlasti.

Investeeringutes ka. Sa ei investeeri riskivabalt.

Just. Aga kui see on teiste eludega riskimine, siis see pigem pole positiivne.

Aitäh! Sõnaga “positiivne” panekski siinkohal vestlusele punkti.

0 notes