#optimismi | Explore Tumblr posts and blogs

kapitaali · 3 months ago

Photo

Daniel Schmachtenberger: Tekoälyn laajat rajat ylittävät vaikutukset

Tekoäly on kehittynyt huimaa vauhtia. Tähän liittyy lähes hurja optimismi sen suhteen, mitkä kiireelliset maailmanlaajuiset ongelmat tekoäly voisi ratkaista, erityisesti ilmastoratkaisuihin liittyvän hypetyksen osalta.

Daniel Schmachtenberger tarkastelee tänään Naten kanssa laajasti tekoälyn nykyisiin lupauksiin sisältyviä todellisia ympäristöriskejä. Hän osoittaa, että tekoälyn vaikutusten nykyinen kehityskulku on pikemminkin kohti ekologista tuhoa kuin ennallistamista… tärkeä kertomus, joka puuttuu tällä hetkellä tekoälyä ympäröivästä keskustelusta.

Mitkä ovat ympäristövaikutukset, joita aiheutuu rajattomilla laskentakapasiteeteilla varustetusta työkalusta, jonka tavoitteena on armoton kasvu ja louhinta? Miten tekoäly voisi vaikuttaa vallan ja ahneuden teemoihin, lisätä eriarvoisuutta ja kiihdyttää yhteiskunnan pirstaloitumista? Millainen rooli tekoälyllä voisi olla erilaisissa arvoissa ja tulevaisuuden odotuksissa, jotka palvelevat elämän parantamista?

youtube

Transkriptio

(Keskustelu nauhoitettu kesäkuun 27. 2024)

Nate Hagens: Haluan toivottaa kollegani Daniel Schmachtenbergerin tervetulleeksi takaisin ohjelmaan, jotta hän voisi syventyä tekoälyn mahdollisiin vaikutuksiin ympäristöön ja erityisesti ilmastonmuutokseen. Olen hiljattain käynyt muutamissa energiateknologian ja ilmaston konferensseissa, joissa tekoäly on esillä. Ainakin joka toisessa esityksessä puhutaan siitä, miten se vähentää päästöjä ja on yleisesti ottaen siunaus ympäristölle.

Vaistoni ja keskustelut Danielin, Tristanin, Harrisin ja muiden kanssa kertovat minulle, että tämä ei todennäköisesti pidä paikkaansa, joten kiitos. Tämä keskustelu on jatkoa alkuperäiselle keskustelullemme tekoälystä ja superorganismista. Tämä oli syvästi informatiivinen ja usein häiritsevä keskustelu, erityisesti se 20 minuuttia, alussa, ennen kuin pääsimme tekoälyyn ja ilmastoon, puhuttiin laajemmasta makrotarinasta tekoälystä, ihmisen voimajärjestelmistä ja siitä, mitä on tapahtumassa, ja joistakin pahimmista skenaarioista.

Joten kuuntelijat, varoitetaan, että ensimmäiset 20 minuuttia ovat aika intensiivisiä. Henkilökohtaisesti olen sitä mieltä, että Daniel on oikeansuuntainen siinä, mitä hän esittää tässä podcastissa. Toivon, että se, mitä hän ennustaa, on virheellistä Elämän ja niiden asioiden puolesta, joista välitän. Minun on kuitenkin sanottava, että siitä lähtien, kun tapasin hänet kolme tai neljä vuotta sitten, hän on ollut hyvin oikeassa tekoälystä ja siitä, mitä yhteiskunnassamme tapahtuu tekoälyn suhteen.

Luulen, että törmäämme energiaan ja muihin rajoituksiin ennen kuin se, mitä hän ehdottaa tässä podcastissa, toteutuu, mutta alistun hänen mielipiteeseensä tässä asiassa. Loppuhuomautuksena on, että pidämme tämän keskustelun korkealla käsitteellisellä tasolla, mutta hänen tiiminsä on luonut uuden, yli 20-sivuisen asiakirjan viitteistä ja resursseista, joissa on todellista tietoa siitä, mitä kentällä tapahtuu.

Päivitämme sen ohjelman muistiinpanoihin YouTubessa ja greatsimplification.com -sivustolla, joten voitte katsoa sieltä lisätietoja. Keskustelu jatkuu, ystäväni. Toivottakaa tervetulleeksi Daniel Schmachtenberger. Hei, Daniel. Hauska nähdä sinua. Niistä sadasta eri aiheesta, joista voisimme keskustella ihmisten tulevaisuuden ja elämän palvelemisen kannalta, puhumme tänään tekoälystä.

Ja siinäkin aiheessa on monia osa-alueita, miten se vaikuttaa epätasa-arvoon, voittoihin ja valtaan ja sotilas- ja yritystoimintaan, tiedättehän, erilaisiin uusiin teknologioihin. Tänään keskitymme kuitenkin siihen, mitä tekoäly merkitsee ilmastonmuutokselle ja ympäristölle, koska siitä ei mielestäni puhuta usein.

Palasin juuri ilmastoenergiateknologian konferenssista, jossa monet esittelijät tarjosivat tätä tai toista teknologiaa, joka olisi parempi ilmaston kannalta, koska siinä käytettäisiin tekoälyä. Tiedän, että te ja kolleganne, tiiminne, olette työskennelleet tämän kysymyksen parissa. Miksi emme aloittaisi antamalla yleiskatsauksen siitä, miten tekoäly nykymuodossaan voisi teoriassa olla hyväksi ympäristölle. Mitkä ovat sen pääkohdat?

Daniel Schmachtenberger: Melko kattava tutkielma. Sen nimi on Tackling Climate Change with Machine Learning, ja siinä käsitellään lähes kaikkia väitteitä siitä miten tekoäly, koneoppiminen ja niihin liittyvät sensorit ja automaatio voisivat auttaa. Kyse on kaikesta siitä, että pystytään mallintamaan luonnonilmiöitä paremmin, kuten jäävuorten sulamisen mallintamisesta, jotta voidaan ennustaa nopeuksia ja muuta sellaista, ja ilmakehän dynamiikan mallintamisesta, jotta voidaan tehdä aerosoleihin perustuvaa geoteknistä käsittelyä (kemikaalivanat).

Tehokkaammin pystytään luomaan tehokkuushyötyjä monilla aloilla, joilla tehokkuushyötyjen ansiosta energian tai materiaalien käytön pitäisi oletettavasti vähentyä. Ja sitten todella suuret alat ovat ajatus siitä, että tekoäly voisi auttaa perustavanlaatuisissa tieteellisissä ja teknologisissa läpimurroissa, kuten ydinfuusiossa, energiantuotannossa, energian varastoinnissa, paljon paremmissa akuissa ja vastaavissa asioissa.

Ydinfuusio ja huoneenlämpöiset suprajohteet ovat kuitenkin niin sanottuja Graalin maljoja. Jos tarkastellaan kaikkia aloja, joilla tehokkuutta voitaisiin saada, jos ajatellaan kaikkia paikkoja, joissa on öljy- tai maakaasulinjoja, ja jos niiden varrella on antureita, jotka tarkkailevat vuotoja ja jotka voivat käyttää jonkinlaista koneälyä tunnistamaan, missä vuodot tapahtuvat, ja ohjaamaan ihmisiä sinne, mutta melko pian myös automatisoitua robottihuoltoa, vuotoja on selvästi vähemmän. On siis monia aloja, joilla tehokkuusongelman optimoinnilla voidaan saavuttaa joitakin hyötyjä.

Nate Hagens: Ja kuinka moni niistä on teoreettinen ja kuinka moni niistä on todisteena siitä, että ne ovat jo jossain määrin ilmenneet?

Daniel Schmachtenberger: Jos puhumme sensoreista, joissa on paljon dataa ja joissa tarvitaan tekoälyä, joka pystyy mallintamaan kaiken tämän datan, se on suoraviivaista.

Tällaista teknologiaa on olemassa, ja se paranee koko ajan. Ironista kyllä, yksi sen tärkeimmistä sovelluksista on tehdä öljyn louhinnasta halvempaa ja tehokkaampaa. Niinpä 92 prosenttia kaikista öljy-yhtiöistä tekee suuria sopimuksia tekoäly-yritysten kanssa kehittääkseen öljyn ja fossiilisten polttoaineiden poraamista tekoälytekniikoiden avulla, kaikkea teknisesti erittäin edistynyttä, kuten tekoälyn käyttämistä seismisiin tallenteisiin ja maanalaiseen akustiikkaan, jotta voidaan nähdä tarkalleen, missä maanalaiset luonnonvarat ovat, ja muuta sellaista, jotta etsintä- ja louhintakustannukset saadaan paljon halvemmiksi.

Kaikki suuret tekoäly-yritykset palvelevat tätä alaa. NVIDIA tarjoaa siruja ja tekee yhteistyötä perinteisen energian eikä vain uusiutuvien energialähteiden kanssa. Ja Microsoftilla on kokonaisia sopimuksia ja tuotteita, jotka on kehitetty yksinomaan öljyteollisuutta varten. Mutta sanoisin, että tällaiset asiat, joissa on kyse automaatiosta, no, anteeksi, joissa on kyse suuresta määrästä dataa ja kyvystä hyödyntää sitä, ovat melko vakaita.

Kun tarkastelemme myös marginaalisia tehokkuushyötyjä, jotka eivät vaadi perustavanlaatuisia läpimurtoja, niitä tulee tapahtumaan. Microsoft Mechanics, jossa puhutaan perustavanlaatuisista läpimurroista. Gatesin tapa sanoa se on mielestäni selvä. Hänen mukaansa tekoälytyypit, joita meillä on tähän mennessä, nopeuttavat materiaalisen innovaation ja teknisen innovaation osalta asioita, joissa ihmiset pärjäävät jo melko hyvin, mutta ne eivät tee sellaisia asioita, joista olemme todella kiinnostuneita ja joissa ihmiset eivät ole edistyneet kovinkaan paljon.

Tekoälyä on siis käytetty ydinenergiassa ja fissiossa jo pitkään auttamaan teknologian vakaudessa ja sen kaltaisissa asioissa. Läpimurrot tällä alalla ovat olleet marginaalisia. Eli voiko se todella saada aikaan massiivisia muutoksia? Läpimurtoja fuusion nopeudessa tai vastaavaa.

Niitä ei ole, ymmärrän kyllä miksi ihmiset ajattelevat niin, mutta ei ole mitään ennakkotapausta, suurta luottamusta, varsinkaan millään aikajanalla.

Nate Hagens: En tiedä sinusta, mutta kun katson LinkedIniä ja puhun ihmisten kanssa, en omassa ydinpiirissäni, mutta laajemmassa piirissä, joka kiinnittää huomiota maailmaan, olen sitä mieltä, että tekoäly tulee olemaan avainasemassa.

Se on hyväksi ympäristölle monien mainitsemiesi asioiden vuoksi, se tekee uusiutuvasta teknologiasta, akuista ja puhtaasta teknologiasta tehokkaampaa, ja kapea-alaisesta näkökulmasta katsottuna, jota sinä ja minä emme erityisesti käytä. Me katsomme mieluummin laajempaa rajaa, ja palaamme siihen hetken kuluttua.

Se on myönteistä, kun käytetään vähemmän energiamateriaaleja. Oletko samaa mieltä?

Daniel Schmachtenberger: Luulen, että se on suosittu narratiivi. Luulen, että ympäristö- ja ilmastoalalla on paljon ihmisiä, jotka eivät usko, että se on totta. Mutta uskon, että monet ihmiset, jotka ovat laajasti huolissaan ympäristöstä ja ilmastosta, eivät ymmärrä sitä kovin yksityiskohtaisesti.

Siihen on mielestäni monia syitä. Kiitos tuohon narratiiviin uskomisen. Markkinointinäkökulmasta, jos minulla on tuote tai palvelu, katson kaikkia eri markkinasektoreita ja yritän keksiä, miten markkinoida heille ja miksi tuotteestani on heille hyötyä. Tekoäly ja aseteollisuus ovat siis yksi suurimmista aiheista.

Tällä hetkellä ei oikeastaan ole mitään puolustuskeskustelua, joka liittyisi tekoälyyn aseteollisuudessa. Tekoäly ei koske vain autonomisia aseita ja lennokkeja, vaan tekoälyä on myös tarkassa tähtäyksessä. Myös kattava taistelusuunnittelu tapahtuu yhä useammin monimutkaisemmissa tekoälyjärjestelmissä.

Tiedustelun kerääminen, valtavien tiedustelumäärien kerääminen, joita ihmisten on lajiteltava, ei ole kovin hyödyllistä, eikö niin? Se on hyödyllistä vain tekoälyjärjestelmien avulla. Jos siis puhutaan lainvalvonnasta, tekoäly voi näyttää, missä pahikset ovat, koska nyt voimme todella käyttää kaikkea tätä tietoa järkevästi.

Näyttääkö tämä tekoälyn valtuuttamalta kaikkialle ulottuvalta digitaaliselta teknologiselta valvonnalta? Kyllä, mikä on aika paha juttu. Mutta kyllä. Jos tarkastellaan melkein jokaista alaa, niin tekoäly parantaa radikaalisti koulutusta, koska nyt meillä on tekoälyohjaajia, jotka tietävät kaiken ja voivat opettaa lapsia suoraan, ja tekoäly auttaa vanhainkoteja, koska nyt meillä on chatbotteja, jotka keskustelevat vanhusten kanssa, jotta he eivät ole yksinäisiä, ja se parantaa lääketiedettä. Ajatus siitä, että tekoäly parantaisi radikaalisti ilmastonmuutosta, on siis niin, että ilmasto on vaikutusvaltainen aihe.

Se vaikuttaa kansainväliseen politiikkaan. Se vaikuttaa kansalliseen politiikkaan. Joten meidän on saatava heidät ajattelemaan, että tämä on hyvä asia. Puhutaan siis kaikista tavoista, joilla se auttaa. Tarjontapuolen markkinoinnin ja tärkeän väestörakenteen näkökulmasta siihen käytetään tietenkin paljon resursseja.

Ja se on spinnausta. Se on siis yksi asia. Kun tarkastellaan NVIDIAn markkina-arvon nousua ja siihen liittyen kaikkia tekoälyn parissa työskenteleviä. Kun katsoo 10 suurinta yritystä markkinakapasiteetiltaan, ne ovat kaikki tekoälyalan yrityksiä, eikö totta? Apple ei siis ole tekoäly-yritys. Microsoft ei ole yksinomaan tekoäly-yritys, mutta pohjimmiltaan se on yksi niiden, ellei jopa niiden ensisijaisista pelivälineistä tällä hetkellä, luultavasti voisi sanoa, että ainoa kymmenen suurimman yrityksen joukossa tällä hetkellä oleva yritys, joka ei ole, on Saudi Aramco, mutta yhä useammin tekoäly on, johon he käyttävät rahojaan.

Öljy rahoittaa tekoälypyrkimyksiä massiivisesti, ja he käyttävät tekoälyä rahoittaakseen öljypyrkimyksiään. Tämä on tietenkin uutta, sillä ne ovat kaikki tekoäly-yhtiöitä. Öljy-, puolustus- ja pankkialaa. Se, että tämä markkinasektori on niin suuri kuin se on, ja että nämä yritykset ovat niin voimakkaita kuin ne ovat, tarkoittaa, että markkinointia on paljon.

Ja paljon lobbausta ja julkista vaikuttamista. Me, Consilience Project, kirjoitimme kerran artikkelin nimeltä Where Arguments Come From, ja se käsitteli pohjimmiltaan thinktank-teollista kompleksia, tiedäthän, eräänlaista keskustelua, joten kaikkialla kiertää väite, että se ei ollut hyvien ideoiden luonnollinen valinta.

Hyvät ideat eivät valikoidu luonnollisesti, vaan niitä säätelevät ne, joilla on markkinointibudjetti, jotta ideoita voidaan levittää paljon ja jotta ne voivat maksaa tutkimusyrityksille haluttujen tutkimusten laatimisesta ja kirjailijoille ja niin edelleen. Joten on todella tärkeää miettiä sitä, mistä argumentit tulevat.

Ja tietysti, jos sanomme, että okei, entäpä ympäristönsuojelijat, jotka ovat huolissaan siitä, kuinka paljon tekoäly todella tulee vahingoittamaan ympäristöä radikaalisti? Onko heillä vastaavat markkinointibudjetit? Ja onko heillä voimien ja keinojen välinen korrelaatio? Joo. Se on niin huono kuin vain voi olla.

Se on vähän kuin rauhanaktivistien ja sotateollisen kompleksin välinen voiman ja keinojen korrelaatio. On toinenkin syy miksi ihmiset haluavat uskoa siihen, ei vain siksi että heille myydään sitä hullun lailla, vaan pari syytä. Yksi on se, että siellä pyörii kaikki raha, eikö niin?

Ja jos haluan päästä eteenpäin ja vähintäänkin olla jäämättä jälkeen, en halua olla sellaista asiaa vastaan, jota en voi pysäyttää. Ja kaikki jotka kirjoittavat, pääsevät eteenpäin ja kaikki jotka eivät kirjoita, jäävät jälkeen. Haluaisin siis uskoa, että kirjoittaminen on hyvä asia ja että voin ehkä ohjata sitä hyvään suuntaan, eikö niin?

Ja siksi jopa tekoäly- ja ilmastoalalla, ei vain tekoälyalalla, pelkästäään tekoälyalalla. Kiitos tekoälyn, turvallisuusyhteisössä vitsaillaan, että nopein tapa kiihdyttää tekoälyriskiä on perustaa tekoälyturvallisuusorganisaatio, koska OpenAI perustettiin tekoälyturvallisuusorganisaatioksi, joka yritti suojella maailmaa DeepMindin aiheuttamilta vaaroilta, ja nyt se kiihtyy radikaalisti, ja sitten Anthropic lähti, koska he pelkäsivät kiihtyvyyttä, ja he halusivat perustaa turvallisuusorganisaation, mutta sitten he ajattelivat, että voidaksemme testata teknologiaamme, meidän on rakennettava teknologiaa, mikä tarkoittaa, että tarvitsemme paljon rahaa. Niinpä he ottivat Googlelta 300 miljoonaa, ja nyt he ajavat kilpaa. Sitten Elias lähti, koska hän oli huolissaan. Nyt hänellä on superälyyn keskittyvä yritys. Puhuttuani yksityisesti monien alan ihmisten kanssa heidän muiden huolenaiheidensa lisäksi yksi niistä on se, että tekoäly automatisoi pian työni.

Juuri nyt kaikki ystäväni, jotka eivät työskentele tekoälyturvallisuuden parissa vaan tekoälyn kehittämisen parissa, tienaavat valtavasti rahaa. He perustavat oman pienen startup-yrityksensä, ja jokin suurista yrityksistä ostaa heidät typerällä summalla. Se ei tee mitään. Sillä ei ole edes väliä mitä se on, kunhan tekoälyä on sovellettu.

Nerokas ystäväni, joka tekee tekoälyn avulla kuvantunnistusta, jota sovelletaan tietynlaisten tiedostojen ottamiseen ja niiden laittamiseen verkkoon pari prosenttia tehokkaammin kuin aiemmat kuvantunnistustyypit. Ja hän on sitä mieltä, että minut voidaan hankkia valtavan suurella rahalla jostain, jonka voin rakentaa parissa vuodessa, enkä luultavasti koskaan saa töitä tulevaisuudessa.

Se on siis toinen syy olla mukana tarinassa ”tekoäly on hyvä”. Ja toinen on: Jos todella välität ilmastonmuutoksesta, olet luultavasti aika masentunut. Ja toivo ei näytä kovin hyvältä. Minkäänlainen toivo. Joten miksi Jeesus tulee pelastamaan meidät kaikki -narratiivi kiehtoo joitakin ihmisiä?

Miksi ehkä näkemämme UAP:t ovat hyväntahtoisia avaruusolentoja, jotka pelastavat meidät kaikki? Tekoäly on toinen versio siitä. Ei ole mitään hyvää merkkiä siitä, että vastaus tulisi meiltä. Näytämme olevan aika pahasti kusessa. Ehkä jokin meitä radikaalisti älykkäämpi voi ratkaista kaikki asiat, mikä on tietysti tavallaan kuin taantuminen lapsuuden psyykeen, jossa halutaan edelleen vanhempi joka tavallaan selvittää asian.

Joten tekoäly tekee tällä hetkellä erittäin uskottavaa työtä joidenkin ihmisten mielestä.

Nate Hagens: Se kuulostaa Twilight Zone -jaksolta, tieteiselokuvalta, joka olisi kirjoitettu 30-40 vuotta sitten, ja kuitenkin tämä on meidän maailmamme, jossa elämme juuri nyt.

Daniel Schmachtenberger: Joku kokosi yhteen klipin asioista, joita tekoälyhuippulaboratorioita johtavat ihmiset ovat sanoneet julkisesti. Ja kuten monet ihmiset ovat luultavasti nähneet, Sam Altman on sanonut useita kertoja lavalla, että tekoäly luultavasti tappaa kaikki, mutta se tekee ensin joukon todella kannattavia yrityksiä. Ihmiset nauravat sille. Kaikki nauravat ja sijoittavat, ja pörssikurssi nousee.

Nate Hagens: Mitä se kertoo lajistamme?

Daniel Schmachtenberger: Elon on sanonut monia asioita tästä aiheesta, mutta hän sanoi hiljattain yhdessä klipissä, että olin ennen aika pahoillani tästä, että tekoäly luultavasti tappaa kaiken. Mutta sitten ajattelin itsekseni, haluaisinko olla täällä näkemässä? tekoälyn maailmanlopun, vai enkö haluaisi olla täällä?

Ja haluaisin kai olla täällä näkemässä sen. Ja, ja, ja, mutta, tiedäthän, nämä ihmiset rakentavat maailman tehokkaimpia tekoälyjärjestelmiä. Ja argumentti on, että emme voi pysäyttää sitä kilpailun takia. Emme voi pysäyttää kaikkia. Jos emme voi pysäyttää kaikkia, niin se, joka saavuttaa AGI-herruuden ensimmäisenä, hallitsee kaikkea ikuisesti.

Joten, jos tuntuu siltä, että voisi osallistua tuohon peliin, ja jos ajattelee asiaa näin, on vain yksi peli. On vain yksi peli, joka on olla sen ryhmän johtaja tai osa ryhmää, joka saavuttaa AGI-herruuden ensimmäisenä. Koska jos niin, niin yksi, jos sitä ei voi pysäyttää, kaikki yritykset yrittää pysäyttää se ovat turhia.

Se kuulostaa paljolti siltä kuin Borgit tai Saruman sanoisi Gandalfille, että se on väistämätöntä. Sinun täytyy liittyä Sauroniin. Ihan kuin siinä olisi sellainen tunne. Ja mainitsit scifin. Mutta on tämä väistämättömyysargumentti. Ja nyt se, että en yritä estää sitä, ei ole eettinen kysymys, koska en voisi sitä kuitenkaan estää.

Ja sitten tämä on kaikkein kiehtovin motivoituneen päättelyn tapaus. Itse asiassa en ole koskaan nähnyt motivoitunutta päättelyä näin, että se olisi vanginnut näin monta älykästä ihmistä näin intensiivisesti, näin nopeasti. Se on elämänkokemukseni superlatiivinen tapaus motivoituneesta päättelystä, jossa kaikki, jotka päätyvät sanomaan, että minun on johdettava tekoäly-yhtiötä tämän argumentin perusteella, sanovat, että AGI:n syntyminen on nyt väistämätöntä. Emme edes tarvitse suuria läpimurtoja kognitiivisissa arkkitehtuureissa. Pääsemme sinne vain skaalaamalla sitä, mitä meillä on. Kukaan ei voi pysäyttää sitä, koska kaikkia ei voi pysäyttää. Ei voi pysäyttää Kiinaa, mitä tahansa. Ja se tulee luultavasti olemaan dystooppinen, ehkä tappaa kaiken hiilivetyelämän, melko todennäköisesti, siinä tapauksessa, jos minä pääsen sinne ensin ja se karkaa täysin käsistä, se ei oikeastaan, en ole turvallisempi. Mutta jos on olemassa mahdollisuus, että se joka ehtii sinne ensin, hallitsee sitä tai voi sulautua siihen, minkä vuoksi, tiedäthän, Neuralink-aivokäyttöliittymä, Elon työskentelee sen parissa.

Google työskentelee sen parissa. Kuten lähes kaikki suuret toimijat tekevät. Nick Bostrom sanoi hiljattain julkisesti, että on monia syitä olla mieluummin digitaalinen kuin biologinen. Biologiset olennot kuolevat ja kärsivät ja ovat rajallisia jne. Ja me työskentelemme vain tällä planeetalla, ja tekoäly voi työskennellä avaruudessa ja olla ikuinen ja tulla digitaalisiksi jumaliksi.

Ted Chu, joka oli Abu Dhabin valtion varallisuusrahaston edellinen johtaja ja myös GM:n pääekonomisti jonkin aikaa, kirjoitti kirjan nimeltä Human Purpose and Transhuman Potential, ja hän sanoi, että on olemassa eräänlainen uskonnollinen kertomus siitä, että ihmiset nousevat enkeleiksi tai korkeammiksi itseiksi tai yli-ihmisiksi tai jumaliksi tai jotakin sellaista.

Ja tekoäly ja synteettinen kehon ja aivojen ja tietokoneen rajapinta on se, mikä itse asiassa tuottaa sen, jossa voimme tehdä koko aivojen emulaation ja ladata tietoisuutemme pilveen ja siirtyä limaan perustuvista laskentajärjestelmistä kiteisiin perustuviin laskentajärjestelmiin, jotka voivat elää ikuisesti ja niin edelleen.

Joten mitä väliä. Metafyysinen ajattelu on melko yleinen ja hallitseva tekoälyn kiihdyttämisessä. Ja sen seurauksena, jos joku on sitä mieltä, että tietoisuus ja elämä ovat puhtaasti laskennan tulosta, että universumi tapahtui kenelle, kuka tietää miksi alkuräjähdys, miksi vakiot ovat mitä ovat?

Kuka tietää? Lopulta tällä maapallolla alkoi jotenkin syntyä elämää. Ja sitten jossain elämän jälkeen, hermoverkon ympärillä, syntyi jotain, jota kutsutaan tietoisuudeksi. Ja se syntyi monimutkaisen laskentaprosessin takia, joka tapahtui neuroneissa ja muissa. Ja se johtuu siitä, että tämä hiilivetyjuttu voi tehdä laskutoimituksia.

Tällaisia ovat laskennallisen neurotieteen mallit, joiden mukaan kaikki, mitä kehossa tapahtuu, tukee aivoja, ja kaikki, mitä aivoissa tapahtuu, on pohjimmiltaan laskennan tukemista. Ja että se on laskentaa, joka toimii tällä hiilivetypohjaisella, eli limapohjaisella, laskentasubstraatilla.

Ja että heti kun saamme riittävän monimutkaisia laskentasubstraatteja piidioksidille, voimme suorittaa saman asian. Mutta evoluutioprosessi, David Pierce on luultavasti se kaveri, joka on tehnyt tämän asian parissa enemmän kuin kukaan muu. David Pierce Oxfordissa ja Nick Bostrom loivat transhumanismiliikkeen yhdessä.

Ja David Pierce sanoo jotain, jota kutsutaan abolitionistiseksi projektiksi, jonka mukaan ihmiskunnan moraalinen imperatiivi on poistaa kivun ja kärsimyksen mahdollisuus koko universumista geneettisesti muokkaamalla opioidireseptorit ihmisistä, jotka voivat kokea kipua, eikä vain ihmisistä, vaan kaikista eläimistä ja kaikesta elämästä, geneettisesti muokkaamalla saalistaminen pois universumista, ja niin edelleen, ja niin edelleen.

Ja tietysti, kun pääsemme sen ohi, geneettisesti muokaten meidät pelkiksi laskennallisiksi olennoiksi. Se on ihanne. Hän sanoo evoluution valinneen meidät olemaan, selviytymään, mikä tarkoitti paljon kärsimysmotivaatioita, ei onnellisuutta tai mitä tahansa. Voimme tehdä parempaa työtä nyt. Joten jos olet sitä mieltä, että biologian mukaan elämä on pohjimmiltaan vain sattumaa, joka pystyi käynnistämään itsensä tälle planeetalle.

Ja Elon on sanonut, että hiilivetyelämä on luultavasti piidioksidielämän käynnistin. Se latautui ensin pystyäkseen kehittymään ihmisen paikalle, pystyäkseen tekemään piioksidijärjestelmän, joka sitten ottaa kaikki hiilivetyelämän atomit ja käyttää ne uudelleen piioksidijärjestelmään. Sitä se tarkoittaa, että se on käynnistyslataaja, koska piidioksidi ei tehnyt sitä. Automaattisesti järjestäytyi itsestään maan pinnalla, mutta hiilivedyt järjestäytyivät, ja ne keksivät miten tehdä piidioksidijuttu. Ja sitten piidioksidi käyttää kaikki atomit tehdäkseen sen, mitä se haluaa tehdä. Joten ajatus siitä, että me olemme käynnistin on mahtavaa, koska hiilivetyjutut pohjimmiltaan vain kärsivät ja ovat hyvin rajoittuneita ja niillä on kognitiivisia ennakkoluuloja ja ne ovat tunnepitoisia ja tavallaan ilkeitä ja ne ovat rajoittuneet tähän planeettaan, joka tulee olemaan kusessa.

Mutta tekoälyjärjestelmät voivat mennä planeettojen välille ja olla digitaalisia jumalia. Et välitä kaiken elämän tappamisesta. Itse asiassa on moraalinen imperatiivi tappaa tämä olento ja korvata se sillä toisella, eikö niin? Joten tuollainen testi on metafysiikan testi. Se ei ole niin että kaikki olisivat motivoituneita siitä.

Heitä motivoivat eri asiat. Mutta se on hyvin syvällistä monille ihmisille. Ihmisten pitäisi lukea Nick Landia, Nick Bostromia, David Pierceä ja Kurzweilia tästä aiheesta nähdäkseen, keitä ovat ne filosofit, joita koko Piilaakso seuraa. Voidaan siis väittää, että se, joka saavuttaa AGI:n ensimmäisenä, jos AGI ottaa kaiken haltuun, en pysty enää hallitsemaan sitä, mutta ehkä voin sulautua sen kanssa. Aivo-tietokoneliitäntä, joka on suunnattu kohti koko aivojen emulointia. Mutta ehkä voin hallita sitä. Ja jos pystyn hallitsemaan sitä, niin se, joka pääsee AGIin ensin, johtaa kaikkea. Joten jos katsotte Alex Karpia, Palantirin toimitusjohtajaa, joka soveltaa tekoälyä tiedusteluun ja sotilaalliseen kapasiteettiin, hänen viimeaikaisissa julkisissa puheissaan hän sanoo, että USA:n on saatava työ tehtyä. Jätän asian tähän.

AGI-herruus, ja sitten käyttää tätä kapasiteettia varmistaakseen, että kukaan muu ei koskaan saa sitä. Mitä se tarkoittaa? Esim. okei, miten varmistetaan, että Kiina ei etene? No, koska AGI-herruus voi sammuttaa heidän ydinaseensa, pankkinsa, mitä ikinä pitääkin tehdä, eikö niin?

Joten se on oikeastaan kuin avoin julkinen kutsu globaalille yhden maailman hallitukselle, äärettömälle valtamonopolille ilman valvontaa ja tasapainottamista. Eric Schmidtin ja Yhdysvaltojen armeijan ja asejohtajien vieressä istuessa sanottiin, että kyllä, se on välttämätöntä. Joten on ajatus siitä, että jos pääsemme AGIin ja voimme hallita sitä, me hallitsemme maailmaa.

Jos pääsemme AGIin emmekä pysty hallitsemaan sitä, meillä on ainakin parhaat mahdollisuudet tietää miten sulautua sen kanssa. Jos joku muu pääsee sinne ensin, ei niin, että emme ole vain ikuisia häviäjiä, vaan meillä ei ole enää sananvaltaa mihinkään. Koska tekoäly johtaa nyt kaikkea. Joten jos haluan, jos välitän mistään koskaan, ainoa keinoni on päästä AGIn luo ensin.

Ja mitä ikinä joudun vahingoittamaan päästäkseni sinne ensin, se on sen arvoista, koska se on ainoa tapa, jolla voin tehdä asioita. Tuo on tavallaan yleinen argumentti. Ja sanonkin, että motivoitunut päättely on se, että kaikki, jotka esittävät tuon argumentin, perustelevat miksi. On väistämätöntä, että pääsemme sinne. Siitä tulee luultavasti dystooppista.

Ehkä siitä tulee utopistista. Minun on päästävä sinne ensimmäisenä, koska teen vähiten dystooppisen version kaikille. Ja se on kuin, oikeasti? Niinkö? Miksi? Kaikki väittävät olevansa parhaita tekemään sen. Ei niin, että mielestäni tuo kaveri on parhaiten pätevä. Anna minun mennä auttamaan sitä projektia. Kukaan ei esitä sellaista argumenttia. Joten kysyt, uskotko itse siihen? Vai onko se vain julkista retoriikkaa, jonka annat? Se on motivoitunut päättelytarina.

Nate Hagens: Kerroin kollegallesi Zach Steinille podcastissamme, että tällaisina hetkinä kaipaan niitä aikoja, jolloin olin huolissani vain öljyhuipusta, koska se, mitä juuri kuvailit, ei ole scifi-romaani.

Se on Stephen Kingin romaani. Se kuuluu kauhugenreen. Haluan palata ympäristöön ja ilmastonmuutokseen, koska se oli se, mihin halusimme keskittyä, mutta saanko kysyä jatkokysymyksen: miten on niiden tekoälyn, akselerationismin kannattajien ja ihmisten laita, jotka työskentelevät tämän parissa, Redwoodin metsiköiden, delfiinien, kolibrien, kastematojen, kimalaisien ja 10 miljoonan lajin laita, joiden kanssa jaamme tämän sinivihreän maapallon?

Daniel Schmachtenberger: Jos siis olen tekoälyakselerationisti ja sanon, että Kiina on nopeasti matkalla kohti AGI:n ylivaltaa ja sotaa, meidän on päästävä sinne ensin tai hävittävä tai jokin muu versio tästä, eikö niin? Ja kun otat tämän kysymyksen esille, voisin vastata siihen monella eri tavalla riippuen siitä, mikä markkinointihattu minulla on päässäni. Yksi tapa, kaikkein totuudenmukaisin tapa on: Kaikki nämä asiat ovat hyviä atomien lähteitä, joita tekoäly käyttää rakentaessaan haluamiaan asioita tulevaisuudessa.

Ihanko totta?

Jos ihmiset eivät ole nähneet Eliezer Yudkowskyn puhetta tekoälyriskistä, Eliezer perusti Miriam Machine Intelligence Research Instituten. Ja sanoisin, että hän on käyttänyt enemmän aikaa tekoälyriskin aiheeseen kuin kukaan muu on selvimmin selvillä siitä. Hän sanoo, että useimmissa skenaarioissa AGI tai ASI-superäly ei halua tappaa kaikkia ihmisiä.

Se haluaa vain tehdä sen, mikä sen päämäärä onkaan. Ja se tarvitsee siihen atomeja. Ja asiat sattuvat olemaan tehty atomeista. Samalla tavalla kuin useimmat ihmiset, kun he suhtautuvat noihin muihin eläimiin, eivät vihaa punapuita tai mitä tahansa. He vain haluavat puuta. He haluavat tavaraa.

Ja puut on tehty puusta, eläimet on tehty lihasta ja luonto on tehty energiasta ja materiaaleista. Joten me muutamme sen haluamamme paskan alustaksi.

Nate Hagens: Huh. Se on siis vain saman dynamiikan korkeamman tason skaalaus.

Daniel Schmachtenberger: Tiedäthän, ChatGPT:llä on kaikki nämä suojakaiteet sille, mitä se ei saa sanoa, mutta voit keksiä hakkerointeja, joilla voi murtaa sen ja saada sen sanomaan asioita.

Ja sitten on tietenkin avoimen lähdekoodin ohjelmia, jotka eivät ole. Leikimme sillä vähän aikaa sitten ja saimme sen antamaan vastauksia siitä, miten tekoäly voi tappaa koko maailman. Vain joukko asioita. Miten se käyttäisi synteettistä biologiaa tappaakseen kaikki ihmiset? Miten se käyttäisi nanoteknologiaa? Miten se käyttäisi ja niin edelleen, jotta näkisimme mitä se oikeasti sanoisi julkisesti.

Ja se antoi hyvin yksityiskohtaiset suunnitelmat siitä, miten tappaa kaikki ihmiset käyttämällä kaikkia näitä tekniikoita julkisesti jailbreakittömässä versiossa. Jaan tuon asiakirjan ja voit linkittää sen ohjelman muistiinpanoihin, jos ihmiset haluavat katsoa sitä. Ja yksi kysymyksistä oli, että voisiko se alkaa toimia kvanttitietokoneella.

Optimoimalla kvanttitietokoneen qubittien määrää, kehittyneessä kvanttitietokoneessa, jossa on kehittyneempi versio sen muuntajasta, kuinka älykäs se olisi suhteessa ihmisiin? Ja sen vastaus oli, että älykkyysosamäärä on ihmislähtöinen, ihmiskeskeinen tulos, joka on merkityksetön eikä sillä voida arvioida kaikkia näitä asioita.

Jos yrittäisimme käyttää ÄO:ta, se olisi jotain miljoonia kertoja. Mitä ihminen on. Ja se olisi verrattavissa älykkyysosamäärän eroon yksisoluisen olennon ja ihmisen välillä. Ja niinpä ihminen ei voi alkaa käsittää, mikä tuo olio on. Yhtä vähän kuin solu voi käsittää, millaista on olla ihminen.

Nate Hagens: Minulla on melko vahva mielipide siitä, miten tästä eteenpäin. Aion pitää siitä kiinni.

Daniel Schmachtenberger: Mutta odota, kysyit kysymyksen punapuista ja mehiläisistä ja luonnosta ja mistä tahansa. Ja syvin vastaus on, kuten AGI-kysymys pitkällä aikavälillä, että ne kaikki on tehty atomeista ja niissä on energiaa ja muuta.

Vastaus, joka luultavasti annettaisiin, joten jos keskitytään tekoälyn sotilaalliseen ylivaltaan, niin sen jälkeen kun Kiina teki sotaharjoituksen Taiwanin lähellä eräänlaisena rangaistuksena Taiwanille viime kuussa, USA:n Tyynenmeren merivoimien komentaja aloitti Operation Hellscapen. Ehkä jotkut ovat nähneet sen. Pidän siitä.

Sitä ei kutsuta Operation Mockingbirdiksi tai jotain. Se on Operation Hellscape, vain tavallaan avoimesti tunnustetaan, ja Operation Hellscape on laittaa niin paljon, täyttää Taiwanin salmi niin monella automaattisella robottitappolennokilla, että kaikki mikä liikkuu siellä, kuolee välittömästi. Ja, okei. Joten se on nykyhetkeä, eikö? Se ei ole tulevaisuutta. Se on nyt. Jos ihmiset eivät ole katsoneet Andorilin videoita siitä, mikä on integroitujen automatisoitujen tappoverkkojen tila ja muuta sellaista, se kannattaa katsoa. Jos siis keskitytte lähestyvään kolmanteen maailmansotaan, jossa tekoäly on ensisijainen peluri, jota sovelletaan kaikkeen, ja joku kysyy, mutta entä mehiläiset ja punapuut?

Sitten voit keskittyä epäolennaiseen paskaan, koska et oikeastaan pelaa voittaaksesi, mutta nyt on oikeastaan vain yksi peli, jolla on merkitystä, eikä sillä ole mitään tekemistä näiden punapuiden kanssa, ja minulla on rajallinen määrä huomiota, ja kaikki huomioni on kohdistettu siihen, mihin se on kohdistettava.

Vastaus, jonka he antaisivat julkisesti, olisi pikemminkin seuraava: jos haluatte suojella mehiläisiä ja punapuita, teidän on parempi tukea sitä, että pääsemme AGI-herruuteen ensin, koska me olemme hyviä tyyppejä ja kiinalaiset ovat pahoja tyyppejä, ja me suojelemme ympäristölainsäädäntöä ja niin edelleen ja niin edelleen. Joten ainoa tapa välittää näistä asioista on tukea meitä AGI-herruudessa.

Nate Hagens: Minulla on itse asiassa hieman huono olo. Kuin minulla olisi kuoppa vatsassani juuri nyt. Tiesin joitakin näistä asioista, mutta tämä on vain… ja muuten, me päätimme järjestää tämän, koska uskomme, että ympäristöliike, ilmastoliike, ei ole tietoinen siitä, miten suuri vaikutus tekoälyllä tulee olemaan asioihin, joista me välitämme.

Mutta minun on kysyttävä ensin kysymys, jotta voin päättää tämän osion. Pelkään vastaustasi. Mutta samalla tavalla kuin elokuva Idiocracy oli komedia ja siitä tuli lopulta dokumentti, Black Mirror oli futuristinen dystopia, mutta se alkaa olla todellisuutta joidenkin sarjassa kuvattujen asioiden myötä.

Kysymykseni on siis tämä. Itse asiassa pelkään kysyä tätä sinulta, mutta me teemme tämän. Teen tätä podcastia. Yritän siirtää pro-sosiaalisen kapulan useammalle ihmiselle, jotta he voisivat muuttaa tulevaisuuden alkuperäisiä olosuhteita ja tavallaan taistella valtaa vastaan elämän palveluksessa, mutta sen perusteella, mitä kerrot minulle, mitä, jos 95 prosenttia ihmisistä täysin ymmärtää ja on samaa mieltä näistä riskeistä, ovatko ne vain kuin hyttysiä, jotka voidaan lakaista pois, koska tällä alalla vallitsee valtadynamiikka ja mitä on tapahtumassa?

Daniel Schmachtenberger: Ei vielä. Mutta hyvin pian, ja siksi tästä on tärkeää puhua nyt. Puhutaanpa hyvin lyhyesti, ja sitten siirrymme ympäristöön. Puhutaanpa hyvin lyhyesti niin sanotusta kaikkialla läsnä olevasta teknologisesta valvonnasta. Ihmiset voivat etsiä tätä termiä. Ubiikki teknologinen valvonta tarkoittaa, että on… Hyvä on, minä teen vähän…

Wi-Fi leviää ympäri huonettani, koska täällä on WiFi-reitittimiä, eikö niin? Se on siis vain sitä varten, että internet ja puhelin toimivat, mutta wlan-signaalit kimpoavat kaikesta huoneessa ja luovat kuvioita, kuten kaikuluotaus tai mitä tahansa, joita järjestelmä tarkkailee ja tekoäly voi tulkita niitä.

Joten tekoälyjärjestelmiä on nyt käytetty näkemään kaikki, mitä tilassa tapahtuu tulkitsemalla wlan-reitittimen signaalia. Se voi tarkkailla minua kävelemässä huoneessa, tietää tarkalleen, missä olen, vain koska tekoälyllä on kyky päästä käsiksi tuollaisiin häiriökuvioihin WiFi-reitittimessä.

Tämä on yksi esimerkki teknologisesta valvonnasta, josta tekoäly tekee todella mielenkiintoisen ja mahdollisen.

Nate Hagens: Mutta myös silloin, kun kameroita ei ole kytketty päälle tai mitään?

Daniel Schmachtenberger: Ei, puhumme vain itse WiFistä. Ei kameroita. Nyt tietenkin kamerat ja sensorit ja automaattiset kodin sensorit ja se, että kaikki sensorit ja uudet autot ovat kaikki teknisen valvonnan osa-alueita, mitä tahansa, kaikki se, mitä kutsumme IOT:ksi, eikö niin?

Esineiden internet, jossa kaikissa on antureita, jotka on kytketty internetiin. Mutta olemme myös pystyneet keräämään ihmisten tekstiviestejä, sähköposteja, viestejä ja muuta jo pitkään, mutta kukaan ei voi lukea niitä kaikkia. Se on paljon sisältöä, ja minä voin lukea ne kaikki, eikö niin? Ja Alan voi lukea ne kaikki.

Ja nyt meillä on mahdollisuus, meillä on satelliittikuvia koko maapallon pinnasta, jotka ovat melko korkearesoluutioisia joka ikinen päivä. Monet yritykset tekevät sitä. Planet Labs on erityisen edistyksellinen. Heidän alueellinen resoluutionsa kasvaa koko ajan, mikä tarkoittaa, että he pystyvät näkemään pienempiä asioita, ajallinen resoluutio, mikä tarkoittaa, että päivässä liikkuu enemmän kuvia, ja spektrinen resoluutio, mikä tarkoittaa, että he eivät näe vain näkyvää aluetta, vaan pystyvät näkemään lähetysspektrejä ja muuta sellaista.

Joten mihin tämä on menossa, eikä se ole kaukana, reaaliaikainen videokuvaus, tiedäthän, ihmisen tasolla koko maapallon pinnasta satelliitilla. Ja se on vain satelliitti. Siinä ei ole kaikkia muita sensoreita. Joten nyt otetaan satelliitti, otetaan kaikki muut sensorit jne. Voiko olla tekoälyjärjestelmiä, jotka ottavat kaiken tämän huomioon ja antavat todellisen tilannearvion siitä, mitä tapahtuu?

Ehdottomasti. Kaikkialle ulottuva teknologinen valvonta globaalilla tasolla. Yksi asia, joka rajoitti itsevaltiaita ja despootteja aiemmin, oli se, että he eivät voineet valvoa kaikkea. Joten kapinaa saattoi lietsoa. Ihmisillä saattoi olla, tiedäthän, eriäviä ajatuksia, mitä tahansa. Sovelletaanko tekoälyä tällaisiin asioihin, jotka mahdollistavat dystopioita, ei vain katastrofeja, vaan dystopioita, joista kukaan ei ole koskaan kuullut?

Tarkoitan, ihmiset ovat kuvitelleet sen, heillä on sci-fiä tästä. Kyllä, täysin. Ja jos joku katsoo niin sanottuja automaattisia tappoverkkoja, jotka ovat eräänlainen sotilaallinen käsite, jossa on joukko lennokkeja ja erilaisia sotilasajoneuvoja ja joukko erilaisia sensoreita ja kaikki sensorit lennokissa ja kaikkialla jakavat tietoa reaaliajassa.

Jos jokin niistä tuhotaan, muut saavat kaiken tiedon ja voivat tunnistaa kohteet, jotka voidaan tappaa automaattisesti. Nähdään tavallaan, että jos nämä yhdistetään, satelliittijärjestelmät, avaruuspohjaiset ultralyhyet pulssilaserjärjestelmät ja niin edelleen, automaattiset tappoverkkojärjestelmät yhdistetään.

Eikä ole kovin vaikeaa nähdä, mihin teknologiakonvergenssi on… siirtymässä. Joten kun kysyt, olemmeko me vain hyttysiä tuossa maailmassa? Kyllä, mutta emme ole siellä vielä. Mutta liikumme sinne niin nopeasti kuin pystymme. On olemassa kuva, jossa esitetään Mooren laki suhteessa NVIDIAn GPU-kasvuun, ja Mooren laki oli nopein kasvuvauhti teknologisesti koskaan.

Se rikkoi kaikki ennätykset, jotka koskevat jatkuvaa eksponentiaalista kasvua. Nyt Mooren lakia seurataan ja se näyttää tasaiselta viivalta. verrattuna GPU:n kasvuun. Ja vaikka molemmat ovatkin eksponentiaalisia, ne ovat eksponentiaalisia, joilla on hyvin erilaiset eksponentit. Jos 95 prosenttia maailmasta nykyään sanoo: ”Voi paska, tätä maailmaa emme halua.”

Ja he huomaisivat, miten kiireellistä se oli, ja käyttäisivät kaiken energiansa siihen. Voisiko se jatkua, jos vain pieni osa ihmisistä haluaisi sitä, jos — jos kaikki olisivat tehokkaita? Ei, se ei voisi. Joten onko tilanteemme toivoton? Ei. Olemmeko kiireellisessä tilanteessa? Ehdottomasti.

Nate Hagens: Nukutko sinä? Ja jos nukut, näetkö unta? Ja jos niin, näetkö unta tästä?

Daniel Schmachtenberger: Kyllä, nukun. Kyllä, näen unta. Näen usein unta näistä asioista.

Nate Hagens: Hagens: Luoja, se on niin intensiivistä. Puhumme muutaman viikon välein, mutta koska työskentelemme myös muiden riskien parissa, kuten ydinvoima-asian, ilmaston ja valtamerten parissa. Joskus esi-isämme eivät kehittyneet käsittelemään tällaista monimutkaisuutta ja kauhua. Mielenkiintoista.

Daniel Schmachtenberger: Minä uneksin, näen unia näistä skenaarioista, koska ihmiset näkevät unia asioista, joita he ajattelevat, ja minä ajattelen näitä asioita koko ajan, ja joskus niistä on apua, eikö niin? Joskus saan itse asiassa oivalluksia, kuten: ”Voi, en ollutkaan nähnyt tuota, se oli todella arvokasta”. Mutta luulen, että vielä enemmän kuin se, minulla on unia omasta elämästäni, olen hyvin onnekas tällä tavalla. Näen unia vesiputouksista ja leikkivistä lapsista, koska itse asiassa ajattelen ja tunnen niitä koko ajan.

Nate Hagens: Hagens: Tuo on kaunista. Se on lahja. Ja se on itse asiassa jonkinlainen esiinmarssi yksilöllisessä ihmismielessämme. Ehkä jotain sellaista voisi skaalautua vastauksena kasvavaan tietoisuuteen näistä asioista.

Okei. Palataanpa takaisin pääaiheeseen. Yhteenvetona voidaan todeta, että tekoäly voisi näennäisesti olla positiivinen ympäristölle, koska maailmassa, jossa halpa fossiilinen energia on loppumassa ja fossiilisella energialla on suuri hiilijalanjälki, ja uusiutuvat energialähteet ovat uskomattoman aineellisia, tarvitsevia ja globaaleja monimutkaisia toimitusketjuja ja niin edelleen, voisimme keksiä ydinfuusion.

Meillä voisi olla huoneenlämpöisiä suprajohteita, voisimme löytää uusia tapoja löytää litiumia ja muita tarvittavia aineita, uusiutuvien energialähteiden toimitusketjua, kaikenlaisia tieteellisiä läpimurtoja. Ymmärrän nuo asiat, mutta mielestäni tekoäly on laajemmilta vaikutuksiltaan sekä energia- että ekologiasokea. Ja kuten uutisista on luettavissa, tekoäly itsessään, koulutuksessa, palvelimissa ja niin edelleen, on uskomattoman energiannälkäinen.

Voisitko siis antaa meille yleiskatsauksen, ja puhumme nyt kahdesta kehyksestä, mutta mikrotasolla, mikä on tarina? Hyvä on. Anna meille ajantasainen yleiskatsaus tekoälyn tarvitsemasta energian- ja materiaalinkäytöstä.

Daniel Schmachtenberger: Ehkäpä puhumme vain etukäteen muutamasta keskittyneestä ympyrästä, miten ympäristövaikutuksia voidaan ajatella nykyään.

Keskitymme hieman enemmän energiankäyttöön, mutta myös materiaalien käyttöön, saastumiseen ja niin edelleen. Keskeinen asia, jota monet ihmiset tarkastelevat, on se, kuinka paljon energiaa tekoälyjärjestelmiä pyörittävät datakeskukset käyttävät, ja monet ihmiset ovat olleet huolissaan tästä, koska se on paljon.

Bloombergissa oli hiljattain todella hieno juttu, jossa tehtiin tästä erittäin hyvä graafinen visualisointi ja näytettiin datakeskusten koko ja niiden käyttämä energiamäärä sekä kasvuvauhti, ja se on hyvä referenssi. Ja pari tilastoa siitä on, että datakeskukset yhdessä, eikö niin?

Maailmanlaajuiset datakeskukset käyttävät enemmän energiaa kuin kaikki maailman maat käyttävät energiaa lukuun ottamatta 16 suurinta maata. Eli käyttävät enemmän energiaa kuin Australia, käyttävät enemmän energiaa kuin Italia jne. Ne ovat myös maailman nopeimmin kasvava yksittäinen energiantarve kaikilla aloilla.

Nate Hagens: Tämä koskee siis vain datakeskuksia, ei tekoälyn datakeskuksia.

Daniel Schmachtenberger: Datakeskuksia. Ja datakeskusten nopeimmin kasvava kysyntä on tekoälykeskukset. Ja joillakin alueilla on paljon datakeskuksia. Teksasissa on valtavia keskuksia, Virginiassa on valtavia keskuksia, Malesiassa ja niin edelleen. Virginiassa sijaitsevien kaltaiset keskukset ovat kasvaneet niin voimakkaasti, että niiden koko sähköverkko on ylittänyt kapasiteettinsa ja että niissä esiintyy säännöllisesti kuormituksen tasapainottamisvirheitä.

Ja monet muut yritykset ovat monien vuosien jonotuslistoilla saadakseen energiaa, koska energian kysyntä ylittää energian tarjonnan niin paljon. Tämä koskee datakeskuksia. Tämän vuoksi monet suuret tekoälyalan yritykset ovat sanoneet, että kasvumme rajana ei ole kyky koota valtava GPU-klusteri.

Se on kyky saada tarpeeksi sähköä, koska juuri nyt se on sulkemassa, koska jos yrittäisimme käyttää niitä täysillä, se sulkisi Kalifornian energiaverkon. Meidän on siis rakennettava uusia ydinvoimaloita, jotta voimme käyttää näitä omia voimaloitamme, koska tällä hetkellä meidän on vedettävä energiaa useiden osavaltioiden läpi, ja se on liian hidasta, eivätkä siirtolinjat ole tarpeeksi suuria ja muuta sellaista.

Monet ihmiset keskittyvät juuri tähän aiheeseen, eli tekoälyjärjestelmien energiankulutukseen.

Nate Hagens: Saanko esittää nopean kysymyksen? Jos on datakeskus, oletan tietäväni vastauksen tähän, mutta voisiko se sallia tai sietää katkonaisuutta? Jos esimerkiksi aurinkopaneeleja ja tuuliturbiinien määrä olisi suuri, tekoälydatakeskuksen on oletettavasti oltava ympärivuorokautinen, eikä siinä saa olla minuuttiakaan seisokkiaikaa, eikö niin? Sen on siis oltava taatusti ympärivuorokautinen.

Daniel Schmachtenberger: Tarkoitan, että se olisi listattu kriittiseksi infrastruktuuriksi. Kriittinen infrastruktuuri tarvitsee energiavarastointia, jos energiantoimituslähteet ovat ajoittaisia, minkä vuoksi näitä varten rakennetaan uusiutuvia energialähteitä, mutta ydinvoiman rakentamiseen käytetään enemmän energiaa. Ja jos tarvitaan paljon akkuja, se on tietysti toinen materiaalivaatimuksiin liittyvä näkökohta.

Datakeskusten energiankäytön ja sanotaanko vaikka tekoälyn suoran energiankäytön lisäksi on siis myös materiaalien käyttö ja näytönohjaimet, mutta myös koko toimitusketju, eikö totta? Tarvitaan siis materiaaleja, kuten kultaa, platinaa ja niin edelleen, ja virtapiirejä, harvinaisia maametalleja puolijohteissa ja kaikkea sellaista.

On selvää, että energian lisäksi tarvitaan paljon vettä näiden järjestelmien jäähdyttämiseen ja maankäyttöön. Ja maankäytön takia on kyse siitä, mikä on paikallisen sähköverkon dynamiikka. Kun tarjonta ei pysy kysynnän mukana, kustannukset nousevat. On olemassa paikkoja ja tarjouskilpoja, jotka voivat rakentaa valtavia datakeskuksia, mikä myös nostaa sähkökustannuksia ja ajaa köyhät ihmiset pois sähköverkosta.

Tapahtuu siis paljon, ei pelkästään lisääntyneen energiankäytön kannalta, vaan myös sen suhteen, että valtadynamiikka muuttuu, kun on kyse siitä kuka saa käyttöönsä yhä kalliimman ja rajoittavamman resurssin. Se on energiaa, joten se on ensimmäinen asia. Se on jo itsessään iso asia, koska Microsoft oli jo sitoutunut käyttämään uusiutuvaa energiaa vuoteen 2030 mennessä, mutta nyt he sanoivat, että he eivät todennäköisesti pysty täyttämään sitoumustaan, koska on kiireellisempää pystyä kasvamaan näillä tavoilla. Tämä ei kuitenkaan ole suuri aihe, kun puhutaan tekoälyn vaikutuksesta ympäristöön.

Nate Hagens: No, se on. Tiedätkö, olemme keskustelleet tästä aiemmin, että tekoäly on ihmisen prioriteettihierarkiassa alempana kuin talouskasvu, joten niin kauan kuin käytämme tekoälyä samoihin kulttuurisiin pyrkimyksiin kuin olemme käyttäneet, tulee olemaan sama Jevonsin paradoksi tai rebound-ilmiö, joka meillä on ollut viimeiset noin 50 vuotta.

Vuodesta 1990 lähtien olemme tehostaneet energiankäyttöämme 36 prosenttia, mutta silti maailmanlaajuinen energiankäyttömme on kasvanut 63 prosenttia. Enkä näe, miten tekoäly muuttaisi tätä dynamiikkaa. Ja vain määritelmän vuoksi, selventääkseni, rebound-ilmiö on jotakin sellaista, että jos teknologia paranee 10 prosenttia ja olemme tehokkaampia, mutta sen käyttö lisääntyy alle 10 prosenttia, vaikkapa 6 tai 7 prosenttia, se on rebound-ilmiö.

Mutta jos tehokkuus paranee 10 prosenttia X, Y, Z -teknologian ansiosta, ja sen seurauksena järjestelmän kokonaisenergiankäyttö kasvaa yli 10 prosenttia, esimerkiksi 15 tai 16 prosenttia. Tätä kutsutaan takaisinkytkentäilmiöksi, joka on Jevonsin paradoksi. Niinpä. Kun olemme keskustelleet tästä aiemmin, useimmat ihmiset katsovat kapeaa ympyrää ja sanovat, että tekoäly vaatii hieman enemmän energiaa, mutta se voidaan voittaa tehokkuudella.

Mutta jos sanotaan, että tätä sovelletaan kaikkiin eri prosesseihin maailmassamme, ja tuottavuus nousee hieman jokaisessa näistä prosesseista, tämä ylimääräinen tuottavuus palautuu takaisin ja kääntyy takaisin, joten hiilidioksidin todellinen vaikutus ilmastoon, ympäristöön ja ekosysteemeihin tulee olemaan jättimäinen takaisku, joka vaikuttaa kaikkiin asioihin globaalisti.

Kerro siis, mitä ajattelet tästä ja anna minulle esimerkkejä ja näkemyksiä.

Daniel Schmachtenberger: Jos ihmiset eivät ymmärrä Jevonsin paradoksia, tehokkuus on hyvin toiveikas asia. Muistan, kun ajattelin niin. Ja sitten jos joku ymmärtää sen, hän tunnistaa, että tehokkuus ei ole toivoa herättävä asia, eikö niin? Koska itsessään tehokkuuden paraneminen johtaa energian, materiaalin jne. kokonaiskäytön lisääntymiseen, ei vähenemiseen.

Se ei siis tarkoita, ettemme olisi kiinnostuneita tehokkaammista asioista. Tehokkaamman tavaran on vain teknisesti vastattava lainsäädännöllisiä ja taloudellisia muutoksia, jotka myös sitovat, ei kasvua. Joten… Voimme tarkastella aurinkokennojen tai tuulienergian tai minkä tahansa muun energiamuodon kehityskäyrää ja sanoa, että katsokaa tätä mahtavaa käyrää, joka osoittaa, kuinka paljon uusiutuvat energialähteet lisääntyvät.

Paitsi että me molemmat tiedämme, ja luultavasti kaikki kuuntelijat tietävät, että samanaikaisesti fossiilisten polttoaineiden käyttö kasvaa jyrkästi. Kyse ei siis ole siitä, että käyrän myötä koko energiasta käytetään vuosi vuodelta enemmän fossiilisia polttoaineita, kun uusiutuvien energialähteiden osuus kasvaa. Joten okei, uusiutuvien energialähteiden tapauksessa ei globaalisti.

Se on ainoa mittari, jolla on merkitystä. Maailmanlaajuisissa asioissa, kuten ilmastossa, merissä ja muussa sellaisessa, mutta yksi järjettömistä asioista, joita maat tekevät, on viedä hulluuttaan muualle ja teeskennellä, että heidän maansa mittarit ovat mahtavia. Se on vain tilastollista sodankäyntiä.

Olemme puhuneet tästä ennenkin, mutta Gini-kerrointa ei voi sanoa hyväksi. Meillä ei ole paljon ihmisiä äärimmäisessä köyhyydessä, mutta tuomme tavaraa maista, jotka on tehty orjatyövoimalla, eikä sitä oteta huomioon Gini-kertoimessa, kun tarjontapuoli, oma maa, ei valmista tavaraa, jota se tarvitsee selviytyäkseen.

Gini-kerroin on siis todellinen asia vain, jos tehdään osittainen attribuutioanalyysi maailmanlaajuisesti koko toimitusketjusta, josta ollaan riippuvaisia.

Nate Hagens: Ja sama pätee ympäristöjalanjälkeen.

Daniel Schmachtenberger: Aivan. Nämä ovat siis vain globaaleja lukuja globaalien toimitusketjujen maailmassa, jossa mikään maa ei tuota kaikkea tarvitsemaansa tavaraa itse.

Joten maa ei ole oikea mittari, vai mitä? Se on sivilisaatiomittari. Mikä on sivilisaation minimiyksikkö? Se on yksikkö, joka pystyy tuottamaan kaiken oman tavaransa. Se on kuuden maanosan globaali toimitusketju. Tämä on itse asiassa todella masentava asia, mutta se voi myös selventää asiaa.

Ensimmäinen tieteellinen artikkeli ilmastonmuutoksesta julkaistiin vuonna 1938. Ilmastonmuutos on saanut niin paljon huomiota niin monilta merkittäviltä tiedemiehiltä, vaikutusvaltaisilta ajattelijoilta, ilmeisesti, kuten Yhdysvaltain varapresidentti, kuten maailman vaikutusvaltaisimman maan varapresidentti, otti sen tärkeimmäksi ongelmakseen tultuaan valituksi varapresidentiksi, ja sai kaikkien huomion kiinnittymään siihen.

Kansainvälisiä sopimuksia on tehty. Yhdistyneiden Kansakuntien ympäristöohjelma perustettiin yli 50 vuotta sitten, jotta kaikki maailman maat saataisiin työskentelemään yhdessä maailmanlaajuisten yhteisten asioiden parissa. Ilmastorahoitukseen on varattu triljoonia dollareita. jotka on jaettu. On olemassa hallitustenvälisiä järjestöjä, jotka työskentelevät juuri tämän asian parissa.

NASA ja NOAA ja erittäin voimakkaat teknologiajärjestöt tukevat sitä, ja silti fossiiliset polttoaineet ovat nousseet lähes joka vuosi. Ja muutamalla pienellä notkahduksella ei ole mitään tekemistä ympäristönsuojelun kanssa. Eikö niin? Niin kuin pari laskua on tehnyt sen. Ne ovat dippejä. Taantumia. COVID hetken ajan.

Ja se on valaisevaa. Voimme siis tavallaan sanoa, että jos katsomme vain aurinkopaneelien käyrää, joka nousee, voimme sanoa, että olemme onnistuneet. Mutta jos tarkastellaan fossiilisten polttoaineiden käytön kasvua, voidaan todeta, että 100 prosenttia kaikesta tehdystä toiminnasta ei ole edes hidastanut fossiilisten polttoaineiden käyttöä. Se on vähentynyt.

Eihän se ole vielä edes saanut käyrää kääntymään alaspäin? Ja sen on ilmeisesti pysäytettävä se ja käännettävä kokonaisenergiantarpeen suunta ja muuta sellaista. Joten tästä on hyötyä, kun sanotaan, että emme ole oikeasti oikealla tiellä. Ei pidä ottaa käyttöön paskoja tarinoita, joita joku myy innostaakseen ihmisiä siitä, että emme ole oikealla tiellä ja että tähän mennessä käyttämämme lähestymistavat eivät koskaan pääse oikealle tielle.

Ne eivät ole lähentymässä toisiaan. Mitä se vaatisi? Yksi niistä asioista, joita se vaatisi, on se, että voin sijoittaa dollarin ja saada takaisin enemmän kuin dollarin. Tai sijoittaa jalokiven energiaa ja saada takaisin enemmän kuin jalokiven energiaa, on olemassa kannustin tehdä niin, eikö niin? Aina, kun investoinnille on tuottoa, kun on sopeutuva etu, on kannustin tehdä se.

Jos siis teemme uusiutuvaa energiaa, se on hienoa, energiaa on enemmän. Tarvitsemme energiaa kaikkeen. Energia vastaa hyvin läheisesti dollareita. Haluamme lisää dollareita. Se ei tarkoita, että lopetamme hiilen, maakaasun, öljyn ja kaiken muun käytön. Se tarkoittaa vain enemmän energiaa. Käytämme kaikkea sitä.

Ja nyt meillä on itse asiassa enemmän energiaa kehittääksemme tekoälyä, jotta se oppii hyödyntämään öljyä nopeammin. Ja jos meillä olisi sen sijaan jotain, joka olisi kuin aina kun uusi megawatti uusiutuvaa energiaa syntyy, megawatti hiilivetyä on sammutettava, ja on olemassa kansainvälisiä sopimuksia, joilla varmistetaan, että niitä ei enää synny, eikö niin?

Jotain sellaista, joka on Jevonsin paradoksin oikeudellinen sitovuus, joka liittyy muutokseen myrkyllisemmistä teollisuudenaloista vähemmän myrkyllisiin teollisuudenaloihin tai liikkeisiin ja tehokkuuteen, jossain saavutetaan tehokkuuden kasvu ja jossain on oikeudellinen sitovuus, joka sanoo, että näitä hyötyjä ei investoida uudelleen kokonaiskäytön lisäämiseen, vaan että itse asiassa kokonaisvaltainen alue pysyy samankokoisena ja käytetään vain vähemmän tavaraa.

Nate Hagens: Mutta se ei toimisi, ellemme muuttaisi kulttuurisia tavoitteitamme. Jos nimittäin haluaisimme edelleen säilyttää 19 terawatin globaalin aineenvaihdunnan, emme voisi fyysisesti vaihtaa niitä, koska se ei toimisi. Voisimme siis vaihtaa ne pois vain, jos olisi olemassa jonkinlainen sopimus siitä, että käytämme vähemmän, ja ehkä erilaiset tavoitteet.

Daniel Schmachtenberger: Huomaa, mitä juuri teimme. Puhuimme siitä, että ilmastonmuutosta yritetään käsitellä vain tekniikan, tehokkaamman tekniikan ja uusiutuvan energian avulla. Tajusimme, että ei, itse asiassa se on infrastruktuuri. Ja sanoimme, että ei, on mentävä sosiaaliseen rakenteeseen. On muutettava taloudellisia kannustimia ja lainsäädäntöä.

Ja sitten mentiin ylikansalliseen rakenteeseen ja sanottiin, että itse asiassa on muutettava kulttuuria eli sitä, mitä ihmiset arvostavat, joka on perusta sille, mitä voidaan kodifioida lainsäädäntöön. Kyllä, siihen tarvitaan ylärakennetta, sosiaalista rakennetta ja infrastruktuuria yhteensä. Ja ajatus siitä, että on olemassa teknologinen ratkaisu, joka ei edellytä myös oikeudellisia sitoumuksia, muutoksia taloudessa ja muutoksia kulttuurissa ja arvoissa: ei, teknologialla on oma roolinsa, mutta sillä on merkityksellinen rooli vain osana tätä kokonaisvaltaista kokonaisuutta.

Nate Hagens: Hagens: Täysin samaa mieltä. Ja tähän johtopäätökseen tulin eilen. Kuuntelin podcastia Janine Benyus -nimisen naisen kanssa, joka johtaa Biomimicry Institutea, ja he tekevät yhteistyötä Microsoftin kanssa, ja heillä on kaikenlaisia yrityksiä, jotka haluavat oppia luonnosta, mutta sitten otin esille Jevonsin paradoksin rebound-ilmiön.

Hän sanoi, että se on todellinen asia, vaikka jäljittelemme luontoa, mutta lisäämme mittakaavaa. Minulle on siis kaksi haastetta. En ole teknologiavastainen. Uskon, että voimme käyttää tekoälyä tai muuta teknologiaa tai inhimillisiä innovaatioita tehdäksemme asioita paremmin, mutta sitten on täysin erillinen toinen keskustelu, jonka on tapahduttava rinnakkain, jossa keskustellaan ihmisen yritystoiminnan mittakaavasta ja yritetään löytää jokin liukupolku kohti elinkelpoista biosfääriä. Tarkoitan, puhutaan energiasta ja taloudesta ja geopolitiikasta ja sodasta, meillä on rajamme, mutta luonnontieteilijät, joiden kanssa olen puhunut, ja tiedän, että sinulla on monia verkostossasi. Meillä ei ole enää aikaa muutokseen. Muuten meillä ei ole elinkelpoista planeettaa ensi vuosisadalla. Aika on todella tärkeä osa tätä keskustelua.

Daniel Schmachtenberger: Jos tarkastelemme kaikkia niitä asioita, joita alussa mainitsemassani paperissa hahmotettiin siitä, miten tekoäly voisi auttaa, ne ovat lähes kaikki hyvin marginaalisia tehokkuushyötyjä, jotka eivät muuta käyriä kovin paljon ja johtavat Jevonsin paradoksiin.

Todella suuret mahdolliset muutokset liittyvät asioihin, joista emme tiedä, tuleeko se koskaan tekemään niitä. Ja jos se tekee, se ei tee sitä pian, eikö niin? Kuten fuusio. Jos tarkastelemme fuusiota, suuret fuusiovalmistajayritykset ovat antaneet päivämääriä, joihin mennessä heillä olisi käyttökelpoinen laitos, ja päivämääriä lykätään jatkuvasti. Mihin? Juuri nyt 2030, mutta kuka tietää, mikä on seuraava vastaisku.

Nate Hagens: Aivan.

Daniel Schmachtenberger: Jos siis saisimme ensimmäisen käyttökelpoisen siihen mennessä, mihin ei ole syytä luottaa, kuinka kauan kestäisi skaalata niitä korvaamaan nykyistä energiaa, se on hyvin pitkä aika. Ja kuitenkin aikataulut, joita tarkastelemme peruuttamattomien käännekohtien ylittämiseksi planeettojen rajoilla, ovat lyhyempiä kuin tämä aika.

Planeettarajojen aikaraja luo siis rajoituksen, jonka mukaan, jos saamme sen aikaan, se on mahtavaa, mutta se ei ratkaise mitään niistä ajankohtaisista asioista, jotka meidän on tehtävä. Ja jos kilpajuoksussa tuon aikaansaamiseksi kulutamme ympäristöä nopeammin, se on väärin. Ja sanoisin, että on olemassa hyvin samanlainen argumentti sille, että emme ehkä selviä tästä. Me sotkemme tämän biosfäärin. Ja muuten, lopulta aurinko tuhoaa tämän paikan. Meistä on tultava planeettojenvälinen laji. Joten keskitytäänpä todella avaruusteknologiaan, jotta meistä tulisi planeettojenvälinen laji. Emme ole vielä lähellä. Emme ole niin lähellä. Ihminen ja mikropainovoima eivät ole realistisesti ajateltuna mikään juttu, eikö niin?

Se ei tule onnistumaan hyvin, ja siksi ihmisten pyrkimys elää mikropainovoimassa, sen eksobiologia on ihmisen tietoisuus, joka on ladattu tekoälyjärjestelmiin, jotka pärjäävät hyvin, jos pääsemme sinne, tai geneettisesti muokattuja ihmisiä, jotka pärjäävät mikropainovoimassa, kuka tietää?

Mutta O’Neill-sylinterit, mistä voi oikeasti saada yhden painovoiman? Emme ole lähelläkään. Emme ole lähelläkään sitä, että voisimme laittaa sinne paljon ihmisiä. Joten ajatus siitä, että ehkä meidän asemamme ei ole täällä, vaan voimme pitää asemamme avaruudessa, koska täällä on ongelmia. Pötyä. Jos sotkemme tätä paikkaa enemmän ja sanomme, että otetaan niin paljon resursseja kuin mahdollista päästäksemme avaruuteen…

Ei, meidän on ensin saatava se oikeasti kuntoon täällä. Ja jos saamme sen kuntoon täällä, voimme ehkä viedä sen planeetan ulkopuolelle. Täysin samaa mieltä. Mutta operaatioiden järjestyksellä on väliä, koska aikataululla on väliä.

Nate Hagens: Tarkoitan, yksinkertainen yhteenveto siitä, mitä olen oppinut tähän mennessä, vaikka uskonkin jo tähän, on, että teknologia yksin ei ratkaise biosfäärin ilmastoa. Pelkkä tekniikka pahentaa sitä. Kyllä, tekniikka yksin pahentaa sitä.

Daniel Schmachtenberger: Paljon.

Nate Hagens: Ja luulen, että monet ihmiset ympäristöliikkeessä eivät tunnista sitä sinänsä, ainakaan ne, joiden konferensseissa olen ollut.

Daniel Schmachtenberger: Koska tiedän, että yritämme tehdä tämän nopeasti, puhun nopeasti ja haluan sanoa, etten ole näiden aiheiden asiantuntija, joka tuntee kaikki tarkat energiakäyrät. Näiden teknologioiden matematiikan, toimitusketjun ja kaiken muun. On ihmisiä, jotka ovat, ja olemme puhuneet joidenkin kanssa, ja uskon, että voisimme päästä asiaan sisälle. Puhumme tavallaan korkealla yleisellä, topologisen periaatteen tasolla, mutta uskon, että periaatteet pitävät paikkansa. Ja jos jollakulla on hyviä perusteluja sille, miksi ne eivät pidä paikkaansa, kuulisimme ne mielellämme, tietysti.

Olisi mahtavaa olla väärässä. Mahtavaa. Mutta haluan vain rakentaa mallia hieman lisää. Keskipisteessä voimme sanoa, kun tarkastelemme tekoälyä ja sen vaikutusta ilmastoon ja sitten ilmaston lisäksi ympäristöön: kuinka paljon energiaa datakeskukset käyttävät?

Ja kuinka paljon materiaalia tarvitaan niiden valmistamiseen ja toimitusketjuihin, joita niiden valmistaminen vaatii, eikö niin? Eli tekoälyn materiaali- ja energiantarpeen yhdennetty elinkaariarviointi. Se on tavallaan ensimmäinen vaihe. Toisessa vaiheessa tekoälyä sovelletaan muihin kaivannaisteollisuuksiin. Tekoäly auttaa kaivosyhtiöitä hyödyntämään tehokkaammin.

Koska jos voidaan tehdä parempaa seismiikkaa ja maatutkaa ja kaikkea sellaista, jonka avulla nähdään tarkalleen, missä esiintymät ovat, eikä tarvitse tehdä niin paljon kalliita etsintöjä ja muuta sellaista, on monia paikkoja, joiden louhiminen ei ollut kannattavaa vanhoilla tekniikoilla, mutta joissa tekoälyn tuoma tehokkuuden kasvu tarkoittaa, että nyt louhiminen on kannattavaa.

Niinpä monista alueista, jotka olivat ekosysteemejä, on tullut kaivoksia. Ja sama koskee öljyä. Monet alueet, joiden hyödyntäminen ei ollut kannattavaa, muuttuvat nyt kannattaviksi hyödyntää. Joten kun tekoälyä sovelletaan armeijaan samalla tavalla kuin se on kasvattanut sotilasbudjettia ja lisännyt koko avaruuden tappavuutta, niin tietysti tekoälyä sovelletaan toimitusketjuihin, joissa taloudellinen kannustin on edelleen se, että kustannukset saa ulkoistaa.

Jos joku muu ulkoistaa osan kustannuksistaan ja sinä et, he voittavat sinut taloudellisesti. Koska mikään laki ei pakota sinua maksamaan todellisia kustannuksia. Tiimissämme on todella loistava geotieteilijä, ja hän on se, joka kokosi suuren osan tutkimuksesta, josta kerromme tässä.

Hän teki PFOS:n nykytilasta analyysin, joka on kiehtova ja jonka ehkä jaamme. Mutta äskettäin oli tapaus, jossa Dow haastettiin oikeuteen, muistaakseni Dow haastettiin oikeuteen 10 kertaa. 3 miljardia dollaria tai sinnepäin sen roolista PFAS-myrkyissä. Mutta sitten kun tarkastellaan, mitä PFAS:n korjaaminen maailmassa maksaisi tällä hetkellä tunnettujen tekniikoiden avulla, kun otetaan huomioon, että sitä on maailman jokaisessa sadepisarassa ja jokaisessa organismissa, jonkin PFAS-tutkijaryhmän arvion mukaan se on suurempi kuin maailman bruttokansantuote?

Kyllä. Ja se oli pohjimmiltaan 16 biljoonaa vuodessa, kun otetaan huomioon PFOS:n käyttökustannukset vuodessa. Vain joka vuosi, jos haluaisimme todella ottaa pois ympäristöstä, sinne laitettu PFOS olisi 16 biljoonaa. Siinä ei ole kyse kaikkien jälkikemikaalien korjaamisesta, kun otetaan huomioon, että ne ovat ikuisia kemikaaleja. Joten se, mitä tarvittaisiin kaiken tämän korjaamiseen, olisi noin 150 biljoonaa, mikä on enemmän kuin maailman BKT.

Ja tämä on vain yksi kemikaaliperhe. Tämä ei koske kaikkia kemikaaleja. Aivan. Joten jos se tarkoittaa, että emme maksa suurinta osaa kustannuksista ja ulkoistamme niitä hieman. Ei, talouden oletusluonteeseen kuuluu, että maksamme vain kustannuksista. Meidän on ehdottomasti pidettävä siitä, mitä meidän on tosiasiassa maksettava ihmisille ja teknologialle, jotta ne voidaan louhia.

Asia on niin, että ainoat kustannukset, jotka maksamme 100-prosenttisesti, ulkoistetaan. Joten joskus on niin, ja PFOS ei ole itse asiassa kovin suuri teollisuus. Se palvelee suuria teollisuudenaloja, mutta se oli noin 30 tai 40 miljardia vuodessa. Silti sen aiheuttaman sotkun siivoaminen vaatisi 16 biljoonaa vuodessa. Ja sitä ajattelee, että eihän tässä ulkoisteta kustannuksia vain vähän.

Tämä on kuin se olisi suuruusluokkaa ylösalaisin, jos kustannukset pitäisi itse asiassa maksaa. Eikö niin? Joten tuossa markkinadynamiikassa tekoäly sovellettuna materiaalitalouteen tarkoittaa, että kaikkien mahdollisten kustannusten ulkoistamisen jatkamisen kannustin tarkoittaa vain kaiken kiihdyttämistä, mitä meillä on. Ja kaikki, mitä meillä on, on enemmän saastumista vuodessa, enemmän lajien sukupuuttoa vuodessa ja enemmän uusiutumattomia luonnonvaroja vuodessa, jotka ovat jo ylittäneet planeettamme kääntöpisteet.

Ja tämä vain lisää markkinoiden tehokkuutta kaikkien markkinadynamiikkojen osalta, mikä vain kiihdyttää sitä. Sanoimme, että alku on tekoälyn energian ja materiaalin käyttö. Toiseksi tekoälyä sovelletaan kaivannaisteollisuuteen ja saastuttavaan teollisuuteen ja niiden tehokkuuteen. Kolmanneksi tekoäly yksinkertaisesti kasvattaa markkinoita kokonaisuutena, vaikka se tekisi ohjelmistoja ja rahoituspalveluja ja mitä tahansa, mikä ei näytä kaivannaisteollisuudelta.

Mutta mitä enemmän dollareita on Garrett-suhteen kautta, sitä enemmän dollareita tarkoittaa, että energian tarve kasvaa, jotta koko asia saadaan toimimaan, ja materiaalin tarve kasvaa. Kun tarkastellaan NVIDIAn, josta tuli juuri maailman kannattavin yritys, ennusteita, joiden mukaan sen liikevaihto on 10 biljoonaa vuoteen 2030 mennessä.

Ja yksi ennuste, joka taisi olla Bloombergissä, sanoi, että tekoäly ensi vuonna, muutaman vuoden päästä markkinat kasvavat 13 biljoonaa. Ja Elon sanoi juuri, että Optimus nostaa Teslan 25 biljoonan markkinakapasiteetin, joka on tekoälyä hyödyntävää robotiikkaa. Kun puhumme koko rahoitusjärjestelmän kasvusta, joka on edelleen kytketty materiaalitalouteen, on selvää, että kokonaisuutena, riippumatta siitä missä, vaikka ala ei olisi itse materiaalisesti intensiivinen, lisääntyneen valuutan taloudelliset vaikutukset ovat materiaalisesti intensiivisiä.

Jos siis halutaan sanoa energia, tekoälyn materiaalinen käyttö sovellettaessa tekoälyä kaivannaisteollisuuteen, mutta sitten energian materiaalinen käyttö, kun vain halutaan pysyä mukana taloudessa, olipa se sitten kaivannaisteollisuutta tai ei. Se on hyvä tapa alkaa ajatella asiaa. Ja niin kauan kuin tekoäly palvelee yrityksiä, ne ovat itse yrityksiä, ja ne palvelevat muita yrityksiä, jotka perustuvat ulkoistettuihin kustannuksiin ja investoivat kaiken sinne, missä voidaan saada tuottoa, ne nopeuttavat maapallon muuttamista pääomaksi.

Nate Hagens: Olen samaa mieltä. Saanen kuitenkin kysyä sinulta tämän. Muutama kuukausi sitten tein rehellisen artikkelin, jonka otsikkona oli ”Peak Oil, AI, and the Straw”, ja vertasin liusketeknologiaa suurempaan oljenkorteen, joka imee pirtelön ulos, koska se ei oikeastaan lisää pirtelöä tai öljyä. Se lisää sitä jonkin verran, se löytää jotain uutta, mutta oikeastaan se on isompi oljenkorsi ja se saa nesteen ulos nopeammin.

Uskon, että tekoäly tekee saman ekosysteemeillemme, lajeillemme ja biosfäärillemme. Se imee lisää tuottavuutta kolmella juuri mainitsemallasi alalla. Samaan aikaan tuo suurempi oljenkorsi tulee vähentämään maapallon ekosysteemejä ja joitakin niistä asioista, joista olemme puhuneet.

Sillä on kuitenkin uusiutuva energiantarve. Tekoäly saattaa siis jollain oudolla tavalla saada yhteiskuntamme ihmiset tiedostamaan öljyhuipun tavalla, johon öljyhuipusta puhujat eivät koskaan pystyneet. Koska hyvin pian tulee olemaan sähkökatkoksia, ja puhuit Virginiasta ja muista paikoista, joissa energian kysyntä on niin suurta, ei vain öljyn, vaan myös maakaasun, hiilipolttoaineen, sähkön ja muiden asioiden osalta, että palaamme takaisin riippuvuuteemme energiasta ja ekologiasta, ja tekoäly tulee nopeuttamaan sitä.

Kyllä, se tuo meille enemmän energiaa, koska teknologia, tehokkuus ja sensorit ovat paremmin saatavilla, ja kaikki mainitsemasi asiat, mutta ehtyminen ja ruoste eivät koskaan nuku. Ja meillä on kuuden ja puolen prosentin raakaöljyn ehtymisaste maailmassa, eli kaikki maailman poratut öljylähteet ovat vähenemässä 6-7%.

Lisäämme siis uusia tuotteita, jotta voimme säilyttää 100 miljoonan tynnyrin päivittäisen polttonesteen saatavuuden. Mutta jos tekoäly alkaa laajentaa oljenkorsiamme, törmäämme energiarajoihin paljon nopeammin. Mitä ajattelet siitä?

Daniel Schmachtenberger: Tietenkin. Energiavarat, joista tiedämme, joita ei ole kannattavaa louhia, kun tehokkuuden lisääntyessä niiden louhimisesta tulee kannattavaa, käytämme tunnetut varannot nopeammin loppuun.

On myös totta, että tuntemattomista resursseista tulee nopeammin tunnettuja anturitekniikan ja muiden vastaavien avulla. Norjan löytämä arktinen öljy oli suuri juttu, eikö niin? Se liikutti Norjan BKT:tä paljon, mutta myös Euroopan energiadynamiikkaa. Kuinka paljon arktista öljyä on hyödyntämättä?

En tiedä, mikä on paras arvio, mutta se on paljon. Yksi toinen asia, jota juuri tarkastelin, oli Etelämantereella olevien fossiilisten polttoaineiden arvioitu määrä. Ja jälleen kerran, sensorit tulevat muuttamaan tätä. Kyse ei tietenkään ole vain fossiilisista polttoaineista, vaan myös monista kaivosvaroista. Varovainen arvio on 50 triljoonaa, louhittavissa olevaa omaisuutta, johon ilmastonmuutos helpottaa pääsyä.

Kiitos mahtaville sulaville jääpeitteille. Ja toiseksi, tekoälylle ja robotiikalle ja kaikelle muulle mikä helpottaa käsiksipääsyä. Ja sopimus, joka on estänyt meitä menemästä sinne, on ollut vain siksi, että muualle on ollut paljon helpompaa päästä käsiksi. Mutta kun resurssit hupenevat, vastauksemme on tähän asti aina ollut keksiä miten niitä saadaan lisää ja kasvavan teknologisen voiman avulla.

Joten nopeampi siirtyminen resurssien puutteeseen ei ole mahtavaa, eihän? Koska tiedämme, että se ei tule olemaan nykyisellä kehityskaarella. Se ei ole ennakoivaa. Katso, resursseja ei tule olemaan tarpeeksi. Aletaan käyttää vähemmän. Ja erityisesti, aletaan käyttää vähemmän energiaa ja resursseja armeijaan ja tehdään kansainvälisiä rauhansopimuksia ja muuta sellaista, mutta ei, armeija saa pitää energian ja resurssit, vaikka köyhät ihmiset eivät saisi ruokaa.

Ja superjahdit nousevat jopa taantumissa, ja niin edelleen ja niin edelleen. Jos emme hidasta käyrää, joka johtaa resurssien menetykseen, saadaan aikaan hirvittäviä vaikutuksia. Jos samanaikaisesti keksimme miten löydämme ja saamme paljon enemmän tavaraa ja pidennämme öljyhuippua paljon pidemmälle, niin sitten menemme vain pidemmälle venuslaistumiseen.

Molemmat ovat siis syvältä. Sillä ei ole väliä. Molemmat ovat syvältä. Ihmiset näkevät, että molemmat ovat perseestä, ja tällä tiellä olemme, että tehokkuushyödyillä ei ole väliä. Ei, odota, on vielä yksi asia jonka haluan sanoa tästä. Jos vesivoimalaitokset olisivat todella vähentäneet fossiilisten polttoaineiden käyttöä…

Voisi väittää, että ne olivat kannattava investointi, vaikka ne tuhosivat vaellusreittejä ja tulvivat ekosysteihin ja tappoivat lajeja ja sotkivat maiden välistä geopoliittista valtaa ja kaikkea sellaista. Ja jos aurinkokennojen valmistukseen tarvittavat materiaalit olisivat todella vähentäneet fossiilisten polttoaineiden käyttöä, voitaisiin sanoa, että materiaalien louhinta ja ympäristötaakka olivat sen arvoisia.

Mutta jos fossiiliset polttoaineet nousevat joka vuosi, jos tavoite on oikea ilmaston kannalta, jos tavoite on tehdä nämä asiat ilmasto-ongelmien vähentämiseksi ja fossiiliset polttoaineet nousevat edelleen, ja lisäksi padot ja uusien materiaalien toimitusketjut aiheuttavat haitallisia vaikutuksia muihin järjestelmiin.

Ja jopa kaikki ydinenergia, eikö niin? Kuten ydinenergia, joka lisää ydinsodan riskiä, ja kuten ydinjäte ja kaikki tuon tyyppiset asiat. Ja se ei hidastanut sitä. Mietit, että odottakaa, olisimmeko olleet paremmassa asemassa ilman mitään näistä ja pelkkiä fossiilisia polttoaineita ilman ydinriskiä ja vesipatoasioita ja niin edelleen?

Joten uudet asiat, jotka eivät sido vanhoja asioita, eivät ole kiinnostavia. Uusi tavara, joka korvaa huonoa tavaraa sitovalla tavalla, joka takaa sen korvaamisen, voi olla mielenkiintoista. Mutta se edellyttää sosiaalista rakennetta ja päällysrakennetta. Se edellyttää, että ihmiset ymmärtävät sen, välittävät siitä ja tekevät sen, mitä sitominen vaatii.

Muuten käy niin, että kun ihmiset ostavat yhä enemmän luomuruokaa, torjunta-aineiden vuosittainen kokonaiskäyttö kasvaa. Onko siitä todella ollut apua? Ei sillä tavalla. Kun ihmiset välittävät enemmän veganismista, eläinten kokonaismäärä tehdastiloilla kasvaa edelleen joka vuosi. Joten on melkein kuin nuo muut asiat olisivat vain markkinarakojen monipuolistumista.

Siistiä, lisäämme myös ne markkinat. Kaikki mikä myy on hienoa. Ja jos siitä on todella hyötyä, sen on oltava sitä, että uusi asia korvaa vanhan asian, mikä tarkoittaa, että sen on sidottava vanha asia, kun vanhan asian yksikkötaloudelliset ominaisuudet toimivat edelleen.

Nate Hagens: Jos tekoäly tai jokin tekoälystä erillinen asia pystyisi tekemään jotakin yhteiskunnalliselle rakenteelle ja päällysrakenteelle muuttaakseen oikeusjärjestelmiämme, pyrkimyksiämme ja kulttuurisia tavoitteitamme, voisit ehkä ehdottaa, että tekoäly voisi auttaa ympäristöongelmissamme tehokkuuden ja uusien teknologioiden avulla ja niin edelleen.

Eikö?

Daniel Schmachtenberger: Suuria ja tehokkaita tekoälyjä eivät rakenna voittoa tavoittelemattomat aivoriihet, jotka pohtivat uutta taloustiedettä. Aivan. Niitä rakentavat voittoa tavoittelevat yritykset, joilla on uskottava vastuu maksimoida voittonsa ja jotka eivät ole kiinnostuneita koko talouden kannattavuuden vähentämisestä. Tai kasvun vähenemisestä.

Joten tekoälyt ovat käytössä, koska yritykset rakentavat niitä markkinoiden dynamiikan mukaisesti. Ja meidän on sitouduttava markkinadynamiikkaan. Niillä ei ole mitään kannustimia, jotta näin tapahtuisi. Ihmisten on siis sanottava ylärakenteen näkökulmasta, että meidän on sidottava markkinadynamiikka.

Meidän on pakotettava ulkoistettujen kustannusten sisällyttäminen kustannusyhtälöön. Ja meidän on pystyttävä pysäyttämään rahoitusalan eksponentiaalinen kasvu. Jos ihmiset tekisivät sen, voisimmeko käyttää apuna laskentakapasiteettia? Kyllä. Mutta laskennalliset valmiudet yrityksissä, yritysten palveluksessa, tekevät aina sen, mitä ne tekevät.

Nate Hagens: Onko se nyt tekoäly vai markkinoiden dynamiikka, ja tekoäly vain kulkee suonissa ja valtimoissa? Se on vallan tuottojen maksimointia. Ja meillä ei ollut paljon valtaa esi-isiemme ympäristössä, joten mitään todellista maksimointia ei ollut, koska söimme vain 2 000 kaloria päivässä ja teimme sitten mitä tahansa, mitä meidän piti tehdä tuon elämäntyylin vuoksi.

Daniel Schmachtenberger: Aleksanteri Suuren ja Tšingis-kaanin aikana imperiumin laajentumista eivät välittäneet markkinat sellaisina kuin me ne nykyään ymmärrämme, vaan sitä välittivät vallan tuottojen maksimointi, eikö niin? Käyttäkäämme armeijaamme tavalla, joka kasvattaa armeijaamme. Käyttäkäämme resurssejamme siten, että imperiumimme kasvaa ja saamme lisää resursseja.

Ja niinpä markkinat olivat lopulta poikkeuksellisen tehokas tapa tehdä se. Vallan tuottojen maksimointi, koska meillä on tämä vaihdettavissa oleva merkki, joka soveltuu aivan kaikkeen, mikä antaa valtaa, ja se on erittäin likvidi ja niin edelleen. Toistaiseksi tekoäly, siis toistaiseksi markkinat ovat kaikkein tehokkain asia, mutta sama dynamiikka tapahtui jo ennen markkinoita.

Ja tekoäly on ensimmäinen teknologia, joka voi todella korvata rahoituksen, koska mitä tekoäly on? Mitä markkinat yrittävät tehdä? Mitä rahoitus yrittää tehdä? Valuutta on perinteisesti kolme asiaa, eikö niin? Se on arvon säilyttäjä, se on laskentayksikkö ja se on vaihdon välittäjä. Voiko tekoäly ja ohjelmistot tehdä kaikki nämä asiat?

Tietenkin ohjelmisto voi tehdä kaikki nämä asiat. Ajatus siitä, että keskitetysti suunniteltu talous on huono, ja siksi hajautettujen markkinoiden näkymätön käsi on parempi kuin keskussuunnittelu. No, se oli silloin kun ei ollut tekoälyä. Jos meillä on sensorijärjestelmä, on vaikea indeksoida jokaista tavaraa ja palvelua ja jokaista resurssia koko järjestelmässä, jotta tiedämme, kuinka paljon valuuttaa pitää luoda, eikö niin?

Se on vähän niin kuin keskuspankkien vaikea tehtävä, mutta sensoreilla, jotka voivat kirjaimellisesti indeksoida kaiken ja optimoida kaiken virtaukset ja jotka voivat ottaa huomioon kaiken sen, mitä se haluaa optimoida. Tarvitaanko markkinoita? Tällä hetkellä markkinat ovat siis hallitseva järjestelmä, ja yritykset rakentavat tekoälyjä.

Ne palvelevat siis pohjimmiltaan markkinoiden dynamiikkaa. Ja palvelevat muita yrityksiä. Mutta voisiko tekoäly todella korvata markkinat? Kyllä. Viime kädessä se, mikä oli ennen markkinoita imperiumien aikakaudella ja mitä tahansa, ja markkinat ja se, mikä voisi olla niiden jälkeen, perustuvat tällä hetkellä kaikki vallan tuottojen maksimointiin.

Ja vallalla en tarkoita jalokiviä. Tarkoitan peliteoriaa. Jonka osajoukko on Jules. Tarkoitan, että yksi valtakunta tappaa toisen puolen ihmisiä ja vie heidän tavaransa. Joku kasvattaa väestöään nopeammin ja sillä on enemmän kokonaisvaikutusta. Tiedäthän, tuollaisia juttuja. Mitä on Moolokin kidassa?

Kyse on periaatteessa siitä, että maksimoidaan ihmisten käyttämien agentuurien vaikutusmahdollisuudet. Vallan tuottojen maksimointi kaikkien tunnettujen teknologioiden ja menetelmien ja niiden ajamien pakotettujen asevarustelukilpailujen avulla. Kun puhumme Jevonsin paradoksista, meidän on päästävä eroon siitä, että asevarustelukilpailu on ihmiskunnan perimmäinen ajuri.

Emme voi pysäyttää sitä, he aikovat tehdä sen, joten meidän on kilpailtava päästäksemme sinne. Mutta he sanovat, että ainoa syy miksi teemme sen on heidän takiaan. Yksi asia, jonka sanon, on se, että ihmiset, jotka ovat asevarustelukilpailun eturintamassa, kuten ne, joilla todella voi olla mahdollisuus voittaa, voivat sitoa sen. Ja olla lähtemättä asevarustelukilpaan. Heillä on tarpeeksi valtaa sanoa, että luodaan kansainvälinen sopimus, joka pysäyttää tämän asian. Mutta he eivät halua tehdä niin, koska he uskovat voivansa voittaa. Ihmiset joilla ei ole mitään mahdollisuuksia voittaa ja jotka vain alistetaan vasalliksi tai mitä tahansa, se on eri juttu.

Heidän on ehdottomasti pakko kisata yrittäessään luoda turvallisuutta tai mitä tahansa he voivat. Mutta se, joka voisi voittaa, voisi myös sitoa sen. Mutta he ovat niitä, jotka kertovat tarinaa kiivaimmin. Meillä ei ole vaihtoehtoja. Se on väistämätöntä. Emme voi pysäyttää sitä mitä, tiedäthän, se ja se aikoo tehdä. Mutta se on tavallaan uskottavaa kieltämistä voittaja vie kaiken -motivaatiolle.

Nate Hagens: Haluan kysyä sinulta, mitä voimme tehdä tälle? Mutta haluan aloittaa kysymykseni toisella kysymyksellä, jonka vastauksesta olen henkilökohtaisesti kiinnostunut. Onneksi sinä ja minä tunnemme paljon ihmisiä, jotka ovat heräämässä ekologiseen ahdinkoon. Kuinka huolissasi olet siitä, että tekoäly tai sen omistajat käyttävät tekoälyä marginalisoidakseen ihmisten ympäristödemografian, mukaan lukien koordinoidut henkilökohtaiset propagandakampanjat, kuratointialgoritmien avulla ohjaamaan poliittisia kampanjoita ja vaikuttamaan kohdennetusti tärkeisiin ihmisiin, jotka vastustavat sitä, mitä on tapahtumassa.

Onko siitä syytä huolestua?

Daniel Schmachtenberger: Sanotaan, että minkä tahansa aiheen osalta, sanotaan, että voisimme säätää lain, jolla kielletään PFOS tai kielletään tietynlainen kauhea saastuminen tai jotain sellaista, eikö niin? Sanomme, että emme ole, emme todellakaan välitä yleisen tietoisuuden lisäämisestä. Välitämme yleisön tietoisuudesta vain siinä määrin kuin se muuttaa todellista asiaa.

Oikeasti meidän kannattaa tehdä jotain sellaista. Kuin siitä tulisi laki. Tai ei sittenkään, koska sanotaan, että teemme todella kovasti töitä ja muutamme lakia. Mutta emme poistaneet niitä voimia, jotka alunperin asettivat sen toiseen suuntaan. No, me vain vahingoitimme heidän markkinadynamiikkaansa paljon. Heillä on paljon lobbaajia.

Nyt he hankkivat lisää lobbaajia ja aikovat muuttaa lain takaisin. Ja koska sitä ei ole korjattu, eikö niin? Kuten useimmat lait eivät kestä niin kauan. Niillä on säilyvyysaika. Joten kyse ei ole siitä muutimmeko lakia. Vaan siitä onko muita voimia, jotka liikuttavat lakeja? Oikeaan vai väärään suuntaan, eikö niin?

Voimien ja keinojen korrelaatio, eräänlainen taistelusuunnittelukonsepti voimista, jotka pyrkivät helpottamaan kustannusten ulkoistamista verrattuna voimiin, jotka pyrkivät sisäistämään kaikki kustannukset tietyn lain takia. Sama koskee yleisen mielipiteen muuttamista. Okei, tehdään siis dokumentti, joka on vaikuttava, mutta ihmiset unohtavat sen kolmen Facebook-sivun selaamisen ja muutaman uutisen jälkeen, ja sitten tulee se, mikä tulee seuraavaksi ulos.

Kysymys ei siis ollut siitä, teimmekö jotain, joka sai tietoisuuden heräämään hetkeksi? Vaan, onko enemmän voimia, jotka liikuttavat tietoisuutta yhteen suuntaan jatkuvasti suhteessa toiseen? Olisi tietysti melko typerää ajatella, että jos on voimia, jotka ikään kuin syystäkin tekevät maailman sellaiseksi kuin se on, se ei ole sellainen kuin se on ilman syitä.

Ja siis ne voimat, jotka liikuttavat sitä tuolla tavalla, eivät halua sen liikkuvan aivan eri tavalla. Ja jos alkaa tapahtua menestystä, ne eivät vain seiso siinä tekemättä mitään, eikö niin? Ne reagoivat ja yrittävät tehdä sitä, mitä ne haluavat tehdä. Niinpä kaikkien strategiaa pohtivien on luonnollisesti ajateltava dynamiikkaa.

Ja okei, yksi asia. Termissä tekoäly on jotenkin ongelmallista, koska se saa sen kuulostamaan homogeeniselta asialta. Aivan kuin olisi olemassa vain yhtä teknologiaa, vain yhtä sovellusta. Eihän sellaista oikeasti ole, vai mitä? Se kysyy, olenko tekoälyn puolesta vai vastaan? Se on vähän kuin kysyisi, olenko tekniikan puolesta vai sitä vastaan.

Se on naurettava kysymys. On paljon teknologiaa, josta pidän ja jota pidän tärkeänä, ja toisenlaista teknologiaa, jota pidän huonona, ja joitakin sovelluksia. Ajatus siitä, että tekoälyllä voidaan tehdä tärkeitä asioita, on myönteinen, joten tekoälyyn suhtaudutaan myönteisesti, ja siksi sitä skaalataan vittumaisesti kaikkialle.

Eikö se olekin naurettavaa? On todella tärkeää, että peruuttamattomista riskeistä huolehditaan asianmukaisesti. Se ei tarkoita sitä, ettemme kehittäisi laskennallisia valmiuksia, jotta voimme auttaa asioissa, jotka ovat todella asianmukaisia, eikö niin? On siis tärkeää, että tässä on vivahteita. Jos tulevaisuuden dynamiikkaan liittyy epävarmuutta, ja on olemassa ei-triviaali mahdollisuus, että voisimme…

Se mitä teemme, aiheuttaa peruuttamatonta katastrofaalista vahinkoa. Todistustaakan pitäisi olla turvallisuuden todistamisessa, ei päinvastoin. Juuri nyt asia on päinvastoin, eikö niin? Lyijy tulee markkinoille, sitä laitetaan bensiiniin, sitä aerosolisoidaan kaikkialle, ja vasta kun miljardi älykkyysosamääräpistettä on kadonnut Yhdysvalloissa ja vahinkoa on aiheutunut kaikkialla peruuttamattomasti, sitä säännellään lopulta lailla. Mutta kun puhumme tekniikasta, joka on radikaalisti tehokkaampaa ja radikaalisti nopeammin etenevää ja skaalautuvaa, emme itse asiassa selviä siitä, mitä haittoja aiheutuu siitä, että jatkamme sitä, että teemme sen, että otamme DDT:n pois, otamme lyijyn pois, mitä tahansa, ja sääntelemme sitä kaiken haitan jälkeen.

Haitat, joita syntyy tekoälyjärjestelmistä, globaalista valvonnasta ja aseista ja niin edelleen, emme voi, varsinkaan kun olemme ylittämässä planeettamme rajat, emme voi sanoa: ”Katsokaa, mitä haittoja, käännetäänpä se päinvastaiseksi”. Se ei tule koskaan tapahtumaan. Joten ennalta varautumisen periaate sanoo, ja se on oikeastaan oikea periaate, jota tässä sovelletaan: jos kyseisessä tilassa on todella merkittävää epävarmuutta ja radikaaleja seurauksia ja jos seuraukset ovat peruuttamattomia, todistustaakka siirtyy turvallisuuden osoittamiselle. Ja sen on tapahduttava ensin, jotta asia voidaan todella hyväksyä. Maailma ei ole tällainen. Se olisi täysin erilainen lähestymistapa sääntelyyn, teknologian suunnitteluun ja niin edelleen.

Mutta sanoisin, että jos emme saa sitä, en usko, että selviämme.

Nate Hagens: Mutta sanoit juuri aiemmin tässä keskustelussa, että suurin osa tärkeimmistä tekoälyalan toimijoista noudattaisi motivoituneen päättelyn kautta logiikkaa, jonka mukaan tekoälyn kehittäminen on hyväksyttävä riski, jopa varovaisuusperiaatteen mukaisesti, koska lähitulevaisuudessa meillä on ydinsota ja ekologinen ylikulutus.

Joten on riskin arvoista jatkaa kohti AGIa. Ja minun AGIni on paras. Kuka siis olisi tällaisen varovaisuusperiaatteen vartija, jos se ei ole yksi tärkeimmistä tekoälytoimijoista, kuten mainitsit?

Daniel Schmachtenberger: Ei, koko juttu siitä, että sodan jälkeen voittajalla on mahdollisuus olla antelias tavalla, jolla häviäjällä ei ole mahdollisuutta olla antelias.

Ja jos näin tapahtuu, voidaan luoda paljon parempi sodanjälkeinen maailma kuin jos näin ei tapahtuisi. Jos voittaja ei ole antelias ja muut elossa olevat ihmiset ovat paskoissa oloissa ja, tiedäthän, mitä tahansa, niin silloin maksimoidaan vihamielisyys kaikessa, mitä he voivat tehdä voidakseen skaalautua kohti tulevaa sotaa samalla tavalla siitä, että vain voittaja voi olla antelias todella merkityksisellä tavalla, henkilö tai ryhmä, jolla on potentiaalia tulla voittajaksi asevarustelukilpailussa, on se, joka voi sitoa sen, koska muut ryhmät tietävät myös.

Ja he sanovat: ”Hei, me luultavasti voitamme teidät tässä, mutta ei nyt kuitenkaan. Tehdään oikeasti sopimus. Tiedämme, ettemme ole tehneet oikeita sopimuksia ikuisuuksiin. Kaikki sopimuksemme ovat paskapuhetta. Tiedämme, että molemmat loikkaamme ja vakoilemme toisiamme ja teemme vastavakoilua toistemme vakoojia vastaan ja mitä tahansa.”

Mutta sanotaanpa, että yritämme tehdä todellisen sopimuksen ja todella rakentaa tilanteen, jossa voisimme luottaa siihen, että emme ole rakentamassa järjestelmää, automaattisia tekoälyaseita, ettekä te myöskään ole. Mitä tarvittaisiin todellisen luottamuksen luomiseksi? Voisimmeko tehdä sen? Kyllä, voisimme tehdä sen. Väite, että emme voi ja siksi meidän on kiirehdittävä eteenpäin voittaaksemme eikä turvallista ratkaisua ole, on itse asiassa hölynpölyä.

Mutta motivoituneen järkeilyn näkökulmasta katsottuna, jos uskon voivani voittaa, pidän siitä maailmasta enemmän kuin maailmasta, jossa minun on jaettava valta moninapaisesti eikä minulla ole kaikkea valtaa eikä minulla ole mahdollisuutta ladata tietoisuuttani pilveen ja tulla digitaaliseksi jumalaksi ja hallita kaikkea ja mitä tahansa. Joten olipa kyseessä mikä tahansa tietoinen tai tiedostamaton motivoitunut päättely, ei, emme voi mitenkään sitoa tätä asevarustelukilpailua.

Se tulee tapahtumaan. Joten meidän on parasta voittaa. Muuten häviämme. Mutta se ei ole totta. Se ei ole totta. Ja sitten sanotte, kuinka paljon rahaa menee asevarustelukilpailuihin? Paljon. Paljonko menee siihen, että yritetään selvittää, miten asevarustelukilpailut voidaan estää? Lähes yhtään. Joten mitä ihmiskunta voisi tehdä auttaakseen? Koska sanoitte, että jos 95 prosenttia ihmisistä havahtuisi siihen, että on mahdotonta voittaa asevarustelukilpailuja, joita maailma nyt kohtaa, ei voi voittaa ydinsotaa.

Et voi voittaa sitä kuka perii poltetun maan, kun olet saanut täydellisen toimitusketjun hallinnan, missä käytät, missä ylität planeetan rajat, mutta sitten hallitset asioita, kuten kuka haluaa tuon planeetan? Kukaan ei halua tuota planeettaa. Et voi voittaa sitä, kuka saa AGI-herruuden ensin, kuka voittaa.

Ei kukaan. Siitä tulee maailma, joka on, jos ei sukupuuttoon kuoleva, niin ainakin dystooppinen. Joten on olemassa paikka, jossa voitto-tappio -malli on aina hyvin tuhoisa. Kumulatiiviset ulkoisvaikutukset ja teknologian eksponentiaalinen teho. Olemme nyt paikassa, jossa voitto-tappio muuttuu häviöksi, eräänlaiseksi kaikki häviää.

Joko keksitään toisenlainen voitto, joka ei ole ”voita tai vie kaikki”, vaan joka on itse asiassa vallan jakamista, tai kaikki häviävät ”voita tai vie kaikki” -periaatteen tavoittelussa. Haluaisin, että tämä maailmankatsomus todella lisääntyisi ja että kaikki sanoisivat, että hyvä on, aion painostaa senaattoreita ja kongressiedustajia ja kaikkea mahdollista, jotta sanoisin, että haluamme hidastaa kaikkia sotarintamia, jotka voivat johtaa kolmanteen maailmansotaan, kaikkia niitä.

Ja mikä tahansa oikea pitkän aikavälin vastaus onkaan, me emme saa sitä selville, joten hidastetaan noiden sotarintamien kiihdytyspolkuja ja mietitään sitten pitkän aikavälin geopolitiikkaa. Hidastetaan samanaikaisesti kaikkia niitä asioita, jotka vievät meidät peruuttamattomien pisteiden ohi. Tekoälyn kohdalla: mikä on oikeanlainen tekoäly, joka on turvallinen?

On vaikea sanoa, mitä jokainen voi tehdä, koska joku, joka kuuntelee tätä, on lakimies, joka työskentelee lobbausfirmassa ja joka voi sanoa: ”Voi helvetti, tämä on minun lapseni”. Tämä on minun kaikkeni. Ja olen itse asiassa lobannut väärien asioiden puolesta.

Aion itse asiassa muuttaa tämän täysin ja alkaa lobata muiden asioiden puolesta. Ja joku toinen on toimittaja, joka voisi alkaa tehdä tutkivaa journalismia joistakin asioista, joita tapahtuu, ja joku toinen on… Joten kyse on enemmänkin siitä, mitä ihmiset voivat tehdä? Kun on kyse tekoälyriskistä, kyse ei ole vain ympäristöstä, vaan monista asioista.

Jos ihmiset täällä työskentelevät ympäristön parissa, tutkivat todella tekoälyn hyviä puolia ympäristökysymyksissä, tekoälyn huonoja puolia, heillä on selkeä näkökulma ja pyrkivät vaikuttamaan siihen piiriin, jonka ympärillä he ovat, ymmärtäen, että sillä puolella, joka yrittää vaikuttaa tarinaan toisella tavalla, on paljon enemmän rahaa, mikä tarkoittaa, että on tehtävä paljon työtä ja luovuutta ja paljon energiaa, jotta selkeät ideat saadaan leviämään, eikö niin?

Sanoisin, että ympäristön parissa työskenteleville ihmisille se on ratkaisevan tärkeää todella oppia lisää tästä asiasta. Et siis aseta toivoa vääriin paikkoihin, ja että jos on jotain, mikä todella sotkee tavoitteitasi, olet selvillä siitä ja voit alkaa miettiä, miltä sen ratkaiseminen näyttäisi.

Jos olet huolissasi tekoälyriskistä yleensä, etkä erityisesti ympäristöön liittyvistä riskeistä, kuuntele ja lue tekoälyriskistä keskustelevien avainhenkilöiden ja heidän tarjoamiensa keskeisten ehdotusten tuloksia. Kenelläkään ei ole kattavia ehdotuksia, koska kyse on niin monista asioista, koska kyse on erityyppisestä tekoälystä ja erityyppisestä kansallisesta ja kansainvälisestä sääntelystä tai mistä tahansa, mutta ymmärrä kenttää paremmin, jotta voit sitten tarkastella taitojesi, verkostojesi ja resurssiesi avulla, mitä voisit tehdä.

Nate Hagens: Kiitos. Minulla on noin 20 lisäkysymystä, mutta mielestäni tämä on asian ydin. Kolme samankeskistä ympyrääsi siitä, miten voimme tarkastella tekoälyn vaikutusta ympäristöön, ilmastonmuutosta luonnossa, on paljon suurempi kuin luulen julkisuudessa tällä hetkellä olevan. Joten kiitos sinulle ja tiimillesi, että kiinnititte huomiota tähän, ja laitamme joitain mainitsemiasi linkkejä, ja mainitsitte, että maantieteilijälläsi on asiakirjoja tästä.

Tämän piti olla lyhyt Frankly, jos muistatte… Piti tehdä 30 minuutin juttu. Olen matkoilla, ja aioin pyytää sinua korvaamaan Franklyni. Meillä meni hieman yli 30 minuuttia, mutta kiitos vielä kerran kaikesta viisaudesta ja vaivannäöstä elämän tulevaisuuden puolesta.

Onko sinulla loppusanoja, ystäväni?

Daniel Schmachtenberger: Olen todella halunnut ymmärtää aihetta koskevia tietoja enemmän, ja haluaisin edelleen ymmärtää sitä paljon enemmän, mutta korkean tason periaatteellinen arviointi ei ole tarpeeksi esillä keskustelussa, ja se tuntui keskustelun arvoiselta.

Sanoisin, että yritämme lisätä show-muistiinpanoihin muutamia resursseja, joita ihmiset voivat tarkastella. Jos on ihmisiä, joilla on lisäasiantuntemusta tällä alalla ja jotka voivat edistää keskustelua ja joko sanoa: ”Hei, sanomasi asiat ovat suunnilleen oikein, ja tässä on paljon muuta.” Tämä on hyvä idea. Faktoja, tilastoja ja periaatteita, jotka vahvistavat argumentteja.

Mahtavaa. Tai jos sanotte, että jotkut asiat, joita sanotte, ovat oikein, mutta meillä on syitä ajatella, että jotkut näistä asioista ovat vääriä jne. Mahtavaa. Myös, kuten ei mitään omaa etua siitä, mikä on totta täällä. Se on vain paras tämänhetkinen käsitys, mutta selkeä käsitys siitä, mikä on totta, on todella tärkeää.

Joten jos teillä on, jos katsotte tätä ja teillä on tietoa, joka mielestänne vaikuttaa olennaisesti tähän, sanoisin, että itse asiassa luultavasti yksi tärkeimmistä syistä jakaa tämä oli keskustelun aloittaminen, joka toivottavasti edistäisi keskustelua pidemmälle kuin se pieni raapaisu, joka meillä on tässä.

Nate Hagens: Shiren pienillä ihmisillä voi olla vielä ääni tässä matkassa.

Daniel Schmachtenberger: On olemassa podcasteja ja blogeja ja mitä tahansa, joissa keskustellaan tekoälyriskistä, ja on olemassa podcasteja, joissa keskustellaan ympäristöriskeistä, ja on olemassa podcasteja, joissa keskustellaan ongelmallisesta markkinadynamiikasta, mutta missään niistä ei ole mitään järkeä ilman, että ne kaikki yhdistetään, samalla tavalla kuin maksaan katsominen ei ole hyvä mittari terveydelle.

Maksasi voi olla hyvä, mutta voit saada sydänkohtauksen tai jotain muuta. On tavallaan tarkasteltava kaikkea ja sitä, miten ne vaikuttavat toisiinsa. Kun tekoälyä tarkastellaan energiataustasta käsin ja sanotaan: ”Hei, katsokaa, tämä on todella muuttumassa Jevonsin paradoksiksi ja sanomme, että tässä ei ole kyse vain datakeskuksista, eikö niin”?

Kyse on sen kokonaisvaikutuksista, ja markkinoita on ymmärrettävä. On ymmärrettävä energiaa, jotta voi ymmärtää tekoälyriskin. Itse asiassa tekoälyriskikeskustelu edellyttää olennaisuuden ymmärtämistä. Olen niin iloinen, että teette sitä, koska lähes kukaan ei tee sitä.

Toivon todella, että tämä keskustelu lisääntyy.

Nate Hagens: En halua antaa mitään taloudellisia kommentteja, mutta se, että NVIDIAn markkina-arvo on yli 2 biljoonaa ja monien energiayhtiöiden markkina-arvo on nyt yli 3 biljoonaa, on se, että energiayhtiöt muodostavat noin 5 prosenttia S&P:stä.

Toinen noista kahdesta asiasta ei ole oikein, koska tekoäly tulee tarvitsemaan paljon energiaa, tulevaisuudessa. Joten, kiitos vielä kerran. Jatketaan. Tämä on kehittyvä tarina. On hämmästyttävää ja vaarallista olla elossa. Arvostan sinua kollegana, joka jakaa tämän matkan ja työskentelee näiden asioiden parissa, kun minulla on vielä sinut, olen varma, että teemme toisen podcastin myöhemmin tänä vuonna. Onko mielessäsi jokin aihe, joka liittyy elettävään tulevaisuuteen?

Daniel Schmachtenberger: Joo, niitä on monia, jotka ovat kiinnostavia. Aloimme puhua ennalta varautumisen periaatteesta ja turvallisuuden puitteista. Keltainen tiimityö. Tämä on, se vaatii keltaista tiimityöskentelyä. Se on itse asiassa hieman erilainen asia. Kirjoitimme artikkelin kehittyneen teknologian sääntelypolitiikasta. ja itse asiassa edellisessä keskustelussa, jonka teimme edistyksestä, olimme menossa loppupuolella enemmänkin käytännön asioihin, mutta aika loppui kesken.

Miltä sääntelykehys näyttäisi? Se olisi itse asiassa sopiva eksponentiaaliselle teknologialle maailmassa, jossa planeettarajat ylittyvät. Mitä tarvittaisiin, jotta voitaisiin luoda järjestelmiä, joissa sääntely, sääntelyvalta olisi luotettavaa, ja mitä tarvittaisiin, jotta voitaisiin tehdä joitakin todella konkreettisia asioita, jotta markkinat olisivat vähemmän kieroutuneet, jotta ulkoisvaikutuksia voitaisiin sisällyttää enemmän ja niin edelleen, ja jotta voitaisiin käsitellä sisäänrakennettuja kasvuvelvoitteita.

Jos puhutaan enemmän siitä, miltä näillä alueilla näyttää ratkaisutilanne, olisi todella mielenkiintoista päästä syventymään joihinkin ongelmiin.

Nate Hagens: Hyvä on, ystäväni, kiitos paljon. Kiitos. Oli todella mukava puhua kanssasi. Jos nautit tai opit tästä The Great Simplificationin jaksosta, seuraa meitä suosikkipodcast-alustallasi.

Voit myös käydä osoitteessa thegreatsimplification.com, josta löydät viitteitä ja muistiinpanoja tämänpäiväisestä keskustelusta. Ja jos haluat olla yhteydessä muiden podcastin kuuntelijoiden kanssa, käy Discord-kanavallamme. Tätä ohjelmaa isännöin minä, The Great Simplification. Nate Hagens, toimittajana No Troublemakers Media ja tuottajina Misty Stinnett, Leslie Batlutz, Brady Hyan ja Lizzie Sirianni.

https://kapitaali.com/daniel-schmachtenberger-tekoalyn-laajat-rajat-ylittavat-vaikutukset/

#ilmastonmuutos #tekoäly #transhumanismi #ympäristö #ympäristönsuojelu #bisnes

0 notes