#toby olie

[sug01s3al]

I'm playing around with some potential puppet designs, keeping them to just one page is more manageable for me so I don't marry myself entirely to one idea and have room to explore other ideas without getting carried away. I'm thinking of drafting a design for a sphinx next ^^!

Puppet rambling under the cut <3

First little design experiment was using a Kelpie as inspiration ( a kelpie made of kelp, original I know lol). I normally start drawing at the bottom of a page and work up, for some reason, so you can see my original design and how it progresses from big bulky horse to spindly strange creature which I ended up liking a lot more. I liked the idea of it being a normal-ish horse from one side and next being this skeletal water rotted creature, equally I like the strange, spindly, more-cat-then-horse-like creature it ended up being so I think the end result would be trying to find a happy medium between the two. As for materials I was looking towards (surprising no one, my favourite puppet designer) Toby Olie who has a wonderful eye for fabric in his work.

First example is 'A Christmas Carol' and the second is 'Wolves in the walls' both of which he uses these wonderful scrappy fabrics to give such vibrant character to his puppets. In particular I liked the sinister quality given to the wolf puppets through the use of hemp material for their fur which is why I would use something similar, either that or well worn calico. Painted or stained a sickly sort of green.

For the hair I would use a rubber of some sort, best case would be something semi-transparent to give the illusion of seaweed. Partially for that seaweed effect but also for the sound, to echo the sickly, off-putting vibes im going for I would want something that would create a strange sound when it moves, something with almost a sticky, heavy quality to it harkening back to the mythos of Kelpies (the whole, you touch 'em you're stuck to 'em thing).

The design then graduated to more of a unicorn aesthetic, something that should be pure and good hearted, a lure to get people to come see and pet it. I favour the stylisation of Amalthea from the last unicorn, lanky but with a strange ethereal quality. And then it morphed in to a more cat like creature... somehow. I think I was more thinking of a trickster spirit for my Kelpie, something that looks kind and alluring to ensnare its prey :3

Part of my dissertation was on the line between costume and puppet so something I always try and include in my designs is this idea of disguising the pupeteer so the puppet take centre stage whilst also marrying their costume design into the puppet character they play. In this instance I was inspired, again, by the idea of the Kelpie attaching itself to its victim and dragging them in to drown them so I had designed the puppeteer to be one of the Kelpie's most recent victims.

[modmad]

THANK YOU BASED ANON

cant talk rn obsessed over the design concept of this 2017 production of pinocchio as a stage play where pinocchio is the only character played by a human actor and the rest of the cast are portrayed as puppets ,,,

[annokan]

In the spirit of Halloween, I have a costume idea for Toby: Hank J. Wimbleton from Madness Combat. Hehe... 😏

Good idea! Happy late Halloween!

[ponderingrandomthings]

This is quite a poignant movie by Zach Braff (writer and director).

Some moments stand out way more than the rest of the movie.

Trigger Warning: Although some scenes are quite uncomfortable to watch (drug usage, some brief sexuality bits, no nudity), there are many other parts of the movie that show some strength coming from the broken people (in spite of relapses).

The characters do occasionally make you think 'No, he shouldn't have said that to her, not when he knows she is struggling with such things'. (He is struggling with things too.)

And again (like the movie Parachute), the movie seems nice - without any dramatic/blockbuster ending, and still something flawed, realistic and hopeful.

[Just my take on the movie...]

Highlight for me (as in, I went back to that part to marvel at it): There is a scene where Florence Pugh's smile shows care/love for a person who put her down a while back (he was dealing with his own things - he's not in the scene). That was a deeply deeply beautiful, loving smile from her when that person was mentioned (last 15 minutes).

To show such care/love/understanding through a smile...

Wow > Very beautiful > All such people. (No, I don't/can't ask to be such a person myself. Too high a price to pay to transform to such a person...)

Cast:

Florence Pugh as Allison

Morgan Freeman as Daniel

Celeste O'Connor as Ryan

Molly Shannon as Diane

Chinaza Uche as Nathan

Zoe Lister-Jones as Simone

Nichelle Hines as Molly

Toby Onwumere as Jesse

Ignacio Diaz-Silverio as Quinn

Oli Green as Thomas

Alex Wolff as Mark

Brian Rojas as Diego

Ryann Redmond as Becka

Sydney Morton as Joelle

[noonmutter]

Home for the Holiday

The Foodening...is Nigh.

Leon, being a farmboy and a cook, has a tradition for Pilgrim's Bounty.

For the week leading up to the holiday, there is a rule in the Peppercog-Ambroce household, nestled comfortably up next to the mountains in the Valley of the Four Winds: The front door stays unlocked until sundown, every day, period. On the day of the holiday itself, it stands wide open. Anyone who wants a meal, a place to stay, some company, or anything else is welcome and is considered family as long as they're there.

The food is enough to feed a village...of Pandaren. And it becomes apparent in the days leading up to the holiday that it very well might, as his neighbors (the closest stead is visible a mile away, and travelers come from as far as Halfhill) begin making friendly check-ins and bringing him extra stuff.

While there is always food ready and available (the final mile or so up to the house smells like heaven), the day-of meal is when Leon goes hard, and it's when his direct family and close friends arrive. On the day of the holiday, that house is packed, there is an entire menagerie of pets romping merrily through the back field, and it's a big noisy mess in which Leon stands firmly centered.

Attendees include:

Leon (obviously)

Kaewynn (first wife)

Pineapple (second wife)

Valarin (husband)

Terry (big brother, Viscount of Keel, Baron of the Brightgrove)

Shedwyn (sister in law, Viscountess of Keel, Baroness of the Brightgrove)

Vember (big sister by adoption, Harvest Witch)

Celedyn (boyfriend)

Cythion (roommate)

Cythion's son, Oli

Oli's two moms

Caythaes

Ithilios

Trist'ayran

Anzhin

Terry's personal bodyguard, Tully

Shedwyn's personal bodyguard/attache, Shu-fen

Terry and Dwyn's eight young children

Toby and Graeme (twins), Sam Jr, Ulfric and Corben Caythaes (twins), and their three-month-old triplet girls that I'll be honest we haven't had time to think of names for yet THEY DEFINITELY HAVE NAMES THO. Leon calls all the triplets "precious" because he hasn't learned to tell them apart yet; Terry will show off how easily he can as a party trick after a few beers

Lucien (Dwyn's firstborn)

Praecormu (a bronze drake, chosen guise is a farraki troll)

Eleyn (Duchess of Aramore, head of Getaway Cafe, take a wild guess which matters more to Leon)

Vaelin (one of Elly's entourage)

A grab bag of adventurers referring to themselves as The Meddlers

You, if you want!

This is one hell of a bigass party, and I don't have the means to run it as an event, so I thought I'd post it up as something on the order of a writing prompt. If Leon has ever met you, even in passing, even if only for five minutes, consider yourself invited. If you've never met him but your character would totally be down to crash a big family get-together that treats them like they're part of the family the whole time, do it.

Leon takes Pilgrim's Bounty very, very seriously, and he means it when he says everyone who walks in that door is family until they leave (it also means that leon hid all the really good silverware). They might very well be in danger of it lasting longer than that.

Feel free to throw your hat in the ring and say you were there, or even write up your own stories (or ping me for arpee about it, I might be able to accommodate a few here and there). If you do write stuff, tag me so I can see!

LET'S GET WHOLESOME

[fashionsfromhistory]

🔥 thoughts on the costumes for the Alice in Wonderland ballet?

I'm assuming this about the Wheeldon version, with design by Bob Crowley. Honestly? IMO, they're mid. They're not the worst I've ever seen but I just find them very uninspiring and uncreative. The puppets are rad as hell though. Personally, I think the Finnish Ballet has some lovely traditional Alice costumes. In my dream world, I want a ballet that really leans into the inherent surreal nature of Alice, like the Schiaperelli/Dali collaborations or the Dadaists/Russian Avant-Garde (I'm thinking specifically Kazimir Malevich or Alexander Rodchenko)

Aforementioned rad puppets, designed by Toby Olie

Alice in Wonderland designs by Robert Perdziola for the Finnish National Ballet

Costumes designed by Vladimir Tatlin

[elikellyhall]

Finding Noddy (Finding Nemo) Recast Pictures.

CAST:

Marlin - Woody (Toy Story)

Big Ears (From the Noddy franchise) as himself (Woody’s father/Noddy's grandfather and supporter throughout the story) (In the opening scene, Big Ears would be supporting Woody alongside Woody himself as Marlin, and happy for him becoming a father. A few times Noddy says "Big Ears", but more of the time he says "Grandpa" to Big Ears, and "Dad" to Woody)

Coral - Bo Peep (Toy Story) (Meant for my recast for how I feel, I respect those who may disagree. This is meant to be for my recast.)

The other children fish eggs - Noddy's siblings with different colored/coloured clothes and hat (OCs specific for this recast only, not real characters)

Barracuda - Carnotaurus (Dinosaur - 2000)

Nemo – Noddy (Noddy franchise)

Dory – Joy (Inside Out) and Judy Hopps (Zootopia) (Extra with Joy)

Gill – Mr. Wolf (The Bad Guys)

Peach – Liberty (PAW Patrol films)

Gurgle – Fear (Inside Out)

Bloat - Boog (Open Season) and Elliot (As extra)

Bubbles – Lofty (Bob the Builder)

Deb/Flo – Skye (PAW Patrol)

Jacques - Guido and Luigi (Luigi as extra) (Cars)

Bruce – Bowser (Mario series) - For the "Koopas (Sharks) Meeting" scene, Bowser goes first, then Joy and Judy, then Woody and Big Ears.

Anchor and Chum – Kamek and Koopa Troopa (Mario series)

Blenny (The small green fish) – Scrat (Ice Age)

The two pelicans at night after the Shark scene – Donald and Douglas (Thomas & Friends)

Nigel - Thomas (Thomas & Friends) with The Fat Controller (Extra and helper for Nigel)

Gerald - Percy (Thomas & Friends)

The other pelicans - Edward, Henry, Gordon, James, Emily, and Toby (Thomas & Friends)

The 3 pelicans at the morning scene - Duck, Oliver and Toad (Thomas & Friends)

Mr. Ray - Shrek (Shrek)

Sheldon – Arthur (The Sword in the Stone) (Disney)

Pearl – Alice (Alice in Wonderland) (Disney)

Tad – Pinocchio (Disney)

Abby Mallard (Chicken Little - 2005) as Kathy ("Oh, my gosh! Nemo's swimming out to sea!")

The other child characters in the school class group – Chicken Little (Chicken Little – 2005), Sofia the First, Olie (Rolie Polie Olie), Leo, June, Annie, Quincy (Little Einsteins), Dora and Boots (Dora the Explorer), Toodles (Mickey Mouse Clubhouse), Elmo (Sesame Street), Rubble and Chase (PAW Patrol) Charlie Brown, The Little Red Haired Girl/Heather (Peanuts Movie) and Red Puckett (Hoodwinked). (Edit: Tessie Bear would be included as well)

Some other child characters in the background – Bluey Child Characters

Sheldon's Dad – Merlin (The Sword in the Stone)

Pearl's Dad - Prince Charming (Cinderella) (Disney)

Tad's Dad - Geppetto (Disney)

Various Noddy (Franchise) characters as the Fish Roaming Around the Neighborhood

Rosalina (Nintendo) as (She'd be at least a mother figure or so to Leo and Annie from Little Einsteins in this recast, who Leo and Annie walk and then meet up with June and Quincy to school) as the character who said "I'll pick you up after school!"

Cookie Monster (Sesame Street) as Mr. Johannsen ("All right you kids! Where'd you go?")

Moonfish (School of Fish) – PT Flea, the Circus Bugs (A Bug’s Life), and Ants (A Bug's Life and Antz.) (This part of the cast is to respect both films, even if they had a close release together, and have their similarities and contrasts)

Anglerfish – Rudy (Ice Age 3: Dawn of the Dinosaurs)

Jellyfish – Jellyfish (SpongeBob SquarePants)

Crush - Mumble (Happy Feet)

Squirt - Erik (Happy Feet)

Bob the Builder (HiT Entertainment), Handy Manny (Disney) and Scoop (Bob the Builder), Sarge (Cars) and Trix (Bob the Builder), Mario, Luigi, Toad, Wario, Waluigi (Nintendo), King K. Rool and Donkey Kong (Also Nintendo) (Fighting each other), Teletubbies and Barney the Dinosaur (As the Dolphins), then Bertie the Bus (Thomas & Friends) spreads word some engines at night as the characters who spread the word of Nemo. (Some of the background ones or so, I think)

Krill Swimming Away - Fishes (Pinocchio)

The Whale - Monstro the Whale (Pinocchio) (Although he was intense, I have him in this recast to have a different personality)

Fossa (Madagascar) as the Seagulls

Philip Sherman – Hans (Frozen)

Barbara - Elsa (Frozen)

The boat (Vehicle from after the start of the film) – Pizza Planet Truck (Pixar movies)

Veruca Salt (Charlie and the Chocolate Factory, 2005) as Darla Sherman

Dash (The Incredibles) as Boy in The Waiting Room

The Red Crab – Mr Krabs (SpongeBob SquarePants)

The Green Crab – Duke Weaselton (Zootopia)

Fish who passed Marlin - Characters from "My Little Pony: Equestria Girls", Various Animal Characters (Ice Age series) and a few others too.

Fish who got caught in the net - Monsters (Monsters, Inc)

The characters listed and mentioned belong to their rightful owners © Disney, Pixar, DreamWorks, Hasbro, Mattel, HiT Entertainment, 20th Century Studios, Nickelodeon, Warner Bros. and Village Roadshow, Nelvana, Sesame Workshop, Nintendo, Enid Blyton Ltd. (Noddy) and a couple others I think as well.

[ao3feed-crimeboys]

Tommyinnit commits Tax evasion (and other fun crimes)

by Sailor_fur

Now, Tommy didn’t mean to commit Tax Evasion, honestly.

Well, that might be a little bit of a lie. But c'mon’, he didn’t know that he needed to pay his taxes as an illegal eighteen year old!

Wait.

No.

An INCREDIBLY legal eighteen year old.

Or: Tommy commits Tax evasion, steals Churros, and gets a supervillain family

Words: 2370, Chapters: 1/1, Language: English

Fandoms: Dream SMP, Minecraft (Video Game)

Rating: General Audiences

Warnings: No Archive Warnings Apply

Categories: Gen

Characters: TommyInnit (Video Blogging RPF), Wilbur Soot, Technoblade (Video Blogging RPF), Phil Watson | Philza, Henry the Cow (Dream SMP)

Relationships: Wilbur Soot & Phil Watson | Philza, TommyInnit & Kristin Rosales Watson, Tommyinnit & Wilbur Soot, Wilbur Soot & Technoblade & Phil Watson | Philza, Wilbur Soot & Technoblade & TommyInnit & Phil Watson, TommyInnit & Phil Watson, Henry the Cow (Dream SMP) & TommyInnit (Video Blogging RPF)

Additional Tags: Mentioned Ranboo (Video Blogging RPF), Mentioned Kristin Rosales Watson, Mentioned Toby Smith | Tubbo, Mentioned Michael the Piglin (Dream SMP), Mentioned Oli | TheOrionSound, I can't explain that last one well, Crack, Crack Treated Seriously, TommyInnit is a Menace (Video Blogging RPF), Raccoon Hybrid TommyInnit (Video Blogging RPF), Avian Phil Watson (Video Blogging RPF), Phantom Hybrid Wilbur Soot, Piglin Hybrid Technoblade (Video Blogging RPF), Alternate Universe - Superheroes/Superpowers, Sbi are all supervillains, Goddess of Death Kristin Rosales Watson, Revived Tommyinnit, Revived Wilbur Soot, small angst, no beta we die like Tommy when he eats rat poisoning, Mentioned Sally the Salmon (Dream SMP), Almost forgot that

[citiesonjupiter]

Do you name your paras by any chance?

hello yes!! BUT i have so so many of them and im still working on making the masterposts for my paracosms and paras. what i can do is just dump the extensive list of most if not all of my paras 😭 it's so long but i guess this can be my para masterlist for now lol. some of them are still being worked on regularly so they don't all have full names. the stage is by far the oldest and most fleshed out paracosm, @daydreamtheory is my blog specifically for it.

Ardonia

Fictparas

Abbigail

Galadar Mendoris

Galleous Sendaris

Grek

Hadion Mendoris

Hubris Nestoris

Masani

Onyx

Ria Sendaris

Senn Voltaris

Thalleous Sendaris

OC

Artemis Ashswift

Emmilia Ashswift

Emmilia Voltaris

Hecate Nightstalker

Xirylath Nestoris

Xirylith Nestoris

Xiryloth Nestoris

Erenyx

Aalee Modcro

Adira Keensurge

Elimar Univa

Emery Wiseflaw

Evelyn Taika

Freya Deathwater

Leon Tsollan

Nicole Belsor

Oli Retnah

Owen Retnah

Parker Spela

Fire In The Sky

Elis "Gigabyte"

Harley

Jack

Latonya "Widget"

Hidden Home

Hidden Home

Faye

Harper

Leah

Ray

Tom

Hidden Home (fantasy)

Faye

Harper

Leah

Ray

Tom

Mossheart Hollow

Merlin Valle

Pombie Byrrd

Sage Forrest

Selas

Silver Screen Fantasy

Anjela

Elias

Lily

Louise

Nathaniel

Nikki

Theodore

The Stage

Alisha McCarthy

Asher McCarthy

Cardiff Lansley

Charlie Scott

Charlie-Jack King

Christopher De Windt

Daniel Reid

Darryll Torres

Derron Abernethy

Dexter De Windt

Emily Whitton

Griffin Scott

Isla Richards

Jayson Abernethy

Jaz Simone

Kyra Barnes

Mason McCarthy

Michael Robinson

Molly Myres

Natalie Richards

Peyton McDaniel

Quinn Torres

Samuel Richards

Toby Lansley

Vyloria

Alwyn Moonblade

Arianne Moonblade

Arion

Arthur

Bramble Hastewood

Ellayne

Leronith Moonblade

Merothor Moonblade

Naramorth Moonblade

Sian

Tarun

Willow

[sug01s3al]

How would Alice be translated to the art of musicals and puppetry? Her storyline was one of the most impactful parts of the game after all.

Again as far as official story goes I hadn't written a script so that would have to be something considered if it ever got to stage officially. Like I mentioned in the super long post a little ways back a big pitfall of 2.5D theatre is having to cut down stories so I would have to figure out an efficient way to intertwine all of the stories whilst allowing for time to 'rest' or 'linger' on poignant moments.

As far as puppets go, however, I have a more concrete answer:

Alice is such a warm and charming character, her quest line with the orchards is one of my favourites- I know its not super complex but it's just nice and cosy. she's a very comforting presence to have on the ship. And since she's an older lady I wanted to capture that charm in her designed as a puppet very similar to Giovanni and Astrid's puppets but taking an element from traditional wooden toys. Her internal design was supposed to be similar to a wooden toy, the type that you roll along the floor to make her paws move. But similar to Giovanni and Astrid she would have a secondary function where her upper half can be lifted up and moved by hand.

A big part of my puppet design was intertwined with the costume design of the puppeteer (my dissertation was basically based on this idea lol) so you really got to see the human element of the person as Stella knew them in life not just the fantasy of the puppet on stage. I know it might not be the most feasible but because of that I thought it would be nice to have Alice be puppeteered by an older actor too so accessibility was a very important to me in the design. Having her be easier to move and less complicated mechanically was the goal so it wouldn't be too taxing to control her. I relate to this too and fell a bit into this pit fall with Gwen- she was designed to be moved by a 5"6 dancer but neither of us were available to film in the studio for this so I had to film with her :') Turns out HEDS does not mix well with heavy puppets so my mom ended up having to step in for that (who is much shorter than either me or Chloe lol).

So going forwards, if I were to elaborate on these puppets and their designs I think it would be really important to take into account material weight and how that interacts with the design.

Two puppeteers I was looking at were Toby Olie (my favourite puppet designer :3 ) and Barnaby Dixon who mostly makes very small single hand puppets but I was fortunate enough to see a showing of The Book of Dust were he designed the Daemon puppets:

Ideally I would want to something like this but with material rather than paper, EVA makes quite an effective skeleton too so It would just be figuring out the mechanics with the chosen materials.

^ This is Toby Olie's stuff, he's done a lot more but his animal designs are my favourite.

[fagtasian]

✦ fagtasian ⸺ oc liomoqai collection blog

⸺ this blog doesn't tag content warnings ⸺ this blog will include untagged mogai after dark ⸺ our main is @dayshines

☀ oc tags ⸺

7 ⸺ bingus ⸺ blue star cross stitch ⸺ dizzy heart ⸺ eveline haven ⸺ kerocotic ⸺ lemon louie ⸺ lucian ⸺ mothkeeper nabu ⸺ nox ⸺ nyx oli ⸺ patch work ⸺ revenant rock feller ⸺ sol ⸺ solstice sonar ⸺ stardust ⸺ toby vero ⸺ vivid chromatic

☀ sona tags ⸺

dayflicker ⸺ halo ⸺ heliotrope hyper paw ⸺ prism glow ⸺ seafarer soda pup ⸺ summer tide

☀ the clover grove tags ⸺ plural oc

dew splash ⸺ fortune tomb ⸺ frilly trim mildew moth ⸺ mocha mud ⸺ mystic number rose wood ⸺ rusted sap ⸺ sour zest star cruiser ⸺ sunny solstice ⸺ vivid pulse wild yonder

[annokan]

Merry Creepymas!

[salakavald]

Jaan Tallinn: “Minu eesmärk tehisintellekti valdkonnas on pumbata tõenäosust düstoopiast utoopiasse”

Mure elu kestlikkuse pärast – kas AI võtab planeedi üle? Tehnoloogia ülikiire areng on pannud ka tehisintellekti arendamisega tegelevaid inimesi muretsema. Millised riskid meid AI-ga seoses ähvardavad, mille üle on meil põhjust muretseda ja millele on meil loota? Kristjan Port vestles meid ees ootavast tulevikust maailma ühe informeerituma AI-temaatikat valdava eksperdi ja investori Jaan Tallinnaga. Tema sõnul on AI arendamine majanduslikult kasulik, mistõttu on väga raske seda peatada. Et negatiivsed riskid ei realiseeruks, on oluline olla AI-d arendavate ettevõtete omanikeringis, et pääseda nende kööki ja rääkida ka AI riskidest. “Minu AI-investeeringud, nende ettevõtmiste juures olemine ja nende inimestega suhtlemine ongi suunatud teadlikkuse tõstmisele,” ütleb Jaan Tallinn.

Kui käia tänaval ringi inimeste seas, keda me ei tunne, siis igaühes neis on mingi potentsiaal, mida me ei tea. Selles peitubki inimlik rikkus. Ja sinus on üle keskmise potentsiaali, vähemalt mõjupotentsiaali, mida enamus inimesi ei tea, ei oska hinnata ega arvatagi. Kusjuures see potentsiaal ei ole kuidagi seotud majandusliku mõjukusega, vaid inimliku hoolivusega.

Ma olen sellele mõelnud ja kõige fundamentaalsem iva, milleni ma jõudnud olen, on see, et ma üritan olla usaldusväärselt neutraalne ja katsun teha asju, mida tuleviku generatsioonid tahaksid, et ma praegu teeksin.

Keda sa tuleviku generatsioonide all silmas pead?

Seda on raske defineerida. Ilmselt tuleb sinna sisse lugeda ka inimesed, keda tõenäoliselt ei sünni, kuna maailm saab hukka. Need on inimesed, kes tegelikult sünnivad, ja inimesed, kes võiksid sündida, kui asjad läheksid paremini. Ma kuulun sellisesse liikumisse nagu efektiivne altruism. Just eelmisel nädalavahetusel oli meil Eesti seltskonna kogunemine (intervjuu toimus 28.07 – toim). Seal võib eristada ajalist ja ruumilist dimensiooni. Üks, mida efektiivsed altruistid eesotsas liikumise algataja Peter Singeriga ütlevad, on see, et me ei tohiks teha inimestel, kes on meie kõrval ja kes me kõrval pole, nii tugevalt vahet, nagu inimesed intuitiivselt teevad. Loevad ka nende elud, kellega me võib-olla kunagi kokku ei saa, sest nad elavad mõnel teisel kontinendil. Seetõttu on oluline hoolida üle terve planeedi. See on n-ö ruumipõhine hoolivus. Ajapõhine hoolivus tähendab hoolimist ka inimestest, kes ei ole veel sündinud. Neil on praegu veel vähem hääleõigust kui inimestel, kes on küll praeguseks juba sündinud, aga kahjuks mõnda kolmandasse riiki, millel pole eriti suurt mõju. Tuleviku generatsioonide all mõtlengi ma inimesi, keda siis, kui asjad lähevad hästi, on palju, ja keda siis, kui asjad lähevad halvasti, võinuks olla palju.

Sa mõjutad maailma vähemalt kahe organisatsiooni kaudu. Üks on Cambridge’i Ülikooli juures tegutsev Eksistentsiaalse Riski Uuringute Keskus ja teine Bostonis hajusalt asuv Elu Tuleviku Instituut. Minu jaoks on just see viimane huvitav. Kuidas sa määratled elu, kas see on vaid inimeste elu?

Need on süsteemid, mis on võimelised omama teadvuslikke kogemusi.

Teadvusena käsitled sa enim enesemääratlust?

Teadvus on siiamaani midagi, mille olemusest me täpselt aru ei saa. Aga see tundub oluline. Olen enda väärtuste puhul tähele pannud, et mind väga huvitab see, et kui ma võtan mingisuguse isoleeritud aegruumi tüki, siis kas seal on teadvuslikke kogemusi või mitte. Kui need pole inimesed, vaid loomad (efektiivse altruismi üks mõtteid ongi, et me kohtleme loomi liiga halvasti), siis kas seal on midagi, mille suhtes empaatiline olla või mitte. Juhul kui seal pole ühtegi teadvuslikku kogemust ja see on isoleeritud aegruumi osa, siis minu praeguse arusaama kohaselt on täiesti ükskõik, mis seal juhtub.

Kuidas sa eksistentsiaalset riski määratled, on see terminaalne või pikk kannatus?

Kõige põhjalikum definitsioon selle kohta on Toby Ordi raamatus “The Precipice”, kus ta ütleb, et inimkonna eksistentsiaalne risk on inimkonna potentsiaali järsk katastroofiline vähenemine. Inimkonnal on hetkel põhimõtteliselt potentsiaal jõuda tähtedeni ja muuta universum õitsvaks. Juhul kui selgub, et sel või järgmisel aastakümnel tuleb üks aasta, mil see tulevik muutub võimatuks, siis see on eksistentsiaalne katastroof. Lihtsamalt öeldes on kõige suurem tõenäosus eksistentsiaalse riski kategoorias sellel, et inimesed surevad välja. Ja seal omakorda on kõige suurem tõenäosus sellel, et nad surevad välja, kuna keskkond muutub elamiskõlbmatuks – kiiresti.

Inimkonna potentsiaal ise on ju selle kahjustamise põhjuseks. Kuidas head potentsiaali halvast eristada?

Kui teed asju, mis inimkonna potentsiaali kahjustavad, on nad ka enamiku inimkonna väärtuste seisukohalt negatiivsed, kuigi alati leidub ka igasugu veidrikke. Need, mis seda ultimatiivset potentsiaali säilitavad, on positiivsed. Ütleme nii, et eesmärk on pumbata tõenäosust düstoopiatest utoopiatesse.

Minu jaoks on huvitav, et see on enneaegne inimese või potentsiaali otsasaamine. Mida tähendab enneaegne? Inimene ei ole ju määratud igavesti elama ja eksisteerima. Kuidas see sinu käsitluses on?

Need on küsimused, kus oluliseks saab kvantiteet.

Isegi kui inimkond või universum ei kesta igavesti, siis on vahet, kas me kestame veel 40 aastat või 1040 aastat.

See vahe on väga suur.

Kas praegu oleme me liiga vähe aega kestnud?

Jah, isegi imetajana oleme me väga noor liik. On imetajaliike, kelle vanus on mõõdetav kümnetes miljonites aastates.

Elu Tuleviku Instituut ja Eksistentsiaalse Riski Uuringute Keskus on suhteliselt hilised, paigutuvad sellesse sajandisse. Oxfordi juures tegutseb ka Inimkonna Tuleviku Instituut. Kas me peaksime olema rohkem huvitatud inimesekesksest visioonist?

Neid nimesid ei maksa liiga üle tõlgendada, ent need on selgelt erinevad organisatsioonid. Inimkonna Tuleviku Instituut on üks vanimaid, kui mitte vanim eksistentsiaalsete riskidega tegelev organisatsioon. Ja ta on filosoofiliselt kõige kompetentsem. Tegeleb selliste küsimustega nagu mis on elu, mis on väärtus, kuidas seda kaitsta, kas suremine on hea või halb.

See tärkas nii nagu tuhandetel teistel inimestel – peale seda, kui lugesin Eliezer Yudkowsky kirjutisi. Ma hakkasin teda lugema, kui ta kirjutas veel sellises kohas nagu Overcoming Bias, nüüd on sellest saanud LessWrong, järjest prominentsem oluliste teemade arutelu keskkond.

Yudkowsky positsioon oli pigem pessimistlik.

Ta on kirjutanud sellest, kuidas tema silmad avanesid. Kuidas ta algul noorena oli selgelt sellel positsioonil, millel paljud siiamaani on: AI on lihtsalt üks hüpe progressis ja meil on vaja see kiiresti ära teha, enne kui me selle võime järgmist etappi alustada kaotame. Ja siis ühel hetkel jõudis ta selleni, et oot-oot, mida see inimestele tähendaks.

Kas elu või intellekt on üldse materjalist sõltuv? Kas ta võiks olla materjalist invariantne ja me võimegi olla teel sellise tehnilise kandja poole?

Võimalik. Aga siin on mitu nüanssi. Kui väga suurelt mõelda, siis üks küsimus on, et kui me teame, et tegemist on teadvusliku kogemusega, siis kuidas neid võrrelda. Juba praegu on trade-off’id olemas – näiteks kui vaatame, kuidas kanade teadvuslikku kogemust võrreldakse, mitme kana kannatus on võrdne ühe inimese kannatusega. Tõenäoliselt 1:1 see ei ole, aga mis see number siis on?

Kana käest küsides oleks tema arvamus teada.

Jah, võib-olla küll. Aga kuidas seda mõõta? Kas neuronite arvuga või mingil muul viisil? See pole ka ainult puhtalt filosoofiline küsimus, see on ka küsimus sellest, et kui me käituksime moraalselt õigesti, siis kui palju me peaksime näiteks kanaliha maksustama. See aga põhjustab väikest kannatust paljudele inimestele, kuna kanaliha on üks populaarsemaid valguallikaid üldse. Ja need trade-off’id lähevad veel hullemaks, kui rääkida mitte süsiniku baasil olevatest süsteemidest.

Üks küsimus, mis mind ennast väga huvitab, on see, et kui mul on kaks programmi, mis jooksevad silikoonis või muus keskkonnas ja neil mõlemal on teadvuslikud kogemused, nad on täpselt identsed, igale hetkele järgneb hetk, mis on täpselt samasugune, nad on sünkroonis, siis kas neid lugeda üheks või mitte. Kui neid mitte üheks lugeda, siis kuidas neid kaaluda. Need on teemad, mis on ühel hetkel väga olulised. Ma loodan, et nad hetkel veel ei ole olulised, kuna me ei tea neile vastust.

Aga praegu on õige aeg neile mõtelda. Robin Hansoni “Age of Em” on enam-vähem samasugune. Seal on kaks ajalist dimensiooni: digitaalne aeg, kus kõik kulgeb väga kiiresti, ja inimese bioloogiline aeg. Me tajume maailma muutust hoopis teises tähenduses ja kontekstis.

Selle kohta ma saadan tavaliselt inimestele, kes räägivad AI-ga kokku kasvamisest, ühe video seeriast “Stainless”. Seal on kunstnik filminud maailma umbes 50 korda kiiremini ja näitab seda normaalkiirusena – milline näeb maailm välja AI jaoks, kes on ainult 50 korda kiirem. Tegelikult on AI miljon kuni miljard korda kiirem. Inimesed on põhimõtteliselt liikumatud kujud, kes seisavad aastakümneid ühe koha peal.

Ja tahavad väita, et nad kontrollivad protsessi.

Just, et meie nüüd merge’ime. Võrdluseks võib tuua selle, et sulle pannakse mingi kompanjon juurde, kes jookseb sinust miljon korda aeglasemalt, mis tähendab, et ta suudab öelda ühe sõna aastakümne jooksul, ja sa juba tead, mis see sõna on. Pole ju eriline partnerlus.

See on ka üks võimalik seletus sellele, et teised tsivilisatsioonid on olemas. Nad on lihtsalt veel aeglasemad kui meie ja magavad praegu, seepärast polegi me neid märganud. Nende eksistentsiaalne tempo on teistsugune.

Siin tekivad kohe küsimused, et kui meil on üks universum, siis ta ei saa olla aeglasem, kui universumi vanus lubab.

Kui mõtleme eksistentsiaalsele riskile, siis sel on kolm parameetrit. Esiteks, mingi jama juhtub ja sel saab olema kergem või raskem tagajärg. Teiseks, jamal on mingi tõenäosus. Kolmandaks, see jama peab olema meie poolt kontrollitav, vastasel juhul ei saa me rääkida riskist, vaid tegu oleks saatuse või millegi muuga.

Need ongi põhimõtteliselt efektiivse altruismi kolm peamist kriteeriumi: kas asi on oluline, tähelepanuta jäetud, lahendatav.

Ma saan aru, et riski olemuse institutsionaalsed lähenemised saab jagada enam-vähem neljaks: kliima, tehnoloogiline, sõjaline, tehisintellekt. Kas sina oled kõige enam tehisintellekti riski poole vaadanud?

Jah, kuigi neil on kattuvusi.

Üks, mida ma kogu aeg räägin, on see, et meie jaoks on enamus eksistentsiaalseid riske keskkonnakatastroofid. Drastiline näide – AI-l ei ole päikest vaja.

Veelgi enam, juhul kui teda huvitab optimaalne energiakasutus, on tema huvides päikeses toimuv energia raiskamine lõpetada. Me oleme bioloogilised olendid, kes on harjunud kosmilises mõttes väga veidra keskkonnaga ja iga väike muudatus selles keskkonnas on meile saatuslik. AI-l ei ole mingit huvi hoida seda keskkonda selliste parameetrite vahemikus, mis sobib bioloogiliseks eluks.

See toob teemani, et inimene on meile teadaolevalt kõige kõrgem elu kandja, aga pole endaga kunagi rahul ning see sunnib end muutma. Kui võtame sipelga või kaelkirjaku, siis nad ei püüa end muuta. Nad küll kohanevad, aga nad pole aktiivsed enda muutjad. Kas inimesel on ülejäänud eluslooduse suhtes mingi saatuslik vastutus, teistsugune roll antud, et me peamegi teiste eest ka otsustama?

Huvitav küsimus, ma pole niimoodi mõelnud.

Kui oleme lennukis, siis seal öeldakse, et jama korral pane kõigepealt endale mask pähe ja siis hakka teisi päästma. Paistab, et me oleme siiski need, kes suudavad midagi teha.

Jah, juhul kui me väärtustame teadvusel olevate olendite kogemusi ja meie tegevusest sõltub meie, teiste loomade, olendite teadvusliku kogemuse jätkumine ja positiivsus. Kuid seal on ka väga palju probleeme. Efektiivse altruismi kogukond on süstemaatiliselt hakanud mõtlema, kuidas vähendada loomade kannatusi, ja jõudnud järeldusele, et valdav enamus kannatusi saavad osaks metsloomadele.

On üks huvitav Oxfordi argumentatsiooni auhinna saanud väitlus teemal, kas elu võimalus, õigus eluks on moraalselt õigustatud. Jah, on küll. Farmiloom elab oluliselt paremat elu kui metsloom ja sureb tähenduslikult, kuna ta süüakse ära. Metsloom arvatavasti kannatab kogu elu ja sureb traagika läbi. Moraalselt õige oleks metsast kõik loomad kõrvaldada ja farmidesse tuua. Kas me seda olemegi tegemas?

Kindlasti me ei tee seda teadlikult. Kui me seda teadlikult teeksime, siis teeksime seda palju paremini, mitte ei tekitaks farmides kannatusi.

Selge see, et meil on halbu farme ka.

Enamus farme on halvad. See on selgelt inimkonna häbiplekk. Õnneks toimub praegu väga hea progress intensiivse farmikasvanduse vastu, eriti Ameerikas.

Aga kui inimkond on edukas, siis saab see ju toimuda ainult loomade, ülejäänud eluslooduse arvelt.

Ma jätan selle suure probleemi praegu lauale. Aga selle üle tasub mõelda.

Üks oluline asi, mida ma usun, on, et evolutsioon ei ole automaatselt hea. Paljud arvavad, et evolutsioon on selline heatahtlik vanake, kes ainult järjest positiivsemat tulevikku loob. Ei ole. Evolutsioon teeb ka tohutuid jäledusi. Evolutsiooni kui pimedasse tegevusse on meil moraalne kohustus sekkuda, aga samas on vist õieti öeldud küll, et enne pane hapnikumask endale pähe ja siis hakka teisi aitama. See aga ei tähenda, et eri inimesed ja organisatsioonid ei võiks nendega paralleelselt tegeleda.

Kas meie hapnikumaskiks on tehisintellekt? Me oleme praegu teel sinnapoole, kas me peaksime pidurit panema? Kas me peaksime lennukis ütlema, et see seltskond siin on vale, inimkonna päästmise nimel võiksime kõik hukkuda?

Üldine probleem on, et mida võimsamaks muutub tehnoloogia, seda levinumaks saab see, et tehnoloogia arendajad võtavad riske teiste arvelt. Eksternaalsus ehk mõju teistele, välistele, kolmandatele osapooltele (nt kui mina teen lõket, siis naabrid kannatavad suitsu või vabanevad sääskedest (st võib olla hea või halb eksternaalsus); internaalsus seevastu oleks mõju mulle kui tegijale – K.P.) läheb üha suuremaks, samas planeet ei lähe suuremaks. See on minu meelest selgelt ebamoraalne. Nüüd on küsimus, kas positiivne pool kaalub üles riskide võtmise teiste arvelt. Juhul kui tehisintellekti katastroofis hukkuks vaid tehisintellekti arendajad, oleks tehisintellekti arendamine praegu täiesti kangelaslik. Aga nii see ei ole. Küsimus on, kui palju positiivsust me peaksime ootama.

Praegu arutatakse, kas pandeemia puhul oli tegemist laborilekkega. Ühe seisukoha järgi ei saa me võib-olla kunagi teada, kas oli laborileke, aga see võis vabalt nii olla. Järelikult gain of function research (uudikfunktsioonide uuringud) vist ikkagi ei ole positiivne asi. On vähe argumente selle kasuks, et me peaksime neid uuringuid jätkama. Mis praegu AI valdkonnas toimub, on AI gain of fuction research. Võetaks järjest suuremad mustad kastid, pannakse katseliselt järjest rohkem elektrit sisse ja vaadatakse, kas tekkis mingi uus huvitav funktsionaalsus, kas ta läks nii palju targemaks, et saaksime uut funktsionaalsust kasutada. See on mõnes mõttes isomorfne bioloogilise gain of function research’iga. Minu arvates AI gain of function research ei ole moraalne, samadel argumentidel nagu pole moraalne gain of function research bioloogias. Probleem on tohutus majanduslikus surves sellist asja teha, mistõttu ongi reaalsus see, et me peame sellega elama, et niisugused eksperimendid toimuvad, ja mõtlema, kuidas positiivset poolt suurendada. Minu üks viimaseid investeeringuid ongi just Anthropic, kes mõtleb, kuidas me saaksime AI-ga maailmas, mis läheb järjest suuremate eksperimentide suunas, võimalikult palju tulevikku säilitada.

Sa oled AI rakendamise kui lahenduse suhtes optimistlik? Ütlesid, et moraalselt õige oleks need AI arendajad musta kasti panna ja ära uputada.

Seda kindlasti mitte. Ma arvan, et õigem oleks teha AI eksperimente, kus katsetajad saavad aru, mida nad teevad, mitte ei pane lihtsalt rohkem elektrit sisse, vaadates, mis juhtub. Üldiselt ma arvan, et tehnoloogiast on inimesel kasu olnud, nii et üldine tehnoloogia arendamise peatamine on kindlalt ebamoraalne. Küsimus on, millist tehnoloogiat me eelistame. Kui meil oleks võime tsivilisatsioonina eelistada AI-d, millest tegijad kui protsessist aru saavad, siis peaksime sellist piirangut AI arendamisel kasutama. Kahjuks meie tsivilisatsioonil ei ole võimekust AI-arendust piirata.

Siin tekib dilemma. Selleks et paremini teada, peaksime kasutama paremaid tööriistu, aga neid kasutades me libastume. Miks me AI-d kasutame, me tahame seda teha kasvõi natukene endast paremaks, et ise paremaks muutuda. Siis meil tekib selline ärajooksev protsess.

Üks kuulsamaid AI-skeptikute hüüdlauseid on Andrew Ngi “AI pärast muretsemine on sama hea kui muretseda Marsi ülerahvastamise pärast 300 aasta pärast”. Stuart Russelli, ühe prominentsema AI-turvalisuse pärast muretseva inimese vastus sellele on, et juhul kui me kulutame aastas kümneid või sadu miljardeid Marsi ülerahvastamiseks, siis me tõesti võiksime mõned miljonid kulutada ka sellele, et mõelda, mis juhtub, kui ta ülerahvastatakse. Reaalsus on, et need kümned miljardid lähevad praegu AI arendamisse. Me oleme jõudnud olukorda, kus AI arendamine on majanduslikult kasulik, mistõttu on väga raske seda peatada.

Samas Stuart Russell on pööranud tähelepanu ka sellele, et me ei peaks AI-d arendama oma olematus või vähekontrollitavas fantaasias, majanduslikus motivatsioonis, vaid laskma AI-l jälgida, mida meie teeme. Kui me ei oska ise oma väärtusi kirjeldada, siis võib-olla AI oskab neist aru saada.

Sellest teemast võib väga pikalt rääkida. Aga üldine probleem on, kuidas ehitada AI-d, mille arusaam heast tulevikust oleks võimalikult sarnane sellega, milline meie arusaam peaks olema. Me ei tohiks arvata, et 2021 on täpselt see hetk, kus inimene sai aru, milline on hea tulevik ja seda tuleb nüüd lõpmatuseni toetada. Me oleme ikkagi moraalselt arenev liik.

Kas oleme? Me oleme inimkonna arenguloos praegu arvatavasti kõige kaugemale jõudnud, aga kui vaadata, millised vastuolud meie väärtussüsteemis on, siis see on traagiline. Kas me oleme üldse suutelised?

See on väga väiklane seisukoht, et 2021 on parem kui 21. Samas on väga selgelt olemas mittesümmeetrilised arengud, näiteks empaatia laienemine. Kassi põlema panemine oli aastal 21 mõnus ajaviide, selles midagi ebamoraalset ei tundunud olevat.

Pehmem ja õigem väide on, et ringkond olenditest, kelle heaolu pärast me muretseme, on suurenenud. Mulle tundub, et moraalifilosoofia seisukohast on see selgelt progress, mitte tagasiminek.

Moraalifilosoofidel puudub ka ühine kokkulepe, mis on õige, mis on vale. Moraalietaloni pole, ilmselt seda ei eksisteerigi.

Tihtilugu inimesed ülehindavad meie erimeelsusi. Meie ajud on tegelikult instrumendid, mis on loodud erimeelsuste võimendamiseks ja poliitilise profiidi lõikamiseks väikeses 50–100-liikmelises kogukonnas. See, et päikest kolme aasta pärast välja ei lülitataks – see küsimus ei tõuse niisugusele tasemele, et me sellest kui väärtusest räägiks. Stuart Russell on öelnud, et meil ei ole rahvusvahelist eetikute konverentsi, kus arutatakse parema jala väärtuse üle. See on praktiliselt kõigi jaoks väärtuslik, selle üle ei ole mõtet vaielda.

Me seisame iga päev justkui mingi sotsiaalse või poliitilise kuristiku äärel ja kardame, aga kui tuleb suur kriis, siis me unustame need vastuolud.

Absoluutselt. OpenAI juht Sam Altman on öelnud, et huvitav, mis juhtuks, kui me saaksime teada, et meie poole on tulemas tulnukate laev ja me teame, et nad on inimkonnast tehnoloogiliselt kõvasti arenenumad, ja me ei tea, mida nad inimkonnast arvavad. See tõenäoliselt oleks ühendav jõud. Aga võib-olla mitte.

Tehisintellekti areng ja see, mida me tehnoloogiaga teeme, on ju samasugune tehiskaaslase lähenemine meie ellu. Ja see toimub ületamatul kiirusel, kuna me ei näe seda ette. Ootamatused on ootamatused just seetõttu, et me ei näe neid ette. Millise riski sa eksistentsiaalses kalendris kõige lähemale sätid?

AI gain of function’i eksperimendid. Parameetrite arv kasvab praegu eksponentsiaalselt. Inimajul on umbkaudu 100 triljonit parameetrit, praegused AI eksperimendid on juba 15 triljoni juures. On jäänud vaid loetud aastad esimese AI gain of function’i eksperimendini, mis on võrreldav inimaju võimsusega. Nvidia asepresident ütleb, et tema arvates toimub viie aasta jooksul vähemalt üks eksperiment, mille maksumus on miljard dollarit. Keegi kulutab miljard dollarit AI gain of function’i eksperimendile.

Kust see kvalitatiivne hüpe tuleks?

On raske öelda, mis juhtub, kui panna inimaju jagu neuroneid kokku, lükata elekter peale ja oodata tulemust.

Me näeme ju tänapäeval, mis juhtub. Meil on mingisugused reeglid.

Need AI-d, mis mustas kastis praegu on, ei ole inimesega sarnasemad kui ämblikuga. Tim Urban kirjutas mõned aastad tagasi oma “Wait But Why” blogis AI riskist nii: kui sa kujutad ette intelligentset AI-d, ära kujuta ette intelligentset inimest, kujuta ette intelligentset ämblikku. AI on inimesega veelgi vähem sarnane kui ämblik inimesega. Ämblik on oma olemuselt AI-ga kõvasti sarnasem.

Meil on multiagentkeskkond, kus on 7–8 miljardit inimest tsivilisatsiooniks organiseerunud. Ja nüüd me hakkame lisama agente, kes on ultrakompetentsed ühes või mitmes dimensioonis ja kes pole inimesed. Kui kaua selline tsivilisatsioon vastu peab, enne kui ta nende mitte-inimeste lisandudes rebeneb?

Kas tehisintellekti teeb neutraalne teadus või motiveeritud majandusüksus?

Motiveeritud majandus. Enamus eksperimente on majanduslikult motiveeritud.

Meie seda ei kontrolli, vaid see lihtsalt juhtub.

Mõned asjad on ka päris poliitilised.

Majandus on üks poliitika dimensioonidest. Stuart Russellil on näide, et kas gorilla unistab inimeseks saamisest. Ta näeb, et inimesel on asju rohkem. Kas ta tunneb end inimese kõrval turvaliselt? Sellele teisele küsimusele on meil arvatavasti lihtsam vastata – tal ei ole põhjust end turvaliselt tunda.

Stuart Russellil on ühes kõnes slaid kolme mõtlikus poosis gorillaga ja ta ütleb, et see on gorillade vastav konverents. Mida me teeme nende inimestega, kes siia tulevad.

Nagu sa mainisid, peaksime mõtlema tehisintellektist pigem kui ämblikust, mitte mingist supertegelasest. Ta on ettearvamatu.

Tal on inimestest täiesti ükskõik – see on üks oluline AI ja ämbliku ühine omadus. Ja tal on hoopis teistsugune maailmavaade ning väärtused.

Mis need poliitilised lahendused oleks? Kas reguleerime majandust ja info liikumist, kes mida teab? Ohu tõttu ollakse selle arengust huvitatud ka militaarse poole pealt.

Ma ei tea, kuivõrd suur võimekus on riikidel piirata arvutusvõimsust, mis läheb AI eksperimentidesse.

Hiinal kindlasti on see võimekus. Ma olen Hiinas mõned korrad käinud ja suhteliselt mõistlikud on need AI riskide arutelud. Kohati isegi mõistlikumad kui läänes. Kultuuriliselt eemal olevana ma siiski tegelikult ei tea, mis seal päriselt toimub.

Aga ma kardan, et läänes ei ole võimekust reguleerida arvutusvõimsust.

Nii et igal juhul peame me valmis olema jama realiseerumiseks? Nagu kalendri näites gain of function’i puhul sa paigutad selle esimeseks, et siit me saame mingisuguse korraliku laksu. Riski hinnates võime selle ühe riski esile tuua.

Ma ei tea. Kui väita, et väga suur jama tuleb järgmise viie aasta jooksul, siis ma olen suhteliselt kindel, et see tuleb AI gain of function research’ist. Aga ma ei tea, võib-olla ei tule. Stuart Russell ütleb, et lähitulevikus midagi halba ei juhtu, ja tema vaimukas põhjendus on, et kui me anname lapsele aabitsa kätte, siis seal ei ole 10 miljonit kaelkirjaku pilti, et õpetada lapsele, mis kaelkirjak on. Aga AI-l on vaja 10 miljonit kaelkirjaku pilti. See tähendab, et tal on mingi oluline intellektuaalne puue. See on ka üks oluline argument, miks seda jama ei peaks tulema.

Samas selles digitaalses ajus toimub kõik superkiiresti.

Jah, ja kui sa talle 10 miljonit kaelkirjakut näitad, õpib ta ikkagi ära, mis kaelkirjak on. Ühe argumentatsiooni kohaselt on see puue nii oluline, et sealt inimesele üldist konkurentsi pakkuvat süsteemi välja ei tule, sest see puue on totaalselt piirav. Teine argumentatsioon ütleb, et lennukid pole ka kunagi olnud nii efektiivsed kui linnud, aga samas teevad lindudele pika puuga ära. Sama võib juhtuda gain of function research’iga – me kindlasti ei saa inimesega sama efektiivset süsteemi energiakasutuses, aga saame piisavalt efektiivse, mis on võimeline planeedi hävitama.

See on just sellise arengu näide, kus me internaalsust kontrollime, aga eksternaalsust ei kontrolli. Me arendame seda eriti, kui jõuvektoriks on majanduslik huvi. Siis me optimeerime ja oleme konkurentsi tingimustes isegi sunnitud optimeerima.

Ehkki meil on majanduspoliitiline huvi, on AI-sid, mida on võimalik nüüd kasumlikult rakendada. Ma arvan, et näiteks Tesla saab väga tugeva konkurentsieelise tänu oma AI-le. Ja see on majanduslikult mõõdetav eelis.

Kas sa pead silmas seda, et Tesla saab kõikidest autodest tagasisidet? Kaelkirjakuid on neil hästi palju.

Teslal on praegu vaieldamatult kõige parem autopilootsüsteem. See pole täiuslik, kaugel sellest – ise oleksin selle pärast peaaegu avarii teinud nädal tagasi. Aga ta on konkurentidest selgelt parem, mistõttu on neil AI tiim, mis loob Tesla aktsiale majanduslikku väärtust juurde. Paljud AI eksperimendid pole puhtalt majanduslikud – et teed eksperimendi ja saad kohe mingit kasumit. Vaid sa teed eksperimendi ja selle tulemusel tõused maailmas liidripositsioonile kui kõige suurema eksperimendi omanik. Selle tulemusena saad juurde noort talenti, kes tahab sinu juures töötada. Siis omakorda saad teha teisi AI projekte. See pole üksühene majanduslik mehhanism, vaid majanduse, brändi, kasumi segu.

Seda raskem on seda kontrollida, me ei näe otseselt kvantitatiivset mõõdikut, vaid see paigutub kuidagi halli tsooni.

Jah, see on keerulisem ja hägusam mehhanism.

Riski realiseerumine. Tehisintellekti puhul ennustatakse inimese tasemele jõudmisest 30, 60, 130 aasta vahemikku. Kuhu sina selle tunnetuslikult paigutad? Ma ei saa küll võtta sinult garantiid, aga ikkagi.

On tõenäosus, et järgmise viie aasta jooksul toimub mittetriviaalne ärevushetk, millest see sõltub. Mõtlemapanev sündmus.

Kas see on suurusjärgult midagi COVID-i sarnast? COVID on gain of function’iga seotud. Midagi on toimunud ühe viiruse hüppamisest looma omast inimese peale. Kaotus kontrollis – poliitiliselt ei suudetud kokku leppida ja ka ei usutud selle raskusastet.

Tõenäosus, et järgmise viie aasta jooksul kaotab inimkond kontrolli planeedi üle, kuna toimub gain of function’i eksperiment, mis läheb valesti, ei ole siiski tohutult suur, aga siiski oluline – võib-olla kuskil 2–4%.

Meie tehnoloogiline andmevahetusstruktuur on suhteliselt rabe. See peab olema tehnoloogiast endast tulenev risk, realiseerub mingi keemiatehase sündmus. Tehisintellekt ei tule meile pähe ronima ega jääkappi tühjaks tegema, vaid käivitab mingi keskkonnatraagikaga seotud sündmuse. Ultrakiire pankadevahelise transaktsiooni puhul on ju ka pandud lõppude lõpuks mingisugused stop cap’id, et see natukenegi kontrolli alla saada. Arvatavasti see ei saa olla andmepõhine traagika, vaid kõrgelt arenenud automaatne seade.

Scott Alexander on Slate Star Codexis andnud vaimuka vastuse inimestele, kes ütlevad, et AI-l ei ole ju käsi, ta ei saa midagi olulist teha. Vastus on kahesõnaline – Satoshi Nakamoto. For all we know, tegemist oli AI-ga. Ja ta on miljardär. Ning kui sa oled juba miljardär ja sul on internetiühendus, saad sa juba päris palju asju teha.

On üks fantaasiat avardav raamat “Avogadro Corp”, kus AI hakkab segama inimestevahelist meililiiklust. AI võtab inimeste teadmata meili, kirjutab selle ringi ja saadab edasi. Raamat kirjeldab väga huvitavalt kaost, mis selle tagajärjel toimub. Keegi ei saa enam suurt aru, tekib mingi militaarvõimekus mitmetes kohtades, inimesed kaovad, olukord väljub suhteliselt kiiresti kontrolli alt. See on üks võimalik näide, mida inimesed suudavad välja mõelda selle kohta, mis võib juhtuda.

Suhteliselt reaalne. Kui võtta bitcoin’i-miljardär, siis oma rahaga saab ta teha head ja halba. Ja me arvame, et ta teeb halba, sest inimene on niivõrd rikutud.

Eliezer kujutas juba kümmekond aastat tagasi ette, mida võib teha AI, kes on lihtsalt eksperimendi tulemusena üles ärganud, aga kogu maailma interneti info põhjal treenitud. Ta võib saata juhised laboritesse, kus ta tõestab, et võib krüpto eest maksta, ja käsib välja trükkida teatud organismid.

Halb inimene apelleerib teiste inimeste halvale küljele. Raha on sisuliselt töö ekvivalent. Bitcoin aga spekulatiivne raha, mil pole garanteeritud väärtust. Ta tekib õhust, aga võib muutuda reaalseks, likviidseks. Ja kui sa oled paha inimene, siis pöördud laborisse, kus on ausad inimesed, aga teevad ohtlikke asju, ja maksad neile. Nad ütlevad, et igal asjal on oma hind, okei, sa maksad, ja lõpuks nad teevadki raha eest ohtlikku asja ja stsenaarium realiseerubki.

Ei, see käib nii, et sa saadad tellimustöö välja trükkida. Nemad vaatavad, et on hea tasu ja mis sest ikka.

Tagajärg on, et inimene oma halva külje kaudu realiseerib teiste nõrkusi.

Scott Alexander on kirjutanud elegantse, jube pika essee “Meditations On Moloch”, milles kirjeldatakse olukorda, kus keegi halba ei taha, aga tulemus on ikkagi väga-väga halb.

Kui meil puudub moraalne võrdlusalus – universaalset moraali ei paista olemas olevat, vähemalt pole leitud, ei suudeta kirjeldada – siis paratamatult juhtub nii.

Üks lootuskiir mul on.

Ava seda, ma tahaks ka lootust saada.

Just täna hommikul oli mul sel teemal väga põnev vestlus researcher’itega. Inim-moraali juured on mänguteoorias. Harvardi psühholoog Joshua Greene on kirjutanud raamatu “Moral Tribes”, mis kirjeldab, kust moraalsed väärtused alguse said. Algus on suguharude vahel toimuvas võistluses, kus suguharud, milles kehtis aukoodeks, vastastikune aitamine ja kokkuhoidmine, olid lihtsalt konkurentsivõimelisemad kui need, kus moraalikoodeksit polnud. Moraalsus sai alguse loodusliku, sotsiaalse valiku tulemusena. Nüüd on huvitav küsimus, et juhul kui moraali olemuses on mitme agendi interaktsiooni olukorras üksikute agentide käitumist piirata, nii et üldine kasu sellest tõuseks…

Mitte ühekordses mängus, vaid mitmekordses mängus, sest muidu see ei toimiks. Ühekordses mängus tasub ju tüssata.

Ma väidan, et see ei ole õige. Ühe- ja mitmekordse mängu vahe on palju väiksem, kui arvatakse. Agendid ei pea tegema mingit käiku selleks, et teada saada, millega teine vastab. Vaja on hoopis mõelda, mida see teine agent teeb, kui ma selle käigu astuksin. See on usalduse küsimus, kas ma usaldan seda. See pole üldse abstraktne asi, kui sa oled reaalselt niisuguses olukorras, siis teed täpselt seda – mõtled, mida teine plaanib.

Koordinatsioonimäng sisuliselt. Kuskilt väljastpoolt peab tulema vihje, kultuuris olevad vihjed peavad ütlema, mida arvatavasti teine ka arvab. See toob su algupärase lähtekoha juurde, et bioloogilises süsteemis peab ikkagi hea asi olema see, mille vastu me arvame, et ka vastane teeb seda, mis on talle hea.

Inimühiskonna eeliseks on, et inimesed on suhteliselt sümmeetrilised. Kui ma satun teise inimesega vangidilemmasse, on mul palju infot selle kohta, mida teine inimene mõtleb, kuna me oleme väga sarnasest DNA-st koos, tihtilugu kultuuriliselt sarnases keskkonnas kasvanud.

Meie kultuuriloost on teada ka päriselt halbu inimesi, kel on näiteks kesknärvisüsteemiga nõnda, et ta ei mõista teiste valu ega talu ise valu.

Sotsiopaate on kindlasti olemas.

See tähendab, et suures teoreetilises mängukombinatoorikas suur hulk inimesi mingi aja jooksul kannatavad. Tekib küsimus, et kui kannatus on piisavalt suur, siis kas tasub elada. Kas see pole ka üks eksistentsiaalse riski allikaid?

Suures kompleksses süsteemis on ka palju vastuolulisi inimesi – mitte ainult need, kes optimeerivad end moraalselt paremini, vaid on ka neid, kes on valmis halvasti käituma. Pika aja jooksul tekib summaarselt suhteliselt suure hulga inimeste jaoks suhteliselt kehv seisund. Me näeme praegu ka, et maailm ei ole kuigi õnnelik, on düstoopilises meeleolus. Tohutust arengust hoolimata ei ole mitte kõik rõõmsamaks muutunud, vaid rõõmutut seisundit on üsna palju.

Steven Pinker kõlab siin. Oma raamatus “The Better Angels of Our Nature: Why Violence Has Declined” väidab ta, et elu on ajapikku paremaks läinud.

Tema vastu võikski vaielda. Ajaloolased ütlevad, et ta pigem tõlgendab.

Ma olen ise laval Pinkeriga vaielnud.

On vaja ka neid, kes rõhutavad optimistlikku nägemust jne. Aga kui kannatused lähevad piisavalt suureks, siis kas elul on mõtet? See on ka eksistentsiaalne risk, kannatused ise moodustavad eksistentsiaalse riski.

X-riskide (existential risk) kogukonnas on mingi väike kildkond, mis muretseb S-riskide pärast (suffering risk). X on see, et inimesi enam ei ole. S on see, et inimesed on, aga nad on sellises seisundis, kus nad eelistaks mitte olla.

Tegelikult inimeste lõplik tapmine on suhteliselt raske. Ajaloos on vahepeal olnud ka 6000–7000 inimest alles.

Sõltub, kes proovib tappa.

Jaa, aga väga kerge see pole. Kannatuste tekitamine on palju kergem. Tõenäosusruum kannatuste jaoks on palju suurem.

Sellega ma pole absoluutselt nõus, lihtsalt füüsika tõttu. Inimese elus hoidmiseks on vajalik väga delikaatse keskkonna tasakaalu hoidmine. Kui temperatuuri liigutada 20 kraadi üles või alla, surevad inimesed ära, nad ei jää lõputult kannatama.

Üleminekuprotsessis on suhteliselt pikk periood, mille jooksul kannatatakse. Surrakse enne ära, kui bioloogiliselt enam ei suuda ses temperatuuris vastu pidada. Enne sooritatakse pimedas keldris enesetapp.

Umbes nii jah. Üldiselt ma olen nõus, et maailmas on tulevikus hullemaidki võimalusi kui inimeste hukkumine.

On kaks AI turvalisust käsitlevat koolkonda. Üks ütleb, et me peame oma kodutööst AI-le võimalikult palju üle andma, et AI ülesanne oleks välja mõelda, mida inimesed tahavad, ja siis seda ka teha. Mitte et meie peaks välja mõtlema, mida AI peaks meie heaks tegema. Sel juhul tekib AI-l väga hea arusaam sellest, mis inimesed on ja mida nad tahavad. Probleem on aga, kas tal tekib motivatsioon, et täide viia seda, mida ta õpib. See on S-riskide oht – kui tekitada AI, mis saab täpselt inimesest aru, on piisavalt motiveeritud inimesi elus hoidma, saab eesmärgile pihta, aga mitte päris. Kui mõelda, siis milline on kõige tüüpilisem düstoopia retsept? Võta utoopia ja muuda üks nüanss ära. Me võime saada sellise düstoopia, kui teeme AI, mis üritab teha utoopiat, aga paneb natukene mööda, siis on ka S-riskid selgelt olemas.

Teine koolkond ütleb, et me ei tohi AI-le anda mitte mingeid andmeid, mis annaks talle lihtsa võimaluse järeldada, et inimesed on üldse olemas. Tuleb ehitada AI-d, mis ei tea inimese olemasolust, aga on siiski kasulik tööriistana – andmata sellele teadmisi inimpsühholoogiast.

Inimene tahab säilitada kontrolli just käskude kaudu.

Selleks et kontrollmehhanism töötaks, peab kontrollitav olema võimetu kontrollmehhanismi mõjutama. Või siis peab eksisteerima mingi veider tasakaal tema ja kontrollija mõju vahel.

Hetkel me oleme ajajärgus, kus mängime ideega, et oleme selleks võimelised. Aga me seda ju ei tea. On kaks koolkonda. Üks ütleb, et laseme sel masinal kasvada, las ta jälgib ja teenindab meid. Teine ütleb, et me niisama metsikult ei lase sel kasvada, me mängime ideega, et me kontrollime, mis andmeid talle anname.

Juhul kui sa ehitad AI, mis on võimeline välja raalima, milline peaks olema õige AI, ja kehastuma selleks AI-ks, siis oled permanentselt võitnud. Aga sel teel on väga palju karisid, mis võib juhtuda ja valesti minna. Kui võtta konservatiivne lähenemine ja luua AI, mis on võimas, aga jääb oma liistude juurde ja on pigem tööriist…

Raha on töö ekvivalent. Rahaga saab rohkem või vähem tööd esile kutsuda. See pole mitte ainult vara, vaid ka instrument, sekkumisvahend. Sinu investeeringud tehisintellekti on ikkagi ajendatud soovist kontrollida, mis see protsess on. Mis on su peamised juhtmõtted nende valikute tegemisel?

Juhul kui ma AI seltskondadesse investeerin, siis minu jaoks on peamine, et mis vahe on tulemusel võrreldes maailmaga, kus ma ei investeeri. Tihtilugu kritiseeritakse mind, et kui ma AI pärast mures olen, siis miks ma AI-sse investeerin. Selle kriitika eelduseks on justkui, et kui mina ei investeeriks, siis teised ka ei investeeriks. See on selgelt vale eeldus. Anthropicuga me just tegime nii, et nad käisid riskikapitalistidelt investeeringuid küsimas, ja oli selgelt näha, et kui mina ei investeeri, siis saavad nad rahastuse neilt.

Naljatamisi olen öelnud, aga tegelikult nii on olnud ka, et

ma olen AI ettevõtetesse investeerinud ja kasutanud seda investeeringut kui piletit pääsemaks nende kööki, et rääkida AI riskidest.

Ma arvan, et sellel, mida me siin praegu teeme – üldise teadlikkuse tõstmine – on suhteliselt väike mõju. Võib-olla sel on mingi mõju, aga ma ei näe otseselt mehhanismi, kuidas sellise asja positiivne mõju realiseeruks. Kuid kui ma räägin sedasama juttu AI inimeste köögis, siis on sel oluliselt tugevam mõju.

AI investeeringud, nende ettevõtmiste juures olemine ja nende inimestega suhtlemine on suunatud teadlikkuse tõstmisele.

Kas see tähendab, et tegemist on ka eetiliselt, moraalselt, mitte ainult majanduslikult mõtlevate inimestega? Sundolukord on ka nende jaoks majanduslik optimum. Nad võivad ju öelda, et rääkisin Jaaniga ja saan temast aru, aga…

Üks huvitav trend, mida Anthropicu lahkulöömine OpenAI-st näitab, on see, et kõrgtehnoloogia ja AI-ga tegelevates ettevõtetes toimub teatav jõuvahekordade muutus. Traditsiooniline ettevõtete jõuhierarhia on hierarhiline puu, kus on ülemused ja alluvad. Ülemuste jõud tuleb sellest, et neil on allkirjaõigus, õigus esindada organisatsiooni, teha majanduslikke tehinguid, mille tulemusel nad kontrollivad rahavooge organisatsiooni sees.

Energiat kontrollivad.

Kõrgemal olevad inimesed on kraanile lähemal. Olukorras, kus tehnoloogia on järjest väärtuslikum, on metallile (st arendatavale tehnoloogiale) lähemal olevaid inimesi raskem kontrollida. Seepärast on ka raske kontrollida insenere, kes ehitavad AI-d. Kui sul on start-up ja ühel hetkel on su inseneridel võimalus jalutada sinu juurest minema, olles kohe miljardärid, võides tõsta saja miljardi pealt raha oma uude ettevõttesse.

Kas sina mängid siis selle n-ö köögis oleva seltskonna peale, mitte neile, kes on seal paar trepiastet kõrgemal?

Põhimõtteliselt mõlema peale, aga köögis olev seltskond on neil teemadel nupukam.

Nende jaoks olulisim aspekt ehk crux ei ole siis majanduslik, vaid arvatavasti teaduslik või intellektuaalne. Nad teostavad midagi, nagu teadusele tihtipeale ette heidetakse, teie tegite ja nüüd on meil aatomipomm.

Väga hea võrdlus. Lugesin suurepärast Richard Rhodesi raamatut “The Making of the Atomic Bomb”. Käib tõsine uurimistöö, mis täpselt aatomipommi juhtimises juhtus, kuna paralleelid AI-ga on väga tugevad. Samamoodi nagu need teadlased olid päriselt ka mures, mis maailmast saab, on praegu AI insenerid maailma pärast mures.

Vahe on selles, et aatomipommi tegemine on suhteliselt keeruline. AI tegemiseks on lugematu arv nutikaid IT-inimesi kasvõi kodus garaažis. Raudvara pole piirav tegur. Pole üldse nii kontrollitav. Keemiarelv on suhteliselt hästi kontrollitav, kemikaale ikka jälgitakse, eriti kui tegu on suurte kogustega.

AI puhul on jälgitav vaid energiakulu. Järjest suuremate gain of function’i eksperimentide puhul on neid võimalik satelliitidelt näha.

Seda ei heida keegi ette. AI arendamisse suhtutakse praegu väga positiivselt.

Kusjuures ei ole nii. Oxfordi Interneti-instituut tegi eelmisel aastal küsitluse, kust selgus, et enamus inimesi läänes peab AI-d negatiivseks.

Inimesed on reaktiivsed. Nad on negatiivselt meelestatud, kuna nad ei tea. Ja kui ei tea, on hirmud.

Jah, aga nad pole õigel põhjusel hirmul.

Üldist optimismi AI osas enam pole. Hiinas on. Siin on selge vahe ida ja lääne vahel.

Ühes rahvusvahelises küsitluses küsiti, millal AI vähemalt inimese tasemel realiseerub. Kogu Aasia vastas, et enam-vähem kohe.

Mu hea tuttav Katja Grace tegi selle mõjuva küsitluse AI-teadlaste hulgas.

Mis see kultuuriline erinevus võib olla? Et ka Eesti tunnetuslikku maailma paika panna. Me oleme nagu kahe maailma vahel. On see majanduslik või kultuuriline?

Läänes ollakse tuleviku suhtes järjest ebakindlamad.

On kaugemale jõutud ka, nähakse tunneli lõppu.

AI-evangeliste usaldatakse üha vähem, kuna nad on majanduslikult või muul moel silmaklapistatud. Kuid miks hiinlased optimistlikud on, seda ma ei tea.

Seal ollakse muinasjutu faasis kauem.

Ma pole küll Hiinas nüüd kaks aastat käinud, aga üldiselt on näha, et AI riskide teemaline diskursus on seal mitmeid aastaid maas. Argumendid, millest seal räägitakse, on läänes juba mitmeid aastaid tagasi läbi käidud. Samas on Hiina selles osas avatum kui lääs. Viis või kümme aastat tagasi pidi läänes ruumis ringi vaatama, et kes neist ütleb, et see on jama science fiction, millest sa räägid, lõpeta ära, piinlik kuulata. Hiinas sellist asja pole, et keegi ütleks, ära räägi AI ohtudest.

See, kui vabalt end väljendada saab, tuleneb ka kultuurist. Kuna kõik on kuss ja arendavad AI-d, siis tundubki, et kõik läheb ilusasti. Lääne pool on düstoopiakirjandust ja kõike muud.

Kirjanduses ja kultuuris on raudselt selge vahe näha. Cambridge’i Ülikooli juures olev Leverhulme’i-nimeline Tuleviku Intellekti Keskus tegi antropoloogilise uuringu, kuidas kirjeldatakse tehissüsteeme läänes ja idas. Jaapanis on see valdavalt positiivne. Kui fantaasiakirjanduses räägitakse robotitest, on nad valdavalt positiivsed tegelased.

Neil pole suurt validagi. Rahva taastootmise piiri seal ei rahuldata ja leitakse, et immigratsioon on halvem kui see, et rahvast asendavad robotid, piiksuvad seadmed. Selline traagika, aga nende valik ilmselt.

Kas sa tajud, et oma investeerimisinstrumendi kasutamisel sa puudutad seda rooli või sul on pigem juurdepääs arusaamadele ja väärtustele? Organisatsioonid, mille loomise juures sa oled olnud, on tegelikult roolikeeramise organisatsioonid, mis tekitavad dialoogi, väärtussüsteeme, kujundavad raamistikku, aga investeering on juurdepääs köögipoolele.

Mul on “tsivilisatsioonimängus” kolm ressurssi: mu aeg, vara ja bränd. Brändi olen ma sihilikult tehnoloogiamaailmas arendanud nüüd enam kui kümme aastat. Olen loonud sellise brändi, kus ma olen vahelüli. Kui on AI pärast muretsev seltskond ja AI-d arendav seltskond, siis ma üritan neid kokku panna ja vahendada vestlust ja samas ise tehnoloog olles, mõistes tehnoloogide-inseneride motivatsiooni, olen nende poolel rohkem kui riskikapitalist.

Brändi positsiooni väljatoomine on huvitav. Meil on tihtipeale sotsiaalmeedia tõttu pinnapeale maailm, kus vaid kuvandiga tegeletaksegi. Sinu kuvand Eestis – sind eriti ei teata. Isegi see, et me inimkonda puudutavatel teemadel praegu eesti keeles räägime – kas seda dialoogi peaks lokaliseerima või huvitatud peaksid uurima ingliskeelset materjali? Kas sa peaksid olema kohapeal nähtavam? Eesti ei saa ju midagi ära teha.

Ma ei näe praegu põhjust olla Eestis sekkuvam, et sel mingi oluline väärtus oleks.

Eesti väärtus minu jaoks seisneb selles, et ta on selgelt ida ja lääne vahel olev neutraalne punkt. Hiljuti toetasin üht Shanghai uurimisinstituuti, mida mu palju rikkamad kolleegid USA-st ei saaks toetada, sest sedasi tekiks toetuse vastuvõtjatel võimudega probleeme.

Väljaspool on Eestil riigina väga hea kuvand ikka veel alles.

Tasub säilitada teatud vaoshoitust. Seda, et sa oled küll eestlane, aga toimetad jube tugevate jõujoontega maastikul, me ise ei teadvusta, aga võib-olla see ongi meie enda huvides. Kui me ei suuda ise palju tehnoloogiliselt ja majanduslikult kaasa rääkida, siis meil tasub olla justkui hall kardinal ja protsessi vaoshoitumalt juhtida.

Olen viimasel ajal tihti suhelnud Singapuri administratsiooniga. Seal on huvitavalt sarnane olukord. Nad on kahe kultuuri vahel, samas pisike, neutraalne, mitte kedagi ähvardav tegija. Mingeid kontakte on mul ka Šveitsis ning viimasel ajal Uus-Meremaal. Need kolm riiki on geograafilised Schelling point’id (mänguteooria termin, mis on nime saanud Thomas Schellingi järgi ja mis viitab lahendusele, mida inimesed kipuvad valima üksteisest sõltumatult – toim). Kui seda ringi laiendada, siis Eesti oleks neljas või viies.

Šveits, Singapur ja Uus-Meremaa on iseseisvad, samas mitte kedagi ohustavad riigid. Nende puhul on selgelt välja joonistunud kaalukeele roll maailmas. Eestil on sarnane positsioon, aga nõrgem.

Kui mingis riigis peaks toimuma mingi üleilmne AI projekt, näiteks turvaprojekt, siis Singapur võiks olla nii Hiina kui Ameerika teine valik.

Kuidas sa näed Venemaa AI arengut? Kus nemad praegu selles vallas on?

Venemaa on väga tugeva teadustraditsiooniga riik, aga ei hooli oma teadlastest, mistõttu pole neid sinna eriti palju jäänud.

Nad on nähtavad mujal maailmas.

Kel on olnud võimalus lahkuda, on lahkunud. Võib-olla ma alahindan Venemaad, aga ma pole kuulnud sealt midagi vapustavat.

Eestiski on mõtet dialoogi arendada, et inimesed mõtleksid rohkem ka väärtustele. Otsuseid teeme me väärtuspõhiselt, mitte andmepõhiselt, aga kogu tehisintellekt on andmetele rajatud.

Kuna Eesti on väike riik, siis inimesed on riigile lähemal.

Kui eestlased oleks selles valdkonnas nutikamad, kas sellest oleks kasu?

Jah, juhul kui Eestis teadlikkus suureneb, tekib teadvushüpe neil teemadel, siis see oleks suurema potentsiaaliga kui sama hüpe miljonil inimesel Ameerikas.

Miljon keskmist inimest Ameerikas ei saa midagi teha. Miljon inimest Eestis saab aga kõike juhtida.

Arvamus kõlab rohkem, kuigi maailma mastaabis läheb korda vaid siis, kui me seda väga kõvasti ei räägi, kombineerime rohkem, oleme tammsaarelikud.

Kaalukeele roll on paratamatult Eesti peamine jõud.

Lõpetuseks ütle, kas sa oled üldiselt optimist.

Ma olen pragmaatiline optimist.

Informeeritud pessimist siis või?

Maailma tuleviku võib jagada kolmeks variandiks. Üks on see, kus kõik läheb hästi sõltumata sellest, mida ma teen – seda võib ignoreerida. Teine, kõik läheb halvasti sõltumata sellest, mis ma teen – seda võiks ka ignoreerida. Jääb variant, et tulevikus läheb hästi, kui me pingutame, ja sellele ma keskendun.

See eeldab julgust. Mugavam oleks mitte.

Jah, isegi endiste Skype’i kolleegidega rääkides olen kohanud suhtumist, et ah mis mina ikka suudan sellise asjaga ära teha.

Elon Musk on öelnud, et viie aasta pärast läheb kõik tuksi, nagu sinagi pead võimalikuks väikest musta sündmust viie aasta jooksul. Ta on huvitav tüüp, võib öelda mida iganes. Paistab, et suurt süsteemi juhib ta siiski pragmaatilisemalt, aga ta ütles hiljuti, et inimkonna arengu põhjuseks on Toxoplasma gondii, et me oleme julgemad kui peaks. (Toxoplasma gondii on kesknärvisüsteemi mõjutav parasiit, mida on uuritud 10–15 aastat, seotud kassi-hiire ainevahetussüsteemiga, muudab hiire julgemaks. Üks Prantsusmaa uuring on isegi näidanud, et autoavariisse sattunud inimestel on tugevalt üle juhuslikkuse taseme kodus nakkust vahendavad kassid – toksoplasmoos avaldab mõju). Kas sa oled selle väitega nõus, et inimene on optimistlikum, kui peaks olema?

Musk on liiga loosunglik minu maitse jaoks.

Ma olen nõus sellega, et kogu progressi on loonud inimesed, kes on püüdnud võimatut ja sealjuures suuri riske võtnud. Probleem on selles, et sel sajandil võetakse riskid teiste arvelt. Kuidas seda dünaamikat parandada, on suur küsimus. Kui õnnestuks teha olukord, kus AI katastroofis hukkuvad vaid AI arendajad, siis oleme võitnud. AI risk praegusel kujul haihtuks.

Kas me üldine üleskutse on pigem, et olge passiivsed ja vaadake, või proovige midagi teha? Kõik halvad asjad juhtuvad ju siis, kui midagi tehakse. Kõrvalt vaadates ei juhtu midagi.

Kindlasti on meil tsivilisatsioonina vaja praegusest rohkem ideid, lahendusi probleemidele, mille lahendusi me hetkel ei tea. Kuidas see seostub riskimisega, ma ei oska öelda.

Risk on selles, kui sa mõtled kastist välja, mitte konventsionaalselt. Uued asjad on kastist väljas.

Kui risk seisneb mõtetes ja karjääriga riskimises, siis kindlasti.

Investeeringutes ka. Sa ei investeeri riskivabalt.

Just. Aga kui see on teiste eludega riskimine, siis see pigem pole positiivne.

Aitäh! Sõnaga “positiivne” panekski siinkohal vestlusele punkti.

[transnamesuggestions]

Idk if you’re still taking asks, sorry if i’m doing something wrong!!

but do you have any name suggestions with a similar vibe to Toby? Not even necessarily a similar spelling (I really dislike the name Colby), just whatever comes to mind. thank you! :)

Here's a few names that come to mind: Oli/Ollie, Casey, Shiloh, Jamie, Reilly/Riley, Finley, Robbie/Robin, Frankie, Shelby, Cory/Corey

[goalhofer]

2024 olympics Great Britain roster

Archery

Conor Hall (Belfast)

Tom Hall (London)

Alex Wise (Newcastle Upon Tyne)

Megan Havers (Markfield)

Penny Healey (Telford)

Bryony Pitman (Shoreham-By-Sea)

Athletics

Jeremiah Azu (Cardiff)

Louie Hinchliffe (Crosspool)

Zharnel Hughes (The Valley, Anguilla)

Charlie Dobson (Colchester)

Matthew Hudson-Smith (Wolverhampton)

Max Burgin (Halifax)

Elliot Giles (Birmingham)

Ben Pattison (Frimley)

Neil Gourley (Glasgow)

Josh Kerr (Edinburgh)

George Mills (Harrogate)

Sam Atkin (Grimsby)

Patrick Dever (Preston)

Tade Ojora (London)

Alastair Chalmers (Guernsey, Channel Islands)

Richard Kilty (Middlesborough)

Nethaneel Mitchell-Blake (London)

Lewis Davey (Grantham)

Toby Harries (Brighton)

Alex Haydock-Wilson (London)

Sam Reardon (Beckenham)

Emile Cairess (Saltaire)

Mahamed Mahamed (Southampton)

Philip Sesemann (Bromley)

Callum Wilkinson (Moulton)

Jacob Fincham-Dukes (Harrogate)

Scott Lincoln (Northallerton)

Lawrence Okoye (London)

Nick Percy (Glasgow)

Dina Asher-Smith (London)

Imani-Lara Lansiquot (London)

Daryll Neita (London)

Bianca Williams (London)

Amber Anning (Hove)

Laviai Nielsen (London)

Lina Nielsen (London)

Victoria Ohuruogu (London)

Phoebe Gill (St. Albans)

Keely Hodgkinson (Atherton)

Jemma Reekie (Beith)

Georgia Bell (London)

Laura Muir (Milnathort)

Revée Walcott-Nolan (Luton)

Megan Keith (Inverness)

Eilish McColgan (Dundee)

Cynthia Sember (Ypsilanti, Michigan)

Jessie Knight (Epsom)

Lizzie Bird (St. Albans)

Aimee Pratt (Stockport)

Desirèe Henry (London)

Amy Hunt (Nottingham)

Yemi John (London)

Hannah Kelly (Bury)

Jodie Williams (Welwyn Garden City)

Nicole Yeargin (Bowie, Maryland)

Clara Evans (Hereford)

Rose Harvey (London)

Calli Yauger-Thackeray (Flagstaff, Arizona)

Morgan Lake (Reading)

Holly Bradshaw (Preston)

Molly Caudery (Truro)

Katharina Johnson-Thompson (Liverpool)

Jade O'Dowda (Oxford)

Badminton

Ben Lane (Milton Keynes)

Sean Vendy (Milton Keynes)

Kirsty Gilmour (Glasgow)

Boxing

Lewis Richardson (Colchester)

Patrick Brown (Sale)

Delicious Orie (Wolverhampton)

Charley Davison (Lowestoft)

Rosie Eccles (Newport)

Chantelle Reid (Allenton)

Canoeing

Adam Burgess (Stoke-On-Trent)

Joe Clarke (Stoke-On-Trent)

Mallory Franklin (Windsor)

Kimberley Woods (Rugby)

Climbing

Hamish McArthur (York)

Toby Roberts (Elstead)

Erin McNeice (Rodmersham)

Molly Thompson-Smith (London)

Cycling

Tom Pidcock (Leeds)

Josh Tarling (Aberaeron)

Stephen Williams (Aberysthwyth)

Fred Wright (Manchester)

Jack Carlin (Paisley)

Ed Lowe (Stamford)

William Turnbull (Morpeth)

Joe Truman (Petersfield)

Dan Bigham (Newcastle-Under-Lyme)

Ethan Hayter (London)

Ethan Vernon (Bedford)

Oli Wood (Wakefield)

Charlie Tanfield (Great Ayton)

Mark Stewart (Dundee)

Charlie Aldridge (Crieff)

Kieran Reilly (Newcastle Upon Tyne)

Kye Whyte (London)

Ross Cullen (Preston)

Lizzie Deignan (Otley)

Pfeiffer Georgi (Castle Combe)

Anna Henderson (Edlesborough)

Anna Morris (Cardiff)

Sophie Capewell (Lichfield)

Emma Finucane (Carmarthen)

Katy Marchant (Manchester)

Lowri Thomas (Abergavenny)

Elinor Barker (Cardiff)

Neah Evans (Langbank)

Josie Knight (Dingle, Ireland)

Jess Roberts (Carmarthen)

Ella MacLean-Howell (Llantrisant)

Evie Richards (Malvern)

Charlotte Worthington (Chorlton-Cum-Hardy)

Beth Shriever (Braintree)

Emily Hutt (London)

Diving

Jack Laugher (Ripon)

Jordan Houldon (Sheffield)

Noah Williams (London)

Kyle Kothari (London)

Anthony Harding (Ashton-Under-Lyne)

Tom Daley (Plymouth)

Yasmin Harper (Sheffield)

Grace Reid (Edinburgh)

Andrea Spendolini-Sirieix (London)

Lois Toulson (Cleckheaton)

Scarlett Mew-Jensen (London)

Equestrian

Carl Hester (Sark, Channel Islands)

Tom McEwen (London)

Scott Brash (Peebles)

Harry Charles (Alton)

Ben Maher (London)

Lottie Fry (Den Hout, The Netherlands)

Becky Moody (Gunthwaite)

Ros Canter (Louth)

Laura Collett (Royal Leamington Spa)

Field hockey

Tim Nurse (London)

Nick Park (Reading)

Jack Waller (London)

David Ames (Cookstown)

Jacob Draper (Cwmbran)

Zachary Wallace (Kingston-Upon-Thames)

Rupert Shipperley (London)

Sam Ward (Leicester)

James Albery (Cambridge)

Phil Roper (Chester)

David Goodfield (Shrewsbury)

Ollie Payne (Totnes)

Liam Sanford (Wegberg, Germany)

Lee Morton (Glasgow)

Thomas Sorsby (Sheffield)

Conor Williamson (London)

Will Calnan (London)

Gareth Furlong (London)

Laura Unsworth (Sutton Coldfield)

Anna Toman (Derby)

Hannah French (Ipswich)

Sarah Jones (Cardiff)

Amy Costello (Edinburgh)

Sarah Robertson (Melrose)

Charlotte Watson (Dundee)

Tessa Howard (Durham)

Isabelle Petter (Loughborough)

Giselle Ansley (Brixham)

Hollie Pearne-Webb (Duffield)

Fiona Crackles (Kirkby Lonsdale)

Sophie Hamilton (Bruton)

Lily Owsley (Bristol)

Flora Peel (Cheltenham)

Miriam Pritchard (Loughborough)

Golf

Matt Fitzpatrick (Sheffield)

Tommy Fleetwood (Dubai, U.A.E.)

Charley Hull (Kettering)

Georgia Hall (Bournemouth)

Gymnastics

Joe Fraser (Birmingham)

Harry Hepworth (Leeds)

Jake Jarman (Peterborough)

Luke Whitehouse (Halifax)

Max Whitlock (Hemel Hempstead)

Zak Perzamanos (Liverpool)

Becky Downie (Nottingham)

Ruby Evans (Cardiff)

Georgia-Mae Fenton (Gravesend)

Alice Kinsella (Sutton Coldfield)

Abi Martin (Paignton)

Bryony Page (Sheffield)

Isabelle Songhurst (Poole)

Judo

Chelsie Giles (Coventry)

Lele Naire (Weston-Super-Mare)

Lucy Renshall (St. Helens)

Katie-Jemima Yeats-Brown (Pembury)

Emma Reid (Royston)

Pentathlon

Charlie Brown (Kidderminster)

Joe Choong (London)

Kerenza Bryson (Plymouth)

Kate French (Chapmanslade)

Rowing

James Robson (Oundle)

Ollie Wynne-Griffith (Guildford)

Tom George (Cheltenham)

Oli Wilkes (Matlock)

David Ambler (London)

Matt Aldridge (Christchurch)

Freddie Davidson (London)

Tom Barras (Staines-Upon-Thames)

Callum Dixon (London)

Matt Haywood (Burton Upon Trent)

Graeme Thomas (Burton)

Sholto Carnegie (Oxford)

Rory Gibbs (Street)

Morgan Bolding (Weybridge)

Jacob Dawson (Portsmouth)

Charlie Elwes (Radley)

Tom Digby (Henley-On-Thames)

James Rudkin (Northampton)

Tom Ford (Holmes Chapel)

Harry Brightmore (Chester)

Henry Fieldman (Barnes)

Liv Bates (Nottingham)

Chloe Brew (Plymouth)

Rebecca Edwards (Aughnacloy)

Becky Wilde (Taunton)

Mathilda Hodgkins-Byrne (London)

Emily Craig (Pembury)

Imogen Grant (Cambridge)

Helen Backshall (Truro)

Esme Booth (Stratford-Apon-Avon)

Samantha Redgrave (Frinton)

Rebecca Shorten (Belfast)

Lauren Henry (Lutterworth)

Hannah Scott (Coleraine)

Lola Anderson (London)

Georgina Brayshaw (Leeds)

Heidi Long (London)

Rowan McKellar (Glasgow)

Holly Dunford (Tadworth)

Emily Ford (Holmes Chapel)

Lauren Irwin (Peterlee)

Eve Stewart (Amsterdam, The Netherlands)

Harriet Taylor (Chertsey)

Annie Campbell-Orde (Wells)

Lucy Glover (Warrington)

Rugby

Abi Burton (Wakefield)

Kayleigh Powell (Llantrisant)

Amy Wilson-Hardy (Poole)

Ellie Boatman (Camberley)

Ellie KIldunne (Keighley)

Emma Uren (London)

Grace Crompton (Epsom)

Heather Cowell (Isleworth)

Isla Norman-Bell (Gillingham)

Jade Shekells (Hartpury)

Jasmine Joyce-Butchers (St. Davids)

Lauren Torley (Flackwell Heath)

Lisa Thomson (Hawick)

Megan Jones (Cardiff)

Sailing

Connor Bainbridge (Halifax)

James Peters (Tunbridge Wells)

Fynn Sterritt (Inverness)

Sam Sills (Launceston)

Micky Beckett (Solva)

Chris Grube (Chester)

John Grimson (Leicester)

Emma Wilson (Christchurch)

Ellie Aldridge (Parkstone)

Hannah Snellgrove (Lymington)

Freya Black (Redhill)

Saskia Tidey (Dublin, Ireland)

Vita Heathcote (Southampton)

Anna Burnet (London)

Shooting

Mike Bargeron (Bromley)

Matthew Coward-Holley (Chelmsford)

Nathan Hales (Chatham)

Seonaid McIntosh (Edinburgh)

Lucy Hall (York)

Amber Rutter (Windsor)

Skateboarding

Andy Macdonald (Newton, Massachusetts)

Sky Brown (Takanabe, Japan)

Lola Tambling (Saltash)

Swimming

Ben Proud (London)

Alex Cahoon (Fairford)

Matt Richards (Droitwich Spa)

Jacob Whittle (Alfreton)

Duncan Scott (Glasgow)

Kieran Bird (Street)

Daniel Jervis (Resolven)

Oliver Morgan (Bishops Castle)

Jonathon Marshall (Southend-On-Sea)

Luke Greenbank (Crewe)

Adam Peaty (Uttoxeter)

James Wilby (Glasgow)

Jimmy Guy (Timperley)

Tom Dean (Maidenhead)

Max Litchfield (Chesterfield)

Joe Litchfield (Chesterfield)

Jack McMillan (Belfast)

Hector Pardoe (Wrexham)

Toby Robinson (Wolverhampton)

Kate Shortman (Clifton)

Isabelle Thorpe (Clifton)

Anna Hopkin (Chorley)

Kathleen Dawson (Kirkcaldy)

Medi Harris (Porthmadog)

Honey Osrin (Portsmouth)

Katie Shanahan (Glasgow)

Angharad Evans (Cambridge)

Keanna Macinnes (Edinburgh)

Laura Stephens (London)

Abbie Wood (Buxton)

Freya Colbert (Grantham)

Eva Okaro (Sevenoaks)

Lucy Hope (Melrose)

Freya Anderson (Birkenhead)

Leah Crisp (Wakefield)

Table tennis

Liam Pitchford (Chesterfield)

Anna Hursey (Tianjin, China)

Taekwondo

Bradly Sinden (Doncaster)

Caden Cunningham (Huddersfield)

Jade Jones (Bodelwyddan)

Rebecca McGowan (Dumbarton)

Tennis

Jack Draper (London)

Dan Evans (Dubai, U.A.E.)

Joe Salisbury (London)

Neal Skupski (Liverpool)

Sir Andy Murray (Leatherhead)

Katie Boulter (Woodhouse Eaves)

Heather Watson (St. Peter Port, Channel Islands)

Triathlon

Sam Dickinson (York)

Alex Yee (London)

Beth Potter (Bearsden)

Georgia Taylor-Brown (Leeds)

Kate Waugh (Newcastle Upon Tyne)

Weightlifting

Emily Campbell (Bulwell)

[lunalovecomics]

@pink-key Oli talking to nameless and Toby

"So you've known each other since birth?"

"Yeah."

"And you know you love each other?"

"Yep."

"Why aren't you dating?!"

"I dunno." They shrugged. "Just not the right time, I guess?"