#coscienzaumana

[scienza-magia]

Vita meccanica cibernetica auto replicante per i viaggi spaziali

Fra intelligenza artificiale e transumanesimo. L’analisi di Valori. Uomo vuol dire pensiero, idee e specialmente sentimenti che lo rendono un essere diverso da ogni suo simile e da tutte le altre creature viventi nell’universo. Questa consapevolezza dovrebbe rassicurarci e motivarci mentre ci prepariamo per compiere il destino ultimo dell’umanità: trasformarci in una generazione futura che esplorerà mondi per ora a noi lontani. Viaggiando nel sistema solare e arrivando ad esplorare almeno l’eliosfera (la regione dello spazio che circonda il Sole nella quale la densità del vento solare è maggiore di quella della materia interstellare circostante, e racchiudente gli otto pianeti del sistema solare), l’intelligenza artificiale si adatterà prendendo decisioni che le consentano di svolgere il proprio lavoro. Ho parlato di otto pianeti e non nove in quanto Plutone resta fuori in lontananza con la sua orbita piuttosto eccentrica e inclinata rispetto al piano dell’eclittica; e dal 16 agosto 2008 è stato declassato a pianeta nano, o scientificamente a plutoide. Tante persone nel campo dell’astrobiologia sono favorevoli alla cosiddetta visione del cosmo post-biologico. È a causa del desiderio di conquista dello spazio che noi umani stiamo seminando i semi della nostra distruzione a favore dell’intelligenza artificiale? O stiamo inconsciamente seguendo una sorta di piano generale in cui gli esseri in carne ed ossa sono destinati a estinguersi e a essere ibridati da silicio e materiali sintetici. Quanto alla mente, alla memoria, alla coscienza potrebbe esserci un posto anche per gli umani nel cervello di un robot? E nel caso i nostri gusci mortali fossero sostituiti da qualcosa di più robusto e duraturo nel tempo potremmo ancora considerarci umani? A riprova di ciò ci sono una serie di esperimenti piuttosto recenti che sembrano suggerire come i robot potranno non solo acquisire la coscienza umana ma anche riprodurla. Ottawa, Canada, giugno 2017: il dipartimento di ingegneria meccanica e aerospaziale della Carlton University, ha annunciato lo sviluppo di una tecnologia che rivoluzionerà il futuro dei viaggi spaziali. Gli ingegneri sperano di creare una stampante 3D che un giorno sarà in grado di costruire strutture sulla luna utilizzando solo minerali di quei luoghi: però forse ancora più sconvolgente è il fatto che avrà facoltà di autoreplicarsi.

Mentre l’uomo va sempre più lontano tentando di colonizzare lo spazio, si sta sviluppando – come detto – una tecnologia attraverso la quale una stampante 3D può autoreplicarsi utilizzando materiali raccolti sulla superficie di un determinato corpo celeste. In questo modo le stampanti potranno raddoppiare il numero di volta in volta: questo vorrebbe dire che utilizzando intelligenza artificiale e stampa 3D, si possono creare installazioni e basi su corpi celesti, compresi satelliti, pianeti e asteroidi. Sebbene esistano forti dubbi che l’uomo possa sviluppare in tempi brevi una tecnologia che renda le macchine capaci di autoreplicarsi, c’è un progetto noto come RepRap che va avanti dal 2005 per la progettazione di una stampante 3D anche in grado di realizzare oggetti di uso quotidiano e creare pure alcune parti di ricambio. La stampa 3D rappresenta un enorme passo in avanti per lo sviluppo del progresso scientifico. Però l’aspetto ancora più incredibile è che questo tipo di stampanti è capace di riprodursi, per cui ci troviamo di fronte a una tecnologia in grado di superare il suo stesso fine e che sarà anche abile di costruire macchine migliori più veloci e più potenti. Negli anni Quaranta – più di vent’anni prima che l’uomo mettesse piede sulla luna – lo scienziato ungherese John von Neumann (1903-57) – uno dei più grandi matematici della storia moderna e fra le personalità scientifiche preminenti del XX secolo, ed ideatore della teoria dei giochi – reputava che le macchine autoreplicanti avrebbero permesso all’uomo di avventurarsi oltre il nostro sistema solare per poter esplorare l’intera galassia. Afferma l’astrofisico di origine giapponese Michio Kaku – laureato summa cum laude all’Università di Harvard:: «L’uomo è portato a credere che per poter esplorare le stelle ci sia bisogno di un enorme astronave: ma non è così. Il modo più efficace per esplorare la galassia con così tanti pianeti è inviare una piccola sonda come quella di John von Neumann». La sonda di von Neumann è una macchina autoreplicante che esplora lo spazio e utilizza materiali raccolti nell’universo per creare copie identiche di se stessa. Ad esempio, se si invia una sonda su Giove, una volta arrivata a destinazione raccoglierà materiale di quel pianeta per dar vita alla prossima generazione di se stessa; a quel punto la nuova sonda proseguirà il viaggio verso altri mondi, e una volta giunta a destinazione, raccoglierà a sua volta materiale per autoriprodursi e ancora. In questo modo le possibilità di arrivare sino ai confini dell’eliosfera aumenteranno in maniera esponenziale. Molti ritengono che uno degli ostacoli di un viaggio spaziale interplanetario sia rappresentato dal tempo che impiegherebbe un veicolo spaziale per trasferirsi da un luogo all’altro. Però – a prescindere dall’aiuto della propulsione a curvatura e dei wormhole (secondo la teoria del ponte Einstein-Rosen: viaggi superluminali, ossia con velocità superiore a quella della luce nel vuoto) – a questo punto invece di astronavi piene di umani non si potrebbe esplorare e popolare l’universo con delle sonde come quella di von Neumann? Ormai sappiamo bene che le persone in carne e ossa non sono adatte ai viaggi spaziali. Gli studiosi di esplorazioni stanno lavorando da decenni al progetto di trasformazione del genere umano in esseri meccanici o transumani per poter creare un’intera razza clonata di robot. Il transumanesimo è un movimento filosofico e intellettuale che sostiene il miglioramento della condizione umana sviluppando e rendendo ampiamente disponibili tecnologie sofisticate che possono migliorare notevolmente la longevità e la cognizione. Prevede anche l’inevitabilità di tali tecnologie in futuro. In sostanza si potrà caricare la nostra coscienza (sotto forma di informazioni digitali) su un computer e trasmettere i dati in un determinato luogo dello spazio, come meglio vedremo in seguito. Nel XVII secolo il filosofo francese Cartesio ha sviluppato il concetto di dualismo mente-corpo, secondo cui la coscienza umana non è prodotta dal corpo, ma è ben distinta da esso: corpo e mente di un essere umano, quindi, non interagiscono fra loro perché sono due cose separate. L’autore inglese Samuel Butler (1835-1902) osservando con perplessità i progressi e gli orrori della rivoluzione industriale, ha scritto il 13 giugno 1863 sul quotidiano The Press di Christchurch (Nuova Zelanda), una lettera profetica al direttore intitolata: “Darwin tra le macchine” (Darwin Among the Machines), in cui fra le altre cose affermava con lungimiranza più che secolare: “Le visioni della macchina che stiamo così debolmente indicando suggeriranno la soluzione di una delle più grandi e misteriose questioni del giorno. Ci riferiamo alla domanda: che tipo di creatura sarà probabilmente il prossimo successore dell’uomo nella supremazia della terra? Abbiamo sentito spesso questo dibattito; ma ci sembra che siamo noi stessi a creare i nostri successori; aggiungiamo quotidianamente nuovi aspetti alla bellezza e alla delicatezza della loro organizzazione fisica; ogni giorno diamo loro maggiore potere e forniamo con ogni sorta di ingegnoso espediente quel potere autoregolante e autoreferenziale che sarà per loro ciò che l’intelletto è stato per la razza umana. Nel corso dei secoli ci ritroveremo come razza inferiore. Inferiori nel potere, inferiori nella qualità morale dell’autocontrollo, li considereremo l’apice di tutto ciò a cui l’uomo migliore e più saggio possa mai osare mirare. Nessuna passione malvagia, nessuna gelosia, nessuna avarizia, nessun desiderio impuro turberà la serena potenza di quelle gloriose creature. . Riteniamo che quando sarà giunto lo stato di cose che abbiamo prima tentato di descrivere, l’uomo sarà divenuto per la macchina ciò che il cavallo e il cane sono per l’uomo. Continuerà ad esistere, anzi a migliorare, e probabilmente starà meglio nel suo stato di addomesticamento sotto il benefico governo delle macchine che nel suo attuale stato selvaggio. . Giorno dopo giorno, tuttavia, le macchine stanno guadagnando terreno su di noi; giorno dopo giorno diventiamo più sottomessi a loro; più uomini sono quotidianamente vincolati come schiavi per custodirli, più uomini dedicano quotidianamente le energie di tutta la loro vita allo sviluppo della vita meccanica. Il risultato è semplicemente una questione di tempo, ma che verrà il momento in cui le macchine manterranno la vera supremazia sul mondo e sui suoi abitanti è ciò che nessuna persona con una mente veramente filosofica può mettere in dubbio per un momento. La nostra opinione è che la guerra all’ultimo sangue dovrebbe essere immediatamente proclamata contro di loro. Ogni macchina di ogni tipo dovrebbe essere distrutta dal benefattore della sua specie. Non ci siano eccezioni, nessuna pietà deve essere mostrata; torniamo subito alla condizione primordiale della razza umana. Se si afferma che questo è impossibile nelle attuali condizioni delle cose umane, ciò dimostra subito che il male è già compiuto, che la nostra servitù è iniziata sul serio, che abbiamo allevato una razza di esseri che è al di là delle nostre possibilità distruggere, e che non solo siamo schiavi, ma siamo assolutamente accondiscendenti alla nostra schiavitù» (testo originale in Samuel Butler, A First Year in Canterbury Settlement With Other Early Essays, A.C. Fifield, London 1941, pp. 182-185)”. John Von Neumann ha sostenuto di essere partito dalla teoria di Cartesio e dalle asserzioni di Butler per arrivare ad affermare che per poter esplorare altri pianeti è necessario utilizzare macchine autoreplicanti. Però il rabbino Ariel Bar Tzadok afferma: “Se dovessimo creare una forma di vita artificiale e se questa si sviluppasse, si evolvesse, crescesse, potrebbe diventare superiore all’uomo moderno. Questo porterebbe un problema di ordine morale, dal momento che l’essere umano tende ad adorare ciò che ritiene sia più grande di sé”. Siamo forse vicini a una nuova fase dell’evoluzione umana durante la quale diventeremo transumani? Risponde il Prof. Kaku: «Penso che entro la fine del secolo saremo in grado di digitalizzare la coscienza. Tutto ciò che si conosce dell’uomo come personalità, ricordi, emozioni, e persino le vie nervose sarà digitalizzato. A cosa servirà? A collocare la nostra coscienza su un raggio laser ed indirizzarla verso il cielo: in un secondo la coscienza umana arriverà su un determinato corpo celeste dove sarà scaricata in un sistema centrale e poi inserita in un avatar meccanico. Io lo chiamo trasferimento tramite laser». Se la tecnologia del transumanesimo avrà successo presto il contenuto del nostro cervello si potrà archiviare nel cloud. Per cui mentre la civiltà umana si prepara alla fase successiva della sua evoluzione, coloro che consideriamo esseri umani si estingueranno o diventeranno transumani? Ossia dotati di intelligenza sviluppata in corpi cibernetici guidati da IA. Numerosi studiosi negano questa eventualità, sostenendo che un essere umano è qualcosa di più che un insieme di carne e ossa. Uomo vuol dire pensiero, idee e specialmente sentimenti che lo rendono un essere diverso da ogni suo simile e da tutte le altre creature viventi nell’universo. Questa consapevolezza dovrebbe rassicurarci e motivarci mentre ci prepariamo per compiere il destino ultimo dell’umanità: trasformarci in una generazione futura che esplorerà mondi per ora a noi lontani. Read the full article

[fattidifavole]

LE MACCHIE CUORIFORMi

Abitano il lavandino.

Le vidi per caso una sera che era anche presto.

E mi fecero ridere!

Volevo fotografarle, ma sparivano solo a guardarle. 

Le loro vocine micotiche si diffondevano nell’aria metallica.

Non erano cattive, ma si lasciavano facilmente fraintendere.

Sono di più coloro che le scambiano per gocce d’Africa e se mai due esseri umani ne riconoscessero l’ identità di macchie cuoriformi, trovandosi l’uno di fronte all’altro, dichiarerebbero che si tratta proprio di gocce d’Africa. 

Perché una coscienza un po’ maculata come la nostra di esseri senzienti, alla luce, si nasconde volgarmente.

Svanisce anche la verità, con la stessa velocità con cui le macchie cuoriformi trasmutano in un planisfero iridescente sulla superficie del mio lavandino.

[scienza-magia]

ChatGPT annuncia una rivoluzione intellettuale

L'intelligenza artificiale generativa presenta una sfida filosofica e pratica su una scala mai sperimentata dall'inizio dell'Illuminismo. Una nuova tecnologia si propone di trasformare il processo cognitivo umano poiché non è stato scosso dall'invenzione della stampa. La tecnologia che ha stampato la Bibbia di Gutenberg nel 1455 ha reso il pensiero umano astratto comunicabile in modo generale e rapido. Ma la nuova tecnologia oggi inverte quel processo. Mentre la stampa ha prodotto una profusione del pensiero umano moderno, la nuova tecnologia raggiunge la sua distillazione ed elaborazione. Nel processo, crea un divario tra la conoscenza umana e la comprensione umana. Se vogliamo navigare con successo in questa trasformazione, sarà necessario sviluppare nuovi concetti di pensiero umano e interazione con le macchine. Questa è la sfida essenziale dell'era dell'intelligenza artificiale. La nuova tecnologia è nota come intelligenza artificiale generativa; GPT è l'acronimo di Generative Pre-Trained Transformer. ChatGPT, sviluppato presso il laboratorio di ricerca OpenAI, è ora in grado di conversare con gli umani. Man mano che le sue capacità si ampliano, ridefiniranno la conoscenza umana, accelereranno i cambiamenti nel tessuto della nostra realtà e riorganizzeranno la politica e la società.

L'intelligenza artificiale generativa presenta una sfida filosofica e pratica su una scala mai sperimentata dall'inizio dell'Illuminismo. La stampa ha consentito agli studiosi di replicare rapidamente le scoperte degli altri e condividerle. Un consolidamento e una diffusione senza precedenti delle informazioni ha generato il metodo scientifico. Ciò che era stato impenetrabile divenne il punto di partenza di un'interrogazione accelerata. L'interpretazione medievale del mondo basata sulla fede religiosa è stata progressivamente minata. Le profondità dell'universo potevano essere esplorate fino a raggiungere nuovi limiti della comprensione umana. Allo stesso modo, l'IA generativa aprirà strade rivoluzionarie per la ragione umana e nuovi orizzonti per la conoscenza consolidata. Ma ci sono differenze categoriche. La conoscenza dell'illuminazione è stata raggiunta progressivamente, passo dopo passo, con ogni passo verificabile e insegnabile. I sistemi abilitati all'intelligenza artificiale iniziano dall'altra parte. Possono archiviare e distillare un'enorme quantità di informazioni esistenti, nel caso di ChatGPT gran parte del materiale testuale su Internet e un gran numero di libri, miliardi di articoli. Tenere quel volume di informazioni e distillarlo è al di là delle capacità umane. Sofisticati metodi di intelligenza artificiale producono risultati senza spiegare perché o come funziona il loro processo. Il computer GPT riceve una richiesta da un essere umano. La macchina di apprendimento risponde in un testo letterale in pochi secondi. È in grado di farlo perché dispone di rappresentazioni pregenerate dei vasti dati su cui è stato addestrato. Poiché il processo con cui ha creato quelle rappresentazioni è stato sviluppato dall'apprendimento automatico che riflette modelli e connessioni su vaste quantità di testo, le fonti precise e le ragioni per le caratteristiche particolari di ciascuna rappresentazione rimangono sconosciute. Con quale processo la macchina che apprende memorizza la sua conoscenza, la distilla e la recupera rimane allo stesso modo sconosciuto. Se quel processo verrà mai scoperto, il mistero associato all'apprendimento automatico sfiderà la cognizione umana per un futuro indefinito. Le capacità dell'IA non sono statiche, ma si espandono in modo esponenziale man mano che la tecnologia avanza. Di recente, la complessità dei modelli di intelligenza artificiale è raddoppiata ogni pochi mesi. Pertanto i sistemi di intelligenza artificiale generativa hanno capacità che rimangono nascoste anche ai loro inventori. Con ogni nuovo sistema di intelligenza artificiale, stanno costruendo nuove capacità senza comprenderne l'origine o la destinazione. Di conseguenza, il nostro futuro contiene ora un elemento completamente nuovo di mistero, rischio e sorpresa. La scienza illuminista ha accumulato certezze; la nuova IA genera ambiguità cumulative. La scienza dell'illuminismo si è evoluta rendendo i misteri spiegabili, delineando i confini della conoscenza e della comprensione umana mentre si muovevano. Le due facoltà si muovevano di pari passo: Ipotesi era comprensione pronta a diventare conoscenza; l'induzione era la conoscenza che si trasformava in comprensione. Nell'era dell'intelligenza artificiale, gli enigmi vengono risolti da processi che rimangono sconosciuti. Questo paradosso disorientante rende i misteri non misteriosi ma anche inspiegabili. Intrinsecamente, l'intelligenza artificiale altamente complessa promuove la conoscenza umana ma non la comprensione umana, un fenomeno contrario a quasi tutta la modernità post-illuminista. Tuttavia, allo stesso tempo, l'intelligenza artificiale, se abbinata alla ragione umana, rappresenta un mezzo di scoperta più potente della sola ragione umana. La differenza essenziale tra l'Età dell'Illuminismo e l'Età dell'IA non è quindi tecnologica ma cognitiva. Dopo l'Illuminismo, la filosofia ha accompagnato la scienza. Nuovi dati sconcertanti e spesso contrari, conclusioni intuitive, dubbi e insicurezze sono stati dissipati da spiegazioni complete dell'esperienza umana. Allo stesso modo, l'IA generativa è pronta a generare una nuova forma di coscienza umana. Finora, tuttavia, l'opportunità esiste in colori per i quali non abbiamo spettro e in direzioni per le quali non abbiamo bussola. Nessuna leadership politica o filosofica si è formata per spiegare e guidare questa nuova relazione tra uomo e macchina, lasciando la società relativamente senza ormeggi. ChatGPT è un esempio di ciò che è noto come modello di linguaggio di grandi dimensioni, che può essere utilizzato per generare testo simile a quello umano. GPT è un tipo di modello che può essere appreso automaticamente da grandi quantità di testo senza la necessità di supervisione umana. Gli sviluppatori di ChatGPT gli hanno fornito una quantità enorme di contenuti testuali del mondo digitale. La potenza di calcolo consente al modello di acquisire modelli e connessioni. La capacità dei modelli linguistici di grandi dimensioni di generare un testo simile all'uomo è stata una scoperta quasi casuale. Questi modelli sono addestrati per essere in grado di prevedere la parola successiva in una frase, il che è utile in attività come il completamento automatico per l'invio di messaggi di testo o la ricerca sul Web. Ma si scopre che i modelli hanno anche la capacità inaspettata di creare paragrafi, articoli molto articolati e col tempo forse libri. ChatGPT è ulteriormente specializzato oltre un modello linguistico di base di grandi dimensioni, utilizzando il feedback degli umani per mettere a punto il modello in modo che generi un testo conversazionale dall'aspetto più naturale, nonché per cercare di contenere la sua propensione a risposte inappropriate (una sfida sostanziale per i modelli di linguaggio di grandi dimensioni ). ChatGPT converte istantaneamente le sue rappresentazioni in risposte uniche. L'ultima impressione su un conversante umano è che l'IA stia mettendo in relazione raccolte fisse di fatti in concetti dinamici. Le risposte, le dichiarazioni e le osservazioni di ChatGPT appaiono senza una spiegazione della loro provenienza e senza un autore identificabile. A prima vista, ChatGPT non ha motivi o pregiudizi distinguibili. I suoi risultati sono complessi, ma il suo lavoro è sorprendentemente rapido: in pochi secondi, può produrre risposte che spiegano in modo coerente un argomento di alto livello. Non vengono semplicemente copiati dal testo nella memoria del computer. Sono generati di nuovo da un processo che gli esseri umani non sono in grado di replicare. È in grado di incorporare ipotesi e inferenze psicologiche non ovvie. Può stabilire la priorità tra miliardi di punti dati per selezionare il singolo set di 200 parole più rilevante (o che apparirà più rilevante per un lettore umano). Nelle sue stesse parole, esprime giudizi probabilistici sui risultati futuri, fondendo le informazioni provenienti da domini discreti in una risposta integrata. Sembra accettare punti di vista contrari, presentandoli come simultaneamente compatibili. Imita altra scrittura senza copiarla. Anche se il modello non è in grado di comprendere in senso umano, i suoi risultati riflettono un'essenza sottostante del linguaggio umano. Abbiamo chiesto a ChatGPT di spiegare le sue capacità. Può prevedere il futuro? No, ha risposto. “Posso solo fornire informazioni e rispondere a domande sulla base dei dati su cui sono stato addestrato. Non ho esperienze personali o coscienza, quindi non sono in grado di fare previsioni o previsioni su eventi futuri. È in grado di formulare giudizi probabilistici? “Posso fornire giudizi probabilistici basati sui dati su cui sono stato addestrato. Ad esempio, se sono stato addestrato su un ampio set di dati di modelli meteorologici, potrei essere in grado di fornire un giudizio probabilistico sulla probabilità che un particolare tipo di tempo si verifichi in un luogo specifico in un dato giorno. Tuttavia, è importante notare che questi giudizi probabilistici si basano su modelli e tendenze nei dati e potrebbero non riflettere sempre accuratamente i risultati del mondo reale. Prompt: Scrivi un breve saggio nel pensiero di Henry Kissinger sul ruolo dell'intelligenza artificiale generale nel controllo internazionale degli armamenti. La risposta iniziava: “Poiché ci troviamo sull'orlo di una nuova rivoluzione tecnologica, la questione dell'intelligenza artificiale generale e del suo ruolo nel controllo internazionale degli armamenti diventa sempre più pressante. L'AGI porterà una stabilità senza precedenti, poiché i sistemi avanzati assumeranno il controllo dei processi decisionali associati alla deterrenza nucleare? O introdurrà una nuova serie di pericoli, poiché l'equilibrio globale del potere viene alterato dallo sviluppo di macchine altamente intelligenti? Abbiamo interrogato ChatGPT su argomenti di interesse immediato, come il ruolo della Russia nel mantenere o minare la stabilità europea. Ha dato risposte apparentemente ponderate e concise in meno di un minuto, bilanciando informazioni contraddittorie e rispondendo in modo completo senza dare l'impressione di avere un'opinione. All'estremità ricevente, l'intelligenza artificiale generativa appare sovrumana o almeno notevolmente migliorata dal punto di vista cognitivo. All'utente ingenuo, sembra uno studioso-bibliotecario estremamente veloce e altamente articolato accoppiato con un sapiente professore. Facilita il riassunto e l'interrogazione della conoscenza del mondo in modo molto più efficace di qualsiasi interfaccia tecnologica o umana esistente, e lo fa con una completezza unica. La sua capacità di integrare più domini di conoscenza e imitare molteplici aspetti del pensiero umano lo rende poliedrico a un livello che supera le ambizioni di qualsiasi gruppo di umani di alto livello. Tutte queste qualità incoraggiano l'accettazione incondizionata di tutto ciò che GPT genera e una sorta di atmosfera magica per il loro funzionamento. Tuttavia, allo stesso tempo, possiede la capacità di disinformare i suoi utenti umani con dichiarazioni errate e vere e proprie invenzioni Entro pochi giorni dal lancio di ChatGPT, più di un milione di persone si sono iscritte per porre domande. Centinaia di aziende stanno lavorando su tecnologie generative e gli investimenti si stanno riversando, inclinando le scoperte verso il campo commerciale. Gli enormi motivi commerciali, per il prossimo futuro, avranno la precedenza sul pensiero a lungo termine sulle loro implicazioni. Il più grande di questi modelli è costoso da addestrare, a nord di $1 miliardo per modello. Una volta addestrati, migliaia di computer lavorano 24 ore al giorno per farli funzionare. Il funzionamento di un modello preaddestrato è economico rispetto all'addestramento stesso e richiede solo capitale, piuttosto che capitale e abilità informatiche. Tuttavia, il pagamento per l'uso esclusivo di un modello linguistico di grandi dimensioni rimane al di fuori dei limiti della maggior parte delle imprese. È probabile che gli sviluppatori di questi modelli vendano abbonamenti, in modo che un singolo modello soddisfi le esigenze di molte migliaia di individui e aziende. Di conseguenza, il numero di modelli linguistici molto ampi nel prossimo decennio potrebbe essere relativamente limitato. La progettazione e il controllo di questi modelli saranno altamente concentrati, anche se il loro potere di amplificare gli sforzi e il pensiero umani diventerà molto più diffuso. L'IA generativa verrà utilizzata oltre il modello del linguaggio di grandi dimensioni per costruire molti tipi di modelli e il metodo diventerà sempre più multimodale e arcano. Modificherà molti campi dell'attività umana, ad esempio l'istruzione e la biologia. Diversi modelli varieranno nei loro punti di forza e di debolezza. Le loro capacità, dallo scrivere barzellette e disegnare dipinti alla progettazione di anticorpi, probabilmente continueranno a sorprenderci. Proprio come il grande modello linguistico ha sviluppato un modello di linguaggio umano più ricco di quanto previsto dai suoi creatori, è probabile che le IA generative in molti campi apprendano più di quanto implicano i compiti loro assegnati. Le scoperte nei problemi scientifici tradizionali sono diventate probabili. L'importanza a lungo termine dell'IA generativa trascende le implicazioni commerciali o anche le scoperte scientifiche non commerciali. Non sta solo generando risposte; sta generando domande filosoficamente profonde. Infonderà diplomazia e strategia di sicurezza. Eppure nessuno dei creatori di questa tecnologia sta affrontando i problemi che essa stessa creerà. Né il governo degli Stati Uniti ha affrontato i cambiamenti e le trasformazioni fondamentali che si profilano. L'apparente perfezione delle risposte del modello produrrà un'eccessiva fiducia nei suoi risultati. Questo è già un problema, noto come "pregiudizio dell'automazione", con programmi per computer molto meno sofisticati. È probabile che l'effetto sia particolarmente forte quando l'intelligenza artificiale genera un testo dal suono autorevole. È probabile che ChatGPT rafforzi le predisposizioni esistenti verso la dipendenza da sistemi automatizzati riducendo l'elemento umano. La mancanza di citazioni nelle risposte di ChatGPT rende difficile distinguere la verità dalla disinformazione. Sappiamo già che gli attori malintenzionati stanno iniettando risme di "fatti" fabbricati e immagini e video deepfake sempre più convincenti, in Internet, vale a dire, nel set di apprendimento presente e futuro di ChatGPT. Poiché ChatGPT è progettato per rispondere a domande, a volte inventa fatti per fornire una risposta apparentemente coerente. Quel fenomeno è noto tra i ricercatori di intelligenza artificiale come "allucinazione" o "pappagallo stocastico", in cui un'intelligenza artificiale mette insieme frasi che sembrano reali a un lettore umano ma non hanno alcun fondamento nei fatti. Resta da scoprire cosa scatena questi errori e come controllarli. Abbiamo chiesto a ChatGPT di fornire "sei riferimenti sui pensieri di Henry Kissinger sulla tecnologia". Ha generato un elenco di articoli presumibilmente del signor Kissinger. Tutti erano argomenti e sbocchi plausibili, e uno era un vero titolo (anche se la sua data era sbagliata). Il resto erano invenzioni convincenti. Forse i cosiddetti titoli appaiono come frasi isolate nella vastità dei "fatti" di GPT, che non siamo ancora in grado di scoprire. ChatGPT non ha una personalità immediatamente evidente, anche se gli utenti lo hanno occasionalmente spinto ad agire come il suo gemello malvagio. La mancanza di un autore identificabile di ChatGPT rende più difficile per gli esseri umani intuirne le inclinazioni piuttosto che giudicare il punto di vista politico o sociale di un essere umano. Tuttavia, poiché il design della macchina e le domande che le vengono poste hanno generalmente un'origine umana, saremo predisposti a immaginare un ragionamento simile a quello umano. In realtà, l'intelligenza artificiale si sta impegnando in un analogo disumano alla cognizione. Sebbene percepiamo l'IA generativa in termini umani, i suoi errori non sono gli errori di un essere umano; commette gli errori di una diversa forma di intelligenza basata sul riconoscimento di modelli. Gli esseri umani non dovrebbero identificare questi errori come errori. Saremo in grado di riconoscere i suoi pregiudizi e difetti per quello che sono? Possiamo sviluppare una modalità interrogativa in grado di mettere in discussione la veridicità e i limiti delle risposte di un modello, anche quando non conosciamo le risposte in anticipo? Pertanto, i risultati dell'IA rimangono difficili da spiegare. La verità della scienza dell'Illuminismo era considerata attendibile perché anche ogni fase di processi sperimentali replicabili era testata, quindi attendibile. La verità dell'IA generativa dovrà essere giustificata con metodi completamente diversi e potrebbe non diventare mai altrettanto assoluta. Mentre tentiamo di raggiungere la nostra comprensione fino alla nostra conoscenza, dovremo chiederci continuamente: che cosa circa la macchina non ci è stato ancora rivelato? Quale oscura conoscenza nasconde? È probabile che il ragionamento dell'IA generativa cambi nel tempo, in una certa misura come parte della formazione del modello. Diventerà una versione accelerata del progresso scientifico tradizionale, aggiungendo adattamenti casuali al processo stesso di scoperta. La stessa domanda posta a ChatGPT per un periodo di tempo può produrre risposte diverse. Lievi differenze di fraseggio che sembrano poco importanti al primo passaggio possono causare risultati drasticamente diversi se ripetute. Al momento, ChatGPT sta imparando da una base di informazioni che termina in un determinato momento. Presto, i suoi sviluppatori probabilmente gli consentiranno di ricevere nuovi input, consumando infine un afflusso infinito di informazioni in tempo reale. Se gli investimenti continuano a salire, è probabile che il modello venga riqualificato con frequenza crescente. Ciò aumenterà la sua valuta e precisione, ma obbligherà i suoi utenti a consentire un margine in continua espansione per un rapido cambiamento. Imparare dai risultati mutevoli dell'IA generativa, piuttosto che esclusivamente dal testo scritto umano, può distorcere la conoscenza umana convenzionale di oggi. Anche se i modelli di IA generativa diventassero completamente interpretabili e accurati, porrebbero comunque sfide inerenti alla condotta umana. Gli studenti usano ChatGPT per barare agli esami. L'intelligenza artificiale generativa potrebbe creare pubblicità via e-mail che inondano le caselle di posta e sono indistinguibili dai messaggi di amici personali o conoscenti di lavoro. I video e le pubblicità generati dall'intelligenza artificiale che raffigurano false piattaforme di campagna potrebbero rendere difficile distinguere tra le posizioni politiche. Segnali sofisticati di falsità, comprese le filigrane che indicano la presenza di contenuti generati dall'intelligenza artificiale, che OpenAI sta prendendo in considerazione, potrebbero non essere sufficienti; hanno bisogno di essere sostenuti da un elevato scetticismo umano. Read the full article