Sam Altman, la verità su AGI e Chat-GPT, tra 10 anni la fine dell'Umanità

 

Tre osservazioni

La nostra missione è garantire che l'AGI (Intelligenza Artificiale Generale) apporti benefici a tutta l'umanità.

 

Stanno emergendo sistemi che iniziano a puntare all'AGI*, e quindi pensiamo che sia importante comprendere il momento in cui ci troviamo.

L'AGI è un termine definito in modo debole, ma in generale intendiamo che sia un sistema in grado di affrontare problemi sempre più complessi, a livello umano, in molti campi.

Le persone sono costruttori di strumenti con una spinta innata a comprendere e creare, il che porta a un mondo migliore per tutti noi. Ogni nuova generazione si basa sulle scoperte delle generazioni precedenti per creare strumenti ancora più capaci: l'elettricità, il transistor, il computer, Internet e presto l'AGI.

Nel corso del tempo, a singhiozzo, il costante progresso dell'innovazione umana ha portato a livelli di prosperità e miglioramenti prima inimmaginabili in quasi ogni aspetto della vita delle persone.

 

In un certo senso, l'AGI è solo un altro strumento in questa impalcatura sempre più alta del progresso umano che stiamo costruendo insieme.

In un altro senso, è l'inizio di qualcosa per cui è difficile non dire "questa volta è diverso"; la crescita economica di fronte a noi sembra sorprendente e ora possiamo immaginare un mondo in cui curiamo tutte le malattie, abbiamo molto più tempo per divertirci con le nostre famiglie e possiamo realizzare appieno il nostro potenziale creativo.

 

Tra un decennio, forse tutti sulla Terra saranno capaci di realizzare più di quanto la persona più influente possa fare oggi.

 

Continuiamo a vedere rapidi progressi nello sviluppo dell'IA.

 

Ecco tre osservazioni sull'economia dell'IA:

 

1. L'intelligenza di un modello di IA equivale più o meno al logaritmo delle risorse utilizzate per addestrarlo ed eseguirlo. Queste risorse sono principalmente calcolo di addestramento, dati e calcolo di inferenza. Sembra che si possano spendere quantità arbitrarie di denaro e ottenere guadagni continui e prevedibili; le leggi di scala che prevedono ciò sono accurate su molti ordini di grandezza.

 

2. Il costo per utilizzare un dato livello di IA diminuisce di circa 10 volte ogni 12 mesi e prezzi più bassi portano a un utilizzo molto maggiore. Puoi vederlo nel costo del token da GPT-4 all'inizio del 2023 a GPT-4o a metà del 2024, dove il prezzo per token è sceso di circa 150 volte in quel periodo di tempo. La legge di Moore ha cambiato il mondo di 2 volte ogni 18 mesi; questo è incredibilmente più forte.

 

3. Il valore socioeconomico dell'intelligenza in crescita lineare è di natura super-esponenziale. Una conseguenza di ciò è che non vediamo alcuna ragione per cui gli investimenti in crescita esponenziale debbano fermarsi nel prossimo futuro.

 

Se queste tre osservazioni continueranno a essere vere, le ricadute sulla società saranno significative.

 

Stiamo iniziando a implementare agenti di intelligenza artificiale, che alla fine saranno percepiti come colleghi virtuali.

 

Immaginiamo il caso di un agente di ingegneria del software, che è un agente che ci aspettiamo sia particolarmente importante. Immaginiamo che questo agente sarà alla fine in grado di fare la maggior parte delle cose che un ingegnere del software di una grande azienda con qualche anno di esperienza potrebbe fare, per compiti lunghi fino a un paio di giorni. Non avrà le idee più grandi e nuove, richiederà molta supervisione e direzione umana e sarà bravo in alcune cose ma sorprendentemente scarso in altre.

 

Tuttavia, immaginatelo come un collega virtuale reale ma relativamente junior. Ora immaginatene 1.000. O 1 milione. Ora immaginate tali agenti in ogni campo del lavoro della conoscenza.

 

In un certo senso, l'IA potrebbe rivelarsi economicamente simile al transistor: una grande scoperta scientifica che si adatta bene e che si infiltra in quasi ogni angolo dell'economia. Non pensiamo molto ai transistor o alle aziende di transistor, e i guadagni sono ampiamente distribuiti. Ma ci aspettiamo che i nostri computer, TV, auto, giocattoli e altro facciano miracoli.

 

Il mondo non cambierà tutto in una volta; non lo fa mai. La vita continuerà più o meno allo stesso modo nel breve periodo e le persone nel 2025 trascorreranno il loro tempo per lo più nello stesso modo in cui lo facevano nel 2024. Ci innamoreremo ancora, creeremo famiglie, litigheremo online, faremo escursioni nella natura, ecc.

 

Ma il futuro ci arriverà addosso in un modo che è impossibile ignorare, e i cambiamenti a lungo termine nella nostra società e nella nostra economia saranno enormi. Troveremo nuove cose da fare, nuovi modi per essere utili gli uni agli altri e nuovi modi per competere, ma potrebbero non assomigliare molto ai lavori di oggi.

 

Agency, caparbietà e determinazione saranno probabilmente estremamente preziose. Decidere correttamente cosa fare e capire come muoversi in un mondo in continuo cambiamento avrà un valore enorme; resilienza e adattabilità saranno abilità utili da coltivare.

L'AGI sarà la leva più grande di sempre sulla caparbietà umana e consentirà alle singole persone di avere un impatto maggiore che mai, non minore.

 

Ci aspettiamo che l'impatto dell'AGI sia irregolare. Sebbene alcuni settori cambieranno molto poco, il progresso scientifico sarà probabilmente molto più rapido di quanto non sia oggi; questo impatto dell'AGI potrebbe superare tutto il resto.

 

Il prezzo di molti beni finirà per crollare drasticamente (attualmente, il costo dell'intelligenza e il costo dell'energia limitano molte cose), e il prezzo dei beni di lusso e di alcune risorse intrinsecamente limitate come la terra potrebbero aumentare in modo ancora più drastico.

 

Tecnicamente parlando, la strada davanti a noi sembra abbastanza chiara.

Ma la politica pubblica e l'opinione collettiva su come dovremmo integrare l'AGI nella società sono molto importanti; uno dei motivi per cui lanciamo prodotti in anticipo e spesso è dare alla società e alla tecnologia il tempo di co-evolversi.

 

L'intelligenza artificiale si insinuerà in tutti i settori dell'economia e della società; ci aspetteremo che tutto sia intelligente. Molti di noi si aspettano di dover dare alle persone un maggiore controllo sulla tecnologia rispetto a quanto abbiamo avuto in passato, incluso l'open-sourcing, e accettano che ci sia un equilibrio tra sicurezza e empowerment individuale che richiederà dei compromessi.

 

Sebbene non vogliamo mai essere sconsiderati e ci saranno probabilmente alcune decisioni e limitazioni importanti relative alla sicurezza dell'AGI che saranno impopolari, in una certa direzione, man mano che ci avviciniamo al raggiungimento dell'AGI, crediamo che sia importante orientarsi maggiormente verso l'emancipazione individuale; l'altro percorso probabile che possiamo vedere è l'IA utilizzata dai governi autoritari per controllare la loro popolazione attraverso la sorveglianza di massa e la perdita di autonomia.

 

È fondamentale garantire che i benefici dell'AGI siano ampiamente distribuiti. L'impatto storico del progresso tecnologico suggerisce che la maggior parte delle metriche che ci interessano (risultati sanitari, prosperità economica, ecc.) migliorano in media e nel lungo termine, ma l'aumento dell'uguaglianza non sembra determinato dalla tecnologia e per riuscirci potrebbero essere necessarie nuove idee.

 

In particolare, sembra che l'equilibrio di potere tra capitale e lavoro potrebbe facilmente andare in tilt, e questo potrebbe richiedere un intervento tempestivo.

 

Siamo aperti a idee che suonano strane come quella di dare un "budget di calcolo" per consentire a tutti sulla Terra di usare molta IA, ma possiamo anche vedere molti modi in cui il solo fatto di ridurre inesorabilmente il costo dell'intelligenza il più possibile ha l'effetto desiderato.

 

Chiunque nel 2035 dovrebbe essere in grado di radunare la capacità intellettuale equivalente a chiunque nel 2025; tutti dovrebbero avere accesso a un genio illimitato da dirigere come possono immaginare.

C'è molto talento in questo momento senza le risorse per esprimersi pienamente, e se cambiamo questo, la produzione creativa risultante del mondo porterà a enormi benefici per tutti noi.

 

 

 

Grazie in particolar modo a Josh Achiam, Boaz Barak e Aleksander Madry per aver revisionato le bozze di questo articolo.

 

*Utilizzando qui il termine AGI, intendiamo comunicare in modo chiaro e non intendiamo alterare o interpretare le definizioni e i processi che definiscono la nostra relazione con Microsoft. Ci aspettiamo pienamente di essere partner di Microsoft a lungo termine. Questa nota a piè di pagina sembra sciocca, ma d'altro canto sappiamo che alcuni giornalisti cercheranno di ottenere clic scrivendo qualcosa di stupido, quindi eccoci qui a prevenire la stupidità...