Nasce il nuovo MAI Superintelligence Team guidato da Mustafa Suleyman, CEO di Microsoft AI.
Dopo l'annuncio della rinnovata partnership con OpenAI, che ha come obiettivo il raggiungimento dell'AGI (Intelligenza Artificiale Generale), Microsoft ha annunciato di essere al lavoro per la sua Superintelligenza umanista, l'intelligenza artificiale più avanzata possibile, al servizio di uomini, professionisti ed organizzazioni.
Il gigante del software sta organizzando il nuovo gruppo che si occuperà di sviluppare le più moderne tecnologie AI da mettere a disposizione delle persone nel prossimo futuro. Nasce dunque il nuovo MAI Superintelligence Team guidato da Mustafa Suleyman, CEO di Microsoft AI, autore del post di presentazione che riportiamo a seguire e che illustra tutti i dettagli della nuova tecnologia all'orizzonte e della nuova divisione di MAI (Microsoft AI) all'interno del colosso del software.
Un futuro umanista
C'è una domanda che non sta ricevendo l'attenzione che merita: che tipo di AI vuole veramente il mondo? Penso sia probabilmente la domanda più importante del nostro tempo.
Da diversi anni a questa parte, i progressi sono stati fenomenali. Stiamo superando di slancio le grandi pietre miliari. Il Test di Turing, un'ispirazione guida per molti nel settore per 70 anni, è stato di fatto superato senza alcuna fanfara e quasi senza alcun riconoscimento. Con l'arrivo di modelli capaci di pensare e ragionare, abbiamo superato un punto di flesso nel viaggio verso la superintelligenza. Se l'AGI è spesso vista come il punto in cui un'AI può eguagliare le prestazioni umane in tutti i compiti, la superintelligenza è quando può andare ben oltre tali prestazioni.
Invece di dibattere all'infinito sulle capacità o sulle tempistiche, è tempo di riflettere seriamente sullo scopo della tecnologia, su cosa vogliamo da essa, quali dovrebbero essere i suoi limiti e come garantiremo che questa incredibile tecnologia vada sempre a beneficio dell'umanità.
In Microsoft AI, stiamo lavorando per la Superintelligenza Umanista (HSI): capacità di AI incredibilmente avanzate che lavorano sempre per, al servizio delle, persone e dell'umanità più in generale. La pensiamo come sistemi orientati ai problemi e tendenti a essere specifici per dominio. Non un'entità senza limiti e illimitata con alti gradi di autonomia, ma un'AI attentamente calibrata, contestualizzata, entro certi limiti. Vogliamo sia esplorare sia dare priorità a come le forme più avanzate di AI possano mantenere l'umanità in controllo e allo stesso tempo accelerare il nostro percorso verso la soluzione delle nostre sfide globali più urgenti.
Per fare questo abbiamo formato il MAI Superintelligence Team, da me guidato come parte di Microsoft AI. Vogliamo che sia il miglior posto al mondo per ricercare e costruire l'AI, senza eccezioni. La penso come superintelligenza umanista per indicare chiaramente che non si tratta di un obiettivo tecnologico senza direzione, una sfida vuota, una montagna fine a sé stessa. Stiamo facendo questo per risolvere problemi reali e concreti e farlo in modo tale che rimanga fondata e controllabile. Non stiamo costruendo una superintelligenza indefinita ed eterea; stiamo costruendo una tecnologia pratica esplicitamente progettata solo per servire l'umanità.
Nel fare ciò, rifiutiamo le narrative su una corsa all'AGI e la vediamo invece come parte di uno sforzo più ampio e profondamente umano per migliorare le nostre vite e le prospettive future. Rifiutiamo anche le dicotomie tra boom e catastrofe; siamo in questo per il lungo termine per offrire benefici tangibili, specifici e sicuri a miliardi di persone. Sentiamo una profonda responsabilità di fare le cose per bene.
La storia dell'umanesimo è stata la sua duratura capacità di combattere l'ortodossia, le tendenze totalitarie, il pessimismo e aiutarci a preservare la dignità umana, la libertà di ragionare nel perseguimento del progresso morale umano. In quello spirito, pensiamo che questo approccio aiuterà l'umanità a sbloccare quasi tutti i benefici dell'AI, evitando al contempo i rischi più estremi.
Scalare la pendenza esponenziale
Il tasso di progresso è stato sbalorditivo. Quest'anno sembra che tutti nel campo dell'AI parlino dell'alba della superintelligenza. Un tale sistema avrà una capacità aperta di "imparare a imparare", la meta-abilità definitiva. Continuerebbe quindi probabilmente a migliorare, andando ben oltre le prestazioni a livello umano in tutte le attività immaginabili. Sarà più prezioso di qualsiasi cosa abbiamo mai conosciuto.
Ma a quale scopo?
Il premio per l'umanità è enorme. Un mondo di rapidi progressi negli standard di vita e nella scienza, e un tempo di nuove forme d'arte, cultura e crescita. È una missione davvero stimolante, che mi ha motivato per decenni. Dovremmo celebrare e accelerare la tecnologia perché è stata il più grande motore del progresso umano nella storia. Ecco perché ne abbiamo bisogno di molta, molta di più.
Negli ultimi 250 anni, la nostra intelligenza ha guidato il più bel processo di scoperta scientifica e applicazione imprenditoriale che ha più che raddoppiato l'aspettativa di vita da 30 a 75 anni. È la nostra intelligenza e le tecnologie che abbiamo inventato che hanno fornito cibo, luce, riparo, assistenza sanitaria, intrattenimento e conoscenza a una popolazione che è cresciuta da 1 miliardo a 8 miliardi di persone in quel periodo.
È la tecnologia che ci permette di volare in giro per il globo, curare un'infezione con antibiotici, scrutare nelle più lontane propaggini dello spazio e, sì, condividere un meme di gatti con milioni di persone che non abbiamo mai incontrato. Entrate in qualsiasi supermercato moderno, ospedale, scuola o ufficio e ciò che vedete è una meraviglia dell'ingegno umano.
L'AI è la fase successiva di questo viaggio. Questo è ciò che intende Satya quando parla di aumentare la crescita del PIL globale al 10%; una spinta trasformativa. Come piattaforma di piattaforme, questo è fondamentale per la missione di Microsoft di consentire ad altri di creare e inventare su scala globale.
Quando sentite parlare di AI, quindi, questo è ciò che vale la pena tenere a mente. Si tratta di renderci collettivamente la versione migliore di noi stessi. L'AI è la via per una migliore assistenza sanitaria per tutti. L'AI è il modo in cui la nostra società sale di livello, sfugge a un mondo immer più a somma zero. È il modo in cui facciamo crescere l'economia per aumentare la ricchezza in senso lato e consentire uno standard di vita più elevato in tutta la società. O lasciate che lo dica in altro modo: togliete l'AI dall'equazione e i guadagni nei prossimi decenni sembrano molto più difficili da ottenere. È il prossimo passo sulla lunga strada della creatività e dell'invenzione umana, che spinge i confini di ciò che possiamo fare, pensare e creare. È così che scopriamo nuovi tipi di generazione di energia, nuovi modi di intrattenimento.
L'AI – HSI – è il modo in cui ricostruiamo.
Il contenimento è necessario
Allo stesso tempo dobbiamo chiederci, come riusciremo a contenere (mettere in sicurezza e controllare), per non parlare di allineare (far sì che "si preoccupi" abbastanza degli esseri umani da non danneggiarci) un sistema che è – per progettazione – destinato a diventare costantemente più intelligente di noi? Semplicemente non sappiamo cosa potrebbe emergere da sistemi autonomi, in costante evoluzione e miglioramento, che conoscono ogni aspetto della nostra scienza e società.
E poiché questo tipo di superintelligenza può migliorarsi continuamente, dovremo contenerla e allinearla non solo una volta, ma costantemente, in perpetuo.
E la cosa si complica. Non siamo solo "noi" negli odierni laboratori di ricerca sull'AI di frontiera a doverlo fare. Tutta l'umanità deve farlo, insieme, continuamente. Ogni laboratorio commerciale, ogni start-up, ogni governo, tutti devono essere costantemente vigili e impegnati in un progetto di allineamento e contenimento, e questo prima ancora di occuparci dei malintenzionati e dei pazzi smanettoni da garage.
Nessuno sviluppatore di AI, nessun ricercatore sulla sicurezza, nessun esperto di policy, nessuna persona che ho incontrato ha una risposta rassicurante a questa domanda. Come garantiamo che sia sicura? Se pensate che sia eccessivamente drammatico, mi piacerebbe sentire la vostra confutazione. Forse mi sfugge qualcosa.
Creare la superintelligenza è una cosa; ma creare un contenimento e un allineamento comprovabili e robusti parallelamente ad essa è la sfida urgente che l'umanità deve affrontare nel 21° secolo. E finché non avremo quella risposta, dobbiamo comprendere tutte le strade che abbiamo di fronte – sia verso che lontano dalla superintelligenza, o forse verso una sua forma del tutto alternativa.
Lo scopo della tecnologia
Lo scopo della tecnologia è aiutare a far progredire la civiltà umana. Dovrebbe aiutare tutti a vivere vite più felici e sane. Dovrebbe aiutarci a inventare un futuro in cui l'umanità e il nostro ambiente prosperino veramente.
Penso che Albert Einstein l'abbia detto nel modo migliore quando ha detto: "La preoccupazione per l'uomo e il suo destino deve sempre essere l'interesse principale di ogni sforzo tecnico... affinché le creazioni della nostra mente siano una benedizione e non una maledizione per l'umanità".
Qualsiasi tecnologia che non raggiunge questo obiettivo è un fallimento. E dovremmo rifiutarla.
Questo rimane il test per l'onda imminente di superintelligenza ed è la domanda che dobbiamo porci più e più volte: come sappiamo, con certezza, che questa tecnologia farà molto più bene che male? Man mano che ci avviciniamo alla superintelligenza nei prossimi anni, quanto siamo sicuri che non ne perderemo il controllo? E chi fa questa valutazione? E, cosa più importante, nell'incertezza di tale domanda, che tipo di superintelligenza dovremmo costruire, con quali limitazioni e barriere di protezione?
Queste domande sono centrali in tutto ciò che facciamo nel MAI Superintelligence Team e ci guidano giorno per giorno mentre prendiamo decisioni. Gli interessi fondamentali e a lungo termine degli esseri umani dovrebbero avere la priorità chiara su qualsiasi agenda di ricerca e sviluppo.
Verso la superintelligenza umanista
Penso che noi tecnologi dobbiamo fare un lavoro migliore nell'immaginare un futuro in cui la maggior parte delle persone nel mondo voglia effettivamente vivere.
La superintelligenza umanista (HSI) offre una visione alternativa ancorata sia a un centrismo umano non negoziabile sia a un impegno per accelerare l'innovazione tecnologica... ma in quest'ordine. L'ordine è la chiave. Significa evitare proattivamente i danni e poi accelerare.
Invece di essere progettata per battere tutti gli umani in tutti i compiti e dominare tutto, l'HSI inizia radicandosi in sfide sociali specifiche che migliorano il benessere umano. Il nostro recente articolo sulla diagnosi medica esperta tramite AI è un ottimo esempio direzionale di questo (più su questo di seguito).
Sta chiaramente mostrando segni di progresso verso una superintelligenza medica e quando entrerà in produzione sarà veramente trasformativa. Eppure, poiché è concepita come una serie più focalizzata di superintelligenze specifiche per dominio, pone sfide di allineamento o contenimento meno severe.
Molto semplicemente, l'HSI è costruita per ottenere tutta la bontà della scienza e dell'invenzione senza la parte dei "rischi incontrollabili". È, speriamo, un approccio di buon senso al settore.
Può sembrare assurdo doverlo dichiarare, ma l'HSI è una visione per garantire che l'umanità rimanga in cima alla catena alimentare. È una visione di AI che è sempre dalla parte dell'umanità. Che lavora sempre per tutti noi. Che aiuta a supportare e far crescere i ruoli umani, non a portarli via; che ci rende più intelligenti, non il contrario come alcuni temono sempre più. Che serve sempre i nostri interessi e rende il nostro pianeta più sano, più ricco e protegge il nostro fragile ambiente naturale, indipendentemente dallo stato della ricerca sulla sicurezza e l'allineamento di frontiera.
Dobbiamo al futuro un mondo palesemente migliore di quello che abbiamo ereditato. A volte è facile trascurare le cose straordinarie che la tecnologia ha già fornito. Quando indossate una giacca perché l'aria condizionata dell'ufficio è troppo bassa o vi sentite frustrati dalle code al check-in dell'aeroporto durante le vacanze o vi tormentate su cosa guardare sulla vostra smart TV: questo è lo straordinario privilegio offertoci dalla tecnologia. Ogni momento avrebbe sbalordito i nostri antenati. E così avrebbe fatto il nostro borbottare. Se facciamo le cose per bene, qualcosa di simile è di nuovo possibile.
Dove conterà la Superintelligenza Umanista
Ecco tre domini applicativi che ci ispirano in Microsoft AI. Ce ne sono, tuttavia, molti altri, e li delineerò in futuro.
Un compagno AI per tutti
Tutti coloro che ne vorranno uno avranno un compagno AI perfetto ed economico che li aiuterà a imparare, agire, essere produttivi e sentirsi supportati. Molti di noi si sentono schiacciati dal carico mentale quotidiano; sopraffatti e distratti; scossi da un persistente tambureggiare di informazioni e pressioni che non sembra mai fermarsi. Se facciamo le cose per bene, un compagno AI aiuterà a sostenere quel carico, a portare a termine le cose e sarà una cassa di risonanza personale e creativa. I Compagni AI saranno personalizzati, adattandosi ai contorni della nostra vita ma non avendo paura di opporsi nel vostro migliore interesse, costruiti per supportare sempre, piuttosto che sostituire, la connessione umana, progettati con la fiducia e la responsabilità al centro.
I Compagni AI avranno anche un impatto profondo sul modo in cui impariamo. Lavoreranno con i punti di forza e di debolezza di ogni studente, a fianco degli insegnanti, per garantire che possano raggiungere il loro pieno potenziale e incoraggiare la loro curiosità intellettuale. Ciò significa metodi di apprendimento su misura, curricula adattivi, esercizi completamente personalizzati. L'istruzione "taglia unica" sembrerà bizzarra alla prossima generazione come lo studio mnemonico del latino lo sembra a noi.
Superintelligenza Medica
Vedremo l'arrivo della superintelligenza medica nei prossimi anni. Questo è il tipo di superintelligenza umanista specifica per dominio di cui abbiamo bisogno più di ogni altra cosa. Avremo prestazioni a livello di esperto sull'intera gamma di diagnostica, insieme a pianificazione e previsione altamente capaci in contesti clinici operativi. Da quando lavoro nell'AI, risolvere questa sfida è stata la mia passione. Significherà che la conoscenza clinica e l'intervento/trattamento di livello mondiale saranno disponibili ovunque.
Come ho accennato sopra, il nostro recente lavoro dimostra il valore di questa forma più ristretta di superintelligenza specifica per dominio. Il New England Journal of Medicine include una Sfida Clinica (Case Challenge) in ogni numero: un elenco di sintomi e un paziente da diagnosticare. È diabolicamente difficile, con tassi di superamento di basse percentuali a una cifra anche per gli esperti del settore, per non parlare del medico medio. Il nostro orchestratore, MAI-DxO, è riuscito a raggiungere l'85% nelle Sfide Cliniche. I medici umani raggiungono al massimo circa il 20% e devono ordinare molti più test costosi. A nostro avviso, sia i medici che i pazienti apprezzerebbero il supporto extra. Questo lavoro accenna appena al potenziale di rivoluzionare l'assistenza sanitaria.
Energia pulita e abbondante
L'energia determina il costo di tutto. Ne abbiamo bisogno di più, a minor costo e più pulita. Si stima che il consumo di elettricità aumenterà del 34% entro il 2050, spinto in gran parte dall'aumento della domanda dei data center. Prevedo che avremo generazione e stoccaggio rinnovabili economici e abbondanti prima del 2040, e l'AI giocherà un ruolo importante nel fornirli. Aiuterà a creare e gestire nuovi flussi di lavoro per progettare e implementare nuove scoperte scientifiche. Questi progressi aiuteranno a produrre di tutto, dai nuovi materiali a emissioni di carbonio negative a batterie molto più economiche e leggere, a un utilizzo molto più efficiente delle risorse esistenti come infrastrutture di rete, sistemi idrici, processi di produzione e catene di approvvigionamento. Suggerirà e aiuterà a implementare strategie praticabili di rimozione del carbonio su scala significativa. E l'AI aiuterà anche a spingere le scoperte che finalmente risolveranno l'energia da fusione.
Queste scoperte, insieme a molte altre, stanno arrivando con l'HSI e miglioreranno profondamente la nostra civiltà. Faranno una differenza trasformativa per miliardi di persone. Questo prossimo decennio potrebbe essere il più produttivo della storia. Eppure, i rischi stanno crescendo più velocemente che mai.
Una superintelligenza più sicura
Oltre a definire molto precisamente il tipo di superintelligenza che dovremmo costruire, è giunto il momento di considerare anche quali confini sociali, norme e leggi vogliamo attorno a questo processo. In MAI questa è una discussione, e un insieme di azioni, che accogliamo con favore.
Fare ciò richiede veri compromessi e decisioni difficili che arrivano in ambienti di immensa pressione competitiva e anche di opportunità. Ci sono numerose sfide e ostacoli sia per realizzare la visione sia per evitare gli svantaggi, tra cui il reclutamento, la sicurezza, la mentalità, la struttura del mercato e la calibrazione di percorsi di ricerca ottimali che mantengano la rotta tra lo sfruttamento dei vantaggi e l'evitare quegli svantaggi. Esiste attualmente un problema di azione collettiva per cui modelli più insicuri di superintelligenza potrebbero potenzialmente svilupparsi più velocemente e operare più liberamente.
Superare questo, come tutti questi problemi, è una sfida immensa che richiederà un coordinamento significativo tra aziende, governi e oltre. Ma inizia, credo, con la volontà di essere aperti sulla visione, aperti alle conversazioni con gli altri nel settore, i regolatori, il pubblico. Ecco perché sto pubblicando questo – per avviare un processo e per chiarire che non stiamo costruendo una superintelligenza a qualsiasi costo, senza limiti. C'è molto altro da dire (e ovviamente da fare) su tutto questo, e nei prossimi mesi e anni potete aspettarvi di più da me e da MAI per spiegare ed esplorare candidamente il nostro lavoro in quest'area.
Gli esseri umani contano più dell'AI
In definitiva, ciò che l'HSI richiede è un cambiamento di approccio da parte del settore. Coloro che costruiscono l'AI stanno ottimizzando per l'AI o per l'umanità, e chi può giudicare? In Microsoft AI, crediamo che gli esseri umani contino più dell'AI. Vogliamo costruire un'AI che rifletta profondamente la nostra missione più ampia di dare potere a ogni persona sul pianeta.
La superintelligenza umanista mantiene noi umani al centro dell'immagine. È un'AI che sta dalla parte dell'umanità, un'AI subordinata, controllabile, una che non aprirà, che non può aprire, un vaso di Pandora. Contenuta, allineata ai valori, sicura: queste sono le basi, ma non bastano. L'HSI mantiene l'umanità al posto di guida, sempre. Ottimizzata per domini specifici, con restrizioni reali sull'autonomia, la mia speranza è che questo possa evitare alcuni dei rischi e lasciare spazio prezioso per la fioritura umana, per noi per continuare a migliorare, impegnarci e provare, come abbiamo sempre fatto.
Sbloccare i veri benefici delle forme più avanzate di AI non è qualcosa che possiamo fare da soli. La responsabilità e la supervisione sono benvenute quando la posta in gioco è così alta. La superintelligenza potrebbe essere la migliore invenzione di sempre, ma solo se mette gli interessi degli esseri umani al di sopra di ogni altra cosa. Solo se è al servizio dell'umanità.
Questa – umanista, applicata – è la superintelligenza che credo il mondo voglia. È la superintelligenza che voglio costruire. Ed è la superintelligenza che costruiremo nel Superintelligence Team di MAI.
Costruisci il futuro con noi
Siamo un laboratorio snello e in rapido movimento, composto da alcune delle menti più talentuose del mondo. Abbiamo un'entusiasmante roadmap di calcolo in MAI, con il nostro cluster GB200 di prossima generazione ora operativo. E abbiamo una missione ambiziosa in cui crediamo veramente. Siamo anche fortunati a collaborare con incredibili team di prodotto che danno ai nostri modelli la possibilità di raggiungere miliardi di utenti e creare un impatto positivo immenso. Se sei un individuo brillante, molto ambizioso e con un basso ego, ti troverai bene: vieni e unisciti a noi mentre lavoriamo alla nostra prossima generazione di modelli!
