Ultimamente ci sono state importanti novità nel campo dell'intelligenza artificiale. Ilya Sutskever, lo scienziato capo originario di OpenAI, si è messo in proprio. Studente di dottorato di Geoffrey Hinton, il padre dell'intelligenza artificiale, Ilya ha fondato una società chiamata Safe Superintelligence, con l'obiettivo di affrontare i problemi di sicurezza legati all'IA.

Perché Ilya ha deciso di lanciare ora un'azienda di questo tipo? Ha a che fare con la sua filosofia.

In un'intervista video, Geoffrey Hinton ha ricordato che quando Ilya era suo studente, i due avevano concetti diversi. Hinton riteneva che lo sviluppo dell'IA richiedesse progressi nei modelli, nelle strutture e nei framework. Tuttavia, Ilya aveva previsto che concentrarsi sull'aumento del calcolo avrebbe potuto risolvere i problemi, piuttosto che modificare le strutture dei modelli. Questa lungimiranza è davvero notevole.

Oggi Hinton ammette liberamente di essersi inizialmente sbagliato e che Ilya aveva ragione. Questo spostamento verso l'enfatizzazione di modelli e potenza di calcolo di grandi dimensioni, che ha portato allo sviluppo di GPT in OpenAI, è in gran parte attribuibile all'influenza di Ilya. Egli sostiene la scala, ritenendo che i cambiamenti quantitativi portino a cambiamenti qualitativi e che la scala porti all'emergere.

Ora, ci si potrebbe chiedere se la scalabilità continuerà a crescere indefinitamente, portando a maggiori capacità emergenti. Le tendenze attuali suggeriscono che le proprietà emergenti hanno già iniziato a manifestarsi e i progressi futuri potrebbero portare l'IA a livelli più elevati, avvicinandosi alla superintelligenza.

**In teoria, la superintelligenza è destinata a emergere. Esistono due strade: una è l'AGI (Artificial General Intelligence), un'IA in grado di fare tutto ciò che può fare un essere umano; l'altra è la Superintelligenza, un'IA che supera le capacità umane in domini specifici **

Tuttavia, quando consideriamo la superintelligenza, non intendiamo necessariamente che sarà superiore all'uomo in ogni aspetto, ma piuttosto che eccellerà in determinate aree o compiti.

**Il miglioramento dell'intelligenza all'interno di domini specifici è un punto cruciale per lo sviluppo futuro dell'IA, definito intelligenza di dominio.

Ad esempio, la guida autonoma rappresenta una forma di intelligenza visiva. Inoltre, il GPT-4 di OpenAI, recentemente rilasciato, enfatizza la comprensione della semantica e delle emozioni sottostanti alle interazioni vocali, adattando le proprie risposte di conseguenza.

Definiamo quindi l'intelligenza di dominio come intelligenza specifica di un dominio. Man mano che emerge, l'intelligenza di ogni dominio può evolvere in una superintelligenza all'interno di quel dominio. Ad esempio, AlphaGo rappresenta l'intelligenza di dominio nel Go, avendo già superato i migliori giocatori umani.

La preoccupazione di Ilya è che la rapida scalata porti presto l'IA a superare l'intelligenza umana, rendendo la sicurezza una questione critica.

Tuttavia, questa ansia potrebbe essere prematura. Il dominio in un ambito specifico non rappresenta necessariamente una minaccia globale per l'umanità. L'integrazione olistica delle capacità umane è fondamentale. Affinché l'intelligenza artificiale rappresenti una vera minaccia, deve integrare le intelligenze di dominio per formare un'intelligenza sociale.

Ciò significa che le intelligenze artificiali dovrebbero funzionare non solo come entità indipendenti, ma come un collettivo in grado di prendere decisioni e agire in gruppo. Ogni unità di IA avrebbe un'intelligenza specifica del dominio e la sua intelligenza collettiva potrebbe potenzialmente superare le capacità umane a livello sociale, il che sarebbe davvero preoccupante.

Attualmente l'intelligenza di gruppo nell'IA è agli inizi.

Per lo meno, le IA hanno sviluppato un linguaggio comune, noto come token, per comunicare, a differenza dei linguaggi umani che variano ampiamente. Tutte le IA utilizzano i token, indipendentemente dalla lingua in cui operano.

Tuttavia, i loro comportamenti sociali sono ancora rudimentali e l'intelligenza socializzata e le intelligenze di gruppo rimangono relativamente elementari.

**In sintesi, Ilya ha ragione sull'eventuale emergere di una superintelligenza, ma è probabile che all'inizio sia specifica del dominio.

Esiste la possibilità che l'intelligenza artificiale superi le capacità umane in tutti i campi, ma questo scenario rimane lontano a causa dei progressi limitati nell'intelligenza di gruppo unificata.

La visione di Ilya è piuttosto lungimirante e si basa in parte sui suoi precedenti successi. Gli individui di successo spesso replicano le loro strategie di successo e lui crede fermamente nel potere della scala. Tuttavia, l'intelligenza artificiale è ancora prevalentemente in una fase di messa a punto delle prestazioni e non ha raggiunto l'intelligenza generale.

Si consideri la capitalizzazione di mercato di NVIDIA, che ha superato i 3.000 miliardi di dollari, grazie alla visione precoce di Jen-Hsun Huang e agli investimenti significativi nel potenziale futuro.

Prevedere le tendenze future e scommettere per tempo è spesso la chiave del successo. Resta da vedere se l'attuale impresa di Ilya darà i suoi frutti, ma il suo coraggio di puntare sul futuro è encomiabile e merita di essere emulato.