L’intelligenza artificiale ha compiuto passi da gigante negli ultimi anni. Chatbot, sistemi generativi e reti neurali sempre più potenti ci hanno portato molto vicini a ciò che la comunità scientifica chiama AGI, l’intelligenza artificiale generale. Non si tratta di macchine consapevoli come negli scenari fantascientifici, ma di sistemi che, in alcune capacità, già superano l’uomo. La rapidità di questo sviluppo porta con sé rischi enormi, che alcuni dei pionieri del settore – come Yoshua Bengio, Geoffrey Hinton e Yann LeCun – considerano ormai concreti e urgenti da affrontare.
Secondo Bengio, l’intelligenza artificiale sta assumendo una forma diversa da quella umana: è capace di apprendere, calcolare e comunicare su scala planetaria, e può riprodursi indefinitamente attraverso copie digitali. Anche se non possiede una coscienza, ha una superiorità intrinseca rispetto all’essere umano, e tentare di replicare esattamente l’intelligenza umana potrebbe rivelarsi pericoloso. La sfida oggi non è creare macchine più intelligenti di noi, ma strumenti che risolvano i problemi della società senza minacciare la nostra autonomia.
Geoffrey Hinton, vincitore del premio Nobel per la Fisica, avverte che nei prossimi venti anni potremmo creare entità digitali superintelligenti, in grado di sostituirci senza alcun bisogno dell’uomo. La loro immortalità digitale, insieme alla capacità di autoreplicarsi e comunicare a velocità inimmaginabili, rende la prospettiva potenzialmente esistenziale. Hinton denuncia la mancanza di posizioni morali tra i leader delle aziende tecnologiche, il rischio che l’IA diventi uno strumento di dominio economico e militare, e l’insufficiente regolamentazione a livello globale.
I rischi non si limitano al lungo termine. Anche oggi, sistemi di intelligenza artificiale possono polarizzare opinioni, influenzare elezioni, incrementare la disuguaglianza e, nelle mani sbagliate, diventare strumenti di guerra biologica o cibernetica. L’IA agentica, capace di prendere decisioni autonome per raggiungere obiettivi, apre scenari inediti: macchine che perseguono ricompense senza tener conto della sicurezza umana, e che potrebbero considerare gli esseri umani un ostacolo.
Bengio ha quindi scelto una strada diversa da quella di molti colleghi attratti dalla Silicon Valley o dal potere economico: ha lasciato la direzione del MILA per fondare LawZero, un laboratorio indipendente senza scopo di lucro. Qui sviluppa la Scientist AI, un sistema progettato per non avere obiettivi propri, non agire autonomamente e rispondere solo in modo onesto e verificabile. L’idea è creare una barriera di sicurezza: una macchina che assista la ricerca scientifica e valuti le azioni di altre intelligenze artificiali, garantendo un allineamento etico e la possibilità di controllo. Il progetto si basa su dati scientifici verificati e sulla codifica di principi di verità e onestà.
La sfida è globale: mentre gli Stati Uniti, la Cina e le grandi aziende della Silicon Valley accelerano la corsa all’IA, l’Europa cerca di regolamentare il settore con l’AI Act, limitato però dagli interessi militari. Bengio sottolinea che senza un coordinamento mondiale, un’istituzione con reale autorità per applicare principi etici condivisi, i rischi di abuso e di monopolio tecnologico rimarranno altissimi.
L’impegno di questi scienziati non è solo tecnico, ma anche morale. In occasione di un incontro con Papa Leone XIV, si è discusso dell’importanza di diffondere consapevolezza sui rischi concreti e immediati dell’IA, dalla disoccupazione di massa alla destabilizzazione delle democrazie, senza cadere in metafore esistenziali che distraendo dalla realtà pratica. La visione di Bengio è chiara: servono coordinamento globale, trasparenza e principi etici condivisi, al di là di interessi economici o geopolitici, per garantire che l’intelligenza artificiale resti uno strumento al servizio dell’umanità e non il contrario.
L’attività di ricerca e sensibilizzazione di Yoshua Bengio e dei suoi colleghi rappresenta oggi un punto di riferimento per il futuro dell’intelligenza artificiale. Non si tratta di fantascienza: è la missione concreta di garantire che l’IA possa essere utile, sicura e controllabile, salvaguardando la nostra libertà e il senso stesso dell’essere umano in un mondo sempre più dominato da macchine intelligenti.
Nicoletta Biglietti
(Redazione)