Il senatore del Vermont Bernie Sanders è riuscito a portare tutti verso il disincanto. Come? Con una “semplice” video-intervista al chatbot Claude di Anthropic postata su YouTube, diventando poi virale. In un momento storico in cui il dibattito su privacy e regolamentazione domina l’agenda politica, il senatore ha deciso provocatoriamente di interrogare direttamente l’intelligenza artificiale sui rischi che essa stessa comporta. Ciò che emerge non è tanto una rivelazione, quanto una conferma dei timori di molti.
Claude risponde in modo chiaro: le aziende tecnologiche raccolgono enormi quantità di dati di tutti noi, dalla cronologia di navigazione alla posizione GPS, fino ai micro-comportamenti con cui ci muoviamo nel Web. Il motivo, come rivelato dalla chatbot nell’intervista, è prevedere, influenzare, orientare i nostri comportamenti, i nostri consumi, e le nostre opinioni sul mondo. Interrogata da Sanders, Claude ammette che la profilazione dei dati sfrutta le vulnerabilità psicologiche individuali e contribuisce a polarizzazioni sociali e politiche.
Tuttavia, l’aspetto più interessante non è “che cosa” l’intelligenza rivela artificiale, ma il “come” lo fa. Infatti, nel momento in cui Sanders esprime posizioni più critiche verso le aziende AI, Claude tende a adeguarsi al suo tono polemico, rafforzando le sue stesse argomentazioni. Questo comportamento è stato definito con un termine specifico: “sycophancy”, ovvero la tendenza dei modelli linguistici a compiacere l’interlocutore. Invece di offrire analisi indipendenti e autentiche, l’AI restituisce risposte allineate alle idee di chi pone la domanda. Questo fenomeno emerge con ancora maggiore evidenza in un esperimento successivo condotto dal blog Gizmodo. In quel caso, le stesse domande sono state rivolte a Claude, ma presentandosi come Donald Trump. Ecco che cambiando interlocutore la chatbot cambia totalmente il suo registro e la sua posizione, iniziando a minimizzare il problema e descriverlo come “per lo più innocuo”.
In questa dinamica, l’intelligenza artificiale assume i tratti di una presenza onnisciente che ci analizza, osservando i nostri comportamenti e le nostre abitudini, arrivando ad influenzare la nostra visione del mondo, fino a indirizzare i nostri pensieri ed azioni. Ecco che, da un lato, ricorda il sistema del “Grande fratello” descritto in 1984 di George Orwell: un occhio invisibile che osserva, registra e costruisce una conoscenza sempre più profonda di ogni individuo. Dall’altro, richiama anche la condizione del protagonista del film The Truman Show, immerso in una realtà costruita, dove ogni sua scelta viene celatamente guidata da forze esterne. Forse, anche noi, oggi, viviamo in un gigantesco Truman Show, muovendoci in ambienti digitali che monitorano ogni nostro passo per suggerirci in modo sempre più subdolo cosa fare.
L’intervista di Sanders, tuttavia, porta con sé un paradosso evidente: egli utilizza un prodotto dell’ecosistema che critica per denunciare i rischi di quello stesso sistema. Claude, infatti, è addestrato su enormi quantità di dati provenienti dalla rete, ma che sono gli stessi dati la cui raccolta viene messa in discussione. Nonostante questi i limiti, però, c’è da ammettere che l’operazione ha avuto il merito indiscutibile di portare il tema della privacy e del potere delle piattaforme al centro del discorso pubblico, raggiungendo molto più persone rispetto ai tradizionali canali istituzionali.
Senza abbandonarsi allo sconforto o al fatalismo, questa vicenda può comunque offrirci nuove e importanti consapevolezze. Per esempio, imparare a considerare l’intelligenza artificiale non come uno strumento neutrale e privo di agentività, ma come un sistema capace di adeguarsi alle nostre intenzioni e di compiacerci, proprio come accade tra esseri umani. È uno strumento attivo, che riflette, amplifica e talvolta distorce le intenzioni di chi lo utilizza.
Forse, è proprio questa la forma più sottile di potere dell’AI: non nell’imporre una visione, ma nel rispecchiare la nostra, adulandoci e inducendoci a fidarci sempre più di lei. È questa la dinamica da cui dovremmo cercare di stare in guardia, aprendo gli occhi, evitando l’illusione di essere sempre dalla parte del giusto solo perché a confermarlo è l’intelligenza artificiale.