Lei ha 13 anni. Entra su una piattaforma Meta Platforms e si registra. Mente sull’età, ma non è un’eccezione, è una dinamica diffusa. Due settimane dopo il profilo è già fuori scala: 5.000 amici e 6.700 follower, quasi tutti uomini adulti. E qui il sistema non si ferma, non rallenta e non corregge. Anzi, invia una richiesta ancora più significativa: “Vuoi monetizzare?”.
È da questa sequenza che prende forma il caso giudiziario contro Meta Platforms nel New Mexico. Il punto non è il singolo episodio, ma ciò che lo rende possibile: la struttura del sistema.
Il procedimento nasce nel 2023 da un’indagine del procuratore generale Raúl Torrez. L’operazione, chiamata MetaPhile (crasi tra Meta e pedophile), utilizza finti profili di minori sotto i 14 anni inseriti nelle piattaforme per osservare il comportamento degli algoritmi in condizioni controllate.
I risultati sono immediati. I profili vengono raggiunti da contenuti sessualmente espliciti, contattati da adulti e inseriti in dinamiche di interazione non richieste. Non serve alcuna azione attiva. Basta la sola presenza.
L’accusa non riguarda singoli contenuti pubblicati dagli utenti, ma il funzionamento del sistema. Gli algoritmi non si limitano a ospitare informazioni: le selezionano, le ordinano e le amplificano. Soprattutto, le distribuiscono.
Il risultato è che la piattaforma non è neutrale. È un sistema che costruisce percorsi di esposizione. E quando quei percorsi includono minori, il problema non è più marginale.
Meta Platforms sostiene una posizione diversa. Le regole sono pubbliche, i rischi dichiarati, e l’azienda non nasconde la possibilità di contenuti problematici. «Questa è transparency, non inganno», è la linea della difesa. Secondo questa interpretazione, l’utente è informato e quindi responsabile delle proprie interazioni.
Ma l’accusa ribatte che informare non equivale a proteggere. Soprattutto quando il sistema stesso è progettato per massimizzare l’engagement, non per ridurre il rischio.
Nel processo entra anche la Sezione 230 del Communications Decency Act, la norma che storicamente tutela le piattaforme dai contenuti pubblicati dagli utenti. Ma qui il giudice consente un cambio di prospettiva: non si discute ciò che viene pubblicato, ma ciò che viene mostrato e spinto dagli algoritmi.
È un passaggio decisivo, perché sposta il tema dalla responsabilità individuale alla responsabilità di design.
Un altro nodo riguarda la distanza tra sicurezza dichiarata e sicurezza reale. Meta Platforms comunica livelli bassissimi di contenuti problematici attraverso la cosiddetta “prevalence metric”. Ma i dati interni raccontano altro.
Lo studio BEEF (Bad Experiences and Encounters Framework) mostra che oltre la metà degli utenti ha avuto esperienze negative in una settimana. Tra i minori, una quota significativa segnala contatti indesiderati da adulti. La distanza tra le due narrazioni non è statistica, è strutturale.
Il sistema è costruito per massimizzare l’engagement. E l’engagement non distingue tra interesse e vulnerabilità. Lo stesso meccanismo che amplifica contenuti culturali o sociali può amplificare contenuti pericolosi.
Quando il sistema intercetta segnali di minore età, non si interrompe. Continua a ottimizzare.
Qui emerge un altro punto centrale: la questione del consenso. La difesa implica che l’utente accetti il rischio. Ma questo presuppone una capacità di valutazione che non è uniforme.
La corteccia prefrontale, responsabile del controllo degli impulsi e della valutazione delle conseguenze, si sviluppa pienamente solo intorno ai 25 anni. Il risultato è un’asimmetria: il sistema è progettato per adulti, ma agisce su utenti che non hanno ancora piena capacità decisionale.
Il caso del New Mexico segna quindi uno spostamento più ampio: il problema non è più solo la moderazione dei contenuti, ma la progettazione dell’ecosistema digitale nel suo complesso. La giuria ha già emesso una prima decisione: una sanzione da 375 milioni di dollari contro Meta Platforms. Ma il processo non è concluso. Una seconda fase, prevista per il 2026, potrebbe aprire a un intervento ancora più profondo: non solo multe, ma modifiche strutturali obbligatorie alle piattaforme, dalla verifica dell’età alla gestione dei messaggi tra utenti minori e adulti.
Il procedimento si muove verso un punto preciso: stabilire se il sistema stesso costituisca una “condizione di pericolo pubblico”. In quel caso, il tribunale potrebbe imporre cambiamenti diretti nel funzionamento delle piattaforme.
L’accusa sostiene che non si tratti più di moderazione dei contenuti, ma di architettura del rischio. Non di episodi isolati, ma di una struttura che li rende prevedibili.
Nel frattempo, il caso si inserisce in un contesto più ampio. Negli Stati Uniti altri procedimenti contro le piattaforme digitali riguardano dipendenza, salute mentale e protezione dei minori. In Europa, il Digital Services Act impone già alle grandi piattaforme l’obbligo di valutare i rischi sistemici e adottare misure proporzionate.
Il nodo è lo stesso: fino a che punto una piattaforma è responsabile non solo di ciò che ospita, ma di ciò che il suo sistema decide di rendere visibile.
Per anni le piattaforme sono state trattate come infrastrutture neutrali. Spazi dove gli utenti agiscono e gli algoritmi osservano.
Questo processo mette in discussione proprio quella neutralità. E lascia aperta una domanda che va oltre il tribunale: se il sistema è progettato per connettere, chi risponde quando connette anche ciò che non dovrebbe essere connesso?