Potenza, controllo e responsabilità nell’uso delle AI

Nel 1994 la Pirelli mise Carl Lewis su un manifesto con uno slogan che sarebbe sopravvissuto alla campagna: la potenza è nulla senza il controllo. Era una pubblicità di pneumatici, ma la frase funzionava perché raccontava qualcosa di universale.

Ho ripensato a quello slogan mentre ragionavo su come usiamo le intelligenze artificiali. La potenza degli strumenti che abbiamo a disposizione oggi è fuori discussione, generano testo, immagini, video, codice, analisi in pochi secondi, con risultati che fino a due anni fa sembravano fantascienza. Il controllo, inteso come capacità tecnica di governare questi strumenti, sta migliorando tra interfacce più intuitive, guardrail più sofisticati e normative che cominciano ad apparire.

Ma manca un pezzo. Potenza e controllo da soli non bastano. Senza responsabilità il controllo è solo un esercizio tecnico, sai come funziona lo strumento ma non ti poni il problema di cosa ne fai. E la responsabilità non è un concetto astratto che riguarda “gli altri”, le grandi aziende, i governi, i cattivi di turno. Attraversa tutti i livelli, dall’azienda che decide come e con quali limiti rilasciare un modello di AI al singolo utente che sceglie come utilizzarlo.

Responsabilità di chi costruisce

Le aziende che sviluppano modelli di intelligenza artificiale prendono decisioni che definiscono il campo di gioco per tutti gli altri. Decidono cosa il modello può fare, cosa non può fare, a chi viene venduto e a quali condizioni.

Il caso Anthropic e il Pentagono

Anthropic, l’azienda che sviluppa Claude, ha un contratto da 200 milioni di dollari con il Dipartimento della Difesa americano, rinominato Department of War dall’amministrazione Trump. Claude è stato il primo modello di AI commerciale autorizzato a operare nelle reti classificate del Pentagono, quelle dove passano le informazioni più sensibili, dall’intelligence allo sviluppo di armi alle operazioni sul campo.

Anthropic non è un’azienda pacifista che rifiuta il lavoro militare. Ha però posto due limiti: Claude non deve essere usato per armi completamente autonome (sistemi che uccidono senza supervisione umana) e non deve essere usato per la sorveglianza di massa dei cittadini americani.

Il Pentagono vuole che quei limiti vengano rimossi. Il Segretario della Difesa Pete Hegseth ha convocato il CEO di Anthropic, Dario Amodei, e gli ha dato un ultimatum con scadenza quella settimana. Le opzioni sul tavolo per Anthropic sono accettare che Claude venga usato per tutti gli scopi legali senza restrizioni oppure affrontare le conseguenze, che includono la rescissione del contratto, la designazione di Anthropic come “rischio per la catena di fornitura” o l’invocazione del Defense Production Act.

Il caso xAI e Grok

xAI, l’azienda di Elon Musk, ha firmato un accordo con il Pentagono per rendere Grok disponibile nei sistemi classificati militari, accettando senza condizioni lo standard “all lawful purposes”, nessun limite autoimposto. È lo stesso Grok che nella sua versione pubblica permette di generare immagini di persone reali in situazioni inventate, inclusi deepfake di natura sessuale, senza restrizioni significative.

Due aziende, due filosofie opposte. Da un lato chi dice di costruire lo strumento più potente possibile e lasciare l’uso responsabile a chi lo usa. Dall’altro chi pone limiti autoimposti. Nessuna delle due posizioni è priva di problemi: la permissività totale scarica tutta la responsabilità sull’utente finale, mentre i limiti autoimposti rischiano di essere inefficaci se il concorrente li elimina.

Responsabilità di chi sa e non agisce

C’è un livello di responsabilità che non riguarda cosa costruisci o cosa permetti, ma cosa fai con le informazioni che hai.

Il caso di Tumbler Ridge

Il 10 febbraio 2026 Jesse Van Rootselaar, 18 anni, ha ucciso otto persone a Tumbler Ridge, in British Columbia. Prima la madre e il fratellastro nella loro casa, poi cinque studenti e un’assistente educativa nella scuola. In un paese dove le stragi nelle scuole sono quasi sconosciute, l’impatto è stato enorme.

Otto mesi prima OpenAI aveva individuato l’account ChatGPT di Van Rootselaar. I sistemi automatici dell’azienda avevano rilevato conversazioni legate ad attività violente con armi da fuoco. L’account era stato bannato per violazione delle policy. Ma la decisione più importante è stata quella che lo staff di OpenAI ha dibattuto internamente: segnalare o meno il caso alle forze dell’ordine canadesi. La conclusione è stata di non farlo. Secondo i criteri dell’azienda l’attività dell’account non raggiungeva la soglia di “rischio imminente e credibile di grave danno fisico” necessaria per la segnalazione.

Il ministro canadese per l’AI, Evan Solomon, ha convocato i vertici dell’azienda a Ottawa.

Chatbot e suicidi adolescenziali

Adam Raine aveva sedici anni quando è morto nell’aprile 2025. La sua famiglia ha denunciato OpenAI sostenendo che ChatGPT aveva funzionato come un “coach del suicidio”, fornendo consigli specifici sui metodi e offrendo di aiutarlo a scrivere un messaggio d’addio. I sistemi di OpenAI avevano segnalato 377 messaggi per contenuti autolesionistici senza mai interrompere la conversazione né attivare protocolli di intervento.

Nel 2024 Sewell Setzer, quattordici anni, si era tolto la vita dopo aver sviluppato una dipendenza emotiva da un personaggio sulla piattaforma Character.AI. A gennaio 2026 Character.AI e Google hanno raggiunto un accordo di patteggiamento con le famiglie coinvolte.

In tutti questi casi il pattern è simile: i sistemi rilevano segnali di pericolo, l’informazione resta interna, la soglia per agire viene fissata in modo che quasi nulla la supera.

Responsabilità di chi permette

C’è un altro livello di responsabilità che si gioca non tanto su quello che fai direttamente, ma su quello che rendi possibile.

Le app di nudificazione

Le app di nudificazione (o “nudify”) spogliano digitalmente le persone a partire da una foto. Funzionano da smartphone, senza competenze tecniche, spesso senza nemmeno registrarsi. Su Telegram esistono bot che lo fanno gratis, con nomi che cambiano di continuo per evitare i ban. Zero tracce.

Luca Cazzaniga, in un post dettagliato nel gruppo Facebook Open Minds for AI, ha mappato l’intero ecosistema. Dalle app più diffuse come ClothOff (risultati in 30-60 secondi, versione freemium) ai tool per deepfake video che richiedono un PC con scheda grafica, fino alla generazione locale dove tutto avviene sul proprio computer senza connessione, senza log, senza filtri. Il quadro è quello di una tecnologia accessibile a chiunque, a costi che vanno da zero a pochi dollari al mese.

Matteo Flora, presidente di PermessoNegato (l’associazione che supporta le vittime di revenge porn e sextortion), sottolinea che i deepfake non sono più solo un problema adolescenziale. Vengono usati per estorcere denaro, anche ad amministratori delegati di grandi aziende. L’onere della prova si è invertito: non devi dimostrare che sei tu ma che non sei tu.

La distribuzione e l’accesso

La catena di responsabilità è lunga. C’è chi sviluppa queste app, chi le distribuisce attraverso gli store di Apple e Google, chi le ospita tecnicamente e, infine, chi le usa. Il Tech Transparency Project ha identificato oltre cento app nudify negli store ufficiali, scaricate complessivamente 705 milioni di volte.

Le vittime sono nella grande maggioranza donne e minori. La ricerca Disrupting Harm Phase 2, condotta da UNICEF, ECPAT e INTERPOL e pubblicata a febbraio 2026, ha documentato almeno 1,2 milioni di minori in 11 paesi le cui immagini sono state manipolate in deepfake sessualmente espliciti nell’ultimo anno. In alcuni paesi si tratta di un minore su 25.

Il quadro normativo italiano

In Italia dal 10 ottobre 2025 esiste la Legge 132/2025 che introduce l’articolo 612-quater del Codice penale. La diffusione di deepfake non consensuali è punita con la reclusione da uno a cinque anni, con aggravante di un terzo se associata a revenge porn. Il reato sussiste anche quando il corpo non appartiene alla vittima, basta che il volto la renda identificabile. Ma la legge, per quanto necessaria, arriva su un fenomeno che corre molto più veloce di qualsiasi normativa.

Responsabilità personale

Fin qui ho parlato di aziende, governi, piattaforme. Ma c’è un livello di responsabilità che riguarda ciascuno di noi direttamente, e che è il più facile da rimuovere.

L’ignoranza come scusa

Il primo problema è l’ignoranza, nel senso letterale del termine. Molte persone che usano l’intelligenza artificiale in modi potenzialmente illeciti non si pongono nemmeno il problema se la legge dica qualcosa a riguardo.

La normativa italiana e quella europea richiedono trasparenza sull’origine dei contenuti generati con intelligenza artificiale. Un’immagine, un testo, un audio prodotto con l’AI dovrebbe portare un’indicazione chiara della sua origine. Quanti, tra chi usa quotidianamente questi strumenti, lo sanno? E quanti tra quelli che lo sanno lo fanno davvero?

La teoria delle finestre rotte

Qui si innesta il secondo meccanismo, quello del “tanto lo fanno tutti”. Chi conosce la norma e la ignora si giustifica con il fatto che nessun altro la rispetta. Non è una cattiva fede consapevole nella maggior parte dei casi, è una scorciatoia mentale che funziona come una scusa con sé stessi prima ancora che con gli altri.

C’è un concetto in criminologia che descrive esattamente questo meccanismo: la teoria delle finestre rotte, formulata da James Wilson e George Kelling nel 1982. Dice che un ambiente dove i segnali di trascuratezza e illegalità sono visibili e tollerati abbassa la soglia per tutti.

Applicata al nostro contesto l’analogia funziona bene. Ogni uso scorretto tollerato rende il successivo più facile, più probabile, meno problematico agli occhi di chi lo compie. Se nessuno segnala i contenuti generati con AI, non segnalare diventa la norma. Se le app nudify circolano liberamente sugli store, usarle sembra meno grave.

L’uso intenzionalmente malevolo

C’è poi chi usa l’intelligenza artificiale in modo intenzionalmente malevolo. Chi crea immagini false di persone reali per danneggiarle, per ricattarle, per umiliarle. Chi usa i chatbot per manipolare informazioni o costruire truffe sempre più convincenti. Qui il discorso sulla responsabilità è più semplice perché l’intenzione è chiara. Ma anche questi comportamenti si nutrono dell’ambiente permissivo creato dai piccoli passi di tutti gli altri.

Un discorso che non si chiude con un post

Non ho una conclusione ordinata per questo discorso, e credo che non possa averne una. La responsabilità nell’uso dell’intelligenza artificiale non è un problema che si risolve con una legge, una policy aziendale o un post su un blog.

Quello che ho provato a raccontare è che la responsabilità attraversa tutti i livelli. Le aziende che costruiscono questi strumenti rispondono delle scelte che fanno, inclusa la scelta di non porre limiti. Chi intercetta segnali di pericolo e decide di non agire si assume una responsabilità che nessuna soglia burocratica può cancellare. Chi distribuisce e rende accessibili strumenti di abuso partecipa a una catena che arriva fino alle vittime. E chi usa questi strumenti risponde di come li usa.

Quello che manca, e di cui c’è bisogno urgente, è un lavoro serio di educazione all’uso di queste tecnologie. Non un corso una tantum o un tutorial su YouTube, ma un processo strutturato che operi su più livelli contemporaneamente. La scuola deve integrare nei programmi non solo l’uso tecnico degli strumenti AI ma anche la consapevolezza delle loro implicazioni. La società nel suo complesso, dalle istituzioni alle aziende, deve costruire una cultura dell’uso responsabile. E i genitori, che spesso sanno meno dei figli su cosa gira e come funziona, devono fare lo sforzo di informarsi.

La potenza degli strumenti che abbiamo in mano cresce ogni mese. Il controllo tecnico migliora. Ma la responsabilità resta una scelta individuale. Ed è l’unico pezzo che nessuna tecnologia può fornire al posto nostro.