Se l'AI sbaglia, puoi fare causa a chi ha creato il modello?

Quasi mai. Se il tuo chatbot o il tuo agente AI dà una risposta sbagliata e un cliente ci rimette, di norma il cliente se la prende con te. Sei tu che hai messo il sistema in produzione con il tuo nome. Chi ha creato il modello ti ha dato accesso con condizioni d'uso, o con una licenza, che limitano molto quello che puoi chiedergli.

La valutazione del tuo caso resta del tuo avvocato. Qui trovi come funziona la catena delle responsabilità.

Chi risponde al cliente se il tuo sistema AI sbaglia?

Di norma rispondi tu, se il sistema lavora a nome della tua azienda. Per il cliente il chatbot sul tuo sito fa parte del tuo servizio, come un dipendente allo sportello. Con chi ha creato il modello il cliente non ha nessun contratto.

Il codice civile prevede che chi si serve di altri per eseguire un contratto risponda anche dei loro errori, se commessi con colpa (articolo 1228). La software house e il fornitore del modello possono essere considerati aiutanti di cui ti sei servito.

Nel 2024 un tribunale canadese per le piccole cause ha condannato Air Canada per un'informazione sbagliata del suo chatbot sulle tariffe per lutto. Per il tribunale le informazioni del sito, chatbot compreso, sono della compagnia (Moffatt v. Air Canada). Un giudice italiano non è vincolato da quella decisione, ma è probabile che ragioni in modo simile.

L'AI Act va nella stessa direzione. Chi sviluppa un sistema di AI, o lo fa sviluppare, e lo mette in servizio con il proprio nome ne è il fornitore (articolo 3, punto 3). Il ruolo è spiegato in ho creato un GPT o un tool: sono fornitore?. L'AI Act però non dice chi paga i danni. Lo decidono il codice civile e le leggi sulla responsabilità.

Come funziona la catena fra modello, fornitore e azienda?

Di solito ciascuno chiede i danni a chi ha un contratto con lui. La catena tipica ha quattro anelli:

1. Chi crea il modello e vende l'accesso con condizioni d'uso standard.
2. Chi integra il modello in un prodotto, come una software house.
3. La tua azienda, che usa il sistema con i clienti o per decidere.
4. Chi subisce il danno, cioè un cliente, un utente o la tua stessa azienda.

Il cliente si rivolge a te. Tu puoi chiedere a tua volta i danni a chi ti ha venduto il sistema, se il sistema non faceva quello che il contratto prometteva. La software house può fare lo stesso con il creatore del modello, che però limita il risarcimento a quanto gli è stato pagato. Se ti sei collegato da solo alle API di un modello, fra te e il creatore del modello ci sono solo le sue condizioni d'uso.

Cosa dicono i contratti di OpenAI, Anthropic e Google?

Tutti e tre escludono garanzie sull'accuratezza e mettono un tetto ai risarcimenti. Sono i termini per aziende e sviluppatori, letti a ottobre 2026. "As is" vuol dire che il servizio è fornito così com'è, senza garanzie.

Altre clausole mettono a carico tuo la verifica delle risposte. Anthropic chiede al cliente di valutare se gli output vanno bene per il suo uso, anche decidendo dove serve una revisione umana, e di avvisare gli utenti che le risposte possono essere false (D.3). OpenAI scrive che il cliente è l'unico responsabile dell'uso degli output e della verifica della loro accuratezza (4.3).

Per i clienti europei le liti con Anthropic vanno davanti a un arbitro privato a Dublino. Con OpenAI si applica la legge irlandese e le liti vanno in arbitrato. Per le Gemini API il contratto indica la legge della California.

Se si applica la legge italiana, sono nulle le clausole che escludono o limitano in anticipo la responsabilità per dolo (l'errore voluto) o per colpa grave (articolo 1229 del codice civile). Per superare il tetto servirebbe quindi provare una colpa grave del fornitore. Quanto sia difficile dipende dal caso, e lo valuta il tuo avvocato.

E se usi un modello a pesi aperti, come Llama, Qwen o Mistral?

Le garanzie sono ancora meno. Molti modelli Qwen e Mistral usano la licenza Apache 2.0. Il software è fornito "as is", chi lo usa si assume i rischi e chi lo ha scritto non risponde dei danni, salvo quanto impone la legge (articoli 7 e 8). La licenza di Llama 3.3 fornisce materiali e output "as is" ed esclude la responsabilità di Meta per mancato guadagno e danni indiretti.

Con un modello scaricato di solito non c'è un contratto di servizio né un fornitore che tiene i log. Se il modello gira sui tuoi server, la catena parte da te.

La nuova direttiva sui prodotti difettosi cambia qualcosa?

Sì, ma solo per le persone fisiche e solo per alcuni danni. La direttiva (UE) 2024/2853 sostituisce le regole sui prodotti difettosi del 1985.

• Il software è un prodotto (articolo 4), anche se fornito in cloud o in abbonamento. Le premesse della direttiva (considerando 13) citano espressamente i sistemi di AI.
• Rispondono il fabbricante del prodotto e quello di un pezzo difettoso integrato nel prodotto (articolo 8). Un modello dentro un software può essere uno di questi pezzi.
• La responsabilità verso chi subisce il danno non si può escludere per contratto (articolo 15).
• Vale per i prodotti messi in vendita o in uso per la prima volta dopo il 9 dicembre 2026 (articolo 2). Gli Stati devono recepirla entro la stessa data (articolo 22).

Serve però un prodotto difettoso, cioè meno sicuro di quanto ci si può aspettare (articolo 7). E i danni coperti sono pochi (articolo 6). Ha diritto al risarcimento solo una persona fisica, per morte o lesioni, per danni a beni che non usa solo per lavoro e per la perdita di dati che non usa per lavoro. Il mancato guadagno di un'azienda per una risposta sbagliata resta fuori. Fra aziende conta il contratto.

La direttiva non si applica al software open source sviluppato o fornito fuori da un'attività commerciale (articolo 2). Se un'azienda lo integra in un suo prodotto, può rispondere l'azienda, non chi ha scritto il software (considerando 15).

La proposta di direttiva europea sulla responsabilità per l'AI è stata ritirata dalla Commissione. Il ritiro è stato pubblicato nella Gazzetta ufficiale dell'Unione il 6 ottobre 2025 (Parlamento europeo).

Cosa è cambiato in Italia con il decreto 160/2026?

Per chi subisce un danno da un sistema AI è diventato più facile ottenere le prove. Il decreto legislativo 9 settembre 2026, n. 160, che attua la legge 132/2025, è in vigore dal 30 settembre 2026. Le regole su chi risponde restano quelle del codice civile. Il decreto aggiunge strumenti per la causa.

• Consegna delle prove (articolo 17). Se chi chiede i danni rende credibile la sua domanda, il giudice ordina all'altra parte, o a un terzo che li ha, di consegnare gli elementi sul funzionamento del sistema. Se l'altra parte non li consegna senza un motivo valido, il giudice ne tiene conto contro di lei. Se mancano i documenti che l'AI Act chiede per i sistemi ad alto rischio, come i registri e la documentazione tecnica, il giudice può considerare veri i fatti indicati dal danneggiato. Il terzo che non consegna paga una sanzione.
• Nesso fra violazione e danno presunto (articolo 18). Se il danno deriva dalla violazione di un obbligo dell'AI Act, si presume che sia stata quella violazione a causarlo. Chi è chiamato in causa può dimostrare il contrario.
• Rispettare l'AI Act non basta da solo a evitare la responsabilità (articolo 19).
• Richiesta diretta all'assicurazione del presunto responsabile (articolo 20), se la polizza copre quel danno e fino all'importo massimo assicurato.

Un chatbot di assistenza di solito non è ad alto rischio, e molti di quei documenti non sono obbligatori. Log e prove dei controlli umani servono comunque a ricostruire cosa è successo.

Cosa conviene fare prima che succeda?

Scrivere le responsabilità nel contratto e conservare le prove di come funziona il sistema.

• Contratto con chi ti fornisce il sistema. Cosa deve fare, con quali test, chi risponde se sbaglia e fino a quale importo. Aggiungi un accordo sul livello di servizio (SLA) e l'obbligo di conservare e consegnarti i log per un tempo definito.
• Un controllo umano dove l'errore costa. Prezzi, garanzie, scadenze e decisioni sulle persone non dovrebbero arrivare al cliente senza una verifica. Vedi revisione umana dell'output AI: basta per l'AI Act?.
• Log conservati da te: conversazioni con data, ora e sessione, prompt di sistema, documenti consultati dal sistema.
• Versione del modello registrata. I fornitori aggiornano e ritirano i modelli. Il registro dei sistemi AI serve anche a questo.
• Test prima del lancio e a ogni modifica, con una serie di domande difficili e le risposte giuste.
• Un avviso chiaro che l'utente sta parlando con un sistema di AI, come chiede l'articolo 50 dell'AI Act dal 2 agosto 2026.

Se stai progettando un chatbot o un agente AI per i clienti, queste scelte si fanno all'inizio.

Cosa fare se il danno c'è già stato?

Salva subito le prove, poi capisci in quale punto della catena è nato l'errore. Le prove da mettere al sicuro:

• la conversazione completa, con data, ora e identificativo della sessione;
• i log del sistema, chiedendo per iscritto al fornitore di non cancellarli;
• il prompt di sistema e i documenti da cui il sistema prendeva le risposte quel giorno;
• il modello e la versione in uso;
• gli avvisi che l'utente vedeva e le condizioni d'uso del servizio.

Gli screenshot servono, ma da soli sono deboli. Nel processo civile uno screenshot fa piena prova se l'altra parte non lo contesta (articolo 2712 del codice civile). Se lo contesta in modo preciso, il giudice lo verifica con altre prove. Per questo servono anche i file originali e i log completi, meglio se con un'impronta digitale (hash) calcolata al momento della copia.

L'errore può nascere dal modello, dalla configurazione, dai documenti caricati, da una domanda ambigua o da un controllo mancato. Ogni causa porta a un anello diverso. Una perizia tecnica di parte su un danno da sistema AI parte da log, prompt e versione del modello e prova a riprodurre la risposta. Quando non si riesce, la perizia lo scrive e spiega perché.

Chi paga lo stabiliscono le parti o il giudice. La perizia dà al tuo avvocato fatti verificati. Gli altri casi sono nella pagina sulle perizie sull'intelligenza artificiale.