Ho creato un GPT o un tool con l'AI: sono "fornitore" per l'AI Act?

Molto probabilmente sì. Se hai costruito un GPT personalizzato, un chatbot o un SaaS che incorpora un modello di AI e lo offri col tuo nome, per l'AI Act non sei più solo un utilizzatore: diventi un fornitore (in gergo: provider). E il ruolo di fornitore ha obblighi più pesanti, non più leggeri.

È il rovescio della medaglia dell'aver "risolto" costruendoti lo strumento in casa. Bravo sul piano del prodotto. Ma quella scelta ti sposta di categoria, e conviene saperlo prima che te lo faccia notare qualcun altro.

Utilizzatore o fornitore: la linea che ti sposta

L'AI Act distingue due ruoli principali. L'utilizzatore usa un sistema di AI nella propria attività. Il fornitore sviluppa un sistema di AI (o lo fa sviluppare) e lo mette a disposizione col proprio nome o marchio.

La domanda che decide da che parte stai è semplice: lo strumento gira col tuo nome ed è usato da altri (clienti, utenti, il pubblico)? Se sì, sei un fornitore per quel prodotto. Il fatto che "sotto" ci sia un modello di terzi non ti salva: quello che conta è che tu lo confezioni e lo offri.

C'è anche una zona grigia utile da conoscere: se prendi un sistema di un altro fornitore e lo modifichi in modo sostanziale, o lo metti sul mercato col tuo marchio, l'AI Act può considerarti fornitore a tutti gli effetti per quel sistema.

Perché il fornitore ha più obblighi

Perché è più vicino alla fonte del rischio. Chi mette uno strumento in mano ad altri deve rispondere di come è fatto.

Per un tool generativo, l'obbligo che scatta prima è la trasparenza sui contenuti. Se il tuo strumento produce testo, immagini, audio o video, come fornitore devi fare in modo che gli output siano marcati come artificiali in modo riconoscibile dalle macchine. È l'articolo 50, e questa parte tocca proprio te, non il modello che hai sotto. Ho spiegato la logica nell'articolo sugli obblighi di trasparenza.

E se il tuo tool interagisce direttamente con le persone (un chatbot, per dire), devi progettarlo perché sia chiaro che stanno parlando con un'AI.

Attenzione a una cosa: il tuo doppio cappello. Continui a essere anche utilizzatore per gli strumenti che usi internamente per lavorare. Quindi gli obblighi da fornitore sul tuo prodotto si sommano a quelli da utilizzatore (l'alfabetizzazione dell'articolo 4, il registro, la policy) sul resto della tua attività. Se questo secondo pezzo non ti è chiaro, parti da uso ChatGPT, devo rispettare l'AI Act?.

Cosa fare se hai (o stai per fare) un tool con l'AI

Prima di tutto, inquadra il ruolo: per quel prodotto sei fornitore. Non è una brutta notizia, è una responsabilità gestibile se la affronti ora invece che dopo il lancio.

Poi lavora sulla trasparenza: marcatura dei contenuti generati, avviso chiaro quando c'è un'interazione con l'AI, informazioni corrette a chi usa il tuo strumento. Se stai sviluppando qualcosa di articolato, questo è il tipo di analisi che facciamo nei progetti su misura: capire dove finisce il ruolo di utilizzatore e comincia quello di fornitore.

Pochi ne parlano, e questo per te è un doppio vantaggio: eviti una brutta sorpresa e, se vendi il tool ad aziende, arrivare preparato sulla conformità è un argomento di vendita, non un costo.

Domande frequenti

Se creo un GPT personalizzato divento fornitore per l'AI Act? Se lo offri col tuo nome e lo usano altri, per quel prodotto molto probabilmente sì. Il fatto che sotto ci sia un modello di terzi non cambia il tuo ruolo di chi lo confeziona e lo mette a disposizione.

Il fornitore ha più o meno obblighi dell'utilizzatore? Di più. Il fornitore è più vicino alla fonte del rischio: per i sistemi generativi scattano ad esempio gli obblighi di marcatura dei contenuti e di trasparenza dell'articolo 50.

Uso un modello di OpenAI dentro il mio SaaS: la responsabilità non è loro? OpenAI risponde del proprio modello, ma tu rispondi del prodotto che confezioni e offri col tuo nome. Per quel sistema il fornitore, ai fini dell'AI Act, sei tu.

Sono fornitore e utilizzatore allo stesso tempo? Spesso sì. Sei fornitore per il tool che offri e resti utilizzatore per gli strumenti di AI che usi internamente. Gli obblighi dei due ruoli si sommano.