Contestazioni sull'AI Act: obblighi di formazione, trasparenza e sistemi ad alto rischio
Un'azienda riceve una contestazione su come usa l'AI. Bisogna capire cosa è stato fatto davvero e cosa si può documentare.
Ha un caso da valutare?
Le rispondiamo entro 24 ore. La strategia legale resta dell'avvocato, noi ci occupiamo della parte tecnica.
Lo scenario
Cosa succede di solito
La contestazione arriva spesso dopo il reclamo di un cliente, di un ex dipendente o di un concorrente.
Di solito riguarda la formazione del personale, la trasparenza verso chi usa un chatbot o riceve contenuti generati, oppure un sistema ad alto rischio.
L'azienda sa di usare l'AI, ma spesso non sa dire quali sistemi, chi li usa e con quali istruzioni.
In questa fase servono fatti tecnici in ordine: l'elenco dei sistemi e come vengono usati.
Gli obblighi sono spiegati nelle nostre pagine sull'AI Act, linkate qui sotto. Qui parliamo solo della verifica tecnica.
Le due parti
Cosa deve dimostrare ognuna
Cosa deve dimostrare chi fa causa
- Che l'azienda usava un sistema AI per quella attività.
- Che chi parlava con il sistema non sapeva di parlare con un'AI.
- Che il sistema rientra fra quelli ad alto rischio e mancavano i controlli richiesti.
Cosa deve dimostrare chi si difende
- Quali sistemi sono in uso, per cosa e da quando.
- Che le persone che li usano sono state formate, con prove datate.
- Che gli avvisi di trasparenza c'erano ed erano visibili.
- Che il sistema non rientra fra quelli ad alto rischio, o che i controlli c'erano.
L'obbligo di formazione (art. 4) e i divieti dell'art. 5 si applicano dal 2 febbraio 2025, la trasparenza dell'art. 50 dal 2 agosto 2026. Gli obblighi sui sistemi ad alto rischio dell'allegato III sono stati rinviati al 2 dicembre 2027 dal regolamento (UE) 2026/1744. Per ogni contestazione conta quale obbligo era già applicabile alla data dei fatti. Prima del 2027 possono comunque valere i divieti dell'art. 5, il GDPR e le norme antidiscriminazione.
Cosa analizza il consulente tecnico
- L'inventario dei sistemi AI in uso: strumenti, account, integrazioni e automazioni.
- Il confronto tra il registro dei sistemi dichiarato e quello che risulta da log e licenze.
- Le prove della formazione: date, contenuti, partecipanti e test.
- Gli avvisi mostrati agli utenti nel chatbot, nei moduli e nei contenuti generati.
- La classificazione dei sistemi rispetto all'allegato III, con le ragioni tecniche.
Domande da fare subito
- Esiste un registro dei sistemi AI? Quando è stato aggiornato l'ultima volta?
- La formazione ha prove con una data, o solo un attestato generico?
- Il chatbot del sito dice di essere un'AI? Da quando?
- Chi in azienda conosce tutti gli strumenti AI in uso, anche quelli personali?
Le domande che ci fanno
Domande frequenti
Chi controlla il rispetto dell'AI Act in Italia?
Il consulente tecnico può dire se l'azienda è in regola?
Seguite anche l'adeguamento all'AI Act?
Ha un caso da valutare?
Le rispondiamo entro 24 ore. La strategia legale resta dell'avvocato, noi ci occupiamo della parte tecnica.
