AI Act: cos’è e quali obblighi introduce per le aziende

L’AI Act è il regolamento europeo che stabilisce regole comuni per lo sviluppo, l’immissione sul mercato e l’uso dei sistemi di intelligenza artificiale nell’Unione Europea. Per un’azienda che utilizza chatbot, strumenti di scoring, software di selezione del personale o piattaforme di generazione contenuti, il problema pratico è capire se il proprio sistema rientra tra quelli regolamentati e quali obblighi ne derivano prima delle scadenze fissate dal regolamento. La normativa introduce criteri per valutare il rischio di un sistema di IA e per stabilire documentazione, controlli e responsabilità tra chi sviluppa la tecnologia e chi la utilizza in azienda. Il punto di partenza è identificare il ruolo assunto dall’azienda, provider o deployer, perché da questa distinzione dipendono gli adempimenti da rispettare.

AI Act: cos’è e cosa disciplina

Il Regolamento (UE) 2024/1689 disciplina lo sviluppo, l’immissione sul mercato, la messa in servizio e l’uso dei sistemi di intelligenza artificiale nell’Unione Europea. Il testo assegna requisiti e obblighi differenti in base al rischio del sistema, al suo utilizzo e al ruolo dell’operatore coinvolto.

Il regolamento stabilisce procedure verificabili: classificazione del sistema, documentazione tecnica, valutazione di conformità e, per alcune categorie, registrazione in una banca dati pubblica europea. Per un’azienda italiana o europea, capire dove si colloca il proprio prodotto o servizio nella scala di rischio è il primo passaggio per pianificare interventi tecnici e organizzativi entro le scadenze previste dal calendario di applicazione.

A chi si applica l’AI Act

L’AI Act si applica a chi sviluppa, distribuisce o utilizza sistemi di intelligenza artificiale che rientrano nell’ambito territoriale e materiale del regolamento. La disciplina può interessare anche soggetti stabiliti fuori dall’Unione Europea quando immettono sistemi sul mercato europeo o quando l’output prodotto dal sistema viene utilizzato nell’Unione.

Il regolamento distingue diversi operatori. Il provider sviluppa un sistema di IA, o lo fa sviluppare, e lo immette sul mercato o lo mette in servizio con il proprio nome o marchio. Il deployer utilizza invece un sistema di IA sotto la propria autorità nell’esercizio di un’attività professionale. Un e-commerce che integra un sistema di raccomandazione sviluppato da terzi opera normalmente come deployer, salvo che intervengano condizioni che ne modifichino il ruolo giuridico.

Un’azienda che modifica in modo sostanziale un sistema sviluppato da terzi o ne cambia la finalità prevista può assumere obblighi propri del provider. La qualificazione deve quindi essere verificata sul sistema utilizzato, sulle modifiche apportate e sulla documentazione del fornitore.

Come funziona la classificazione dei sistemi di IA basata sul rischio

L’AI Act adotta un approccio basato sul rischio: distingue pratiche vietate, sistemi ad alto rischio, sistemi soggetti a specifici obblighi di trasparenza e utilizzi a rischio minimo o nullo. Requisiti e responsabilità cambiano in funzione della categoria e del ruolo assunto dall’organizzazione.

Pratiche di intelligenza artificiale vietate

L’AI Act vieta determinate pratiche considerate incompatibili con i diritti fondamentali e con i valori tutelati dall’Unione Europea. Tra queste rientrano alcune forme di manipolazione, sfruttamento delle vulnerabilità, social scoring, polizia predittiva individuale basata esclusivamente sulla profilazione e specifici utilizzi biometrici.

La disciplina riguarda anche sistemi di categorizzazione biometrica che deducono determinate caratteristiche sensibili. L’identificazione biometrica remota in tempo reale negli spazi accessibili al pubblico per finalità di contrasto è soggetta a un regime particolarmente restrittivo e a eccezioni definite dal regolamento.

Sistemi di IA ad alto rischio

La classificazione dei sistemi di IA ad alto rischio comprende sia determinati casi d’uso indicati nell’Annex III sia sistemi collegati ai prodotti regolamentati richiamati dall’Annex I. Tra gli ambiti dell’Annex III rientrano, a determinate condizioni, occupazione, istruzione, servizi essenziali, infrastrutture critiche, biometria, migrazione e amministrazione della giustizia. Un software usato per selezionare o valutare candidati può quindi rientrare nella disciplina high-risk e richiedere i controlli, la documentazione e gli adempimenti previsti per quella categoria.

L’Annex I riguarda invece sistemi di IA collegati a prodotti soggetti a specifiche normative europee di sicurezza, come determinate macchine o dispositivi. In questi casi gli obblighi dell’AI Act si coordinano con le procedure di conformità già previste dalla disciplina settoriale applicabile al prodotto.

Sistemi soggetti a obblighi di trasparenza

Alcuni sistemi interattivi o generativi sono soggetti a obblighi specifici di trasparenza verso le persone. Chatbot, sistemi che generano o manipolano contenuti e determinati utilizzi dei deepfake richiedono quindi verifiche dedicate sull’informazione agli utenti, sulla disclosure e sulle marcature tecniche previste dall’articolo 50.

Sistemi a rischio minimo o nullo

Molti sistemi di IA utilizzati per attività a basso impatto non rientrano nelle categorie vietate o ad alto rischio e non sono soggetti ai relativi requisiti aggiuntivi. Restano comunque applicabili le altre norme dell’Unione o nazionali pertinenti al caso d’uso.

Quali obblighi prevede l’AI Act per aziende, provider e deployer

Gli obblighi cambiano in base al ruolo dell’organizzazione, alla categoria del sistema e al caso d’uso. Per i sistemi ad alto rischio assumono particolare rilievo gestione del rischio, documentazione tecnica, qualità dei dati, registrazione delle attività, supervisione umana, accuratezza, robustezza e cybersicurezza.

Valutazione e gestione del rischio

La gestione del rischio richiede un processo continuativo lungo il ciclo di vita del sistema. Occorre identificare i rischi collegati al caso d’uso, sottoporre il sistema ai test previsti, controllarne le prestazioni e aggiornare le valutazioni quando cambiano il modello, i dati o il contesto di utilizzo.

• Identificazione dei rischi per sicurezza e diritti fondamentali collegati al caso d’uso.
• Verifica della qualità e della rappresentatività dei dati richiesti per il sistema.
• Monitoraggio delle prestazioni e degli incidenti dopo la messa in servizio.
• Aggiornamento delle valutazioni quando intervengono modifiche rilevanti.

Un sistema può ottenere risultati accettabili durante i test iniziali e mostrare prestazioni differenti dopo l’introduzione in un ambiente con utenti, dati o condizioni diverse. Il monitoraggio serve a individuare questi scostamenti e a determinare quando occorrono misure correttive.

In un progetto cliente è stata prevista l’integrazione di un chatbot AI per qualificare i lead raccolti dal sito. Prima della pubblicazione è stata definita una fase di test interno, così da verificarne il comportamento prima dell’interazione con gli utenti. Nello stesso progetto era già previsto un questionario di qualificazione delle richieste, con informazioni come il budget disponibile. Se questi criteri vengono utilizzati anche dal chatbot per qualificare o indirizzare i lead, devono essere considerati nella definizione della finalità del sistema, dei dati trattati e dei controlli da effettuare prima del rilascio.

Documentazione, tracciabilità e governance dei dati

Per i sistemi soggetti ai requisiti di documentazione tecnica, le informazioni devono consentire di ricostruire caratteristiche del sistema, finalità, sviluppo, prestazioni, misure di gestione del rischio e altri elementi previsti dalla normativa applicabile.

Quando il sistema tratta dati personali, gli obblighi dell’AI Act devono essere coordinati con il Regolamento sulla protezione dati. Base giuridica, minimizzazione, finalità del trattamento e tutela dei diritti degli interessati restano quindi aspetti distinti da verificare rispetto ai requisiti propri dell’AI Act. Registrazione delle attività, versioning e documentazione tecnica permettono inoltre di ricostruire il comportamento del sistema durante eventuali controlli.

La tracciabilità tra sistemi diventa rilevante anche nei flussi più ordinari. In un progetto cliente era emerso che alcune nuove form inviavano correttamente la notifica via email e registravano il contatto sul sito, ma il lead non veniva trasferito nel CRM Bitrix. L’episodio riguardava l’integrazione tra form e CRM, ma evidenzia la necessità di verificare l’intero percorso del dato. Se nello stesso flusso viene introdotto un chatbot AI, occorre sapere quali informazioni raccoglie, dove vengono registrate e verso quali sistemi vengono successivamente trasferite.

Supervisione umana, accuratezza e cybersicurezza

Nei sistemi high-risk la supervisione umana deve permettere alle persone incaricate di comprendere capacità e limiti del sistema, interpretarne gli output e intervenire quando richiesto. Accuratezza, robustezza e cybersicurezza devono essere adeguate alla finalità prevista e ai rischi associati al sistema.

AI literacy del personale

L’obbligo di AI literacy richiede a provider e deployer di adottare misure che sostengano le competenze del personale e delle altre persone che utilizzano sistemi di IA per loro conto. Le misure devono considerare conoscenze tecniche, esperienza, formazione e contesto d’uso. Dopo le modifiche del 2026, la norma non impone uno specifico livello individuale di competenza. Un team HR che utilizza uno strumento di screening deve quindi conoscere il sistema impiegato, i relativi rischi e i limiti rilevanti per il proprio caso d’uso.

Obblighi di trasparenza per chatbot e contenuti generati dall’IA

Gli obblighi di trasparenza dell’articolo 50 riguardano specifici sistemi interattivi e generativi e determinati utilizzi dei loro output. Dal 2 agosto 2026 provider e deployer devono verificare gli obblighi applicabili in base al tipo di sistema, al contenuto prodotto e alle modalità con cui questo viene presentato agli utenti.

Informazione agli utenti nell’interazione con sistemi di IA

Una persona che interagisce direttamente con un chatbot o con un altro sistema di IA deve essere informata della natura artificiale dell’interazione, salvo quando questa risulti evidente dal contesto. L’informazione deve essere fornita al più tardi al momento della prima interazione o esposizione.

Identificazione di deepfake e contenuti sintetici

Per i contenuti generati o manipolati dall’IA, l’articolo 50 distingue gli obblighi dei provider da quelli dei deployer. I provider di sistemi generativi devono integrare marcature leggibili dalle macchine negli output quando previsto, mentre i deployer devono rendere riconoscibili determinati deepfake e altri contenuti soggetti agli obblighi di disclosure. Per un’azienda che utilizza IA generativa nella comunicazione è quindi necessario verificare il tipo di contenuto, il proprio ruolo e l’uso previsto prima della pubblicazione.

AI Act e modelli di intelligenza artificiale per finalità generali

I modelli GPAI, general-purpose AI, sono modelli di intelligenza artificiale con capacità sufficientemente generali da poter essere integrati in numerosi sistemi e svolgere una pluralità di compiti. I grandi modelli linguistici utilizzati alla base di diversi servizi generativi possono rientrare in questa categoria.

Obblighi per i provider di modelli GPAI

Gli obblighi per i provider GPAI comprendono documentazione tecnica, informazioni destinate ai soggetti che integrano il modello, una policy per il rispetto del diritto d’autore e la pubblicazione di una sintesi dei contenuti utilizzati per l’addestramento. Per i modelli con rischio sistemico si aggiungono requisiti specifici di valutazione e mitigazione del rischio, segnalazione degli incidenti e cybersicurezza.

Modelli GPAI con rischio sistemico

Un modello GPAI è presunto a rischio sistemico quando le risorse computazionali cumulative utilizzate per l’addestramento superano la soglia di 10²⁵ FLOP. La Commissione può inoltre designare un modello in base alle sue capacità o al suo impatto anche quando la soglia non viene raggiunta. I provider interessati devono affrontare requisiti aggiuntivi relativi a valutazione e mitigazione dei rischi sistemici, incident reporting e cybersicurezza.

Quando si applica l’AI Act

Il regolamento è entrato in vigore il 1° agosto 2024 e la maggior parte delle disposizioni è applicabile dal 2 agosto 2026. Il calendario aggiornato dell’AI Act mantiene però scadenze differenti per alcune categorie.

• 2 febbraio 2025: applicazione delle prime disposizioni sulle pratiche vietate e sull’AI literacy.
• 2 agosto 2025: applicazione delle regole di governance e degli obblighi per i modelli GPAI.
• 2 agosto 2026: applicazione generale del regolamento e degli obblighi di trasparenza dell’articolo 50.
• 2 dicembre 2027: applicazione delle regole per i casi d’uso ad alto rischio dell’Annex III.
• 2 agosto 2028: applicazione delle regole per i sistemi high-risk integrati nei prodotti regolamentati dell’Annex I.

Governance e controlli sull’applicazione dell’AI Act

L’applicazione dell’AI Act coinvolge istituzioni europee e autorità nazionali con competenze differenti. La distribuzione dei compiti dipende dal tipo di sistema, dall’operatore interessato e dalla disposizione da far rispettare.

Ruolo dell’AI Office

L’AI Office opera all’interno della Commissione europea e svolge funzioni di supervisione ed enforcement sui modelli GPAI. I poteri dell’AI Office comprendono richieste di informazioni, valutazioni dei modelli e misure rivolte ai provider, oltre al supporto alla governance europea dell’AI Act.

Autorità competenti degli Stati membri

Ogni Stato membro deve individuare le autorità competenti per l’applicazione del regolamento. In Italia la legge 23 settembre 2025, n. 132 ha designato AgID e ACN come autorità nazionali per l’intelligenza artificiale, con funzioni differenziate. AgID svolge i compiti di autorità di notifica, mentre ACN esercita le funzioni di vigilanza del mercato e opera come punto di contatto unico con le istituzioni dell’Unione Europea, ferme restando le competenze delle autorità settoriali previste dalla legge.

Sanzioni previste dall’AI Act

Le sanzioni previste dall’AI Act possono arrivare fino a 35 milioni di euro o al 7% del fatturato mondiale annuo dell’esercizio precedente per le violazioni delle pratiche vietate; fino a 15 milioni di euro o al 3% per diverse violazioni degli obblighi previsti dal regolamento; fino a 7,5 milioni di euro o all’1% per informazioni inesatte, incomplete o fuorvianti fornite alle autorità. Per le PMI il regolamento applica criteri specifici nella determinazione del limite massimo.

Per un’azienda, la priorità è censire i sistemi di IA utilizzati, identificare il ruolo assunto per ciascuno e verificarne categoria, finalità e requisiti applicabili. Questo consente di distinguere gli adempimenti già applicabili da quelli collegati alle scadenze del 2027 e del 2028 e di organizzare documentazione, responsabilità interne e controlli prima dell’avvio di eventuali attività di vigilanza.

Domande frequenti

Un testo generato con IA deve essere dichiarato come contenuto artificiale?

Non sempre. La dichiarazione è richiesta in alcuni casi specifici, soprattutto per contenuti su temi di interesse pubblico. Se il testo è stato revisionato da una persona e pubblicato sotto responsabilità editoriale, l’obbligo può non applicarsi.

Chi risponde di informazioni errate pubblicate in un testo generato con IA?

L’impiego di un modello generativo non trasferisce automaticamente la responsabilità al fornitore dello strumento. L’azienda deve valutare come il contenuto viene prodotto, controllato e utilizzato.

Le immagini generate con IA devono essere indicate come artificiali?

Dipende dalla natura dell’immagine e dal suo utilizzo. Gli obblighi di trasparenza assumono particolare rilievo per contenuti sintetici o manipolati che possono essere percepiti come autentici.

Le immagini AI di persone inesistenti richiedono un’indicazione specifica?

La valutazione dipende da come vengono presentate e dal rischio che l’utente le interpreti come rappresentazioni autentiche. Per contenuti realistici occorre verificare gli obblighi di trasparenza applicabili.

Un video generato o modificato con IA può essere considerato un deepfake?

Sì, quando rappresenta o manipola persone, oggetti, luoghi, entità o eventi in modo tale da apparire autentico o veritiero può rientrare nella disciplina prevista per i deepfake.

Un contenuto pubblicitario creato con IA è soggetto all’AI Act?

Può esserlo in relazione al sistema utilizzato e al tipo di contenuto prodotto. Immagini sintetiche, video realistici e altri materiali generativi possono richiedere verifiche specifiche sulla trasparenza.

Le descrizioni prodotto generate con IA su un e-commerce devono essere segnalate?

Non esiste un obbligo generale di etichettare ogni descrizione prodotto generata con IA. Restano però da verificare accuratezza delle informazioni, modalità di generazione e altri obblighi applicabili al contenuto commerciale.

Le immagini prodotto generate con IA possono essere usate in un e-commerce?

L’uso richiede attenzione quando l’immagine sintetica può alterare la percezione delle caratteristiche del prodotto o essere interpretata come una rappresentazione fotografica autentica.

Un’immagine AI che mostra un prodotto diverso da quello reale può creare problemi?

Sì. Oltre agli eventuali obblighi collegati all’IA, la rappresentazione del prodotto deve essere coerente con le caratteristiche effettivamente offerte al consumatore.

Un sistema AI che modifica automaticamente prezzi e offerte rientra nell’AI Act?

La risposta dipende dalla funzione svolta, dai criteri utilizzati e dagli effetti prodotti. Il sistema deve essere valutato in base al suo utilizzo specifico, non alla sola presenza dell’intelligenza artificiale.

Un sistema AI che decide quali prodotti mostrare agli utenti è soggetto all’AI Act?

Può rientrare nell’ambito del regolamento, ma non è automaticamente un sistema ad alto rischio. Finalità, modalità di profilazione e conseguenze delle raccomandazioni devono essere valutate nel loro contesto.

Un sistema di raccomandazione prodotti è considerato ad alto rischio?

In generale la classificazione non dipende dal fatto che il sistema raccomandi prodotti, ma dalla finalità prevista e dall’eventuale appartenenza alle categorie individuate dal regolamento.

Chi è responsabile se un sistema AI consiglia un prodotto sbagliato?

Occorre distinguere il ruolo del provider da quello dell’azienda che utilizza il sistema. Configurazione, finalità, grado di autonomia e modalità di integrazione incidono sugli obblighi dei soggetti coinvolti.

Un chatbot e-commerce deve dichiarare che utilizza intelligenza artificiale?

Quando l’utente interagisce direttamente con un sistema di IA deve essere informato della natura artificiale dell’interazione, salvo che questo risulti evidente dalle circostanze.

Un chatbot che suggerisce prodotti deve essere controllato prima della pubblicazione?

È necessario conoscere quali informazioni utilizza, quali risposte può fornire e come vengono gestiti eventuali errori. Test e controlli devono essere commisurati alle funzioni affidate al sistema.

Un chatbot che qualifica automaticamente i lead può prendere decisioni sui clienti?

Dipende dal tipo di decisione e dagli effetti prodotti. Un sistema che assegna priorità, esclude richieste o modifica il percorso commerciale richiede una valutazione più attenta rispetto a un chatbot che fornisce soltanto informazioni.

Un chatbot collegato al CRM richiede controlli aggiuntivi?

Sì, perché occorre ricostruire quali dati riceve, quali informazioni trasferisce, quali operazioni può eseguire e quali sistemi aziendali vengono coinvolti nel flusso.

Un agente AI che modifica dati nel CRM è diverso da un normale chatbot?

Sì. Un agente che esegue operazioni sui sistemi aziendali presenta un livello di autonomia diverso da un chatbot informativo e richiede controlli su permessi, azioni consentite e tracciabilità.

Un agente AI può creare ordini o modificare informazioni di un cliente?

Quando l’agente può eseguire azioni che producono effetti sui sistemi aziendali servono autorizzazioni definite, registrazione delle operazioni e meccanismi di controllo coerenti con il rischio dell’attività.

Come deve essere controllato un agente AI che opera in autonomia?

Devono essere definiti almeno funzioni consentite, sistemi accessibili, limiti operativi, registrazione delle attività e condizioni nelle quali è richiesto l’intervento di una persona.

Chi è responsabile delle azioni compiute da un agente AI?

L’autonomia tecnica del sistema non elimina le responsabilità dell’organizzazione che lo introduce nei propri processi. Ruoli e obblighi dipendono anche da come l’agente viene configurato e utilizzato.

ChatGPT utilizzato dai dipendenti deve essere incluso nel censimento AI?

Se viene utilizzato per attività aziendali è opportuno includerlo nella mappatura, indicando almeno finalità d’uso, categorie di dati inseriti e funzioni aziendali coinvolte.

Un’azienda deve sapere quali dati vengono inseriti nei sistemi di IA?

Sì. Conoscere i dati utilizzati permette di valutare rischi, flussi informativi, accessi e rapporti con altri obblighi normativi applicabili all’organizzazione.

Serve una policy interna per l’utilizzo dell’IA?

Una policy consente di definire quali strumenti possono essere utilizzati, quali dati possono essere inseriti, quali attività richiedono controllo umano e quali responsabilità spettano alle diverse funzioni.

Acquistare un software AI conforme elimina gli obblighi dell’azienda?

No. La conformità dichiarata dal fornitore non sostituisce la valutazione dell’uso effettuato dall’azienda. Il deployer può avere obblighi propri legati all’impiego del sistema.

Chi dovrebbe gestire l’AI Act all’interno dell’azienda?

Dipende dai sistemi utilizzati. Direzione, IT, privacy, legale, cybersecurity, HR e responsabili dei processi possono avere competenze diverse e devono essere coinvolti quando il sistema interessa le rispettive aree.