Il Regolamento sull’IA dell’UE. Come regola l’Europa l’uso dell’intelligenza artificiale | IA nel business #68

Che cos’è l’AI Act e perché è importante per le PMI (piccole e medie imprese)?

L’AI Act è la prima regolamentazione del suo genere al mondo. La prima a trattare in modo completo l’intelligenza artificiale da un approccio incentrato sull’uomo. Mira a garantire che i sistemi di intelligenza artificiale utilizzati in Europa siano sicuri e stimolino l’innovazione, rispettando i diritti fondamentali, con un focus particolare su:

• sanità – ad esempio, rispettando la privacy dei dati dei pazienti,
• istruzione – aderendo ai valori promossi dall’Unione Europea e evitando discriminazioni,
• protezione delle frontiere – garantendo la sicurezza senza violare i diritti dei cittadini,
• servizi pubblici – seguendo le migliori pratiche nella protezione dei dati, nel diritto all’informazione e nella comunicazione chiara.

Per le PMI, l’AI Act porterà principalmente maggiore certezza legale poiché definisce chiaramente il quadro per l’innovazione: i principi di progettazione, sviluppo e applicazione dei sistemi di intelligenza artificiale. Renderà più facile per le aziende investire in soluzioni basate sull’IA, riducendo i rischi legali. Inoltre, le normative applicabili in tutta l’Unione impediranno la frammentazione del mercato.

Le normative europee sull’intelligenza artificiale sono state adottate dal Parlamento Europeo e dal Consiglio d’Europa il 9 dicembre 2023. Ora devono essere formalmente accettate da entrambe le istituzioni per entrare in vigore.

Aspetti chiave dell’AI Act per le imprese

L’AI Act dell’UE introduce un insieme di requisiti per i sistemi di intelligenza artificiale, a seconda del livello di rischio. Questi requisiti includono, tra l’altro:

• l’obbligo di trasparenza e di informare gli utenti in caso di interazioni con chatbot, sistemi biometrici o tecnologie di riconoscimento delle emozioni,
• divieto di utilizzare attributi sensibili per la categorizzazione biometrica,
• valutazione di conformità obbligatoria prima dell’ingresso nel mercato per i sistemi ad alto rischio,
• registrazione obbligatoria nel database dell’UE — dopo l’entrata in vigore dell’AI Act, i sistemi di intelligenza artificiale utilizzati in settori chiave come istruzione, occupazione, sanità e forze dell’ordine dovranno essere registrati.

I produttori e le aziende che utilizzano sistemi di intelligenza artificiale saranno anche obbligati a monitorare i rischi dopo averli introdotti nel mercato. Questo avrà un impatto diretto sulle aziende che progettano e implementano sistemi di intelligenza artificiale.

Livelli di rischio dei sistemi di intelligenza artificiale secondo l’AI Act dell’UE

L’AI Act classifica i sistemi di intelligenza artificiale in quattro categorie in base al loro livello di rischio:

1. Rischio inaccettabile
2. Alto rischio
3. Rischio limitato
4. Rischio minimo

Esaminiamo più da vicino come sarà definito ciascun gruppo, insieme a esempi di sistemi e delle loro classificazioni.

Rischio inaccettabile

L’Unione Europea impone un divieto completo sull’uso delle tecnologie elencate nell’AI Act come sistemi di rischio inaccettabile. Questi sono principalmente sistemi progettati per sfruttare la suscettibilità degli individui alla suggestione per manipolazione o inganno, sistemi che conferiscono all’intelligenza artificiale la capacità di prendere decisioni in questioni cruciali e quelli che potrebbero portare a un abuso di potere. Esempi di intelligenza artificiale di rischio inaccettabile includono:

• armi autonome che operano senza supervisione umana,
• sistemi di valutazione della credibilità utilizzati dalle forze dell’ordine,
• sistemi di identificazione automatica di individui in spazi pubblici, come quelli basati su riprese di telecamere di sorveglianza,
• sistemi di intelligenza artificiale che potrebbero essere dannosi per individui con disabilità fisiche o mentali,
• IA impiegata per scopi di forze dell’ordine, con eccezioni limitate,
• sistemi di intelligenza artificiale che utilizzano tecniche “subliminali” e manipolative dannose.

Per le aziende, l’ultima categoria è particolarmente importante. Ecco perché la trasparenza nel funzionamento dei sistemi che forniscono suggerimenti agli utenti e ai clienti sarà cruciale per la conformità alla nuova legislazione dell’Unione Europea.

Alto rischio

L’intelligenza artificiale classificata come soluzione AI ad alto rischio dovrà soddisfare requisiti rigorosi prima di entrare nel mercato. Ciò comporta valutazioni di conformità e test rigorosi prima di essere approvata per l’uso. Questa categoria di rischio include otto aree, come:

• veicoli autonomi,
• sistemi diagnostici medici,
• algoritmi predittivi a supporto del sistema giudiziario,
• gestione di migrazione e asilo, controllo delle frontiere, così come
• gestione dell’occupazione e della forza lavoro.

Rischio limitato

Ai sistemi a rischio limitato, comunemente utilizzati nelle imprese, i legislatori hanno fortunatamente prestato molta meno attenzione. Questa categoria include:

• chatbot AI – utilizzati per il servizio clienti o per rispondere a domande frequenti sotto forma di conversazione fluida,
• sistemi di riconoscimento delle emozioni – utilizzati, ad esempio, per raccogliere dati sulle opinioni dei clienti riguardo a un’azienda,
• sistemi di categorizzazione biometrica – come la valutazione del genere o dell’età dei clienti in un negozio fisico,
• generazione di immagini, audio o video – nonostante la minaccia rappresentata dai deep fake, quest’area sarà soggetta a un insieme limitato di obblighi.

Basso o minimo rischio

Le soluzioni AI a basso rischio non sono soggette a regolamentazioni legali. L’AI Act menzionerà solo che i creatori e gli utenti di tali soluzioni dovrebbero stabilire volontariamente politiche di utilizzo. Questo riguarda soluzioni come:

• sistemi di raccomandazione di contenuti nei servizi di streaming, o
• chatbot sui siti web che rispondono a domande tipiche dei clienti.

Quali requisiti impone l’AI Act sulle soluzioni utilizzate dalla mia azienda?

Per verificare se l’intelligenza artificiale utilizzata da un’azienda è conforme all’AI Act, è necessario:

• classificarla in una delle quattro categorie di rischio descritte sopra,
• se si tratta di IA ad alto rischio, condurre una valutazione di conformità,
• utilizzare buone pratiche riguardo all’IA a basso rischio.

Esaminiamo esempi di soluzioni AI frequentemente utilizzate dalle aziende. Quali requisiti dovranno soddisfare?

Un chatbot per il servizio clienti che fornisce informazioni di base sui prodotti o risponde a domande tipiche dei clienti sarà probabilmente classificato come un sistema a rischio minimo. Dovrà:

• informare gli utenti che stanno interagendo con un’IA,
• fornire l’opzione di essere reindirizzati a un consulente umano,
• aderire ai requisiti generali riguardanti la trasparenza, la non discriminazione, ecc.

Un sistema di raccomandazione di prodotti nell’e-commerce sarà probabilmente considerato un sistema a basso rischio. Sarà necessario informare i clienti che stanno ricevendo raccomandazioni personalizzate e fornire l’opzione di disattivarle.

D’altra parte, un sistema per diagnosi mediche automatiche sarà classificato come un sistema ad alto rischio. Dovrà sottoporsi a una rigorosa valutazione prima dell’ingresso nel mercato e sarà supervisionato da un umano. Inoltre, sarà necessario monitorare il suo funzionamento e segnalare incidenti.

Il sistema di prevenzione della criminalità urbana sarà considerato anch’esso ad alto rischio. Dovrà conformarsi alle normative sulla protezione della privacy e di altri diritti fondamentali. Il suo funzionamento dovrà essere sotto costante supervisione umana.

Non è chiaro in quale categoria ricadranno i sistemi di decisione basati sull’IA. È probabile che un sistema di reclutamento basato sull’IA che prende decisioni di assunzione autonomamente sarà considerato una soluzione AI di rischio inaccettabile. D’altra parte, un sistema di supporto al reclutamento che aiuta le persone a svolgere il proprio lavoro sarebbe considerato una soluzione ad alto rischio.

Per il bene del benessere degli utenti, così come per possibili cambiamenti nelle classificazioni, è molto importante affrontare la costruzione e l’uso dei sistemi di intelligenza artificiale in modo etico e responsabile fin dall’inizio.

Quali saranno le conseguenze della non conformità all’AI Act?

Non seguire l’AI Act potrebbe comportare sanzioni significative per le aziende, che vanno da 35 milioni di euro o 7% del fatturato globale per le grandi imprese a 7,5 milioni di euro o 1,5% per le PMI. I sistemi di intelligenza artificiale illeciti potrebbero essere ritirati dal mercato e il loro utilizzo potrebbe essere limitato.

Come prepararsi all’entrata in vigore dell’AI Act?

Quindi, come preparare un’azienda che utilizza intelligenza artificiale per l’entrata in vigore dell’AI Act nel 2025? Ecco alcuni suggerimenti su come le PMI e le startup possono prepararsi a questo momento:

• rimanere aggiornati sui progressi del lavoro e sulla tempistica per l’attuazione delle normative,
• valutare i sistemi di intelligenza artificiale già in uso e adattarli ai nuovi requisiti,
• prestare particolare attenzione agli aspetti etici nella progettazione dell’IA.

Riepilogo

L’introduzione dell’AI Act rappresenta un grande cambiamento per l’ecosistema dell’IA in Europa. Tuttavia, con regole chiare e coerenti, promette di garantire lo sviluppo sicuro ed etico di questa tecnologia, che dovrebbe beneficiare in particolare le PMI e le startup.

L’AI Act, che entrerà in vigore nel 2025, porterà cambiamenti significativi nel modo in cui le piccole e medie imprese (PMI) possono sfruttare l’intelligenza artificiale. Per le PMI, questo significa principalmente la necessità di una considerazione e analisi attenta delle soluzioni AI che utilizzano, sia in termini di conformità alle normative che di impatto potenziale su clienti e comunità.

Per i piccoli imprenditori e manager, è essenziale comprendere come i loro sistemi di intelligenza artificiale siano classificati in termini di rischio e quali azioni siano necessarie per allinearli alle normative in arrivo. Prendiamo, ad esempio, i sistemi di intelligenza artificiale utilizzati nella gestione dei clienti o nel marketing, che in precedenza erano utilizzati piuttosto liberamente. Ora, richiederanno un’analisi approfondita per la conformità all’AI Act. Questo potrebbe creare nuove opportunità per le aziende specializzate in consulenza legale tecnologica, fornendo supporto alle PMI nell’adattarsi a questi nuovi requisiti.

Se ti piace il nostro contenuto, unisciti alla nostra comunità di api operose su Facebook, Twitter, LinkedIn, Instagram, YouTube, Pinterest, TikTok.