L’AI Act è una nuova normativa adottata dall’Unione Europea che si pone l’obbiettivo di regolamentare lo sviluppo e l’utilizzo dell’intelligenza artificiale, garantendo usi sicuri ed etici e salvaguardando i valori dell’Unione.
Esso si applica ad ogni sistema di intelligenza artificiale che “produce output” nell’Unione Europea, indipendentemente da dove sia stato originato.
La normativa mira a promuovere l'innovazione responsabile e a proteggere i diritti fondamentali dei cittadini europei, stabilendo un quadro giuridico chiaro per le applicazioni dell'IA. Il regolamento classifica gli algoritmi AI in categorie di rischio. Le regole sono più severe per le applicazioni ad alto rischio. Queste includono settori come quello finanziario, sanitario, del lavoro, dell'educazione e della sicurezza.
Le categorie di rischio sono in totale tre:
- Vietate, di cui gli utilizzi di IA che provocano danni notevoli o gravi lesioni ai cittadini dell'UE o alle loro libertà fondamentali.
- Alto rischio, con stringenti requisiti da fornire alle autorità di vigilanza per poter essere ammesse
- Ammesse, aventi un insieme più limitato di requisiti essendo sistemi di IA a rischio inferiore
Le tempistiche per l'implementazione dell'AI Act prevedono che il regolamento entri in vigore nel 2024, con un periodo di adattamento per permettere alle imprese e alle istituzioni di conformarsi ai nuovi requisiti.
Le sanzioni per la non conformità all'AI Act possono essere significative, con multe che possono arrivare fino a 30 milioni di euro o al 6% del fatturato annuo globale dell'azienda, a seconda di quale importo sia maggiore. Le sanzioni rispecchiano la determinazione dell’UE di salvaguardare l’eticità di questa tecnologia tanto potente quanto rischiosa, in particolar modo quando applicata in settori critici.
L’AI Act impatterà il settore finanziario in più modi, essendo una normativa che ingloba ogni tipo di algoritmo AI. La tecnologia è già ampiamente sviluppata nel settore, sia a scopi connessi al core-business che per scopi di marketing, la detezione delle frodi, l’analisi dei dati, il customer service o la creazione di soluzioni tailor-made per i propri utenti.
Ma quali sono, nel concreto, gli impatti dell'AI Act per il finance?
L'impatto maggiore sarà sugli algoritmi che influenzano i cittadini e i consumatori, come l'accesso al credito e ai prodotti assicurativi. Questi sono importanti e delicati per la società.
In particolare, due tipi di algoritmi:
· Sistemi di AI per la valutazione del rischio di credito (“credit worthiness”)
· Sistemi di AI per la valutazione del rischio e del prezzo per assicurazione sulla vita o sulla salute
Secondo l'AI Act, i sistemi AI di questo tipo sono considerati ad alto rischio. Anche se non sono proibiti, saranno richiesti diversi requisiti dagli organi di vigilanza per poterli utilizzare. Il regolatore ha deciso di classificarli in questa categoria per evitare il rischio di bias algoritmico.
L'intelligenza artificiale potrebbe replicare o esacerbare schemi discriminatori dannosi per alcuni gruppi di persone e consumatori.
In particolare, gli algoritmi ad alto rischio richiederanno:
1. Analisi del rischio: L'analisi dei rischi deve essere esaminata e aggiornata periodicamente. È necessario identificare eventuali rischi o impatti negativi e implementare misure di mitigazione.
Le scelte fatte devono essere documentate e spiegate, coinvolgendo esperti e consulenti esterni se opportuno, poiché ciò migliora la valutazione. (questo influenza positivamente la valutazione). Non va analizzato solo il comportamento anticipato, ma anche considerare un utilizzo improprio imprevedibile dello strumento/tecnologia inclusa interazione con altri elementi.
2. Verifica della qualità del dato: Analisi di data quality, per pulizia dei dati di input e la prevenzione di errori fatali.
3. Creazione e manutenzione di una documentazione completa che spieghi come funziona il sistema di IA, le sue caratteristiche e i rischi. Questa documentazione deve essere fornita alle autorità di controllo.
4. Conservazione dei Log: Assicurare la tracciabilità di ogni operazione tramite registrazione dei file di log (secondo il principio del normatore della transparency)
5. Informativa: Fascicolo fornito al deployer (chi utilizza/gestisce il sistema AI) con ogni informazione ad esso necessaria.
6. Sistema di sorveglianza umana: Il sistema va supervisionato da un umano.
7. Cybersecurity: Va assicurata la robustezza della sicurezza informatica.
Altri sistemi di intelligenza artificiale in un istituto finanziario saranno influenzati dal livello di rischio. Questi includono i chatbot, i sistemi di visione artificiale e di segmentazione dei clienti.
Ogni algoritmo deve essere trattato singolarmente, in base alla categoria di rischio a cui appartiene, anche se, tranne casi particolari, questi rientrano generalmente tra le IA a basso rischio.
In ogni caso, molti esperti del settore consigliano alle aziende di incorporare già elementi di monitoraggio tipici degli algoritmi ad alto rischio per garantire una maggiore sicurezza futura.
Inoltre, l'AI Act introdurrà anche nuovi requisiti per i cosiddetti sistemi di IA di uso generale, inclusi i modelli di linguaggio ampi e le applicazioni di IA generativa.
Vista l’elevata incertezza su come si concluderà l'attuale dibattito sulla regolamentazione dei sistemi di IA, è essenziale che le istituzioni finanziarie monitorino attentamente l'evoluzione del tema. Questi modelli avranno numerose applicazioni in un settore rapido come quello finanziario, anche con l’aumento delle potenzialità della generative AI.
Le possibilità offerte da tali sistemi comprendono l'automazione di processi complessi, l'analisi predittiva per l'identificazione di tendenze di mercato e la personalizzazione avanzata dei servizi ai clienti. Per esempio, i modelli di intelligenza artificiale possono aiutare a migliorare le previsioni finanziarie, ottimizzare le strategie di investimento e creare nuovi prodotti finanziari innovativi.
Tuttavia, è essenziale che le istituzioni finanziarie adottino un approccio prudente e responsabile, garantendo la conformità alle future normative e la protezione dei dati sensibili dei clienti. Tenere costantemente sotto controllo le evoluzioni normative e tecnologiche sarà cruciale per sfruttare appieno i benefici dell'IA nel settore finanziario.
Vuoi approfondire questi temi?