Con una recente risoluzione il Parlamento Europeo ha chiesto alla Commissione Europea di aggiornare le norme su sicurezza e responsabilità per i prodotti abilitati all’intelligenza artificiale e per i processi decisionali automatizzati.
La risoluzione non legislativa, in quanto ha solo potere di indirizzo sulla Commissione europea, affronta le diverse sfide derivanti dal rapido sviluppo delle tecnologie dell’AI e dei processi decisionali automatizzati con particolare attenzione alla protezione dei consumatori, e accoglie con favore il potenziale dei processi decisionali automatizzati nel fornire servizi innovativi e migliorati, compresi i nuovi servizi digitali come assistenti virtuali e chatbot. Però, quando i consumatori interagiscono con un sistema automatizzato, dovrebbero essere sempre adeguatamente informati “su come contattare un essere umano dotato di potere decisionale e come sia possibile controllare e correggere le decisioni“.
Inoltre, il Parlamento europeo afferma che “gli esseri umani devono sempre essere responsabili, in ultima istanza, delle decisioni prese nell’ambito di servizi professionali”, come le professioni mediche, forensi e contabili, il settore bancario. Si chiede perciò di utilizzare solo dati di alta qualità e algoritmi imparziali e di introdurre strutture di revisione per rimediare a possibili errori nelle decisioni automatizzate, incluso un rimedio specifico per le decisioni automatizzate permanenti.
Secondo la legislazione UE i commercianti devono informare i consumatori quando il prezzo dei beni o dei servizi è stato personalizzato sulla base di processi decisionali automatizzati e della profilazione del comportamento dei consumatori. I deputati chiedono alla Commissione di monitorare attentamente l’attuazione di tali norme. L’UE deve inoltre garantire che i processi decisionali automatizzati non siano indebitamente utilizzati per discriminare i consumatori in base a nazionalità, luogo di residenza o ubicazione temporanea.
