È filtrato alla stampa, pubblicato inizialmente da Contexte, il documento con gli emendamenti all’AI Act, la proposta di regolamento dell’intelligenza artificiale in discussione in questi mesi presso il Parlamento europeo.

La testata francese riferisce che il deputato rumeno Dragoș Tudorache (Renew Europe) e il suo omologo italiano Brando Benifei (S&D) sono pronti a pubblicare la loro relazione sull’AI Act, dando il via a quello che potrebbe essere “uno dei negoziati più complessi dell’attuale mandato” al Parlamento europeo, come affermato da Dragoș Tudorache. I deputati hanno redatto 297 emendamenti che modificano, integrano e correggono una grande quantità di articoli.

In generale, le modifiche proposte coprono i seguenti aspetti:

• L’AI Act sarà più allineato al testo del GDPR, in modo che i due regolamenti siano complementari l’uno all’altro per lo lo sviluppo e l’adozione dell’intelligenza artificiale in Europa.
• I sistemi di polizia predittiva (quelli che prevedono chi è più a rischio di commettere crimini) dovranno essere banditi completamente poiché violano la dignità umana e la presunzione di innocenza e comportano un rischio particolare di discriminazione. Prima erano consentiti, seppur considerati ad alto rischio.
• I co-relatori propongono di aggiungere una serie di casi d’uso all’elenco dei sistemi AI ad alto rischio. Anzitutto i sistemi di AI utilizzati per influenzare o modellare lo sviluppo dei bambini, poi quelli utilizzati da candidati o partiti per influenzare i voti nelle elezioni locali, nazionali o europee, nonché i sistemi di AI utilizzati per contare tali voti, poiché hanno il potenziale, influenzando un gran numero di cittadini dell’Unione, di manipolare il funzionamento stesso della democrazia europea. Anche i sistemi di intelligenza artificiale utilizzati per il triage dei pazienti nel settore sanitario, e quelli utilizzati per determinare l’idoneità all’assicurazione sanitaria e sulla vita saranno considerati ad alto rischio.
• Farà probabilmente discutere l’inserimento nella lista dei sistemi ad alto rischio di quei programmi che generano da soli (o con pochi input) testi e articoli. Per intenderci, GPT-3 e simili usati al posto di redattori umani. Per il loro potenziale di inganno tali software dovrebbero essere soggetti sia ai requisiti di trasparenza sia ai requisiti di conformità che il regolamento chiede ai sistemi AI ad alto rischio. La stessa disposizione si applica ai sistemi che creano deepfakes.
• Nel testo originale si contestava il requisito di avere dataset “senza errori”. Qualsiasi data scientist sa che questo non è praticamente possibile (a meno di avere un dataset estremamente piccolo). Nella proposta emendata viene chiarito che i dataset “senza errori” dovrebbero essere un obiettivo generale da raggiungere secondo un principio di best effort, piuttosto che un rigido requisito.
• Sono stati chiariti anche i casi in cui i dataset sono in possesso degli utenti, dove il fornitore costruisce solo l’architettura generale del sistema. Chiarimenti che fanno un favore all’intero settore, poiché spesso la supply chain è complessa e tutt’altro che lineare. In quei casi le responsabilità devono essere chiaramente delineate tra i diversi attori che contribuiscono alla catena di valore.
• Albo UE per i sistemi AI ad alto rischio usati nel pubblico. Le autorità pubbliche sono soggette a maggiori aspettative di trasparenza. Per questo motivo le autorità pubbliche, le istituzioni, le agenzie o gli organismi dell’Unione dovrebbero registrare l’uso di sistemi di intelligenza artificiale ad alto rischio in un apposito database UE. Questo permetterà una maggiore supervisione democratica, controllo pubblico e responsabilità, insieme a una maggiore trasparenza verso il pubblico sull’uso dei sistemi di AI in aree sensibili che impattano sulla vita delle persone. L’albo dei sistemi AI ad alto rischio conterrà quindi anche i loro utilizzatori, se organismi pubblici.
• I compiti dell’AI Board saranno rafforzati. Questo organo dovrebbe svolgere un ruolo più significativo nell’applicazione uniforme del regolamento e nel fornire consigli e raccomandazioni alla Commissione, ad esempio sulla necessità di modificare l’allegato III (i sistemi ad alto rischio), nonché alle autorità nazionali di vigilanza. Il consiglio dovrebbe fungere da forum di scambio tra le autorità nazionali di vigilanza e, allo stesso tempo, dovrebbe costituire un luogo di arbitrato per le controversie che coinvolgono le autorità di due o più Stati membri, al fine di evitare la frammentazione del mercato unico attraverso un’applicazione differenziata.
• A livello nazionale, si sottolinea la necessità di una stretta cooperazione tra le autorità di sorveglianza del mercato e le autorità di protezione dei dati, poiché l’applicazione del regolamento richiederà le competenze di entrambi. Nei casi di violazione dei diritti fondamentali, dovranno essere coinvolgi anche gli organi competenti in materia di diritti fondamentali.
• È stato proposto un nuovo meccanismo da attivare nei casi di violazioni diffuse (in tre o più Stati membri), anche in caso di inazione su una violazione che ha un impatto su almeno tre Stati membri. Questo meccanismo, basato sul modello della legge sui servizi digitali, mira ad affrontare alcuni dei problemi di applicazione che sono stati osservati in altri sistemi di governance, a contribuire all’attuazione uniforme del regolamento e a rafforzare il mercato unico digitale. Secondo il meccanismo, in casi di violazioni diffuse, la Commissione dovrebbe avere i poteri di autorità di sorveglianza del mercato.
• Viene rafforzato il coinvolgimento di tutte le parti interessate e delle organizzazioni della società civile in diverse disposizioni chiave del regolamento, come gli aggiornamenti della lista dei sistemi AI ad alto rischio, il processo di standardizzazione, così come le attività del consiglio e le sandbox.

Fin qui le modifiche raggruppate in criteri generali. Fra i molti emendamenti, cito alcuni di quelli che mi hanno maggiormente colpito.

Prosegui qui la lettura dell'articolo.

Un sistema di intelligenza artificiale normalmente utilizzato per la ricerca di farmaci è stato impostato dai ricercatori per produrre molecole potenzialmente letali. Tutto quello che hanno dovuto fare è stato modificare la loro metodologia per massimizzare anziché che eliminare la tossicità. L’obiettivo era mostrare quanto sia facile abusare di questi sistemi al fine di creare armi biologiche. Come risultato, in meno di sei ore il sistema ha suggerito 40.000 molecole potenzialmente letali, alcune delle quali simili al VX, il più potente agente nervino mai sviluppato. I risultati sono stati pubblicati su Nature Machine Intelligence.

Alcuni studenti calabresi hanno ideato un sistema AI, recentemente presentato all’Expo di Dubai, che usa dati come le condizioni meteorologiche, informazioni orografiche, ecc, per elaborare piani di intervento più efficienti per contrastare gli incendi boschivi.

Google considera i testi generati da un modello di intelligenza artificiale (come ad esempio GPT-3) alla stregua di spam. Secondo il Search Advocate John Mueller, il contenuto generato automaticamente utilizzando strumenti di scrittura AI va contro le linee guida per i webmaster emanate da Google.

Una ricercatrice del Max Planck Institute ha creato HuggieBot: un robot bravo ad abbracciare le persone. Il robot è in grado di riconoscere e di rispondere in maniera pro-attiva ai gesti e ai comportamenti umani durante l’abbraccio, come ad esempio le carezze, l’aumento o la diminuzione della pressione, ecc. Per il suo lavoro con HuggieBot la ricercatrice Alexis Block ha vinto la Medaglia Otto Hahn del Max Planck Institute.

DeepETA, la tecnologia di Uber per stimare l’ora dell’arrivo di una vettura o della consegna di un ordine, è più complessa di quello che si possa pensare. L’azienda usa il deep learning per stimare correttamente l’orario, anche perché in base a quel dato è in grado di calcolare la tariffa applicata, il tempo di percorrenza, l’autista più vicino, ecc. Il meccanismo è spiegato sul blog dell’azienda.

Le reti generative avversarie (GAN) sono note per aver dato il via alla moda di creare volti di persone che non esistono, come il celebre This Person Does Not Exist. Ora un nuovo metodo, InsetGAN, consentirebbe anche la generazione di interi corpi, un compito non sempre facile a causa della grande variabilità di pose, vestiti, prospettiva, ecc.

InsetGAN combina più GAN, dove una prima rete genera una struttura iniziale (ad esempio, un corpo umano) e ulteriori reti generative avversarie, o inset, si concentrano su parti diverse (come i volti o le mani) che vengono quindi inserite nella struttura, creando la figura completa.

Google ha aggiunto alla sua suite Workspace una funzionalità di intelligenza artificiale che consente di creare automaticamente il riassunto di un documento Google Docs. I riassunti in Docs forniscono una breve panoramica dei punti principali del documento, vengono creati autonomamente dall’AI ma possono ovviamente essere modificati dagli utenti.