Il Laboratorio Nazionale di Artificial Intelligence and Intelligent Systems (AIIS) del CINI (Consorzio Interuniversitario Nazionale per l’Informatica) ha presentato qualche giorno fa AI for Future Italy, un documento di proposte e raccomandazioni per lo sviluppo dell’intelligenza artificiale in Italia.

Anche il CINI, come già la task force del MISE (di cui ha fatto parte anche la Prof.ssa Rita Cucchiara, direttore del Laboratorio Nazionale AIIS e fra gli autori di questo documento), ha raccomandato l’istituzione di una “cabina di regia” per l’AI in Italia, che secondo gli esperti del CINI dovrebbe essere coordinata dalla Presidenza del Consiglio dei Ministri. Oltre a questo l’Italia dovrebbe dotarsi di un “Progetto nazionale 2030” per l’AI, un programma che finanzi molteplici progetti di ricerca in aree come l’affidabilità dell’intelligenza artificiale, il ragionamento, le capacità decisionali anche in contesti sociali.

Una delle particolarità del documento è quella di prevedere dei KPI – key performance indicator, proprio come nei business plan aziendali – per valutare l’efficacia delle strategie. Quindi, per fare un esempio, l’eccellenza italiana nella ricerca AI andrà misurata in termini di pubblicazioni scientifiche, progetti finanziati, premi, ecc (c’è da dire che è già ai massimi livelli in Europa).

Non mancano raccomandazioni per il mondo dell’istruzione e quello del lavoro, ma soprattutto la proposta di creare l’Istituto Nazionale in Intelligenza Artificiale (INIA), un progetto per certi versi simile a quello del gruppo di lavoro del MISE (citato diverse volte nel documento) che vuole creare l’Istituto Italiano di Intelligenza Artificiale (I3A). Ma a differenza dell’I3A, l’INIA proposto dagli esperti del CINI sarebbe più distribuito geograficamente, con laboratori, sezioni e centri AI sparsi da nord a sud, per meglio interfacciare la ricerca AI con le realtà locali.

In merito a quest’ultimo punto bisogna riconoscere che il CINI ha già una certa esperienza con tale metodo di lavoro: solo l’AIIS ha al suo attivo 55 nodi distribuiti su 47 università e istituti di ricerca, fra cui il CNR, l’IIT e la Fondazione Bruno Kessler. Non sorprende quindi che proponga di adottare una modalità di cooperazione – uniformemente distribuita su tutto il territorio nazionale – che all’atto pratico ha già saputo dare ottimi risultati.

Il documento è disponibile qui (si tratta di un link a Google Drive, nel caso non dovesse funzionare dovreste poter trovare un link funzionante dalla pagina del CINI).

L’evento di presentazione è disponibile qui (sempre su un link di Google Drive) anche se purtroppo si ferma a metà, risultando quindi incompleto.

Di recente è stato pubblicato il documento “Artificial Intelligence and Law Enforcement – Impact on Fundamental Rights“. Uno studio commissionato dal Dipartimento tematico Politiche per i diritti dei cittadini e gli affari costituzionali del Parlamento europeo su richiesta della commissione LIBE che esamina l’impatto dell’AI sui diritti fondamentali nel campo della pubblica sicurezza e della giustizia penale.

Il documento presenta il quadro giuridico applicabile (in particolare in relazione alla protezione dei dati) e analizza le principali tendenze e discussioni politiche. Lo studio prende in considerazione anche gli sviluppi successivi all’epidemia di Covid-19.

Lo studio è disponibile qui: Artificial Intelligence and Law Enforcement – Impact on Fundamental Rights (pdf)

Già in passato ho apprezzato l’adozione nel settore dell’intelligenza artificiale di alcuni sistemi e metodi mutuati dal mondo della cybersecurity. Uno di questi consiste nel creare al proprio interno una squadra avversaria – che operi con logiche e modi tipici di un nemico – per cercare di “rompere” i prodotti o i servizi messi su dall’azienda. Ovviamente in un ambiente controllato.

Questo metodo si chiama genericamente “red team“, dal colore usato dalla squadra di attaccanti nelle varie simulazioni militari (per contro, la squadra dei difensori di solito è il “blue team”). Wired questa settimana ha un’interessante storia sul “red team” di Facebook per l’intelligenza artificiale, dove una squadra di esperti di adversarial AI cerca in tutti i modi di vincere sugli algoritmi di moderazione della piattaforma social (il team si concentra molto sui filtri anti-pornografia di Instagram che a quanto pare molti utenti fanno di tutto per aggirare).

Il lavoro del red team di Facebook, in particolare le loro vittorie, fornisce così informazioni utili al “blue team” per migliorare le difese della piattaforma.

Per approfondire: Facebook’s ‘Red Team’ Hacks Its Own AI Programs

Un lungo articolo su Algorithm Watch spiega con dovizia di particolari quello che si sa sull’uso del riconoscimento facciale da parte della polizia in Slovenia.

La storia è interessante non solo perché la Slovenia è un Paese a noi vicino e membro dell’Unione Europea, ma perché ricalca quello che spesso vediamo anche altrove quando qualcuno cerca di fare chiarezza sulle modalità e sui limiti di utilizzo delle tecnologie di riconoscimento facciale da parte dello Stato: riluttanze, mezze verità, ammissioni nebulose.

Dalle varie testimonianze raccolte dall’associazione sembra che la polizia slovena già cinque anni fa avesse la capacità di individuare e riconoscere i cittadini grazie a un software chiamato Face Trace, ma per trovarne menzione ufficiale bisogna affrontare un enorme muro di reticenze.

Inoltre qualche mese fa, con la scusa delle misure anti-covid, il governo aveva provato a far passare una legislazione – ora parzialmente emendata – che nella sua forma originale il Garante per la Privacy sloveno non aveva esitato a definire “da stato di polizia“. Essa avrebbe consentito ad esempio alle forze dell’ordine di tracciare la posizione dei cellulari anche senza l’autorizzazione di un giudice.

Per approfondire l’argomento: Slovenian police acquires automated tools first, legalizes them later

L’azienda Deeptrace ha rilasciato le API per un prodotto che dovrebbe essere in grado di riconoscere un deepfake da un’immagine autentica. La tecnologia individua “tracce innaturali” che i generatori lasciano nelle immagini, riuscendo persino a riconoscere la specifica implementazione della rete generativa avversaria, come ad esempio StyleGAN2 di Nvidia.

Per approfondire: Deepfake Detection API: The automated solution for identifying fake faces

Alcuni ricercatori del Dipartimento di Ingegneria “Enzo Ferrari” dell’Università di Modena e Reggio Emilia, guidati dalla Prof.ssa Rita Cucchiara, hanno realizzato un sistema di computer vision per misurare le distanze interpersonali e prevedere i livelli di rischio del contagio creando mappe dinamiche delle aree monitorate.

Il sistema, chiamato Inter-Homines, funziona sia in ambienti interni sia esterni, in aree pubbliche o private, con la possibilità di applicare il software a sistemi di videosorveglianza già esistenti.

Inter-Homines è già in uso presso il Comune di Modena in particolare negli uffici dell’Anagrafe e l’URP.

Per approfondire: Inter-Homines – Distance-based risk estimation for human safety

Il pdf dello studio è disponibile qui: https://arxiv.org/pdf/2007.10243.pdf