A evolução digital veio aumentar o nível de utilização de sistemas de Inteligência Artificial em diversos âmbitos no dia a dia das empresas e dos cidadãos.
A utilização de tecnologia de IA apresenta vantagens no sentido de possibilitar uma maior capacidade de processamento de dados e aceleração da transformação digital da sociedade. Do mesmo modo, como uma moeda de duas faces, esta inovação também apresenta desvantagens e efeitos nocivos, especialmente no impacto que tem sobre os direitos e liberdades dos cidadãos.
Recentemente, um dos casos que gerou atenção e preocupação está ligado à oculta da tecnologia de IA. Um cidadão norte americano viu bloqueadas as suas contas de e-mail, contactos e acessos associados à Google como consequência do envio de uma foto sobre virilha do seu filho menor para um médico, no sentido de ajudar no diagnóstico da patologia reportada.
A Google sinalizou aquela fotografia como material abusivo relacionado com pornografia infantil, bloqueou todos os acessos do utilizador, tendo inclusive efetuado participação criminal. O cidadão em causa contestou a decisão da Google e mesmo após as autoridades policiais concluírem não existir qualquer indício criminal, a empresa manteve o bloqueio.
É deste modo, que Elsa Veloso afirma que a “existência de decisões automáticas baseadas em perfis e algoritmos pode impactar seriamente os direitos e liberdades dos titulares que, inocentemente e inesperadamente, veem o seu nome associado a algo negativo com danos na sua imagem e reputação".
|