Dos expert systems aos data systems AI: impacto ao nível da proteção de dados

Resumo: O desenvolvimento da inteligência artificial, com o recurso às técnicas de machine learning e deep learning, é tributário do processamento de grandes quantidades de dados. Incluindo-se nestes os dados pessoais, facilmente acessíveis através da navegação em rede, são muitos os riscos que a realidade atual comporta para os seus titulares. Depois de analisarmos alguns desses riscos e de darmos conta dos níveis de proteção que o Regulamento Geral de Proteção de Dados dispensa, centrar-nos-emos num problema concreto, qual seja do potencial discriminatório que as decisões totalmente automatizadas encerram. Estudar-se-ão, assim, as soluções consagradas em matéria de criação de perfis e decisões automatizadas, para, in fine, questionarmos qual os mecanismos de reação se, apesar da proteção dispensada ao nível europeu, se chegar, por via algorítmica, a uma decisão discriminatória. A fragilidade de alguns dos remédios leva-nos a concluir pela necessidade de uma mudança de perspetiva a este nível.

Palavras-chave: dados pessoais, inteligência artificial, perfis, decisões automatizadas, responsabilidade civil.