Inteligência artificial e algoritmos de “caixa preta”: dilemas e regulação necessária

Abstract

O presente trabalho conceitua a Inteligência Artificial (IA) no contexto da era da informação e a partir da evolução dos algoritmos, do poder computacional e da profusão dos dados potencializada pelo uso massivo da Internet. Dedica especial atenção à aprendizagem de máquina e à arquitetura das redes neurais profundas (Deep Learning), definindo-as em termos conceituais e tratando de sua aplicabilidade em problemas complexos. Discorre, em seguida, sobre os chamados algoritmos de “caixa preta” (black-box algorithm), assim considerados os que são construídos a partir dos dados de entrada e não propriamente da sequência de passos determinados por um programador. Estes algoritmos, apesar de poderosos, não nos permitem saber como os sistemas de IA de fato se comportam ou como chegaram às respectivas soluções, impondo-nos variados desafios de conformidade. O texto também delineia as técnicas voltadas à explicabilidade algorítmica nas suas diversas abordagens e trata de questões éticas resultantes das aplicações de Machine Learning nos âmbitos da Justiça Criminal, da pontuação de crédito e do reconhecimento facial, apontando para os direitos humanos possivelmente desafiados pelas respectivas tecnologias. Segue informando sobre como as organizações internacionais e as grandes empresas de tecnologia têm se posicionado em relação aos problemas éticos ligados à IA e de que forma a União Europeia se prepara para regrar o assunto. Destaca pontos do Regulamento Geral de Proteção de Dados da União Europeia (GDPR) e da nossa Lei Geral de Proteção de Dados (LGPD) que podem repercutir nas aplicações de Inteligência Artificial e anuncia a nova Estratégia Brasileira de Inteligência Artificial (EBIA). Finalmente, apresenta os projetos de lei sobre Inteligência Artificial em curso no Brasil, com as considerações do autor sobre sua aplicabilidade e limites.

The present study conceptualizes Artificial Intelligence (AI) in the context of the information age and from the evolution of algorithm, computational power and data profusion booted by extensive use of the internet. Special attention is given to machine learning and the architecture of deep learning neural networks (Deep Learning), both of which are defined in conceptual terms dealing with their applicability in complex problems. Next, the so-called “black-box” algorithms are discussed, being regarded as those constructed from input data and not precisely following a sequence of steps determined by a programmer. In spite of being powerful, those algorithms do not elucidate how AI systems really behave or how they reach their respective solutions, posing varied compliance challenges. The text also outlines the techniques aimed at algorithmic explainability in their multiple approaches and deals with ethical questions resulting from Machine Learning applications in the scope of Criminal Justice, credit scoring and facial recognition, pointing out human rights possibly challenged by the respective Technologies. Information is detailed concerning how international organizations and big technology companies have positioned themselves in relation to Ethical problems related to AI and how the European Union is preparing to rule the matter. The text highlights points of the European General Data Protection Regulation – GDPR and the Brazilian Data Protection General Law – LGPD as they may affect the applications of Artificial Intelligence and announces the novel Brazilian Strategy for Artificial Intelligence (EIBA). Finally, it presents bills regarding Artificial Intelligence currently in progress in Brazil, along with the writer´s considerations on its applicability and limits.