Machine learning: uma proposta de guia orientativo para o exercício do direito de revisão das decisões automatizadas
Carregando...
Arquivos
Data
2023
Autores
Orientador(res)
Silva, Alexandre Pacheco da
Métricas
Título da Revista
ISSN da Revista
Título de Volume
Resumo
O direito de revisão surgiu para atender à preocupação da sociedade contemporânea com relação aos impactos e riscos decorrentes de decisões automatizadas no cotidiano da vida moderna. Há dúvidas com relação aos limites de seu exercício diante da ausência de regulação, somada à complexidade técnica dos sistemas de aprendizagem de máquina e da proteção legal dos segredos de negócio. Este trabalho analisa os limites do direito de revisão e propõe uma solução para atender os interesses envolvidos de forma equilibrada, durante o hiato regulatório sobre o tema no Brasil. Foi adotado o modelo de pesquisa para resolução dos problemas identificados, com proposição de procedimento para atendimento de pedidos de revisão, dentro dos limites identificados. Restou apurado que o exercício do direito de revisão depende das peculiaridades da técnica adotada, dos modelos e paradigmas, e da existência e grau de envolvimento e dependência do sistema automatizado com relação à intervenção humana. Restou apurado que o Brasil é mais permissivo e ameno aos controladores por não estabelecer regra de proibição geral, tal como no GDPR. Por ausência de previsão legal, a revisão humana das decisões automatizadas não é obrigatória no Brasil, cabendo ao controlador optar por adotála ou utilizar de outro sistema automatizado. Faz-se necessário um aprofundamento técnico das etapas de desenvolvimento e de tomada de decisões automatizadas por sistemas de aprendizagem de máquina, considerando o grau de influência e intervenção humana e seus possíveis impactos aos titulares, para que seja possível elucidar os resultados obtidos e permitir o exercício do direito de revisão de forma efetiva, com preservação dos segredos de negócio.
Descrição
Palavras-chave
Automated decision Automation Algorithm Machine learning Right of review Personal data Data mining Right to explanation Transparency Opacity Business secret Decisão automatizada Automação Algoritmo Aprendizagem de máquina Direito de revisão Dados pessoais Big data Mineração de dados Direito de explicação Transparência Opacidade Segredo de negócio