14. Fazer a coisa certa: ética em sistemas de dados e IA
Modelos preditivos e coleta de dados afetam pessoas: projete com responsabilidade, privacidade e consentimento.
Resumo
- Análise preditiva e ML decidem crédito, emprego, seguro. Erros atingem pessoas sem chance de recorrer.
- Viés: modelo treinado em dados históricos aprende e amplia discriminações. "Lavagem de viés" por algoritmo.
- Responsabilidade: quem responde pelo erro do algoritmo? Explicabilidade e recurso humano são necessários.
- Feedback loops: previsões influenciam o mundo e os próximos dados, reforçando o erro (ex.: crédito negado → pior histórico).
- Privacidade: rastreamento vira vigilância; consentimento real é raro. Dados são poder; leis (LGPD/GDPR) e autorregulação.
Perguntas-chave
responda de cabeça, depois abraComo um modelo pode discriminar sem usar raça ou gênero como entrada?
Outras variáveis (CEP, nome, hábitos) se correlacionam com esses atributos e o modelo aprende o mesmo padrão por esses proxies.
O que é um feedback loop prejudicial?
A decisão do sistema altera o comportamento ou a situação da pessoa, gerando dados que confirmam a previsão original.
Por que os autores comparam dados a resíduos tóxicos?
Guardar dados pessoais cria risco de vazamento e abuso futuro; colete o mínimo e apague o que não precisa.
Exercícios de fixação
0/5 respondidas1.
Um modelo de crédito não usa raça como entrada, mas aprova menos moradores de certos bairros. O que provavelmente ocorre?
2.
Um sistema policial prevê crimes onde houve mais registros e envia mais patrulhas para lá, gerando mais registros. Isso é:
3.
Qual prática reduz o risco de dados pessoais guardados?
4.
Uma pessoa tem emprego negado por um sistema automático. O que o capítulo considera necessário?
5.
Por que "aceitei os termos" raramente é consentimento real, segundo o capítulo?