em Livros

Weapons of Math Destruction

Welcome to the dark side of Big Data.Cathy O'Neil, em 'Weapons of Math Destruction'

Esta frase, que conclui a introdução de Weapons of Math Destruction, livro da matemática e cientista de dados Cathy O’Neil é apenas uma demostração de todo o conteúdo do livro, que comecei a ler depois de assistir à uma palestra da autora no TED.

Nosso mundo é hoje cada vez mais cercado de modelos matemáticos, estatísticas e algorítimos que procuram automatizar ou otimizar o que puderem para buscar maior eficiência e rapidez.

Bons modelos matemáticos podem, por exemplo, fazer com que uma equipe esportiva tenha maiores chances de ganhar uma partida: Se considerarmos o futebol, o big data reina absoluto quando, a cada segundo, milhares de informações sobre os atletas são coletadas e processadas por especialistas que analisam não apenas número de gols, passes certos e cartões, mas também quantos chutes acabam gerando gols, a distância de que um chute é dado ou quanto um jogador depende dos demais para marcar. O mesmo ocorre com o basquete, vôlei, boxe, corridas ou baseball — que é aliás o esporte mencionado no livro.

O que é mais interessante em modelos matemáticos bons é que tanto vitórias quanto derrotas serão avaliadas, servindo para refiná-los e torná-los mais precisos e eficientes. Os dados deste tipo de modelo também são praticamente transparentes, pois  quase 100% das variáveis sendo medidas são conhecidas e declaradas: É só ver que até as crianças têm acesso a alguns destes dados, ao trocarem cards figurinhas entre si, e que canais como a NBA TV ou sites como o Footstats mostram os números atualizados ao longo de todas as partidas de basquete da NBA e de futebol, respectivamente.

Bons modelos matemáticos, segundo a autora, então, devem ser inteligíveisrealimentáveis após análise dos resultados gerados — para que não parem no tempo e continuem a gerar benefícios conforme seus projetos originais — e, finalmente, livres de rótulosestereótipos preconceitos.

Os modelos que não têm estas características, como nos mostra Cathy, geram dilemas morais e éticos. Por isso, a autora os batizou de WMDs, ou Weapons of Math Destruction — algo como armas de destruição matemática. Para todo WMD:

  1. Ninguém nunca sabe ao certo quais variáveis considera, tornando-o opaco;
  2. Suas premissas são sempre adotadas como se fossem as únicas verdades absolutas, sem qualquer terreno para revisão ou otimização e;
  3. Há uma carga de rótulos preconceitos que deveriam ser justamente os primeiros eliminados em tais modelos, já que os mesmos são executados de maneira automatizada, e é da natureza humana, e não das máquinas, pré-julgar ou inferir informações sobre as pessoas.

Um modelo WMD pode, por exemplo, relacionar o potencial de uma pessoa terminar de pagar um empréstimo, ou sua capacidade para uma vaga de emprego ao CEP do lugar onde mora — sendo isso altamente discriminatório e ultrajante.

Weapons of Math Destruction é, portanto, um livro que demonstra este tipo de relacionamento furado entre as informações, e como o big data desenfreado e mal utilizado acaba impedindo que as pessoas conseguir um seguro para seus carros, provocando a demissão de professores após a aplicação de testes de desempenho que supostamente deveriam estar corretos, mas que mais tarde nada mediram ou ainda, fazendo com que mais pessoas de certa cor ou região passem por um maior número de abordagens policiais. Tudo isso acelerado pelos computadores e fazendo com que aqueles mais prejudicados pelos WMD sejam cada vez mais prejudicados, num verdadeiro “o de cima sobe e o debaixo, desce“.

Detalhe: Este é o primeiro livro sobre big data que consegui ler até o fim, sem largar. Isso tem que valer alguns pontos extras.

Weapons of Math Destruction
Autor: Cathy O’Neil
Iniciado em 27/08/2017
Concluído em 14/09/2017
Veja o livro no Goodreads
Avaliação final 

Escreva um comentário

Comentário