Bom, para a retomada da nova versão do blog começo com o excelente livro "Algoritmo de Destruição em Massa", da autora Cathy O'Neil. Confesso que antes de ler tinha um certo receio de o tema fosse abordado de um modo terrorista (tentando assustar essa nova ciência) ou conspiracionista, porém não acontece isso. Sempre que ela mostra os riscos do uso do algoritmos é embasado com informação de quem tem anos de experiência na área.
Com Ph.D em Matemática pela Harvard, Cathy O'Neil largou a carreira acadêmica para entrar no mercado financeiro. Seu primeiro livro, Doing Data Science, tem uma abordagem mais didática sobre ciência de dados. Já no best seller ADM ela usa uma visão mercadológica do tema, mostrando suas aplicações e implicações. Inicio então abordando a silga ADM, que se ajusta tanto ao título da tradução (Algoritmo de Destruição em Massa) quando à tradução literal do título original (Armas de Destruição Matemática).
O livro dividido em capítulos, onde cada capítulo (tirando os dois primeiros que são introdutórios) é focado em um mercado (financeiro, educação, seguros, publicidade, justiça, seleção profissional, vida cívica e trabalho), iniciando sempre com uma explanação de como as ADMs funcionam em cada um desses mercados os prós e contras (foco sempre nos contras) desse uso. Os contras geralmente são os mesmos: as ADMs são enviesadas (nem todas), sempre favorecendo os que já são favorecidos e desfavorecendo os que mais precisam. Os vieses tem diversas origens, podendo ser pela região geográfica do indivíduo, ou por sua origem, posição social, etc.
Porém a grande conclusão do livro (****CONTÉM SPOILER - CASO NÃO QUEIRA PULE ESTE PARÁGRAFO****) é que as ADMs que são enviesadas são pelos mesmos motivos: opacidade, escala e dano. Opacidade ou falta de transparência pois essas ADMS são como uma caixa preta, fechada, onde não conseguimos entender como funcionam. Dados entram e cospem um resultado, mas como ninguém sabe ela chegou nesse resultado (somente a empresa que criou, porém não se importam muito com isso). Isso impede em entender quando uma ADM cometeu um erro e ,principalmente, poder ser corrigir. Juntandos essa opacidade e incapacidade de corrigir os erros, e aplicando em larga escala, o dano está feito.
Em cada capítulo então ela mostra como essa opacidade contribuem para os vieses das ADMs, dando vários exemplos ocorridos no território norte americano (porém se aplica a outras regiões), e exemplificando também casos em que ADMs abertas (não opacas) funcionam perfeitamente, onde é possível entender como funcionam, o porquê do resultado gerado, e corrigindo caso encontrado algum problema.
Por que ler este livro? Primeiramente para entender o que é e como funcionam as ADMs; para saber o que uma dieta única nacional tem a ver com ADMs; o que é o fechabrir (clopening); como as ADMs são responsáveis pela polarização nas redes sociais; como filtros de spam podem ser reorganizados para identificar o vírus da AIDS; o que é frenologia; a SKYNET está próxima?; e principalmente para poder fugir (quando possível) dos vieses da ADMs.
Nenhum comentário:
Postar um comentário