Armas de destrucción matemática

Cathy O’Neil (1972) publicó Armas de destrucción matemática en 2016 y su traducción, de Violeta Arranz de la Torre, se publicó en 2018. Esta atrapante investigación periodística de la doctora en matemáticas, experta en algoritmos informáticos, nos advierte del lado siniestro del llamado Big Data.

En diez capítulos cortos, cuyos títulos aluden con franca ironía a la estrategia militar, O’Neil quiebra cualquier noción ingenua que pudiésemos tener sobre la neutralidad científica de los sistemas que procesan cantidades masivas de datos y afectan a millones de vidas humanas.

Lo que resulta más inquietante de Armas de destrucción matemática es justamente lo que lo hace una lectura imprescindible: nos informa de la apabullante práctica, tanto en el sector privado como en el público, de basar decisiones con importantísimas consecuencias en las conclusiones erróneas obtenidas de servicios informáticos.

Dichos servicios abarcan las evaluaciones académicas y de desempeño laboral, predicciones de comportamiento delictivo, identificación de compradores, evaluación de riesgo de la inversión financiera, el otorgamiento de préstamos a crédito, la optimización de la cobertura de seguros médicos, gestión de contenido en redes sociales y en campañas políticas para influir en el voto, entre otros.

Todos ellos resultan cruciales en el acceso a condiciones justas de vida en las sociedades actuales.

Y, aunque Armas de destrucción matemática analiza más que nada casos en EE.UU., la tendencia hacia el uso de estos servicios informáticos es sin duda de alcance global, como lo vemos en el caso de la especulación financiera y las redes sociales.

Por lo tanto, su lectura—y su relectura, recomendaría yo—nos convierte en ciudadanos y usuarios verdaderamente informados.

La carrera de la autora la sitúa en el epicentro del vínculo entre el sector privado y la vida pública, y su estilo deja entrever su particular sentido del humor.

Además de su preparación académica, O’Neil diseñó algoritmos de especulación para la industria de inversión financiera y construyó modelos de generación de clics y predicciones de compras para empresas de comercio electrónico.

Tras su desencanto con la profesión, al darse cuenta de los efectos injustos de los modelos informáticos en casi todos los rubros, decidió unirse a al movimiento Occupy y fundó el programa Lede de periodismo de los datos de la universidad de Columbia.

Es esta la perspectiva desde la cual nos explica los sesgos en el desarrollo de algoritmos que devienen en la exacerbación de la desigualdad social y, sin embargo, se venden tan bien, generando enormes ganancias y poder desmedido para las empresas e instituciones que los utilizan.

Armas de destrucción matemática nos informa en un tono directo que da la sensación de estar escuchando la voz de Cathy O’Neil tal cual es, sin que los editores la estilicen demasiado para hacerla menos, pues, seamos sinceros, ñoña.

A mi parecer, eso es lo que le da encanto a la lectura. De hecho, me hizo pensar, “solo a una doctora en matemáticas con el pelo pintado de azul se le ocurrirían estos juegos de palabras”, “solo alguien como ella contaría anécdotas con frases tan cortas y tan pocos adornos”. Al no buscar ser agradable, logra ser interesante y tener gracia original. Espero que en la traducción se haya podido recoger esta sinceridad.

Porque es así, con su muy particular voz, que O’Neil hace también de Armas de destrucción matemática un llamado enérgico a que los desarrolladores de algoritmos y los científicos de los datos adopten un juramento hipocrático.

Con evidencia indiscutible deja en claro que la ciencia y el desarrollo tecnológico desprovistos de ética pueden convertirse demasiado fácilmente en instrumentos de opresión con apariencia de neutralidad.

Si ya se armaron de valor para enfrentar las verdades en este libro, les recomiendo que elijan un momento en el que estén de muy buen humor y con reservas abundantes de optimismo para sumergirse en él.

Adriana Nodal-Tarafa