Algoritmos y sesgo

Ahora, ¿qué es un algoritmo? En esta era, parece que estamos hablando de esta palabra poco comprendida todo el tiempo. Se menciona "el algoritmo" y se señala como el culpable de ordenar nuestras vidas y la información que vemos en Internet.

Un algoritmo es un conjunto de pasos ordenados que determina cómo y con qué grado de valoración se procesarán los datos. Si entendemos que esta decisión no es arbitraria, sino que busca un objetivo a menudo determinado por una empresa multinacional, no es difícil entender las implicaciones: quieren aumentar las ganancias, sin importar si esta decisión nos beneficia o no.

Para entender qué es un algoritmo y los problemas que puede tener, Cathy O'Neil escribió un libro llamado "Armas de Destrucción Matemática". En él explica con ejemplos los problemas derivados del diseño de algoritmos de procesamiento de datos. Ella dice una gran verdad: ¿cuál es el objetivo en el análisis? ¿Quién decide? ¿Quién diseña los algoritmos y cuáles son sus suposiciones? ¿Y quién se beneficia?

Cathy O'Neil ofrece un ejemplo muy claro de cómo los algoritmos están moldeados por quienes los controlan. Ella plantea que tiene un algoritmo en su cabeza que decide cada noche qué cocinar para cenar. Las variables que utiliza son el valor nutricional, qué ingredientes tiene en la nevera, cuánto tiempo tiene para cocinar y si tiene ganas de hacerlo, lo que comió al mediodía, los gustos de su familia, etc. Su cabeza procesa todo esto y decide qué cocinar ese día en particular. ¿Qué pasaría si su hijo tomara el control del algoritmo? La nutrición ciertamente sería una consideración secundaria y el sabor tendría prioridad, resultando en papas fritas en lugar de pescado a la parrilla.

Los sesgos son numerosos y tienen un gran impacto en la sociedad. Si a esto le sumamos el hecho de que la mayoría de los algoritmos que usamos todos los días están programados en países industrializados por hombres blancos con cierto estatus socioeconómico y nivel educativo, corremos el riesgo de que las minorías, los disidentes y las mujeres nunca sean tenidos en cuenta. De hecho, solo el 22% de los programadores en todo el mundo son mujeres. En los Estados Unidos, la mayor economía en la industria, el 67.7% de los programadores son blancos, el 19.5% son asiáticos y menos del 13% son negros o tienen otras identidades étnicas. Ni siquiera se cuentan los latinos en las estadísticas. Los resultados de esto han sido casos frecuentes donde se ha demostrado que los algoritmos refuerzan sesgos raciales, de género y anti LGBTQ.

Notes

•     Morozov, E. (2011). The Net Delusion: How Not to Liberate The World. Penguin Books Limited. ↩︎
•     O'Neil, C. (2016). Weapons of Math Destruction: How Big Data Increases Inequality and Threatens Democracy. Crown.  ↩︎