No divulgación del código fuente del software y algoritmos relacionados

 ¿Qué dicen los acuerdos de comercio electrónico?

Ninguna Parte podrá exigir la transferencia de, o el acceso a, código fuente de software propiedad de una persona jurídica o natural de la otra Parte.

¿Qué implica esto?

Desigualdad, pobreza, exclusión y competencia desleal

Para entender ampliamente esta cláusula en los acuerdos de libre comercio, es necesario recordar qué es un algoritmo y cómo funciona. Exploramos esto en la Unidad 1 de este curso.

Todo lo que ocurre en la economía digital se basa en algoritmos: son los que realmente procesan la gran cantidad de datos que generamos cada día y los transforman en información. Cuando hacemos una búsqueda en línea, un algoritmo decide qué resultados vemos primero; cuando iniciamos sesión en Netflix, un algoritmo decide qué películas ofrecernos; un algoritmo procesa imágenes médicas e indica la probabilidad de que una sombra sea un tumor; un algoritmo asigna pedidos a los repartidores.

Los algoritmos tienen sesgos incorporados muy significativos, y aunque pueden minimizarse, es poco probable que puedan eliminarse por completo. Para empezar, los algoritmos se alimentan de datos, pero esos datos se categorizan y separan arbitrariamente. Desde la categoría binaria de género hasta la elección de posibles frutas y verduras, las categorías elegidas para la entrada de datos pueden estar sesgadas y dejar grupos enteros de datos sin registrar, lo que significa que no serán tenidos en cuenta por el algoritmo.

Los datos en sí están cargados de historias de violencia y discriminación. Por ejemplo, se ha encontrado que las conductoras de Uber en los EE.UU. ganan un 7% menos que sus colegas hombres (Cook, Diamond, Hall, List & Oyer, 2020). Esto no se debe a que sean peores conductoras o carezcan de la capacidad de conversar con los pasajeros. En cambio, se debe a que el público en general tiende a calificarlas más negativamente que a los hombres por razones culturales. Finalmente, existe un sesgo de programación que es, sin duda, el más importante. La decisión sobre qué es y qué no es importante para un algoritmo es, en última instancia, una decisión tomada por seres humanos. Los sesgos son numerosos y tienen un gran impacto en la sociedad.

Ahora, ¿por qué es todo esto importante? Porque el artículo prohíbe claramente la publicación del algoritmo y el código fuente. Debería aclararse que para fines estrictamente técnicos, el algoritmo es la orden dada y el código fuente la instrucción o cómo se diseña esa orden para ser llevada a cabo.

Sin acceso, es imposible auditar el software para averiguar cuál es el problema si algo sale mal. La cláusula tiende a incluir excepciones en el área de defensa y seguridad nacional, o si se sospecha que un algoritmo contraviene las leyes de competencia del país. Sin duda, es difícil armar un caso que demuestre que el algoritmo necesita ser auditado y que las excepciones no tienen en cuenta problemas que afectan al público en general, como en el caso de la discriminación contra los trabajadores o la tecnología de reconocimiento facial, por mencionar solo dos ejemplos.

También debe quedar claro que, incluso cuando se puede auditar el código fuente, rara vez es fácil encontrar cuál es el error o identificar el problema que ha surgido. En muchos casos, los algoritmos son escritos automáticamente por el aprendizaje automático (Machine Learning), y terminan siendo ilegibles incluso para los propios programadores. También vale la pena señalar que los programas de software de código abierto suelen ser más confiables que el software de código cerrado, y por lo tanto son más beneficiosos socialmente por las razones descritas anteriormente.

En conclusión, este es un problema muy difícil de resolver. La humanidad apenas está comenzando a abordarlo y puede tener múltiples impactos en nuestras sociedades. En el futuro, podría dar lugar a discriminación, problemas ambientales, ataques a la democracia, desestabilización económica y otros efectos negativos. Claramente, no parece una buena idea limitar la capacidad de un estado para abordar un problema del que apenas estamos comenzando a ser conscientes y no sabemos cómo resolver. La no divulgación de algoritmos ha sido problemática durante muchos años. Por eso, los países han comenzado a incluir cada vez más excepciones, incluso en los acuerdos de libre comercio.

Notas

• El concepto de código abierto se refiere a un tipo de software basado en un modelo de colaboración abierta. Significa que el código fuente se comparte abiertamente con el entendimiento de que hay beneficios prácticos al compartir el código (por ejemplo, cuando más personas estudian un código y trabajan para mejorarlo o encontrar vulnerabilidades, el resultado es un mejor código y, por lo tanto, un mejor producto). El código abierto se diferencia del software libre en que, en este último, la razón para compartir el código se basa en argumentos morales y filosóficos. ↩︎
• El software de código cerrado es lo opuesto al código abierto y se refiere a un código fuente que no está disponible para todos los usuarios; en otras palabras, no se hace público. Este es frecuentemente el caso en las empresas cuyo sistema de TI se considera un recurso competitivo valioso. Lo que hacen es vender licencias para usar el sistema, sin hacer posible que ningún competidor estudie el código y lo mejore. Más información sobre la diferencia entre los dos tipos de código se puede encontrar en Guido Schryen (2009) Security of Open Source and Closed Source Software: An Empirical Comparison of Published Vulnerabilities. Disponible en: https://www.researchgate.net/publication/220891308_Security_of_Open_Source_and_Closed_Source_Software_An_Empirical_Comparison_of_Published_Vulnerabilities ↩︎
• Para más información sobre esto, se recomienda encarecidamente el artículo de Sanya Reid Smith (2017). Disponible en: https://www.twn.my/MC11/briefings/BP4.pdf ↩︎