Algoritmos y sesgo

Ahora, ¿qué es un algoritmo? En esta era, parece que estamos hablando de esta palabra poco comprendida todo el tiempo. Se menciona "el algoritmo" y se señala como el culpable de ordenar nuestras vidas y la información que vemos en Internet.

Un algoritmo es un conjunto de pasos ordenados que determina cómo y con qué grado de valoración se procesarán los datos. Si entendemos que esta decisión no es arbitraria, sino que busca un objetivo a menudo determinado por una empresa multinacional, no es difícil entender las implicaciones: quieren aumentar las ganancias, sin importar si esta decisión nos beneficia o no.

Para entender qué es un algoritmo y los problemas que puede tener, Cathy O'Neil escribió un libro llamado "Armas de Destrucción Matemática". En él explica con ejemplos los problemas derivados del diseño de algoritmos de procesamiento de datos. Ella dice una gran verdad: ¿cuál es el objetivo en el análisis? ¿Quién decide? ¿Quién diseña los algoritmos y cuáles son sus suposiciones? ¿Y quién se beneficia?

Cathy O'Neil ofrece un ejemplo muy claro de cómo los algoritmos están moldeados por quienes los controlan. Ella plantea que tiene un algoritmo en su cabeza que decide cada noche qué cocinar para cenar. Las variables que utiliza son el valor nutricional, qué ingredientes tiene en la nevera, cuánto tiempo tiene para cocinar y si tiene ganas de hacerlo, lo que comió al mediodía, los gustos de su familia, etc. Su cabeza procesa todo esto y decide qué cocinar ese día en particular. ¿Qué pasaría si su hijo tomara el control del algoritmo? La nutrición ciertamente sería una consideración secundaria y el sabor tendría prioridad, resultando en papas fritas en lugar de pescado a la parrilla.

Los sesgos son numerosos y tienen un gran impacto en la sociedad. Si a esto le sumamos el hecho de que la mayoría de los algoritmos que usamos todos los días están programados en países industrializados por hombres blancos con cierto estatus socioeconómico y nivel educativo, corremos el riesgo de que las minorías, los disidentes y las mujeres nunca sean tenidos en cuenta. De hecho, solo el 22% de los programadores en todo el mundo son mujeres. En los Estados Unidos, la mayor economía en la industria, el 67.7% de los programadores son blancos, el 19.5% son asiáticos y menos del 13% son negros o tienen otras identidades étnicas. Ni siquiera se cuentan los latinos en las estadísticas. Los resultados de esto han sido casos frecuentes donde se ha demostrado que los algoritmos refuerzan sesgos raciales, de género y anti LGBTQ.

Notes

•     Morozov, E. (2011). The Net Delusion: How Not to Liberate The World. Penguin Books Limited. ↩︎
•     O'Neil, C. (2016). Weapons of Math Destruction: How Big Data Increases Inequality and Threatens Democracy. Crown.  ↩︎

Problemas del solucionismo tecnológico

Respaldando los procesos de dataficación y el capitalismo monopolista, yace una ideología de 'solucionismo tecnológico'. Esta es la idea de que la tecnología basada en datos es imparcial y perfecta, ya que juzga basándose en miles de millones de datos. Una especie de Dios omnisciente que puede tomar una decisión informada que nos beneficie a todos. Así, las tecnologías basadas en el procesamiento de datos disfrutan de una especie de "virtud" en el sentido de que no son cuestionadas o solo parcialmente cuestionadas por nuestras sociedades. También pueden ocultar sistemas subyacentes de injusticia que crean los problemas a los cuales la tecnología se presenta como respuesta.

Un ejemplo de solucionismo tecnológico es el uso de tecnología 'inteligente' para abordar problemas urbanos como la congestión del tráfico. Los semáforos inteligentes, por ejemplo, utilizan sensores y algoritmos para ajustar el flujo de tráfico en función de datos en tiempo real. Si bien esta tecnología puede mejorar el flujo de tráfico a corto plazo, no aborda las causas subyacentes de la congestión, como las políticas de planificación urbana que priorizan los automóviles sobre el transporte público o la falta de vivienda asequible en los centros urbanos que obliga a las personas a viajar largas distancias.

Según Morozov, el solucionismo tecnológico puede llevar a un enfoque estrecho en soluciones técnicas, en lugar de abordar los complejos problemas sociales, económicos y políticos que subyacen a muchos de los problemas a los que nos enfrentamos hoy en día. Por ejemplo, imaginemos una empresa que crea un tenedor inteligente que utiliza sensores y algoritmos para monitorear qué tan rápido comes y te alerta si estás comiendo demasiado rápido. Si bien esto puede parecer una forma útil de fomentar hábitos alimenticios saludables, ignora el hecho de que comer rápidamente puede ser un síntoma de problemas más profundos, como el estrés o la ansiedad, que no pueden resolverse simplemente ralentizando el ritmo de comer. En otras palabras, el tenedor inteligente aborda un síntoma superficial de un problema sin abordar las causas subyacentes.

Notes

•     UNCTAD. (2019). Digital Economy Report 2019. Value Creation and Capture: Implications for Developing Countries._ UNCTAD_. https://unctad.org/system/files/official-document/der2019_en.pdf  ↩︎

Dataficación

Los datos son el recurso fundamental de la economía moderna que impulsa todo, desde el hogar inteligente hasta la ciudad inteligente. Sustenta sectores críticos como finanzas, educación y salud, así como procesos centrales de la sociedad y la economía como la producción y la gobernanza.

Los datos son más que simplemente conocimiento sobre el mundo. Son fragmentos discretos de información: recopilados/grabados digitalmente, procesables por máquinas, fácilmente aglomerables y altamente móviles. Los datos no están ahí afuera esperando ser descubiertos como si ya existieran en el mundo, como el petróleo crudo y el mineral sin procesar. Más bien, son una abstracción registrada del mundo, creada a través de sistemas tecnológicos y lentes sociales, políticos y económicos. Este proceso, también conocido como 'dataficación', ocurre a través de infraestructuras de información interconectadas y convergentes que incluyen dispositivos inteligentes, plataformas basadas en la nube, análisis de datos, cables de red y granjas de servidores, todos los cuales permiten la captura y circulación continua de datos.

Si bien existen muchos enfoques y marcos para conceptualizar los datos, enmarcar los datos como una forma de capital nos permite entender las formas en que se puede derivar valor de los datos, ayudándonos así a desentrañar los motivos detrás de su uso por parte de las corporaciones y por qué la extracción de datos se ha vuelto central para la economía. Los datos como forma de capital son distintos, pero tienen raíces en el capital económico. Al igual que el capital social y cultural, el capital de datos es convertible, bajo ciertas condiciones, en capital económico.

Recuadro 1.1a.

Los datos como fuerza impulsora del capitalismo contemporáneo. En el centro de la actual 'transformación' económica se encuentra los datos, con proyecciones de la UNCTAD de 2019 que sugieren que las empresas intensivas en datos representarán el 70 por ciento del nuevo valor generado en la economía global en la próxima década.

Lo que indican los números:

Estados Unidos y China dominan la economía global de la inteligencia artificial, con estos dos países representando: - El 94 por ciento de toda la financiación de startups de inteligencia artificial en los últimos cinco años - El 70 por ciento de los principales investigadores en inteligencia artificial del mundo - El 90 por ciento del valor de capitalización de mercado de las 70 mayores empresas de plataformas digitales del mundo

Ver también: Infografías de la Geopolítica de los Datos en el informe Estado del Poder del TNI: https://www.tni.org/en/geopolitics-of-digital-power

Notes

    Kitchin, R. (2014). Big Data, new epistemologies and paradigm shifts. Big data & society. ↩︎

    Gitelman (2013) "Raw Data" Is an Oxymoron ↩︎

    Sadowski, J. (2019). When data is capital: Datafication, accumulation, and extraction. Big data & society. https://journals.sagepub.com/doi/full/10.1177/2053951718820549 ↩︎

    Op cit, Sadowsi (2019)  ↩︎

 

Diferentes concepciones del capitalismo digital

 El sistema capitalista ha estado profundizándose durante años. Constantemente busca nuevas fronteras, nuevas formas de subsumir y transformar en dinero o capital aquellas cosas que nos rodean. Los viajes espaciales y la minería en alta mar son ejemplos de estas nuevas fronteras. Este proceso de acumulación capitalista explota el trabajo y saquea los recursos de la tierra. Ha creado un sistema económico donde parece no haber límite para la capacidad de generar ganancias, y donde ni siquiera una pandemia que dejó un saldo destructivo de millones de muertes ha detenido el proceso. De hecho, muchas empresas vieron aumentar sus ganancias como resultado de la pandemia y la crisis.

En el sistema capitalista, nuestra función principal consiste en proporcionar trabajo o consumir bienes o servicios. Entonces, las grandes empresas tenían el enfoque en cómo hacernos elegir sus productos, o cómo hacernos consumir más. La adopción generalizada de Internet desde la década de 1990 abrió todo un nuevo mercado a empresas que ofrecían servicios y productos. Comenzamos a abrir la puerta a las corporaciones para que virtualmente ingresaran a nuestros hogares, les mostramos cada paso que dábamos, nuestros gustos y preferencias. Todo esto a cambio de lo que parecían servicios 'gratuitos', como "tu cronología mensual de visitas en Google Maps" o algoritmos de Instagram que prometían más contenido que nos gusta. Si bien muchos pensaban que veíamos videos o consumíamos estos servicios sin costo alguno, la realidad es que al hacerlo proporcionamos enormes cantidades de datos valiosos a estos gigantes tecnológicos que cada vez les permite predecir nuestro comportamiento.

Hoy en día existen una amplia diversidad de autores que han dado diferentes etiquetas y explicaciones al mundo en el que vivimos. Capitalismo de Vigilancia, Capitalismo Digital, Capitalismo de Plataforma, Colonialismo Digital y tecnofeudalismo, por nombrar algunos. Todas estas definiciones buscan crear conciencia sobre el impacto que las empresas tecnológicas han tenido en los últimos años en el sistema capitalista y comprender cómo lo han cambiado. Cada una de estas definiciones trata de explicar un punto particular con respecto a esta nueva realidad. Cada una muestra una cara diferente del sistema. Pero todas convergen en lo mismo: los gigantes tecnológicos o las empresas de "big tech" son los protagonistas y impulsores de este cambio, y por lo tanto, los grandes ganadores.

Los llamados gurús del Foro Económico Mundial en Davos enfatizan este cambio como una "cuarta revolución industrial", y muestran diversas imágenes de robots interactuando con seres humanos como si eso fuera la diferencia y el motor del cambio. La verdad es que hemos estado interactuando con robots desde mediados del siglo pasado. No hay nada nuevo en eso. Lo que es nuevo y significativo es la emergencia de una nueva materia prima en la economía: los datos, o "big data" como se le llama. Estos datos, correctamente analizados a través de algoritmos, son los que explican y muestran nuestro comportamiento y nuestros procesos productivos. Y si un comportamiento puede ser sistemáticamente explicado, puede ser predicho. Y si puede ser predicho, se pueden generar incentivos para modificarlo. Por ejemplo, imagina que te desplazas al trabajo todos los días y eliges tomar el metro a menos que esté lloviendo. Cuando llueve prefieres tomar un Uber o un Lyft al trabajo. Para cuando hagas eso consistentemente, tu teléfono ya habrá recopilado esos datos a través de Google Maps, Uber, Lyft y quizás la aplicación del clima. Ahora imagina que Uber o Lyft quieren que los elijas: ¿qué tan difícil sería para ellos enviarte un pequeño descuento una vez que revisas tu Instagram en un día lluvioso? De esta manera te animan a elegirlos entre otras plataformas sin que ni siquiera lo notes.

Esto es lo que la autora Shoshana Zuboff ha llamado Capitalismo de Vigilancia. Por su parte, el autor Nick Snircek ha hablado de Capitalismo de Plataforma, refiriéndose al poder de mercado que tienen estas empresas tecnológicas al controlar plataformas clave que usamos para nuestros servicios básicos de internet. De hecho, las plataformas que usamos todos los días se han convertido en organizadores del mercado a su conveniencia, posicionándose como monopolios y cambiando las reglas del juego del capitalismo.

El caso más emblemático de gamificación es Pokemon Go. Este juego requiere que te muevas físicamente para poder encontrar monstruos y obtener más beneficios. Por lo tanto, dejarlo encendido mientras te mueves puede ser ventajoso. Esto resulta en una forma lúdica de compartir los datos de nuestros movimientos con empresas. Estas empresas lo consideran clave, ya que pueden conocer nuestra ruta y hacer sugerencias basadas en ella. Estas sugerencias pueden variar desde resaltar lugares que están en nuestro camino, o incluso sugerir rutas a otros lugares que han invertido más en nuestros datos. Imagina que te encanta el café y a menudo vas a diferentes cafeterías para probar cosas diferentes, ¿no sería conveniente encontrar tu próximo Picachu dentro de tu Starbucks más cercano?

Capitalismo monopolista

Estas empresas que procesan y venden nuestros datos a empresas más pequeñas se han vuelto tan grandes que cada vez es más difícil evadir el uso de ciertos servicios y empresas, restringiendo la libre competencia y generando un peligroso monopolio en los mercados. Pero notemos algo: el monopolio no es una condición necesaria para que funcionen adecuadamente, como veremos más adelante en el curso. Han monopolizado los mercados mediante la compra de competidores, volviéndose ellos mismos no interoperables (incapaces de interactuar con otro software o servicios) e invirtiendo grandes sumas de dinero en publicidad, análisis de datos y prácticas de dumping para eliminar competidores.

Estas plataformas también son "austeras" ya que se financian con capital de riesgo y solo obtienen ganancias después de varios años de vida. Amazon, por ejemplo, fue creada en 1995, pero tuvo que esperar hasta 2001 para tener su primer año rentable. Se financian con capital de riesgo esperando eliminar a todos los demás que puedan competir para tener el monopolio del mercado y, por lo tanto, poder establecer sus propias reglas.

Entonces, si la empresa está mejor posicionada hoy que hace un año, ¿por qué el precio de las acciones es mucho más bajo que hace un año? Como dijo el famoso inversor Benjamin Graham, "En el corto plazo, el mercado de valores es una máquina de votar; a largo plazo, es una máquina de pesar". Claramente, hubo mucho voto en el año de auge del '99, y mucho menos pesaje. Somos una empresa que quiere ser pesada, y con el tiempo, lo seremos; a largo plazo, todas las empresas lo son. Mientras tanto, tenemos la cabeza baja trabajando para construir una empresa cada vez más sólida y pesada.

Otras plataformas como UBER aún no son rentables y los inversores siguen esperando que eso cambie. Es una apuesta del propio capital para generar actores monopolísticos que impongan las nuevas reglas en nuestras democracias, en nuestro mercado laboral y en nuestros sistemas sociales, culturales, educativos, de salud, comunicaciones y otros.

La teoría del tecnofeudalismo argumenta que hay una nueva mano invisible de algoritmos que convierte a empresas como Google y Facebook en 'aspiradoras digitales' de riqueza, llevándonos a una regresión tecnofeudal en la que las gigantescas fuerzas digitales e improductivas dominan la sociedad y la economía, socavando los poderes políticos del Estado.

Durand sostiene que las Big Tech - Google, Amazon, Facebook, Apple, Microsoft - recrean la lógica política y económica de la época feudal. Las grandes plataformas y entornos digitales se han convertido en fortalezas "medievales" que colonizan el ciberespacio y se alimentan de él: ganan todo el territorio de su negocio y adquieren a la competencia y a las empresas complementarias. En el feudalismo, el siervo campesino estaba unido a la tierra: no pertenecía al señor feudal, sino a la tierra, que pertenecía a ese señor. Cuando usamos Facebook o Google, nos volvemos inseparables de los datos que generamos en la tierra digital. A partir de estas huellas, se crea una relación de extrema dependencia, de la cual es difícil escapar porque hacen nuestras vidas más fáciles. ¿Es posible vivir sin usar ningún servicio de Google? Es posible, ¡pero complicaría mucho nuestra existencia! Durand afirma que, lejos de favorecer la autonomía de los individuos, el aspecto más llamativo de la economía digital es el retorno a relaciones de dependencia.

Sea como sea, la verdad es que no hay nada 'revolucionario' en este proceso. No hay un cambio de paradigma o sistema, sino más bien un profundización del sistema económico en el que vivimos, que sigue expandiéndose sin límites. De hecho, con la tecnología integrada en los seres humanos y el desarrollo anticipado del cíborg, incluso nuestros procesos biológicos y nuestros pensamientos eventualmente son susceptibles de ser monetizados.

Por ejemplo, Neuralink, una empresa propiedad de Elon Musk, ha estado intentando leer mentes desde hace un tiempo. El objetivo inicial de la empresa era implantar chips en el cerebro que permitieran a personas con lesiones graves de médula espinal volver a caminar, pero la tecnología también puede ser utilizada de otras maneras: imagina tener un chip dentro de ti y poder controlar todos los equipos tecnológicos y redes sociales que posees solo con pensarlo. Ahora imagina cómo podrían valorarse tus pensamientos, o lo que es peor, ¿cuáles podrían ser las ventajas potenciales que una empresa podría tener para poder borrar o cambiar recuerdos? Ciertamente parece ciencia ficción, pero hay proyectos concretos que van en esa dirección.

Si diagramamos esta 'revolución industrial', podríamos ver un proceso con las siguientes características:

Thus defining the production process of digital capitalism.

Notes

•     Zuboff, S. (2019). The Age of Surveillance Capitalism: The Fight for a Human Future at the New Frontier of Power. Profile Books. ↩︎
•     Srnicek, N. (2017). Platform Capitalism. Wiley. ↩︎
•     Durand, C. (2021) Technofeudalism Critique of the digital economy. ↩︎
•     WeForum. (2016, January 14). The Fourth Industrial Revolution: what it means and how to respond. The World Economic Forum. https://www.weforum.org/agenda/2016/01/the-fourth-industrial-revolution-what-it-means-and-how-to-respond/ ;↩︎
•     CNN Money. (2002, January 22). Amazon posts first-ever profit in 4Q - Jan. 22, 2002. CNN Business. from https://money.cnn.com/2002/01/22/technology/amazon/ ;↩︎
•     Bezos, J. (2001). Letter to shareholders. To our shareholders: Ouch. It's been a brutal year for many in the capital markets and certainly for Amazon.com shareholders. https://s2.q4cdn.com/299287126/files/doc_financials/annual/00ar_letter.pdf ;↩︎
•     Pereira, D. (2023, January 13). Is Uber Profitable? Business Model Analyst. https://businessmodelanalyst.com/is-uber-profitable/ ;↩︎
•     Finlay, M., Cooper, G., Jagatia, A., King, S., & Sanderson, M. (2022, February 10). Why does Elon Musk want to read your mind? The Guardian. https://www.theguardian.com/science/audio/2022/feb/10/why-does-elon-musk-want-to-read-my-mind  ↩︎

Caballo de Troya: cómo las startups europeas se aliaron con las grandes tecnológicas para desmantelar la Ley de Inteligencia Artificial

Fuente: Trojan horses: how European startups teamed up with Big Tech to gut the AI Act 

 El Parlamento Europeo está listo para aprobar la Ley de Inteligencia Artificial el 13 de marzo de 2024. Una nueva investigación revela cómo las startups europeas Mistral AI y Aleph Alpha, junto con las grandes tecnológicas, lograron capturar el proceso de formulación de políticas y socavar la Ley de Inteligencia Artificial.

En diciembre de 2023, después de 36 horas de difíciles negociaciones a puerta cerrada, el Parlamento Europeo y los Estados miembros llegaron a un acuerdo final sobre la Ley de Inteligencia Artificial. Pero mientras que los detalles de ese acuerdo permanecieron confusos durante semanas, rápidamente quedó claro que los desarrolladores de los sistemas de IA más avanzados, es decir, las grandes tecnológicas, habían logrado una gran victoria.

Estos sistemas, conocidos como IA de propósito general, como por ejemplo ChatGPT, pueden utilizarse para una amplia gama de propósitos. Los sistemas suelen ser complejos y se comportan de maneras que pueden sorprender incluso a sus desarrolladores. La IA de propósito general se entrena con datos sociales y si los datos contienen sesgos estructurales, desde el racismo hasta el capacitismo y más, estos riesgos están integrados en los sistemas. Debido a estos riesgos, el Parlamento Europeo tomó medidas en junio de 2023 para imponer ciertas obligaciones a las empresas que desarrollan estos sistemas.

A partir de ese momento, las grandes tecnológicas iniciaron una ofensiva de lobby a gran escala dirigida a la Comisión Europea y a los Estados miembros de la UE. Los directores ejecutivos de Google, OpenAI y Microsoft se trasladaron a Europa para reunirse con responsables políticos de alto nivel, incluidos miembros de la Comisión y jefes de Estado. El director ejecutivo de Google, Sundar Pichai, incluso logró reunirse con tres comisionados en un solo día. Estas empresas estuvieron tan presentes que opacaron otras voces de la academia o la sociedad civil. En 2023, el 78 por ciento de las reuniones sobre IA de funcionarios de alto nivel de la comisión fueron con intereses corporativos.

Sin embargo, fue el lobby realizado por las startups francesa Mistral AI y alemana Aleph Alpha lo que inclinó la balanza. Como documentaron los observadores de lobby Observatoire des Multinationales y LobbyControl, estas empresas tuvieron acceso privilegiado a los más altos niveles de toma de decisiones, aprovechando los dos Estados miembros, Francia y Alemania, para diluir cualquier requisito sobre los desarrolladores de IA de propósito general bajo el pretexto de "crear campeones europeos".

"En su forma final, la Ley de IA es perfectamente manejable para nosotros", dijo Arthur Mensch, cofundador y director de Mistral AI, en una entrevista reciente con Le Monde. Mientras tanto, el jefe de Aleph Alpha, Jonas Andrulis, fue aún más directo: "La versión actual de la Ley de IA está bien. Mucho trabajo llevó a mejoras significativas en la línea de meta."

A través de la puerta giratoria: de secretario de estado a lobista de Mistral AI

La empresa francesa Mistral AI desempeñó un papel clave en esta ofensiva contra la Ley de IA. A pesar de haber sido fundada solo en abril de 2023 y contar con solo 22 empleados, obtuvo acceso al más alto nivel de toma de decisiones. Justo dos meses después de su creación, los representantes de Mistral AI ya se habían reunido con Roberto Viola, jefe de DG Connect, para discutir sobre la IA generativa. 

Mistral AI, junto con otra startup francesa, Dust, también fue invitada al Palacio del Elíseo para cenar con el presidente francés Macron, lo que parece haber sido muy efectivo para influir en la posición francesa. Stanislas Polu, el fundador de la empresa de IA Dust, escribió en Twitter después de la reunión que "por primera vez en mi vida tuve la oportunidad de decir algo una semana y ver a la más alta instancia del estado hacer un anuncio basado en eso la siguiente semana".

El principal lobista de Mistral AI, Cédric O, en particular, desempeñó un papel desproporcionado en influir en la posición francesa sobre la Ley de IA. Como ex Secretario de Estado de Transición Digital, Cédric O tiene la atención del presidente francés. Cédric O también fue uno de los iniciadores (junto con René Obermann, presidente del Consejo de Administración del gigante aeroespacial y de defensa Airbus, y Jeannette zu Fürstenberg, socia fundadora del fondo de inversión tecnológica La Famiglia) de una carta abierta firmada por 150 empresas europeas que afirmaban que la Ley de IA "pondría en peligro la competitividad y la soberanía tecnológica de Europa". Sin embargo, en 2022, como Secretario de Estado, las opiniones de O eran completamente diferentes. En una conferencia tecnológica en Nueva York, pidió un marco legislativo diferente para la inteligencia artificial en Europa, diciendo: "Por lo que a mí respecta, necesitamos más regulación. Así que si el precio a pagar es tener un marco diferente en EE. UU. y la UE, optaría por eso".

Mistral AI, junto con otra startup francesa, Dust, también fue invitada al Palacio del Elíseo para cenar con el presidente francés Macron, lo que parece haber sido muy efectivo para influir en la posición francesa. Stanislas Polu, el fundador de la empresa de IA Dust, escribió en Twitter después de la reunión que "por primera vez en mi vida tuve la oportunidad de decir algo una semana y ver a la más alta instancia del estado hacer un anuncio basado en eso la siguiente semana".

El principal lobista de Mistral AI, Cédric O, en particular, desempeñó un papel desproporcionado en influir en la posición francesa sobre la Ley de IA. Como ex Secretario de Estado de Transición Digital, Cédric O tiene la atención del presidente francés. Cédric O también fue uno de los iniciadores (junto con René Obermann, presidente del Consejo de Administración del gigante aeroespacial y de defensa Airbus, y Jeannette zu Fürstenberg, socia fundadora del fondo de inversión tecnológica La Famiglia) de una carta abierta firmada por 150 empresas europeas que afirmaban que la Ley de IA "pondría en peligro la competitividad y la soberanía tecnológica de Europa". Sin embargo, en 2022, como Secretario de Estado, las opiniones de O eran completamente diferentes. En una conferencia tecnológica en Nueva York, pidió un marco legislativo diferente para la inteligencia artificial en Europa, diciendo: "Por lo que a mí respecta, necesitamos más regulación. Así que si el precio a pagar es tener un marco diferente en EE. UU. y la UE, optaría por eso".

Junto con el Director Ejecutivo de Mistral AI, Arthur Mensch, O también es miembro de un controvertido comité asesor sobre inteligencia artificial generativa establecido por la ex primera ministra francesa Élisabeth Borne. Otros miembros del grupo incluyen a las grandes tecnológicas Meta y Google, y a gigantes industriales franceses como Renault y Dassault Systems.

El conflicto de intereses de O no ha pasado desapercibido y ha generado críticas entre los senadores franceses. Después de su mandato como Secretario de Estado, O fue prohibido por la Alta Autoridad Francesa para la Transparencia en la Vida Pública (HATVP) de hacer lobby ante sus antiguos colegas en el Gobierno francés o poseer acciones en empresas tecnológicas. Se informa que las acciones de O en Mistral AI le han reportado 23 millones de euros.

La red bien conectada de Aleph Alpha

De manera similar, Aleph Alpha ha disfrutado de un fácil acceso a los responsables de la formulación de políticas en Alemania. Entre junio y noviembre de 2023, la startup alemana tuvo 12 reuniones con ministros y secretarios de estado, incluidos el primer ministro Scholz, el ministro de Economía Habeck y el ministro de Asuntos Digitales Wissing. El fundador de Aleph Alpha, Jonas Andrulis, fue invitado al retiro del gabinete en Meseberg en agosto de 2023, donde se reunió con todo el Gobierno alemán.

Los documentos de lobby de Aleph Alpha obtenidos por LobbyControl muestran que la empresa insistió en que los modelos de IA no deberían ser regulados, sino únicamente la aplicación de esos modelos; un punto que fue recogido por el Gobierno alemán.

Esta ofensiva de lobby culminó en una cumbre de alto nivel en octubre, donde funcionarios franceses, alemanes e italianos se reunieron con representantes de la industria tecnológica para discutir la cooperación industrial en IA. En un comunicado público tras la cumbre, el ministro de Economía alemán, Robert Habeck, sonó como un portavoz tecnológico: "Necesitamos una regulación amigable con la innovación sobre la IA, incluida la IA de propósito general". Habeck destacó el enfoque basado en el riesgo de la Ley de IA, haciendo eco de un punto de discusión de las grandes tecnológicas sobre evitar regular el desarrollo de modelos fundamentales.

Este frente franco-alemán-italiano resultó en gran medida exitoso. Después de una extenuante reunión de 36 horas en diciembre del '23 entre el Parlamento Europeo y los Estados miembros, la mayoría de las obligaciones vinculantes propuestas por el Parlamento, como los controles de derechos fundamentales, fueron eliminadas y solo quedó un conjunto de reglas de transparencia. Solo los sistemas de IA de propósito general que cumplan con cierto umbral de potencia informática utilizada para entrenar un sistema de IA deberán cumplir con obligaciones más estrictas. Sin embargo, en este momento, GPT4 es el único sistema de IA en el mundo que cumple con este umbral.

Realizando el trabajo sucio de las grandes tecnológicas

Cuando la empresa OpenAI lanzó el chatbot ChatGPT a finales de 2022, desencadenó una gran cantidad de entusiasmo por la IA en todo el mundo. Solo unos meses después, Google publicó su propio modelo base BARD, que luego fue renombrado como Gemini. Las startups europeas de IA, como Aleph Alpha, también de repente se encontraron en alza y pudieron aprovechar el entusiasmo para recaudar millones en financiamiento privado.

Los políticos europeos estaban preocupados por quedarse atrás respecto a los competidores estadounidenses en este campo. En un memo interno en abril de 2023, el Ministerio de Economía alemán BMWK recomendó "hacer visible al BMWK" en el campo de la IA debido a la amplia cobertura mediática.

Mistral AI y Aleph Alpha han subrayado continuamente la necesidad de apoyar a la industria europea de la IA para mantenerse al día con las empresas tecnológicas en los EE. UU. y China. Un punto de discusión estándar fue que la Ley de IA mataría la innovación y haría imposible una industria europea de IA "soberana".

Esta narrativa ahora está siendo cuestionada después del anuncio en febrero de 2024 de que Mistral AI se asociará con Microsoft, con este último invirtiendo 15 millones de euros. Los modelos de Mistral AI serán entrenados y distribuidos en los servidores del gigante estadounidense, como parte de un acuerdo que recuerda al acuerdo de Microsoft con OpenAI, aunque en una escala mucho menor en esta etapa.

El periodista tecnológico Luca Bertuzzi ha planteado la pregunta de si este acuerdo ya estaba en marcha cuando se negociaba la Ley de IA. Según Bertuzzi, muchos de los implicados en la Ley de IA notaron que los esfuerzos de lobby de Microsoft, Google y otras gigantes tecnológicas habían disminuido hacia el final de las negociaciones, ya que Mistral había hecho realmente el "trabajo sucio" por ellos.

En respuesta, los eurodiputados verdes han pedido a los Comisarios Europeos Thierry Breton y Margrethe Vestager que examinen si Mistral AI ha sido utilizada como fachada para el lobby de Microsoft, infringiendo las normas sobre transparencia en el lobby y la prevención de conflictos de interés. Además, la Comisión Europea ha anunciado que investigará la asociación por posiblemente infringir las normas de competencia de la UE.

El diablo está en los detalles

El acceso privilegiado que empresas como Mistral AI y Aleph Alpha disfrutan con los tomadores de decisiones clave, y la evidente ausencia de puntos de vista críticos, independientes y alternativos, son aún más preocupantes dado que el trabajo de regular la inteligencia artificial apenas está comenzando. Una vez que se haya adoptado la versión reducida de la Ley de IA, deberá implementarse. En un campo tan técnico, y con reglas que ofrecen tanto margen para la interpretación, esto no será tarea fácil.

Arthur Mensch de Mistral AI ya ha anunciado su oposición a algunas de estas reglas. En una entrevista, dijo que la Ley de IA no debería obligarlo a divulgar secretos comerciales, lo que comprometería el conocimiento y la competitividad. El ministerio alemán responsable de la implementación de la Ley de IA también ha anunciado que trabajará hacia una solución con bajo nivel de burocracia y favorable a la innovación.

Las reglas importantes para la inteligencia artificial no deben sacrificarse en favor de las ganancias corporativas. Pero eso parece ser exactamente lo que está sucediendo.

Lee el artículo del Observatoire des Multinationales aquí y el artículo de LobbyControl aquí.