Fuente: Trojan horses: how European startups teamed up with Big Tech to gut the AI Act
El Parlamento Europeo está listo para aprobar la Ley de Inteligencia Artificial el 13 de marzo de 2024. Una nueva investigación revela cómo las startups europeas Mistral AI y Aleph Alpha, junto con las grandes tecnológicas, lograron capturar el proceso de formulación de políticas y socavar la Ley de Inteligencia Artificial.
En diciembre de 2023, después de 36 horas de difíciles negociaciones a puerta cerrada, el Parlamento Europeo y los Estados miembros llegaron a un acuerdo final sobre la Ley de Inteligencia Artificial. Pero mientras que los detalles de ese acuerdo permanecieron confusos durante semanas, rápidamente quedó claro que los desarrolladores de los sistemas de IA más avanzados, es decir, las grandes tecnológicas, habían logrado una gran victoria.
Estos sistemas, conocidos como IA de propósito general, como por ejemplo ChatGPT, pueden utilizarse para una amplia gama de propósitos. Los sistemas suelen ser complejos y se comportan de maneras que pueden sorprender incluso a sus desarrolladores. La IA de propósito general se entrena con datos sociales y si los datos contienen sesgos estructurales, desde el racismo hasta el capacitismo y más, estos riesgos están integrados en los sistemas. Debido a estos riesgos, el Parlamento Europeo tomó medidas en junio de 2023 para imponer ciertas obligaciones a las empresas que desarrollan estos sistemas.
A partir de ese momento, las grandes tecnológicas iniciaron una ofensiva de lobby a gran escala dirigida a la Comisión Europea y a los Estados miembros de la UE. Los directores ejecutivos de Google, OpenAI y Microsoft se trasladaron a Europa para reunirse con responsables políticos de alto nivel, incluidos miembros de la Comisión y jefes de Estado. El director ejecutivo de Google, Sundar Pichai, incluso logró reunirse con tres comisionados en un solo día. Estas empresas estuvieron tan presentes que opacaron otras voces de la academia o la sociedad civil. En 2023, el 78 por ciento de las reuniones sobre IA de funcionarios de alto nivel de la comisión fueron con intereses corporativos.
Sin embargo, fue el lobby realizado por las startups francesa Mistral AI y alemana Aleph Alpha lo que inclinó la balanza. Como documentaron los observadores de lobby Observatoire des Multinationales y LobbyControl, estas empresas tuvieron acceso privilegiado a los más altos niveles de toma de decisiones, aprovechando los dos Estados miembros, Francia y Alemania, para diluir cualquier requisito sobre los desarrolladores de IA de propósito general bajo el pretexto de "crear campeones europeos".
"En su forma final, la Ley de IA es perfectamente manejable para nosotros", dijo Arthur Mensch, cofundador y director de Mistral AI, en una entrevista reciente con Le Monde. Mientras tanto, el jefe de Aleph Alpha, Jonas Andrulis, fue aún más directo: "La versión actual de la Ley de IA está bien. Mucho trabajo llevó a mejoras significativas en la línea de meta."
A través de la puerta giratoria: de secretario de estado a lobista de Mistral AI
La empresa francesa Mistral AI desempeñó un papel clave en esta ofensiva contra la Ley de IA. A pesar de haber sido fundada solo en abril de 2023 y contar con solo 22 empleados, obtuvo acceso al más alto nivel de toma de decisiones. Justo dos meses después de su creación, los representantes de Mistral AI ya se habían reunido con Roberto Viola, jefe de DG Connect, para discutir sobre la IA generativa.
Mistral AI, junto con otra startup francesa, Dust, también fue invitada al Palacio del Elíseo para cenar con el presidente francés Macron, lo que parece haber sido muy efectivo para influir en la posición francesa. Stanislas Polu, el fundador de la empresa de IA Dust, escribió en Twitter después de la reunión que "por primera vez en mi vida tuve la oportunidad de decir algo una semana y ver a la más alta instancia del estado hacer un anuncio basado en eso la siguiente semana".
El principal lobista de Mistral AI, Cédric O, en particular, desempeñó un papel desproporcionado en influir en la posición francesa sobre la Ley de IA. Como ex Secretario de Estado de Transición Digital, Cédric O tiene la atención del presidente francés. Cédric O también fue uno de los iniciadores (junto con René Obermann, presidente del Consejo de Administración del gigante aeroespacial y de defensa Airbus, y Jeannette zu Fürstenberg, socia fundadora del fondo de inversión tecnológica La Famiglia) de una carta abierta firmada por 150 empresas europeas que afirmaban que la Ley de IA "pondría en peligro la competitividad y la soberanía tecnológica de Europa". Sin embargo, en 2022, como Secretario de Estado, las opiniones de O eran completamente diferentes. En una conferencia tecnológica en Nueva York, pidió un marco legislativo diferente para la inteligencia artificial en Europa, diciendo: "Por lo que a mí respecta, necesitamos más regulación. Así que si el precio a pagar es tener un marco diferente en EE. UU. y la UE, optaría por eso".
Mistral AI, junto con otra startup francesa, Dust, también fue invitada al Palacio del Elíseo para cenar con el presidente francés Macron, lo que parece haber sido muy efectivo para influir en la posición francesa. Stanislas Polu, el fundador de la empresa de IA Dust, escribió en Twitter después de la reunión que "por primera vez en mi vida tuve la oportunidad de decir algo una semana y ver a la más alta instancia del estado hacer un anuncio basado en eso la siguiente semana".
El principal lobista de Mistral AI, Cédric O, en particular, desempeñó un papel desproporcionado en influir en la posición francesa sobre la Ley de IA. Como ex Secretario de Estado de Transición Digital, Cédric O tiene la atención del presidente francés. Cédric O también fue uno de los iniciadores (junto con René Obermann, presidente del Consejo de Administración del gigante aeroespacial y de defensa Airbus, y Jeannette zu Fürstenberg, socia fundadora del fondo de inversión tecnológica La Famiglia) de una carta abierta firmada por 150 empresas europeas que afirmaban que la Ley de IA "pondría en peligro la competitividad y la soberanía tecnológica de Europa". Sin embargo, en 2022, como Secretario de Estado, las opiniones de O eran completamente diferentes. En una conferencia tecnológica en Nueva York, pidió un marco legislativo diferente para la inteligencia artificial en Europa, diciendo: "Por lo que a mí respecta, necesitamos más regulación. Así que si el precio a pagar es tener un marco diferente en EE. UU. y la UE, optaría por eso".
Junto con el Director Ejecutivo de Mistral AI, Arthur Mensch, O también es miembro de un controvertido comité asesor sobre inteligencia artificial generativa establecido por la ex primera ministra francesa Élisabeth Borne. Otros miembros del grupo incluyen a las grandes tecnológicas Meta y Google, y a gigantes industriales franceses como Renault y Dassault Systems.
El conflicto de intereses de O no ha pasado desapercibido y ha generado críticas entre los senadores franceses. Después de su mandato como Secretario de Estado, O fue prohibido por la Alta Autoridad Francesa para la Transparencia en la Vida Pública (HATVP) de hacer lobby ante sus antiguos colegas en el Gobierno francés o poseer acciones en empresas tecnológicas. Se informa que las acciones de O en Mistral AI le han reportado 23 millones de euros.
La red bien conectada de Aleph Alpha
De manera similar, Aleph Alpha ha disfrutado de un fácil acceso a los responsables de la formulación de políticas en Alemania. Entre junio y noviembre de 2023, la startup alemana tuvo 12 reuniones con ministros y secretarios de estado, incluidos el primer ministro Scholz, el ministro de Economía Habeck y el ministro de Asuntos Digitales Wissing. El fundador de Aleph Alpha, Jonas Andrulis, fue invitado al retiro del gabinete en Meseberg en agosto de 2023, donde se reunió con todo el Gobierno alemán.
Los documentos de lobby de Aleph Alpha obtenidos por LobbyControl muestran que la empresa insistió en que los modelos de IA no deberían ser regulados, sino únicamente la aplicación de esos modelos; un punto que fue recogido por el Gobierno alemán.
Esta ofensiva de lobby culminó en una cumbre de alto nivel en octubre, donde funcionarios franceses, alemanes e italianos se reunieron con representantes de la industria tecnológica para discutir la cooperación industrial en IA. En un comunicado público tras la cumbre, el ministro de Economía alemán, Robert Habeck, sonó como un portavoz tecnológico: "Necesitamos una regulación amigable con la innovación sobre la IA, incluida la IA de propósito general". Habeck destacó el enfoque basado en el riesgo de la Ley de IA, haciendo eco de un punto de discusión de las grandes tecnológicas sobre evitar regular el desarrollo de modelos fundamentales.
Este frente franco-alemán-italiano resultó en gran medida exitoso. Después de una extenuante reunión de 36 horas en diciembre del '23 entre el Parlamento Europeo y los Estados miembros, la mayoría de las obligaciones vinculantes propuestas por el Parlamento, como los controles de derechos fundamentales, fueron eliminadas y solo quedó un conjunto de reglas de transparencia. Solo los sistemas de IA de propósito general que cumplan con cierto umbral de potencia informática utilizada para entrenar un sistema de IA deberán cumplir con obligaciones más estrictas. Sin embargo, en este momento, GPT4 es el único sistema de IA en el mundo que cumple con este umbral.
Realizando el trabajo sucio de las grandes tecnológicas
El periodista tecnológico Luca Bertuzzi ha planteado la pregunta de si este acuerdo ya estaba en marcha cuando se negociaba la Ley de IA. Según Bertuzzi, muchos de los implicados en la Ley de IA notaron que los esfuerzos de lobby de Microsoft, Google y otras gigantes tecnológicas habían disminuido hacia el final de las negociaciones, ya que Mistral había hecho realmente el "trabajo sucio" por ellos.
En respuesta, los eurodiputados verdes han pedido a los Comisarios Europeos Thierry Breton y Margrethe Vestager que examinen si Mistral AI ha sido utilizada como fachada para el lobby de Microsoft, infringiendo las normas sobre transparencia en el lobby y la prevención de conflictos de interés. Además, la Comisión Europea ha anunciado que investigará la asociación por posiblemente infringir las normas de competencia de la UE.
El diablo está en los detalles
El acceso privilegiado que empresas como Mistral AI y Aleph Alpha disfrutan con los tomadores de decisiones clave, y la evidente ausencia de puntos de vista críticos, independientes y alternativos, son aún más preocupantes dado que el trabajo de regular la inteligencia artificial apenas está comenzando. Una vez que se haya adoptado la versión reducida de la Ley de IA, deberá implementarse. En un campo tan técnico, y con reglas que ofrecen tanto margen para la interpretación, esto no será tarea fácil.
Arthur Mensch de Mistral AI ya ha anunciado su oposición a algunas de estas reglas. En una entrevista, dijo que la Ley de IA no debería obligarlo a divulgar secretos comerciales, lo que comprometería el conocimiento y la competitividad. El ministerio alemán responsable de la implementación de la Ley de IA también ha anunciado que trabajará hacia una solución con bajo nivel de burocracia y favorable a la innovación.
Las reglas importantes para la inteligencia artificial no deben sacrificarse en favor de las ganancias corporativas. Pero eso parece ser exactamente lo que está sucediendo.
Lee el artículo del Observatoire des Multinationales aquí y el artículo de LobbyControl aquí.
No hay comentarios.:
Publicar un comentario