Se firma el GRAN ACUERDO de la IA en la Casa Blanca. ¿Qué supone esto para el mercado?

En un encuentro celebrado en la Casa Blanca, el gobierno de Estados Unidos y los máximos directivos de la industria tecnológica han cerrado un acuerdo para establecer un esquema de supervisión voluntaria sobre el desarrollo de la inteligencia artificial. Hablamos de empresas como Anthropic, OpenAI, SpaceX o Meta, entre otras. ¿Qué supone esto para el mercado?

¿En qué se basa el nuevo pacto sobre la IA?

El presidente Donald Trump parece haber cedido ligeramente a las presiones sobre que la IA necesita más control. Sin embargo, no está dispuesto a regularla como estaban pidiendo desde dentro del sector. Por contra, ha llevado a los grandes líderes del sector a firmar un pacto de “autocontrol” que calificó como "moralmente vinculante". Este pacto está diseñado para abordar la preocupación ciudadana frente a las amenazas de la tecnología sin necesidad de imponer severas trabas legislativas.

¿Quienes acudieron al evento?

La cumbre reunió a las figuras más influyentes del panorama tecnológico global. Entre los firmantes destacan Sundar Pichai (Google), Mark Zuckerberg (Meta), Greg Brockman (OpenAI), Jensen Huang (Nvidia), Elon Musk (xAI) y Dario Amodei (Anthropic). Sin embargo, también acudieron los líderes de Microsoft o Amazon. 

¿En qué consiste el acuerdo sobre la “Superinteligencia”?

El documento firmado por las empresas fija cuatro compromisos fundamentales para el funcionamiento de los desarrolladores:

• Protocolos de control interno: Implementación de estrictos controles dentro del ciclo de desarrollo de software y modelos lingüísticos. Por ejemplo, someter cualquier nuevo modelo a pruebas de estrés intensivas antes de su salida al mercado para detectar capacidades peligrosas, como ayuda en ciberataques, creación de material biológico nocivo o la capacidad de autoreplicarse.

• Auditorías independientes: Evaluación periódica a cargo de entidades externas para verificar que las medidas de seguridad se estén aplicando con eficacia. Esto supondrá la concesión de licencias de evaluación a firmas especializadas en ciberseguridad, institutos de seguridad de IA y académicos autorizados para auditar el código y los pesos de los modelos. Así como la creación de indicadores unificados de riesgo que permitan comparar el nivel de seguridad entre diferentes desarrolladores antes de su certificación pública. 

• Supervisión directiva: Creación de comités especializados en los consejos de administración de cada compañía para analizar los informes técnicos y de riesgo, que tengan la capacidad de frenar el lanzamiento de un producto si no cumple con las métricas de seguridad.

• Órgano de seguimiento: Designación de un comité supervisor multisectorial para monitorizar el avance del acuerdo en la industria. Este deberá estar integrado por representantes del sector privado, el Gobierno federal y la comunidad técnica para evaluar trimestralmente la eficacia del pacto. 

¿Cuáles son las implicaciones reales? ¿Tiene sentido?

Como vemos, la postura de la Casa Blanca defiende que imponer una regulación estatal excesiva pondría en riesgo la hegemonía tecnológica del país frente a competidores internacionales como China. Trump sostiene que las inversiones masivas en infraestructura y centros de datos deben continuar a gran velocidad, confiando en que el propio sector mitigue los riesgos éticos y operativos mediante la responsabilidad corporativa.

Sobre el papel, todas estas medidas suenan muy bien y lo cierto es que si funcionan, será mucho mejor que imponer graves regulaciones hechas por personas no expertas en la temática. Sin embargo, lo que parece más complicado es que una compañía retrase el lanzamiento de un producto si tiene a otro competidor pisándole los talones o incluso por delante suyo. 

Además, también cabe la posibilidad de que se comporten como un oligopolio: por un lado, podrían coordinarse para frenar de manera injusta los avances de otros competidores, ralentizando así el crecimiento de la industria e incluso arriesgándose a quedarse por detrás de los competidores chinos. O por el otro, coordinarse para hacer la vista gorda y que en la práctica no haya supervisión ninguna, sino una cortina de humo para contentar al gobierno y al público en general. 

En definitiva, lo óptimo sería que se establecieran fuertes sanciones y acuerdos de responsabilidad en los que si una empresa lanza un modelo y provoca un daño a terceros a través de hackeos o ataques por el estilo, tenga que hacerse responsable y enfrente unas duras sanciones. Es decir, que la compañía tenga que realizar un análisis de coste-beneficio en el que le salga a perder lanzar un modelo con altos riesgos. 

Ahora bien, el acuerdo supone cierta relajación en los miedos sobre la ralentización de la inversión en centros de datos y otros componentes, más allá de momentos concretos en los que se tenga que ralentizar el desarrollo de un modelo. Y como hemos comentado, eso está aún por verse.