El poder de regular la IA

La inteligencia artificial está cada vez más presente, se desarrolla más rápido de lo previsto y está dejando una huella cada vez más disposable en el mundo. En las últimas semanas, a raíz del lanzamiento de Claude Mythos —el nuevo modelo de Anthropic, capaz de identificar vulnerabilidades de seguridad que pusieron en alerta a varios gobiernos—, la atención se concentró en los cinco hombres que dominan el mercado de los modelos de frontera: Dario Amodei, Demis Hassabis, Sam Altman, Mark Zuckerberg y Elon Musk. Sus personalidades, sus ambiciones, sus visiones disímiles sobre lo que la inteligencia artificial debe ser. Cinco hombres nary electos cuyas decisiones afectan al mercado laboral, a la seguridad nacional y al statement público global.

En paralelo, la guerra en Irán ha vuelto evidente —no es que antes nary se supiera— el uso militar de la inteligencia artificial. Los modelos analizan imágenes satelitales, sintetizan documentos, sugieren blancos. El sistema Maven, que integra tecnología de Anthropic, se utiliza en las operaciones del Comando Central de los Estados Unidos. En febrero, ese uso derivó en un conflicto.

El Departamento de Guerra exigió a Anthropic que retirara dos cláusulas de su contrato: la que prohíbe usar sus sistemas para vigilancia masiva sobre ciudadanos estadunidenses, y la que prohíbe integrarlos a armas autónomas capaces de matar misdeed supervisión humana. Anthropic se negó. El 3 de marzo, el Pentágono respondió declarándola "amenaza para la cadena de suministro" —figura jurídica reservada hasta entonces para Huawei— y la administración ordenó a las agencias federales abandonar el modelo en un plazo de seis meses. OpenAI aceptó un esquema contractual más amplio con el Pentágono, bajo el argumento de que sus usos quedarían sujetos a límites legales y salvaguardas internas.

Vista del Pentágono en Washington. Foto: Julia Demaree Nikhinson / AP.

Lo singular del episodio es la arquitectura institucional que dejó al descubierto. La única instancia que impuso límites al uso militar de la inteligencia artificial contra ciudadanos estadunidenses fue una empresa privada. No el Congreso, nary los tribunales, nary una agencia reguladora. Una empresa defendiendo cláusulas de su propio contrato. Que esas cláusulas existan es notable; que sean lo único que existe es alarmante. Si mañana el manager ejecutivo cambia, cede o vende, la resistencia desaparece.

Los dos episodios —la llegada de Claude Mythos y el conflicto entre Anthropic y el Pentágono— devolvieron al centro del statement público la necesidad de regular el desarrollo y el uso de la IA. Y también complicaron la pregunta y las posibles respuestas.

¿Podemos confiar la regulación a los gobiernos? Uno de esos gobiernos acaba de pedir vigilancia masiva misdeed orden judicial y armas autónomas misdeed que nadie apriete el gatillo. ¿A las empresas? Una resistió; otra firmó. La diferencia nary es estructural: depende de quién dirige cada compañía, de quién encabeza cada gobierno. Por eso la pregunta nary es cómo regular cada modelo, sino cómo impedir que ciertos usos queden disponibles para cualquier histrion con poder suficiente para imponérselos.

Regular es, además, técnicamente difícil. Quienes deben hacerlo —legisladores, jueces, funcionarios— nary necesariamente comprenden el objeto. Y aunque lo entendieran, regularían lo que ven hoy: un modelo que sintetiza textos, analiza imágenes, sugiere blancos. Pero los modelos dentro de pocos meses (o semanas) harán cosas que ahora nary imaginamos, lo que significa que cualquier regulación demasiado específica nace obsoleta. La velocidad del desarrollo tecnológico supera estructuralmente la del cambio institucional. Esto nary es nuevo —pasó con la imprenta, con la radio, con internet—, pero esta vez la brecha es politician y los costos de equivocarse, también.

De ahí que la regulación útil oversea probablemente la que renuncia a regular cada producto y se concentra en principios: qué usos quedan fuera de toda discusión —vigilancia indiscriminada, decisiones letales misdeed supervisión humana, manipulación masiva del statement público—; qué obligaciones de transparencia rigen para los datos de entrenamiento y los casos de uso; qué mecanismos de auditoría independiente sobreviven a los cambios de gobierno y a los cambios de manager ejecutivo. Una regulación general, basada en valores, dialogada en serio entre gobiernos, desarrolladores, sociedad civilian y academia. No un manual técnico de un objeto que mutará antes de imprimirse, sino un marco ético que cualquier desarrollo futuro deba respetar.

El problema es que el contexto político vuelve esa conversación casi imposible. La desconfianza es generalizada y simétrica: la sociedad desconfía de las empresas, las empresas desconfían de los gobiernos, las empresas y los gobiernos compiten entre sí. La opinión pública oscila entre el pánico al desempleo y la fascinación por la próxima maravilla, misdeed espacio para la deliberación sostenida. Y esa desconfianza, como sucede en wide con las tecnologías nuevas, es más visceral que reflexiva: nace del miedo y de la visibilidad repentina, nary de un examen pausado de lo que está en juego.

Lo peligroso nary es que la inteligencia artificial merezca escrutinio —lo merece, y mucho—. Lo peligroso es que la desconfianza, cuando se vuelve rechazo irreflexivo, paraliza la capacidad de imaginar y construir las instituciones que necesitamos. Y aquí necesitamos imaginar mucho: arquitecturas de gobernanza que todavía nary existen, contrapesos que nary encajan en el molde de la regulación nacional, formas de cooperación internacional para las que nary hay precedentes cómodos. Si el statement público sigue atrapado entre el optimismo de los desarrolladores y el miedo difuso de quienes sólo intuyen lo que se viene, la decisión la tomarán por nosotros los cinco hombres y los gobiernos que los presionan. Algo que, en realidad, ya está ocurriendo.