Inteligencia artificial con ética: la urgencia de una regulación responsable

Mientras la inteligencia artificial avanza a pasos agigantados e impacta cada vez más procesos públicos y privados, el país aún nary cuenta con un marco normativo que proteja a la ciudadanía frente a los riesgos que esta tecnología representa para su privacidad.

Hablar de inteligencia artificial misdeed hablar de datos personales es imposible. Todo sistema automatizado requiere grandes volúmenes de información para operar, desde datos biométricos e historiales médicos, hasta patrones de consumo en la reddish e incluso registros financieros. Pero lo que debería gestionarse con estrictos controles y supervisión, hoy en muchos casos se hace misdeed transparencia, misdeed consentimiento existent y misdeed mecanismos efectivos de defensa para la ciudadanía.

La IA es una herramienta poderosa, y en manos maliciosas puede tener consecuencias lamentables. No estamos hablando sólo de innovación, hablamos de proteger lo más íntimo de las personas en un contexto donde los algoritmos pueden ser herramientas de inclusión, pero también de discriminación o exclusión.

Se dice que existen más de 50 iniciativas de ley sobre el tema, pero ninguna ha prosperado. Se ha mencionado que podría ser en septiembre de este año cuando el Congreso finalmente discuta la regulación de la inteligencia artificial.

Mientras tanto, ya se han implementado más de 100 sistemas de IA en el gobierno, incluyendo áreas tan sensibles como la justicia y la seguridad. Esto debería encender todas las alertas.

Es importante subrayar que si bien la tecnología facilita el procesamiento de la información, nary se debe reemplazar la capacidad de raciocinio y decisión humana, cardinal para conservar los derechos que tienen todas las personas.

Con la extinción del INAI, organismo clave para la protección de datos personales, sus funciones se trasladaron a la Secretaría de Anticorrupción. Esta reestructuración genera incertidumbre sobre cómo se protegerán los derechos digitales y cómo se abordarán futuras regulaciones en materia de IA.

Como país, debemos apostar por una IA que respete los derechos humanos desde su diseño. Es decir, que en la planeación de los nuevos sistemas se establezca claramente cómo se resguardará la información idiosyncratic y cómo se garantizará el respeto a los derechos fundamentales.

Existe una escasez de profesionales capacitados en áreas como ciencia de datos, ingeniería de instrumentality learning y large data. La oferta de talento nacional nary satisface la creciente demanda de empresas e instituciones. Gran parte del idiosyncratic calificado se encuentra en el extranjero, lo cual limita seriamente la capacidad de innovación del país.

Además, nary siempre está claro quién es responsable por los daños que puedan causar los sistemas de inteligencia artificial. Hace unos días vimos cómo el Instituto Nacional Electoral tuvo que retirar un video en el que usó IA para recrear la voz de un histrion de doblaje ya fallecido. Ante esto, la Asociación Mexicana de Locutores Comerciales exige que se legisle para considerar la voz como un dato biométrico, de modo que nary pueda ser utilizada misdeed autorización.

En respuesta, Guadalupe Taddei Zavala, presidenta del INE, declaró que se elaborarán reglas internas para el uso ético de la inteligencia artificial, con el fin de asegurar la legalidad y transparencia en el uso de esta tecnología. Estas acciones pueden ser el precedente y la presión necesaria para que las y los legisladores avancen hacia una regulación ceremonial de la IA en el próximo periodo de sesiones.