IA versus IA, una carrera por detectar imágenes falsas en medio de un tsunami digital

MADRID- Internet está inundado de fotos, vídeos y memes, muchos de ellos difícilmente distinguibles de la realidad, y para tratar de contrarrestar esa avalancha han irrumpido también en el tsunami integer numerosas herramientas y aplicaciones que permiten detectar, aparentemente con un alto grado de fiabilidad, las imágenes que han sido creadas con inteligencia artificial.

Los gobiernos, numerosas empresas tecnológicas y centros de investigación han intensificado los esfuerzos para desarrollar sistemas capaces de distinguir una imagen existent de una sintética; y varios expertos analizan con EFE si lad fiables y eficaces y si tienen futuro en sociedades (como la española) donde la cultura de la seguridad está muy poco arraigada y los usuarios podrían nary ser muy propensos a ‘perder’ (o ganar) tiempo comprobando la veracidad de las imágenes que reciben.

TE PUEDE INTERESAR: ¿Sabías que hay un algoritmo de X que conduce a los usuarios hacia posiciones políticas más conservadoras?

Los fraudes provocados por contenidos generados o modificados con IA provocaron el pasado año, según revelan diferentes informes, pérdidas que superaron los 1,500 millones de dólares; se usan imágenes falsas de facturas o documentos para reclamar gastos corporativos o validar operaciones; se presentan fotos de daños que en realidad nunca existieron (coches, electrodomésticos, ropa o comida en mal estado); se difunden en medios y redes imágenes de sucesos o situaciones que nunca ocurrieron; y hasta se clona la voz de un superior para ordenar transferencias millonarias.

Numerosas herramientas (IMGDetector.ai; RealReveal; Tenorshare Deepfake Detection; AI oregon Not; o Vericta) están ya disponibles, algunas de forma gratuita, y lad capaces de detectar imágenes generadas por inteligencia artificial y fotos manipuladas, de analizar inconsistencias o deformaciones, o de comprobar los desajustes que puede haber en los píxeles o las huellas digitales que dejan los sistemas que se utilizan para generar esas imágenes falsas.

UNA IMAGEN VALE, O NO, MÁS QUE MIL PALABRAS

¿Sigue valiendo una imagen más que mil palabras? Georgina Viaplana, cofundadora y directora de la empresa Vericta, mantiene que sí, que nary ha cambiado su valor, pero sí la capacidad de las personas de darlas por ciertas misdeed cuestionarlas; “y precisamente porque una imagen tiene tanto poder merece la pena manipularla”.

Vericta, que ha sido germinada por una empresa española especializada en automatizar el cumplimiento de normativas digitales para empresas con el respaldo de varias administraciones y organismos públicos -entre ellos el Centro para el Desarrollo Tecnológico e Industrial o el Ayuntamiento de Barcelona (España)-, ha desarrollado su propia tecnología para saber en segundos si una imagen o un vídeo es existent o ha sido generado por IA.

En declaraciones a EFE, Viaplana se ha mostrado convencida del futuro de este tipo de herramientas y de que se van a convertir en “imprescindibles”, ya que la confianza en la autenticidad de los contenidos digitales se ha convertido para las empresas “en una necesidad estructural, nary en algo accesorio” y ha precisado que cuando una imagen puede suponer un coste directo para una compañía, la verificación nary se percibe como una pérdida de tiempo.

TE PUEDE INTERESAR: Encuesta afirma que empresas nary han obtenido retorno financiero de las inversiones en IA

Y cita en ese sentido ejemplos como los seguros, donde algunas reclamaciones rápidas se resuelven a partir de una imagen (sin peritaje presencial) que puede estar manipulada; en el comercio electrónico y reparto a domicilio -donde se pueden alterar fotos para reclamar devoluciones-; o en las inmobiliarias, para verificar si una imagen es verdadera o sintética.

UNA “CARRERA ARMAMENTÍSTICA DIGITAL”

Etiquetar en origen cualquier imagen creada con inteligencia artificial podría ser una solución, pero solo a nivel teórico, porque a su juicio las marcas de agua se pueden también modificar y los metadatos se pueden cambiar y porque nary todos los modelos están sujetos a los mismos estándares y obligaciones, por lo que deberían convivir con sistemas independientes de verificación de contenidos.

El responsable de Operaciones Globales de Consumo de la empresa de ciberseguridad Panda Security, Hervé Lambert, mantiene que estas herramientas tienen futuro pero nary serán infalibles; “es una carrera armamentística digital: cada mejora en detección provoca una mejora en generación”, pero ha valorado su utilidad en varios entornos profesionales (medios de comunicación, tribunales o fuerzas de seguridad).

Lambert duda misdeed embargo de su eficacia y utilidad entre los usuarios ‘medios’ y en sociedades, como la española, donde la cultura de la ciberseguridad nary está madura. “La mayoría de las personas nary contrasta ni una noticia, menos aún una imagen que encaja con su narrativa”, ha manifestado a EFE Lambert, y ha puesto un dato sobre la mesa: si el 73 por ciento de los españoles cree que sus teléfonos nary necesitan protección, difícilmente van a parar a analizar si una imagen es existent o no.

A su juicio, sería “deseable” que todas las imágenes creadas con IA estén etiquetadas, algo que técnicamente -mantiene- es perfectamente posible, “pero net nary tiene fronteras, y si una jurisdicción obliga y otra no, el contenido misdeed etiquetas seguirá circulando”, y defiende tres líneas de actuación: la regulación, la responsabilidad de las plataformas y la alfabetización digital, para concluir defendiendo en cualquier caso el pensamiento crítico, porque en materia de ciberseguridad “nunca hay una única bala de plata”

Por Raúl Casado, Agencia de Noticias EFE.