La inserción de la IA y la digitalidad ya no tienen posibilidad de retroceso en la vida de las sociedades.
Por Gabriel Zurdo, en diario Clarín
HACÉ CLICK AQUÍ PARA UNIRTE AL CANAL DE WHATSAPP DE DIARIO PANORAMA Y ESTAR SIEMPRE INFORMADO
La difícil y compleja determinación de qué es verdad y qué es fantasía nos obliga a un ejercicio diario y permanente que, en algunos casos, apela al escepticismo místico y, en otros, a la entrega naif y voluntaria a la credibilidad de la pantalla. Fotos, audios, videos, deepfake, desinformación y manipulación de la opinión. Nunca antes habían ido tan lejos y tan rápido la mentira y el engaño.
La inserción de la IA y la digitalidad ya no tienen posibilidad de retroceso en la vida de las sociedades. La imperiosa necesidad de regular y gestionar desde el control tiene una complejidad adicional: la explosiva aparición de nuevas tecnologías y plataformas, y el acompañamiento en este sentido de la industria del cibercrimen, las estafas virtuales y el ciberespionaje comercial hacen uso intensivo de esta realidad. Pero la geopolítica, la coyuntura política y los conflictos sociales no se quedan atrás.
La Ley de IA de la UE establece que los proveedores de IA están obligados a indicar si los contenidos son construidos con IA, informar qué fuentes han utilizado, explicar cuál es su propósito y su margen de error.
La norma de la Unión Europea entró en vigor el 2 de agosto último, con una ventana de adaptación a la norma hasta 2027. La UE ha creado una Oficina de IA y un Consejo de Vigilancia velará por el cumplimiento de las buenas prácticas, considerando sanciones económicas de envargadura.
También en Europa, Dinamarca propone una ley que otorga a los ciudadanos tres derechos fundamentales en formato digital, respecto a su propio cuerpo, rasgos faciales y voz, combatiendo los engaños formulados por deepfakes de suplantación de identidad, una ley de control total sobre la identidad digital, similar al de los derechos de autor.
Además el derecho de eliminación hará posible exigir el borrado inmediato de cualquier contenido producido con IA que manipule o suplante identidad. Será factible solicitar una indemnización por daños y perjuicios, incluso sin demostrar daño a la reputación o intención maliciosa. Pero un giro totalmente novedoso hace responsables a las plataformas tecnológicas y a los proveedores de hosting, imponiéndoles multas considerables si no responden con rapidez al ser notificados de contenido ilegal.
Ciberdelincuentes engañan generando audios cortos que contienen la voz de un ser querido en una situación de crisis, solicitando dinero o exigiendo un rescate, acceden a cuentas bancarias utilizando estos mismos audios falsos, crean imágenes realistas en redes sociales para estafar mediante ingeniería social, phishing, estafas de amor y, últimamente, fraudes de inversión.
Fabrican DNIs, licencias de conducir, producen fotografías de personas sintéticas, crean imágenes de celebridades o personajes de redes sociales que promocionan productos falsificados o que venden y nunca serán entregados.
La IA en campañas electorales ha demostrado ser una herramienta poderosa en la configuración del debate electoral, generando contenido que muchas veces es indistinguible de la realidad para las personas de a pie.
La desinformación es particularmente grave en contextos electorales: la propagación de noticias falsas puede alterar la percepción de la población y afectar la legitimidad del proceso democrático. La IA sigue representando un desafío en la lucha contra la manipulación informativa.
La inteligencia artificial es un punto de inflexión que nos debe interpelar para debatir sobre cómo las campañas sucias hacen uso de sesgos de datos, afectan la transparencia y podría degradar la calidad de las democracias de Occidente, sin dudas.