La Justicia federal volvió a poner la lupa sobre los riesgos que plantea la Inteligencia Artificial (IA) en plena campaña electoral. El fiscal Ramiro González reclamó la adopción de medidas inmediatas para evitar la difusión de videos falsos y contenidos manipulados que puedan alterar el proceso democrático de cara a las elecciones del 26 de octubre.

La presentación fue realizada ante la jueza federal con competencia electoral, María Servini, y respalda un amparo impulsado por el abogado constitucionalista Andrés Gil Domínguez. En su dictamen, González instó a los organismos nacionales a detallar qué acciones de prevención y sensibilización están en marcha para garantizar un voto informado, en un escenario en el que debuta la Boleta Única Papel como nuevo instrumento de sufragio.

El rol de la Cámara Electoral

El fiscal también propuso reforzar el Compromiso Ético Digital 2025, una iniciativa promovida por la Cámara Nacional Electoral que convoca a partidos políticos, bloques legislativos, medios de comunicación, empresas y plataformas digitales a asumir la responsabilidad de preservar un debate público sano. La idea es que esa adhesión voluntaria funcione como un marco de autorregulación frente a la amenaza creciente de la manipulación digital.

Ahora será la jueza Servini quien deba resolver si avanza con nuevas medidas judiciales en línea con el planteo del fiscal o si desestima el amparo presentado. El dictamen, sin embargo, marca un paso clave en la discusión sobre cómo enfrentar el impacto de la IA en los procesos democráticos.

El antecedente de los deepfakes

El planteo de Gil Domínguez cobró relevancia tras el episodio ocurrido el 18 de mayo, durante las elecciones legislativas porteñas. Ese día, en plena veda electoral, circularon dos videos falsos generados con IA que clonaban la imagen y la voz del expresidente Mauricio Macri y de la diputada Silvia Lospennato. Ambos audios falsos llamaban a votar por el candidato libertario Manuel Adorni, lo que encendió las alarmas sobre el uso malicioso de la tecnología.

El abogado sostuvo que estos contenidos vulneran el derecho constitucional de los ciudadanos a elegir libremente a sus representantes. Por eso pidió a la Justicia que ordene a la Jefatura de Gabinete, al Ministerio del Interior y a la Subsecretaría de Asuntos Políticos implementar mecanismos eficaces para prevenir, alertar y cesar la difusión de material manipulado.

En diálogo con Infobae, Gil Domínguez celebró el respaldo del fiscal: «El dictamen es un gran aporte para que la Justicia electoral garantice la transparencia del proceso electoral en tiempos de la IA generativa. Ahora resta esperar la sentencia de la jueza Servini para que los comicios del 26 de octubre estén eficazmente protegidos».

Los fundamentos del dictamen

En su escrito, el fiscal González citó distintas acordadas de la Cámara Nacional Electoral que apuntan a «construir conciencia ciudadana sobre el buen uso de las nuevas tecnologías de comunicación» y a «contrarrestar la manipulación de contenidos digitales sin afectar la libertad de expresión».

El funcionario judicial advirtió que no existen dudas sobre los riesgos de los deepfakes: «Se trata de actos de comunicación malintencionada, falsa o difamatoria, mediante el recurso de la inteligencia artificial. En ciertos casos, directamente constituyen delito».