Campañas electorales 2024: ¿Es el uso de la AI un riesgo?, esto dicen los expertos

El proceso electoral 2024 está en marcha, y entre los numerosos desafíos que enfrenta la autoridad electoral, destaca uno por su complejidad e innovación: el uso de la Inteligencia Artificial (IA).

Aunque esta tecnología ha tenido impactos positivos, también es innegable que su uso negativo ha comenzado a generar preocupación en diversos sectores sociales.

Uno de los campos donde ya se ha implementado y se espera que adquiera gran impulso es en las campañas políticas, que serán omnipresentes desde este mes hasta mayo de 2024.

La doctora en derecho por la UNAM, Amada María Arley Orduña, advierte que el uso de herramientas de IA en audios y videos, donde es difícil distinguir entre una voz humana y una voz clonada, afecta directamente la percepción, el razonamiento y, en última instancia, el criterio y la toma de decisiones del elector.

En un artículo publicado en la Revista Jurídicas, la experta destaca el uso de la IA generativa en las elecciones de coordinadores para las campañas electorales presidenciales de México en 2024. Seguidores de Xóchitl Gálvez, del Frente Amplio por México, han creado videos con contenido de imágenes y voz de la candidata, buscando que sea coherente con la narrativa diseñada por la candidata sobre sí misma.

La especialista menciona el caso del 14 de septiembre de 2023, cuando se difundió en redes sociales, especialmente en TikTok, un audio en el que Marcelo Ebrard, excanciller y exaspirante a la candidatura de Morena a la Presidencia, expresó: “A ver, ¡esto ya no tiene vuelta! Lo que nos hicieron, no es sólo a nosotros, ¡es al país! Por eso hay que tomar una decisión, la que realmente vaya con los preceptos por los que estábamos en Morena…”

Ante la revelación de este audio, Daniel Millán, exportavoz del ex canciller, declaró que la grabación se generó con Inteligencia Artificial y formaba parte de una “guerra sucia”.

La experta destaca la relevancia de este caso para los estudiosos de derecho e inteligencia artificial y la sociedad en general. En la actualidad, no existe una herramienta de IA que ayude a distinguir una voz humana de una voz clonada.

Otro riesgo de la IA es la creación de imágenes, videos o fotografías falsas a partir de textos. Jesús Savage Carmona, profesor-investigador de la Facultad de Ingeniería de la UNAM, advierte que las nuevas herramientas pueden generar videos o imágenes falsas a partir de textos.

Ante la presencia de las campañas políticas de cara a las elecciones de 2024, Amada María Arley Orduña sugiere que la autoridad electoral debe desarrollar una oficina para detectar y analizar este tipo de casos. Propone un equipo transdisciplinario de expertos en análisis de audio y video, personal que haga seguimiento a las campañas en redes sociales y abogados en materia electoral. La IA en el ámbito político es solo una muestra de los desafíos que la autoridad electoral podría enfrentar en los siguientes meses.

Con información de MVS Noticias.

JC