“¿Ver y oír para creer? La inteligencia artificial (IA) está llegando a un punto donde será prácticamente imposible distinguir la realidad y la verdad, de su suplantación en videos y audios falsificados. Más allá de Taylor Swift, en la política.”
El futuro nos alcanzó. Los procesos electorales que este año se celebran en más de 70 países alrededor del mundo están siendo amenazados por los “deepfakes”. Desde la India, hasta Reino Unido, la Unión Europea y Estados Unidos, la política y las elecciones están expuestas a este riesgo, que vulnera la democracia. Y México no es la excepción.
Con los “deepfakes” (que son audios y videos con contenido sintético de Inteligencia Artificial (IA), “falsos, pero extremedamente realistas”), las estrategias de guerra sucia, campañas negras y la desinformación, adquieren otra dimensión.
El lunes pasado, previo a las elecciones primarias de New Hampshire, la oficina del fiscal general del estado alertó sobre una “robollamada” creada con IA, con la voz clonada del presidente Joe Biden, que le pedía al electorado no salir a votar. “Guarden sus votos para noviembre” decía el mensaje, entre otras cosas.
Por primera vez, un “deepfake” se convirtió en una amenaza real de caos electoral en ese país, y se encendieron las alarmas en Washington.
Se confirmó el temor más grande: los actores políticos malintencionados usarán la IA no solo para manipular la opinión de los votantes, sino también para alterar el desarrollo de los comicios. Un “deepfake” en el momento oportuno podría incidir en el resultado de una elección.
En México, Claudia Sheinbaum denunció el jueves pasado que fue víctima de un “deepfake” en el que supuestamente invitaba a invertir en una plataforma financiera (también fueron usados José Oriol Bosch de la BMV y Victoria Rodríguez del Banco de México). Claudia dijo que con ello buscaban defraudar y, a su vez, desacreditarla entre los votantes.
¿Con qué herramientas cuenta una autoridad electoral para dictaminar videos falsos de imagen y audio que se le presenten como prueba de violaciones a los procesos de sufragio?
Los “deepfakes” se han convertido en arma poderosa hasta en los sistemas electorales más modernos. La capacidad de generarlos avanza mucho más rápido que la posibilidad de detectarlos, lo que permite que circulen en los medios y redes sociales por días, y se amplifiquen con las “cajas de resonancia”, antes de que sean eliminados. La verdad y la realidad quedan entonces en entredicho.
En EU, la Comisión Federal Electoral ha estado preparando a funcionarios para especializarlos sobre el tema, pero no hay una regulación concreta que norme este campo. Existen ciertas reglas que ordenan que se incluya un aviso sobre el uso de IA en los spots políticos, y en caso de omisión, los candidatos puedan demandar para bloquear el spot, o por daños y perjuicios, solamente. Así las cosas, el secretario de Estado en Washington, Steve Hobbs, advirtió que las pasadas “robollamadas” son solo “la punta del iceberg de lo que veremos en 2024″.
En México, funcionarios del INE y del Tribunal Electoral (TEPJF) han manifestado en diversos medios, que los “deepfakes” pueden romper la equidad en la contienda e incidir en el voto libre de los ciudadanos, por la desinformación, pero no hay claridad en las facultades que tienen para calificar y anular elecciones por violaciones con el uso maligno de la IA.
Por otra parte, las autoridades en EU han buscado que Meta, Google/Youtube, TikTok y X establezcan medidas que de cierta forma delimiten el uso de “deepfakes”, pero sin muchos resultados. Elon Musk desmanteló el equipo de “Integridad electoral” de X, porque ha dicho que el defiende la libertad de expresión “absoluta”.
Y, aunque Meta y Google recientemente anunciaron políticas para que se notifique a los usuarios sobre qué contenido ha sido alterado digitalmente, el hecho es que no han logrado prevenir que ese material circule en redes. Inclusive han buscado distinguir su autenticidad con “marcas de agua” u otros indicadores, a partir de herramientas de IA que detecten elementos sintéticos, pero es muy incipiente.
Así, en este “wild west” de la IA, y a falta de regulaciones y de un verdadero compromiso de los dueños de las redes sociales en el ámbito electoral, la responsabilidad de lo que circule en medios y redes no recaerá solo en las autoridades, sino que organismos de la sociedad y los propios partidos políticos tendrán que involucrarse, para escudriñar la información que se difunde en las campañas.
En esta era de la IA habremos de volvernos todos más escépticos, y cuestionar y verificar más. No tomar lo que circula por su valor nominal, sino buscar su valor real. Debemos evitar que la democracia se vuelva más frágil.
Hoy más que nunca el papel del ciudadano en la democracia no acaba con el voto, tenemos que defenderla en todos los frentes, incluyendo el que, con la IA, pretende acabar con su credibilidad.
Los “deepfakes” alertan al gobierno de EU. ¿Y el INE? ¿Elecciones en riesgo?
7
1
28.01.2024
“¿Ver y oír para creer? La inteligencia artificial (IA) está llegando a un punto donde será prácticamente imposible distinguir la realidad y la verdad, de su suplantación en videos y audios falsificados. Más allá de Taylor Swift, en la política.”
El futuro nos alcanzó. Los procesos electorales que este año se celebran en más de 70 países alrededor del mundo están siendo amenazados por los “deepfakes”. Desde la India, hasta Reino Unido, la Unión Europea y Estados Unidos, la política y las elecciones están expuestas a este riesgo, que vulnera la democracia. Y México no es la excepción.
Con los “deepfakes” (que son audios y videos con contenido sintético de Inteligencia Artificial (IA), “falsos, pero extremedamente realistas”), las estrategias de guerra sucia, campañas negras y la desinformación, adquieren otra dimensión.
El lunes pasado, previo a las elecciones primarias de New Hampshire, la oficina del fiscal general del estado alertó sobre una “robollamada” creada con IA, con la voz clonada del presidente Joe Biden, que le pedía al electorado no salir a votar. “Guarden sus votos para noviembre” decía el mensaje, entre otras cosas.
Por primera vez, un........
© SDP Noticias
visit website
login
who are we?
contact us
qosheapp
Toi Staff
Gideon Levy
Belen Fernandez
Andrew Mitrovica
Mort Laitner
Rami G Khouri
Ali Fathollah-Nejad
Nikkei Editorial
