Entre los mayores desafíos de la IA en elecciones, es comprender su alcance mientras sigue evolucionando.

Por Rhianwen Watkins -Granite State News Collaborative

Desde que en enero se transmitió una llamada automática que se hacía pasar por la voz del presidente Biden alrededor de New Hampshire, los expertos en inteligencia artificial (IA) y otras personas involucradas en la política y el gobierno han expresado su preocupación por los impactos de la tecnología en las próximas elecciones.

Las llamadas automáticas en New Hampshire, transmitidas el 21 de enero, apenas dos días antes de las primarias presidenciales del estado, y primeras en el país, utilizaron una voz de Biden generada por IA que incentivaba al público a no presentarse a las urnas para votar por Biden en las primarias, insinuando falsamente que votar en las primarias impediría a los votantes emitir su voto en las elecciones generales de noviembre.

Al final de la llamada, se compartía un número de teléfono en el que se afirmaba que las personas podían marcarlo para “optar por no recibir” más llamadas políticas. El número, sin embargo, pertenece a Kathy Sullivan, ex-presidenta del Partido Demócrata estatal y conocida activista del partido que no tuvo nada que ver con la llamada.

"Fue perturbador y desesperante, porque obviamente alguien estaba tratando de suprimir la votación" , dijo Sullivan. “Además , da un poco de miedo saber que alguien fue tan malicioso como para falsificar mi número de teléfono. Parecía algo personal".

El aparente intento de suprimir la votación fue rastreado hasta un consultor político llamado Steve Kramer. Kramer le encargó a un mago callejero de New Orleans con experiencia en grabación de audio la creación de la llamada automática y contrató a dos empresas de Texas para transmitir la llamada. 

Kramer insistió en entrevistas con varios medios de comunicación que su única intención al realizar la llamada automática fue informarle al público sobre los peligros de la IA. Pero Sullivan tiene sus dudas.

“Si eso era cierto, si estaba tratando de hacer algo tan cívico, ¿por qué diablos falsificó mi número de teléfono?" dijo Sullivan. También dijo que cree que incluir su número tenía un motivo subyacente para sabotear el esfuerzo de la campaña de Biden, de pedirle a los votantes que escriban el nombre del candidato en la papeleta, en el cual Sullivan alentó a los votantes a participar, además de expresar su apoyo al presidente.

En el momento en que se realizó la llamada automática, Kramer estaba trabajando en la campaña de Dean Phillips, un congresista demócrata de Minnesota que desafiaba a Biden en las primarias. La campaña de Phillips le pagó a Kramer más de $250,000 por sus servicios, según informes de la Comisión Federal Electoral. El equipo de Phillips ha negado cualquier participación en la llamada automática.

Actualmente, la Fiscalía General del estado está investigando a Kramer y a la llamada automática.

"Espero que pronto escuchemos algo acerca de que han emprendido acciones legales contra este colega Kramer que estaba detrás de esto" , dijo Sullivan. “Todo fue una experiencia tan extraña y aún no ha terminado". 

En rápida evolución

Según David Scanlan, secretario de estado de New Hampshire y quien supervisa las elecciones en el estado, uno de los aspectos más difíciles del uso de la IA en campañas políticas es que la gente todavía está tratando de comprender su alcance mientras se pone al día de cómo evoluciona rápidamente .

"Creo que con lo que vimos aquí hace unos meses, en New Hampshire, deja bastante claro que la caja de pandora está abierta en este momento", dijo Jim Merrill, consultor político republicano de Bernstein Shur que ha trabajado en las campañas presidenciales de Mitt Romney y Marco Rubio. “La IA es una herramienta para la que estamos viendo aplicaciones en una variedad de industrias. Así que no sorprende que esté empezando a aparecer en las campañas políticas, y creo que eso no hará más que aumentar en los próximos meses". 

Merrill dijo que la responsabilidad recaerá significativamente en las campañas y sus equipos de comunicación para responder rápidamente a la información errónea sobre los candidatos que representan. Sin embargo, los medios de comunicación también tendrán que estar alerta, enfatizó, y estar preparados para informar rápidamente sobre las falsedades que aparezcan.

Scanlan añadió que los votantes también tienen la responsabilidad de realizar su propia investigación y discernir por sí mismos lo que es cierto y lo que no, a medida que se acercan las elecciones.

"Creo que todos tenemos la responsabilidad de minimizar los impactos realmente negativos y preocupantes que la IA puede tener en las elecciones", enfatizó Merrill.

Sin embargo, Jeremiah Johnson, profesor asociado de ciencia de datos en la Universidad de New Hampshire e investigador de IA, advirtió que cada vez es más difícil saber qué es IA y qué no .

“Se han realizado esfuerzos para desarrollar marcas de agua digitales que identificarían el contenido generado por IA, pero no son muy buenas y se pueden eliminar. Así que no está claro si eso brindará algún tipo de solución”, afirmó Johnson. “Simplemente crea un ambiente en el que resulta muy difícil confiar en algo que no sea un ser humano de carne y hueso que está frente a ti". 

Johnson añadió que las fotografías generadas por IA a veces pueden identificarse al detectar irregularidades en las manos o los dientes de las personas que aparecen en las imágenes. 

Un ejemplo fue una fotografía fabricada que circuló recientemente y que muestra al ex-presidente y candidato republicano Donald Trump rodeado de grupos de negros.

La imagen, además de no tener conexión con la campaña de Trump, parecía mostrar a las personas con las manos de aspecto peculiar bajo una iluminación extraña e hizo que el rostro del ex-presidente pareciera ligeramente diferente de lo habitual. 

Sin embargo, dijo Johnson, muchos de esos detalles reveladores ya no existen en las imágenes de IA más recientes. "Los modelos ya han superado esas cuestiones", afirmó. “Así que es un problema realmente desafiante". 

Merrill estuvo de acuerdo.

“Es probable que veamos historias realistas y convincentes que están completamente inventadas para beneficio o perjuicio de alguien. Y creo que debemos ser realmente cautelosos y reflexivos sobre dejar que eso nos influya”, dijo. “ Va a ser muy importante que todos los interesados en esto actúen con mucho cuidado".

Acción legislativa

Las llamadas automáticas pusieron en marcha una serie de proyectos de ley relacionados con el uso de la IA que actualmente está circulando en la Legislatura de New Hampshire.

Proyecto de ley 1596 requeriría “una divulgación del uso engañoso de inteligencia artificial en la publicidad política". 

El proyecto de ley establece que cualquier grabación de audio o video que utilice IA debe incluir una declaración hablada al final que diga que se realizó con esa tecnología. Para los medios visuales, la divulgación debe realizarse en un texto que sea “fácilmente legible para el espectador promedio y no más pequeño que el tamaño de fuente más grande de otros textos que aparecen en los medios visuales". 

Si el proyecto de ley se convierte en ley, entraría en vigor el 1 de agosto, tres meses antes de las elecciones de noviembre.

Mas alla del uso de la IA en campañas, otro proyecto de ley, Proyecto de ley del Senado 564, que fue aprobado por el Senado y ahora está en la Cámara, ampliaría la prohibición contra las imágenes de abuso sexual infantil para incluir las generadas por IA. 

Los legisladores también están tratando de aprobar SB 464 y HB 1319 , proyectos de ley que ampliarían la ley actual que prohíbe la difusión de imágenes sexuales no consentidas, para incluir aquellas que son sintéticas y generadas por IA.

HB 1688 también está siendo considerado en esta sesión legislativa. Busca prohibir a las agencias estatales utilizar la IA para “manipular, discriminar o vigilar al público". 

Además de los proyectos de ley estatales, la llamada automática de New Hampshire y el furor que causó, impulsaron a la Comisión Federal de Comunicaciones prohibir las llamadas automáticas que utilizan voces generadas por IA a partir de mediados de febrero.

Sullivan dijo que tiene la esperanza de que al menos parte de esta legislación se apruebe en la sesión de 2024.

Responder y adaptarse

A pesar de que la IA demostró tener importantes influencias negativas, Scanlan y Merrill dijeron que sentían que también podría tener algunos beneficios potenciales, si se usaba sin intenciones maliciosas.

"Una campaña funciona con grandes cantidades de datos", dijo Merrill. “No me resulta difícil ver cómo la IA puede funcionar para permitir que las campañas elaboren mensajes y publicidad con más cuidado". 

Scanlan añadió que puede ser una herramienta útil para informar a los votantes.

"Si los votantes tienen preguntas, se puede utilizar la IA como motor de búsqueda que puede dar una respuesta muy rápida y precisa sobre cómo funciona el proceso electoral" , dijo.

"Se trata de garantizar que se promuevan esas aplicaciones beneficiosas", afirmó Merrill.

Sin embargo, Johnson dijo que se sentía más "escéptico" con respecto a los aspectos positivos de la IA.

En cualquier caso, Scanlan dijo que la IA es una parte inevitable del futuro y la clave es aprender a navegar en ella. 

“Los candidatos y los partidarios de los candidatos siempre están buscando una manera de obtener cierta influencia o ventaja sobre su oponente y, a veces, superan los límites. Y eso siempre ha sido cierto”, dijo Scanlan. “Ahora la IA es sólo otra oportunidad para que eso suceda". 

Merrill estuvo de acuerdo con esto. 

"Probablemente sea la punta del iceberg de lo que podríamos esperar en los meses y años venideros", afirmó Merrill. “Una campaña inteligente se dará cuenta de que esto es parte de la nueva realidad. No podemos esconder la cabeza en la arena por eso. Necesitamos estar preparados para abordarlo cuando suceda algo."

Estos artículos son compartidos por socios de The Granite State News Collaborative como parte de su serie Ya Es Tiempo. 

Para obtener más información, visite collaborativenh.org