Brasil discute algo que ningún país resolvió: si un deepfake avisado sigue siendo deepfake

El Tribunal Superior Electoral de Brasil está resolviendo en estos días un problema que la mayoría de los reguladores del mundo prefirió no abordar, básicamente porque no tiene una respuesta obvia: en qué momento un avatar generado con inteligencia artificial que se identifica abiertamente como tal se convierte, igualmente, en desinformación electoral.

El contexto es de urgencia. Brasil vota el 4 de octubre, con un padrón de más de 150 millones de electores habilitados, y las reglas que fije el tribunal van a determinar el marco legal de las últimas cinco semanas de campaña.

El caso

Lo que precipitó la discusión ocurrió en julio. El expresidente Jair Bolsonaro, bajo arresto domiciliario y con prohibición expresa de comunicación pública, apareció en el acto de lanzamiento de campaña de su hijo Flávio como un avatar generado con inteligencia artificial.

El detalle central es que el video llevaba una advertencia explícita: se presentaba como una simulación, no como el propio Bolsonaro.

A partir de ahí, las dos posiciones quedaron planteadas con nitidez.

El equipo de Flávio Bolsonaro sostiene que un avatar que declara ser una inteligencia artificial no puede ser considerado un deepfake, porque la definición central de esa figura es el engaño al espectador. Si no hay engaño, no hay deepfake.

La coalición del presidente Lula da Silva presentó una petición ante el tribunal argumentando que el contenido violaba de todos modos las normas sobre material sintético en campaña, con etiqueta o sin ella.

Por qué es un problema nuevo

Toda la regulación previa sobre este tema, en cualquier parte del mundo, parte de un mismo supuesto: que el deepfake es engañoso por definición y que la solución es la transparencia. Si el contenido declara su origen artificial, el daño se reduce.

Ese supuesto está en la multa de un millón de dólares que la autoridad de comunicaciones de Estados Unidos aplicó a una empresa telefónica por las llamadas automatizadas con voz sintética imitando a Joe Biden, y está también en la legislación europea que entró en vigencia el mes pasado.

El caso brasileño rompe ese esquema. Nadie fue engañado sobre la naturaleza del video. La pregunta es otra: si permitir que una persona legalmente impedida de comunicarse públicamente lo haga a través de una representación digital vacía de contenido esa restricción.

Qué está evaluando el tribunal

Según lo trascendido, las reglas en estudio irían más allá de prohibir los deepfakes engañosos. Incluirían etiquetas obligatorias para todo material electoral generado con inteligencia artificial, restricciones sobre los sistemas de recomendación aplicados a contenido político, y un período de silencio para el material sintético en los días previos a la votación.

La normativa vigente ya prohíbe el uso de deepfakes para perjudicar o favorecer a una candidatura, incluso cuando exista autorización de la persona representada, y exige que los contenidos generados o modificados con IA estén identificados de manera explícita.

Dentro del tribunal, según la prensa brasileña, hay preocupación por las consecuencias de autorizar excepciones para los llamados "deepfakes positivos". Algunos de sus integrantes advierten que resolver caso por caso podría multiplicar los litigios durante toda la campaña.

Hay además un problema de implementación que nadie resolvió: cómo se aplica un silencio electoral sobre contenido sintético en grupos privados de mensajería, que es donde circula buena parte de la conversación política brasileña.

La escala del fenómeno

Un dato ayuda a dimensionar el terreno. Según el Instituto Democracia em Xeque, dirigentes alineados tanto con Bolsonaro como con Lula compartieron cientos de publicaciones formalmente etiquetadas como generadas por inteligencia artificial en un período de apenas quince días.

Es decir: el uso ya es masivo y transversal a las coaliciones. Lo que se está definiendo no es si la herramienta se va a usar, sino bajo qué reglas.

Argentina no tiene todavía una normativa específica sobre contenido sintético en campaña. Lo que resuelva el tribunal brasileño va a ser, casi con seguridad, la referencia regional sobre la que se discuta acá.

Fuentes: Tribunal Superior Electoral de Brasil; Instituto Democracia em Xeque; prensa brasileña e internacional.