Meta ampliará sus esfuerzos para identificar imágenes manipuladas por inteligencia artificial (AI, por sus siglas en inglés) en su intento por eliminar la información falsa y deepfakes de las próximas elecciones en varios países, como Estados Unidos o México.
La compañía ha creado herramientas para identificar contenido generado por AI a escala cuando aparece en Facebook, Instagram o Threads.
De acuerdo con el presidente de Asuntos globales de Meta, Nick Clegg, la empresa ha trabajado con socios de la industria “para alinearnos con estándares técnicos comunes que indiquen cuándo se ha creado un contenido utilizando inteligencia artificial”.
En una publicación de blog, informó que “en los próximos meses” la empresa comenzará a etiquetar imágenes generadas por AI provenientes de fuentes externas y continuará trabajando sobre el tema “durante el próximo año”.
Hasta ahora, Meta etiquetaba solo imágenes generadas por AI elaboradas con sus propias herramientas. Ahora, buscará aplicar el mismo método al contenido de Google, OpenAI, Microsoft, Adobe, Midjorney y Shutterstock.
Las etiquetas aparecerán en todos los idiomas disponibles en cada aplicación, escribió Clegg, quien adelantó también que el cambio no será inmediato.
Un pasado complicado
La desinformación relacionada con los procesos electorales causó una crisis en Facebook después de las elecciones presidenciales en Estados Unidos de 2016 debido a la forma en que los actores extranjeros, en su mayoría de Rusia, pudieron crear y difundir contenido altamente cargado e inexacto.
La plataforma fue explotada repetidamente en los años siguientes, sobre todo durante la pandemia de covid, cuando la gente utilizó la plataforma para difundir grandes cantidades de información errónea.
Meta ahora trata de demostrar que está preparada para que los malos actores utilicen formas más avanzadas de tecnología en el ciclo 2024.
Que sea más dificil quitar marcas de agua y que se note
Si bien parte del contenido generado por AI se detecta fácilmente, no siempre es así. Se ha demostrado que los servicios que afirman identificar texto generado por IA, como en ensayos, exhiben prejuicios contra hablantes no nativos de inglés. No es mucho más fácil con imágenes y vídeos, aunque a menudo hay señales.
La empresa que dirige Mark Zuckerberg busca minimizar la incertidumbre mediante la colaboración principalmente con otras empresas de inteligencia artificial que utilizan marcas de agua invisibles y ciertos tipos de metadatos en las imágenes creadas en sus plataformas.
Sin embargo, existen formas de eliminar las marcas de agua, un problema que Meta planea abordar.
“Estamos trabajando arduamente para desarrollar clasificadores que puedan ayudarnos a detectar automáticamente contenido generado por AI, incluso si el contenido carece de marcadores invisibles. Al mismo tiempo, estamos buscando formas de hacer que sea más difícil eliminar o alterar marcas de agua invisibles”, detalló Clegg.
El audio y el video pueden ser incluso más difíciles de monitorear que las imágenes, porque todavía no existe un estándar industrial para que las empresas de inteligencia artificial agreguen identificadores invisibles.
“Aún no podemos detectar esas señales y etiquetar este contenido de otras empresas”, indicó el presidente de Asuntos globales de Meta.
Meta advierte de sanciones
La propietaria de Facebook añadirá una forma para que los usuarios revelen voluntariamente cuando suben video o audio generado por AI. Si comparten un contenido deepfake o contenido similar sin revelarlo, la empresa “puede aplicar sanciones”.
“Si determinamos que el contenido de imagen, video o audio creado o alterado digitalmente crea un riesgo particularmente alto de engañar materialmente al público en un asunto de importancia, podemos agregar una etiqueta más destacada si corresponde”, afirmó Clegg.
