China ha lanzado una nueva política gubernamental diseñada para evitar la difusión de noticias falsas y videos engañosos creados con inteligencia artificial, también conocidos como deepfakes. La nueva regla, informada hoy por Reuters , prohíbe la publicación de información falsa o falsificaciones profundas en línea sin la revelación adecuada de que la publicación en cuestión fue creada con tecnología AI o VR. No revelar esto ahora es un delito penal, dice el gobierno chino.
Las reglas entrarán en vigencia el 1 de enero de 2020 y serán aplicadas por la Administración del Ciberespacio de China. “Con la adopción de nuevas tecnologías, como deepfake, en las industrias de video y audio en línea, ha habido riesgos al usar dicho contenido para alterar el orden social y violar los intereses de las personas, creando riesgos políticos y generando un impacto negativo en la seguridad nacional y la estabilidad social. “, Dijo el CAC en un aviso a los sitios web de alojamiento de videos en línea el viernes, según el South China Morning Post .
La postura de China es amplia, y parece que el gobierno chino se reserva el derecho de enjuiciar tanto a los usuarios como a los servicios de alojamiento de imágenes y videos por no cumplir con las reglas. Pero sí refleja una legislación similar introducida en los Estados Unidos que está diseñada para combatir las falsificaciones profundas.
La política de China es amplia, pero refleja una legislación similar en los Estados Unidos
El mes pasado, California se convirtió en el primer estado de EE. UU. En criminalizar el uso de falsificaciones profundas en la promoción y publicidad de campañas políticas . La ley, llamada AB 730 y firmada por el gobernador Gavin Newsom, tipifica como delito publicar audio, imágenes o videos que den una impresión falsa y perjudicial de las palabras o acciones de un político. La ley de California no usa la palabra deepfake, pero está claro que las falsificaciones fabricadas por IA son el principal culpable, junto con videos editados de manera engañosa para enmarcar a alguien en una luz negativa.
El enfoque de California excluye los medios de comunicación, así como la parodia y la sátira, con el único objetivo de evitar el daño potencial que los anuncios de ataques falsos pueden causar cuando se usan antes de las elecciones. La ley se aplica a los candidatos dentro de los 60 días de una elección y está diseñada para expirar en 2023 a menos que se promulgue de manera explícita.
El Congreso también está en el proceso de analizar el daño potencial de las falsificaciones profundas y la mejor manera de combatir su influencia en las próximas elecciones presidenciales de 2020. El Comité de Inteligencia de la Cámara de Representantes celebró una audiencia sobre el tema después de convocar a un panel de expertos de universidades y grupos de expertos para elaborar una estrategia falsa con respecto a la integridad y seguridad de las elecciones. También hay numerosas leyes en curso en el Congreso en este momento que requerirían marcas de agua especiales o revelaciones sobre medios falsos o engañosos, así como la criminalización de la creación y distribución de dicho video.
En el lado de la plataforma de EE. UU., Facebook y Twitter están en el proceso de crear mejores herramientas para detectar falsificaciones profundas y ayudar a reducir la propagación de esos videos e imágenes en las respectivas plataformas. Twitter este mes dijo que estaba redactando una política de falsificación profunda después de una serie de incidentes de alto perfil, incluido un video editado de manera engañosa de la presidenta de la Cámara de Representantes Nancy Pelosi que se volvió viral , que han resaltado cuán vulnerable es la compañía La plataforma es la desinformación de esta variedad.
Facebook, que también enfrentó críticas por no poder detener la difusión del video de Pelosi, ha comenzado a desarrollar tecnología para detectar falsificaciones profundas, pero se ha negado notablemente a eliminar dichos videos en línea con su política de discurso . Del mismo modo, Facebook ha sido criticado por permitir a los políticos mentir a sabiendas en anuncios, abriendo la posibilidad futura de anuncios políticos falsos en ausencia de legislación federal. El CEO Mark Zuckerberg ha dicho que su compañía no quiere regular el discurso en la plataforma . Twitter adoptó la postura opuesta y anunció una prohibición total de toda publicidad política el mes pasado .