El gobernador Newsom firma proyectos de ley para combatir el contenido electoral deepfake

SAN FRANCISCO - Al tomar medidas para abordar el uso de deepfakes y otro contenido engañoso generado o alterado digitalmente en las campañas electorales, el gobernador Gavin Newsom firmó hoy tres medidas para eliminar contenido engañoso de grandes plataformas en línea, aumentar la responsabilidad e informar mejor a los votantes.

"Salvaguardar la integridad de las elecciones es esencial para la democracia, y es fundamental que nos aseguremos de que la IA no se utilice para socavar la confianza del público mediante la desinformación, especialmente en el tenso clima político actual. Estas medidas ayudarán a combatir el uso nocivo de deepfakes en anuncios políticos y otros contenidos, una de las diversas áreas en las que el Estado está siendo proactivo para fomentar una IA transparente y fiable", dijo Gobernador Gavin Newsom

Hoy temprano, el Gobernador anunció la firma de una legislación para proteger la imagen digital de actores e intérpretes al garantizar que la IA no se utilice para replicar su voz o imagen sin su consentimiento.

Sobre la base de la legislación firmada por el Gobernador en 2019 para acabar con las falsificaciones profundas en las elecciones, el Gobernador firmó hoy tres proyectos de ley relacionados con anuncios y comunicaciones electorales. 

La AB 2655 del asambleísta Marc Berman (demócrata de Menlo Park) exige que las grandes plataformas en línea eliminen o etiqueten contenido engañoso y alterado o creado digitalmente relacionado con las elecciones durante períodos específicos, y les exige que proporcionen mecanismos para denunciar dicho contenido. También autoriza a los candidatos, funcionarios electos, funcionarios electorales, el Procurador General y un fiscal de distrito o un fiscal de la ciudad a solicitar medidas cautelares contra una gran plataforma en línea por incumplimiento de la ley.

"Las falsificaciones profundas generadas por inteligencia artificial plantean un riesgo claro y presente para nuestras elecciones y nuestra democracia. La AB 2655 es una solución pionera en el país para esta creciente amenaza, y estoy agradecido al gobernador Newsom por haberla firmado. Los avances en inteligencia artificial en los últimos años facilitan la generación de falsificaciones profundas hiperrealistas pero completamente falsas relacionadas con las elecciones, pero la AB 2655 garantizará que las plataformas en línea minimicen su impacto. La nueva ley es una victoria para los votantes de California y para nuestra democracia", dijo el asambleísta Berman.

La AB 2839, una medida de urgencia presentada por la asambleísta Gail Pellerin (demócrata de Santa Cruz), amplía el plazo en el que se prohíbe a un comité u otra entidad distribuir deliberadamente un anuncio u otro material electoral que contenga contenido engañoso generado o manipulado por inteligencia artificial. El proyecto de ley también amplía el alcance de la ley existente para prohibir el contenido materialmente engañoso de funcionarios electos, candidatos, funcionarios electorales y otros, autorizándolos a presentar una acción civil para prohibir la distribución de dicho material.

"La promulgación de la AB 2839 es un paso importante para seguir protegiendo la integridad de nuestro proceso democrático. A menos de 50 días de las elecciones generales, existe una necesidad urgente de protegerse contra el contenido engañoso y alterado digitalmente que puede interferir con las elecciones. Con la promulgación de la AB 2839, California se posiciona contra el uso manipulador de la tecnología deepfake para engañar a los votantes. Estoy agradecido de que el gobernador Newsom haya firmado esta legislación para garantizar que los votantes estén equipados con la información precisa que necesitan para tomar decisiones informadas este noviembre", dijo el asambleísta Pellerin, presidente del Comité de Elecciones de la Asamblea.

La AB 2355 de la asambleísta Wendy Carrillo (demócrata de Los Ángeles) exige que los anuncios electorales que utilicen contenido generado por inteligencia artificial o alterado sustancialmente incluyan una declaración de que el material ha sido alterado. El proyecto de ley autoriza a la Comisión de Prácticas Políticas Justas a hacer cumplir una infracción de estos requisitos de divulgación mediante la solicitud de una medida cautelar para obligar al cumplimiento o mediante la búsqueda de otros recursos disponibles para la comisión conforme a la Ley de Reforma Política. 

"Aplaudo al Gobernador por firmar la AB 2355, mi propuesta que exige que los anuncios políticos que utilicen contenido creado o alterado significativamente por IA generativa incluyan una divulgación clara de este hecho. La disponibilidad de herramientas para manipular imágenes, videos y sonido no es nueva. Sin embargo, las rápidas mejoras en IA y modelos de lenguaje grandes han facilitado la creación de imágenes, videos y sonidos convincentemente falsos. A medida que estas tecnologías se vuelven más accesibles y se utilizan en campañas políticas, su impacto en la democracia requiere una acción urgente. Los votantes deben estar informados cuando se utiliza IA generativa en publicidad política para alterar sustancialmente los medios o crear contenido engañoso. La libertad de expresión y la expresión política son una piedra angular de nuestra democracia, pero no podemos perder de vista nuestra humanidad en medio del avance de la inteligencia artificial. Esta es una política equilibrada que convierte a California en el primer estado en incluir la inteligencia artificial en sus reglas de transparencia de campaña", dijo el asambleísta Carrillo.

California, donde se encuentran la mayoría de las empresas de inteligencia artificial más importantes del mundo, está trabajando para aprovechar estas tecnologías transformadoras para ayudar a abordar los desafíos más urgentes y, al mismo tiempo, estudiar los riesgos que presentan. El mes pasado, el estado se asoció con NVIDIA para lanzar una colaboración de inteligencia artificial única en su tipo y, anteriormente, organizó una cumbre de inteligencia artificial que reunió a líderes de los sectores de la tecnología, el trabajo, el gobierno y el mundo académico para debatir cómo se puede utilizar la tecnología en beneficio de los californianos. El año pasado, el gobernador Newsom firmó una orden ejecutiva que establece el enfoque mesurado de California centrado en dar forma al uso equitativo y responsable de la inteligencia artificial, al tiempo que se mantiene a la vanguardia de la innovación en inteligencia artificial.