Newsom firma leyes contra falsificaciones sexuales explícitas y exige marcas de agua con IA

CALIFORNIA.- El gobernador Gavin Newsom firmó hoy tres importantes leyes diseñadas para abordar las preocupaciones éticas en torno a la inteligencia artificial (IA) y proteger a las personas del uso indebido de contenido digital. Las nuevas leyes imponen nuevos requisitos a los desarrolladores de IA y a las plataformas de redes sociales para garantizar un uso responsable de la tecnología y, al mismo tiempo, proteger a los californianos de cualquier daño.

"Nadie debería sentirse amenazado por alguien que pueda falsificar su identidad en Internet, especialmente de forma sexualmente explícita. Estamos en una era en la que las herramientas digitales como la inteligencia artificial tienen inmensas capacidades, pero también pueden utilizarse de forma abusiva contra otras personas. Estamos dando un paso adelante para proteger a los californianos".
Gobernador Gavin Newsom

La SB 942 del Senador Josh Becker (D-Menlo Park) se centra en ayudar al público a identificar de manera más confiable el contenido generado por IA. Requiere que los sistemas de IA generativa ampliamente utilizados incluyan divulgaciones de procedencia en el contenido que generan. Estas divulgaciones, aunque invisibles para los humanos, deberían ser detectables mediante herramientas gratuitas que se ofrecen junto con estos sistemas. Los usuarios pueden usar estas herramientas para identificar el contenido generado por IA. Esta nueva medida garantiza la transparencia y la rendición de cuentas en el mundo de la creación de contenido digital, que evoluciona rápidamente.

"De ahora en adelante, es fundamental que las personas sepan si el contenido fue creado por IA o no. La SB 942 es un avance significativo con respecto a todo lo anterior porque requiere que las grandes empresas de IA etiqueten el contenido generado por IA y proporcionen una capacidad de detección por IA", dijo el senador Becker. "Al firmar este proyecto de ley, el gobernador Newsom está brindando a los californianos herramientas esenciales para navegar por el cambiante panorama digital y consolidando nuestra posición como líder en la promulgación de regulaciones sensatas sobre IA que protejan a los consumidores sin sofocar la innovación".

El proyecto de ley SB 926 de la Dra. Aisha Wahab (D-Hayward) crea un nuevo delito contra el contenido deepfake sexualmente explícito generado por inteligencia artificial. El proyecto de ley hace ilegal la creación y distribución de imágenes sexualmente explícitas de una persona real que parezcan auténticas, cuando la intención es causarle a esa persona una angustia emocional grave.

"Las víctimas de agresión sexual digital quedan traumatizadas para siempre por sus perpetradores, ya que se daña su reputación y eso lleva a una falta de ascensos en el lugar de trabajo, deterioro de la salud mental, vergüenza y aislamiento", dijo el Dr. Wahab. "La SB 926 les brinda a estas víctimas, que son predominantemente mujeres, y a las fuerzas del orden las herramientas que necesitan para garantizar que los perpetradores sean procesados con todo el peso de la ley".

La SB 981 , también del Dr. Wahab, aborda el problema del robo de identidad digital sexualmente explícito. Requiere que las plataformas de redes sociales establezcan un mecanismo para que los usuarios denuncien las falsificaciones sexuales explícitas de sí mismos; una vez denunciado, este contenido debe bloquearse temporalmente mientras la plataforma investiga y eliminarse permanentemente si se confirma. Esta legislación faculta a las personas a tomar medidas rápidas para proteger su identidad digital y privacidad en casos en que su imagen sea utilizada indebidamente.

"La gente común no tiene la fama de que Internet se limpie de contenido sexualmente explícito digitalizado en menos de 24 horas", dijo el Dr. Wahab. "La brecha digital tiene que ver tanto con el poder en Internet como con el acceso a él, y la SB 981 reequilibrará ese poder al exigir que las plataformas sean más proactivas cuando reciban informes de robo de identidad digital sexualmente explícito".

A principios de esta semana, el gobernador Newsom también firmó una serie de proyectos de ley para proteger la imagen digital de los artistas y combatir el contenido electoral deepfake .

La IA ya está cambiando el mundo y California desempeñará un papel fundamental en la definición de ese futuro. El estado alberga a 32 de las 50 empresas de IA más importantes del mundo, instituciones de investigación y educación de alto impacto y una cuarta parte de las patentes y los artículos de conferencias sobre esta tecnología.

California ha sido líder en el país en el aprovechamiento de estas tecnologías transformadoras, al tiempo que estudia los riesgos que presentan. El estado ha emprendido esfuerzos para utilizar la IA para resolver desafíos, desde reducir el tráfico hasta ayudar a abordar la falta de vivienda . 

El mes pasado, el estado se asoció con NVIDIA para lanzar una colaboración de IA pionera en su tipo y anteriormente organizó una cumbre de IA con líderes para discutir cómo el estado puede utilizar mejor esta tecnología transformadora para servir mejor a la gente de California. El año pasado, el gobernador Newsom firmó una orden ejecutiva que establece cómo el enfoque mesurado de California se centrará en dar forma al futuro de la IA ética, transparente y confiable, sin dejar de ser el líder mundial en IA.