El Comisionado de Niños para Inglaterra está pidiendo al Gobierno que prohíba las aplicaciones que usan inteligencia synthetic (IA) para crear imágenes sexualmente explícitas de niños.
Dame Rachel de Souza dijo que se necesitaba una prohibición whole en las aplicaciones que permiten la “desnificación”, donde las fotos de las personas reales son editadas por IA para hacer que parezcan desnudas, o se pueden usar para crear imágenes de niños profundas sexualmente explícitas de niños.
Ella dijo que el gobierno estaba permitiendo que tales aplicaciones “no se controlen con consecuencias extremas del mundo actual”.
Un portavoz del gobierno dijo que el materials de abuso sexual infantil period ilegal y que había planes para más delitos por crear, poseer o distribuir herramientas de IA diseñadas para crear dicho contenido.
Deepfakes son movies, imágenes o clips de audio hechos con IA para verse o sonar reales.
En Un informe publicado el lunes, Dame Rachel dijo que la tecnología estaba apuntando desproporcionadamente a niñas y mujeres jóvenes con muchas aplicaciones a medida que parecen trabajar solo en cuerpos femeninos.
Las niñas evitan activamente publicar imágenes o participar en línea para reducir el riesgo de ser atacadas, según el informe, “de la misma manera que las niñas siguen otras reglas para mantenerse a salvo en el mundo fuera de línea, como no caminar solo a casa solo por la noche”.
Los niños temían que “un extraño, un compañero de clase o incluso un amigo” pudiera apuntarlos utilizando tecnologías que se pudieran encontrar en la búsqueda in style y las plataformas de redes sociales.
Dame Rachel dijo: “La evolución de estas herramientas está ocurriendo a tal escala y velocidad que puede ser abrumadora tratar de controlar el peligro que presentan.
“No podemos sentarnos y permitir que estas aplicaciones de IA a medida tengan una bodega tan peligrosa sobre la vida de los niños”.
Dame Rachel también pidió al gobierno que:
- imponer obligaciones legales a los desarrolladores de herramientas de IA generativas para identificar y abordar los riesgos que sus productos representan para los niños y toman medidas para mitigar esos riesgos
- Configure un proceso sistémico para eliminar imágenes de niños profundos sexualmente explícitos de niños de Web
- Reconocer el abuso sexual de Deepfake como una forma de violencia contra mujeres y niñas
Paul Whiteman, Secretario Normal de la Unión de Líderes Escolares Naht, dijo que los miembros compartieron las preocupaciones del comisionado.
Él dijo: “Esta es un área que necesita ser revisada con urgencia, ya que la tecnología corre el riesgo de superar la ley y la educación en torno a ella”.
Es ilegal en Inglaterra y Gales bajo la Ley de Seguridad en línea compartir o amenazar con compartir imágenes explícitas de Deepfake.
El gobierno anunciado en febrero leyes para abordar la amenaza de las imágenes de abuso sexual infantil generadas por AI, que incluyen hacer que sea ilegal poseer, crear o distribuir herramientas AI diseñadas para crear dicho materials.
Dijo en ese momento que Web Watch Basis, una organización benéfica con sede en el Reino Unido en parte financiada por firmas tecnológicas, había confirmado 245 informes de abuso sexual infantil generado por IA en 2024 en comparación con 51 en 2023, un aumento del 380%.
Regulador de medios OFCOM publicó el Versión final de su código infantil el viernesque pone requisitos legales en plataformas que organizan pornografía y contenido que fomenta la autolesión, el suicidio o los trastornos alimentarios, para tomar más medidas para evitar el acceso por parte de los niños.
Los sitios net deben introducir controles de edad reforzados o enfrentar grandes multas, dijo el regulador.
Dame Rachel ha criticado el código diciendo que prioriza “los intereses comerciales de las compañías de tecnología sobre la seguridad de los niños”.
Un portavoz del gobierno dijo que crear, poseer o distribuir materials de abuso sexual infantil, incluidas las imágenes generadas por IA, es “aborrecible e ilegal”.
“Según las plataformas de la Ley de Seguridad en línea de todos los tamaños, ahora tienen que eliminar este tipo de contenido, o podrían enfrentar multas significativas”, agregaron.
“El Reino Unido es el primer país del mundo en introducir más delitos de abuso sexual infantil de IA, lo que hace que sea ilegal poseer, crear o distribuir herramientas de IA diseñadas para generar materials atroz de abuso sexual infantil”.
