Cuatro nuevas leyes abordarán la amenaza de las imágenes de abuso sexual infantil generadas por inteligencia artificial (IA), anunció el gobierno.
El Ministerio del Interior dice que el Reino Unido será el primer país del mundo en ilegalizar la posesión, creación o distribución de herramientas de inteligencia artificial diseñadas para crear material de abuso sexual infantil (CSAM), con un castigo de hasta cinco años de prisión.
También será ilegal poseer manuales de inteligencia artificial para pedófilos (que enseñan a las personas cómo utilizarla para el abuso sexual) y los infractores recibirán hasta tres años de prisión.
«Lo que estamos viendo es que la IA está potenciando el abuso infantil en línea», dijo la ministra del Interior, Yvette Cooper, al programa Sunday with Laura Kuenssberg de la BBC.
Cooper dijo que AI estaba «industrializando la escala» del abuso sexual contra niños y dijo que las medidas gubernamentales «tal vez tengan que ir más allá».
Otras leyes que se prevé introducir incluyen la tipificación como delito de la gestión de sitios web en los que los pedófilos puedan compartir contenidos de abuso sexual infantil o proporcionar consejos sobre cómo manipular a los niños, lo que se castigaría con hasta diez años de cárcel.
Además, se otorgarán a la Fuerza Fronteriza poderes para ordenar a las personas que sospechen que representan un riesgo sexual para los niños que desbloqueen sus dispositivos digitales para su inspección cuando intenten ingresar al Reino Unido, ya que el material sexualmente degradante se filma a menudo en el extranjero. Dependiendo de la gravedad de las imágenes, esto se castigará con hasta tres años de prisión.
El abuso sexual infantil generado artificialmente implica imágenes generadas total o parcialmente por computadora. El software puede «desnudar» imágenes reales y reemplazar el rostro de un niño por otro, creando una imagen realista.
En algunos casos también se utilizan las voces reales de niños, lo que significa que sobrevivientes inocentes de abuso están siendo revictimizados.
También se utilizan imágenes falsas para chantajear a los niños y obligar a las víctimas a sufrir más abusos.
La Agencia Nacional contra el Crimen (NCA) afirmó que se realizan 800 arrestos cada mes relacionados con amenazas a niños en línea. Afirmó que 840.000 adultos representan una amenaza para los niños en todo el país, tanto en línea como fuera de línea, lo que representa el 1,6% de la población adulta.
Cooper dijo: «Hay perpetradores que usan IA para ayudarlos a preparar o chantajear mejor a adolescentes y niños, distorsionando imágenes y usándolas para atraer a los jóvenes a más abusos, simplemente las cosas más horribles suceden y también se vuelven más sádicos».
Ella continuó: «Esta es un área donde la tecnología no se detiene y nuestra respuesta no puede quedarse estancada para mantener a los niños seguros».
Algunos expertos, sin embargo, creen que el gobierno podría haber ido más allá.
La profesora Clare McGlynn, experta en la regulación legal de la pornografía, la violencia sexual y el abuso en línea, dijo que los cambios eran «bienvenidos» pero que había «brechas significativas».
El gobierno debería prohibir las aplicaciones «nudify» y abordar la «normalización de la actividad sexual con chicas de aspecto joven en los principales sitios pornográficos», dijo, describiendo estos videos como «videos simulados de abuso sexual infantil».
«En estos vídeos aparecen actores adultos, pero parecen muy jóvenes y se muestran en habitaciones de niños, con juguetes, coletas, aparatos ortopédicos y otros elementos característicos de la infancia», afirmó. «Este material se puede encontrar con los términos de búsqueda más obvios y legitima y normaliza el abuso sexual infantil. A diferencia de lo que ocurre en muchos otros países, este material sigue siendo legal en el Reino Unido».
La Internet Watch Foundation (IWF) advierte que se están produciendo más imágenes de abusos sexuales infantiles mediante inteligencia artificial y que se están volviendo más frecuentes en la web abierta.
Los últimos datos de la organización benéfica muestran que los informes de abuso sexual infantil generado por IA aumentaron un 380% con 245 informes confirmados en 2024 en comparación con 51 en 2023. Cada informe puede contener miles de imágenes.
En una investigación realizada el año pasado se descubrió que, en un período de un mes, se descubrieron 3.512 imágenes de abuso y explotación sexual infantil realizadas por IA en un sitio web oscuro. En comparación con un mes del año anterior, la cantidad de imágenes de la categoría más grave (categoría A) había aumentado un 10%.
Los expertos dicen que el CSAM de inteligencia artificial a menudo puede parecer increíblemente realista, lo que hace difícil distinguir lo real de lo falso.
El director ejecutivo interino de la IWF, Derek Ray-Hill, dijo: «La disponibilidad de este contenido de IA alimenta aún más la violencia sexual contra los niños.
«Esto envalentona y alienta a los abusadores, y hace que los niños reales estén menos seguros. Sin duda, hay mucho por hacer para evitar que se explote la tecnología de inteligencia artificial, pero acogemos con satisfacción el anuncio y creemos que estas medidas son un punto de partida fundamental».
Lynn Perry, directora ejecutiva de la organización benéfica infantil Barnardo’s, dio la bienvenida a la acción del gobierno para abordar el CSAM producido por IA «que normaliza el abuso de niños, poniendo a más de ellos en riesgo, tanto en línea como fuera de línea».
«Es vital que la legislación se mantenga al día con los avances tecnológicos para prevenir estos crímenes horribles», añadió.
«Las empresas tecnológicas deben asegurarse de que sus plataformas sean seguras para los niños. Deben tomar medidas para introducir salvaguardas más sólidas, y Ofcom debe garantizar que la Ley de Seguridad en Línea se implemente de manera eficaz y sólida».
Las nuevas medidas anunciadas se introducirán como parte del Proyecto de Ley sobre Delincuencia y Policía cuando llegue al Parlamento en las próximas semanas.