O Goberno pon no punto de mira a pornografía infantil creada mediante IA

Pedro Sánchez durante a súa intervención na presentación do fondo España Crece

Imaxe de Fernando Calvo

O presidente do Goberno, Pedro Sánchez, anunciou que o Consello de Ministros acordou invocar o artigo 8 do Estatuto Orgánico do Ministerio Fiscal para instar á Fiscalía Xeral do Estado a investigar e, no seu caso, perseguir posibles delitos de violencia sexual dixital cometidos contra menores nas principais redes sociais. A decisión afecta directamente a plataformas como X, Meta e TikTok, ás que o Executivo sinala pola súa eventual responsabilidade na creación e difusión de pornografía infantil xerada mediante intelixencia artificial.
Sánchez sostén que estas plataformas poderían estar a atentar contra a saúde mental, a dignidade e os dereitos «dos nosos fillos e fillas», e advertiu de que o Estado «non o pode permitir», insistindo en que «a impunidade dos xigantes debe rematar». A medida baséase nun informe técnico elaborado polo Ministerio da Presidencia, Xustiza e Relacións coas Cortes, o Ministerio para a Transformación Dixital e da Función Pública e o Ministerio de Xuventude e Infancia, que xa advertiran do impacto destas prácticas sobre a poboación menor de idade.
Durante varias semanas, X facilitou a creación de contido sexualizado a través do seu asistente de intelixencia artificial (Grok), chegando incluso a producir imaxes de menores que poderían considerarse pornografía infantil, o que disparou todas as alarmas. O propietario da plataforma, Elon Musk, negou inicialmente ser responsable do exercicio de liberdade dos usuarios, pero tras a presión internacional reforzou as restricións de Grok para dificultar a xeración de imaxes sexualizadas.
Na conferencia de prensa posterior ao Consello de Ministros, a ministra de Inclusión, Seguridade Social e Migracións e portavoz do Goberno, Elma Saiz, subliñou que «non podemos permitir que a través do algoritmo se poidan amplificar ou amparar» este tipo de delitos. «Está en xogo a seguridade dos nosos fillos, das nosas fillas, a protección da súa imaxe, da súa intimidade, da súa liberdade», engadiu.
O informe analiza as posibles responsabilidades penais derivadas de prácticas cada vez máis estendidas no ámbito dixital, como a xeración e difusión de contidos sexuais e pornografía infantil mediante deepfakes e a manipulación de imaxes reais para crear outras de contido sexual explícito que menoscaban a dignidade das vítimas. Tamén alerta da posible participación das redes sociais, ao permitiren «a súa difusión masiva cunha velocidade e opacidade que dificultan enormemente a detección e persecución, ao tempo que favorecen a articulación de redes que producen, comparten e monetizan estes contidos».
A solicitude cursada polo Ministerio da Presidencia, Xustiza e Relacións coas Cortes reclama que o Ministerio Fiscal, dentro da súa autonomía e tras escoitar a Xunta de Fiscais de Sala do Tribunal Supremo, analice e investigue estes feitos e exerza as accións penais que considere pertinentes. Ademais, pide que se establezan criterios de actuación e medidas concretas que permitan ás posibles vítimas e aos seus titores e representantes legais facer valer os seus dereitos ante a Fiscalía. Xa en xaneiro, o Ministerio de Xuventude e Infancia advertira da necesidade de estudar estes posibles delitos.
O Executivo xustifica a iniciativa pola aparición dun ecosistema de risco sen precedentes para a explotación sexual no ámbito dixital, especialmente no caso de menores. A converxencia da intelixencia artificial xerativa e as redes sociais masivas xerou un contexto propicio para a creación e difusión de deepfakes hiperrealistas e para a proliferación de canles opacas que distribúen e monetizan estes contidos. Segundo datos da Comisión Europea, o 98% destas ultrafalsificacións teñen carácter pornográfico.
A violencia sexual dixital alcanzou niveis inéditos nas redes sociais. En España, unha de cada cinco persoas mozas, especialmente nenas e adolescentes, afirma ter sufrido a difusión de falsos espidos creados con intelixencia artificial cando eran menores. Ademais, un terzo asegura ter padecido acoso sexual dixital durante a infancia, segundo datos de Save the Children.
O Goberno considera que, máis alá do dano individual ás vítimas e ás súas familias, a situación afecta á seguridade e dignidade da infancia española no seu conxunto. «A evidente impunidade coa que se actúa no ámbito de internet e das redes sociais obriga a que as institucións públicas recorran a todos os mecanismos existentes para loitar contra este fenómeno», sinala o acordo adoptado.
Con esta iniciativa, España súmase a outros países e institucións que xa están a actuar. En Francia, a Fiscalía investiga X pola xeración de deepfakes de carácter sexual. En Italia, a autoridade de protección de datos advertiu de que estes feitos poderían dar lugar a responsabilidades penais. A Comisión Europea investiga o caso de Grok e TikTok ao abeiro da Lei de Servizos Dixitais (DSA) e en 2024 xa iniciou procedementos contra Meta e TikTok pola difusión de contidos ilícitos. Fóra da Unión Europea, o Reino Unido, Malaisia, Indonesia, Kenya e diversos estados de EE.UU. tamén abriron dilixencias.