SCJN valida ley de Zacatecas que protege a menores de la violencia digital con inteligencia artificial
La Suprema Corte de Justicia de la Nación (SCJN) avaló por unanimidad la constitucionalidad de una reforma a la Ley de los Derechos de Niñas, Niños y Adolescentes del estado de Zacatecas, que reconoce el derecho de las infancias a vivir una vida libre de violencia ejercida mediante el uso de inteligencia artificial (IA). Este fallo histórico abre paso a la creación de marcos legales más modernos en materia de protección infantil en entornos digitales.
El pleno del máximo tribunal declaró válida la reforma de febrero de 2024 al artículo 9, fracción III, inciso c, de dicha ley local, la cual aborda de manera pionera los riesgos que representa la IA en contextos de violencia infantil.
“La inteligencia artificial presenta riesgos específicos y potencialmente graves. Por un lado, puede ser utilizada para generar y difundir material de explotación sexual infantil altamente realista, como los llamados deepfakes, que pueden causar daño profundo y duradero en las víctimas. Y por otro, la inteligencia artificial puede ser empleada por delincuentes para manipular y engañar a niños, niñas y adolescentes, facilitando su victimización”, argumentó la ministra ponente, Margarita Ríos Farjat.
La reforma fue impugnada por el Poder Ejecutivo federal, que cuestionó la falta de una definición jurídica clara sobre lo que se entiende por violencia ejercida con IA. No obstante, la Corte consideró que no se vulneran los principios de legalidad y seguridad jurídica, al estimar que el Congreso local no estaba obligado a detallar un catálogo de definiciones sobre el tema.
“El Congreso de Zacatecas respondió al creciente contexto de violencia cometida contra niñas, niños y adolescentes mediante el uso de tecnologías de la información y la comunicación, en particular, la inteligencia artificial”, añadió Ríos Farjat.
Durante la discusión, la ministra Yasmín Esquivel Mossa destacó que, aunque el marco jurídico de la IA aún es incipiente, la legislación zacatecana busca anticiparse a sus efectos nocivos. “Es nuestra obligación proteger sus derechos y prevenir daños sicológicos, sociales y físicos ocasionados por el uso malintencionado de tecnología e incluso, como hace la norma que hoy se analiza, para favorecer la persecución penal de esas conductas y se enfatice en la reparación del daño en casos de explotación digital”, sostuvo.
Por su parte, la ministra Loretta Ortiz Ahlf subrayó la importancia de esta legislación al recordar que en México más del 50 por ciento de niñas y niños entre seis y 11 años ya utilizan Internet, porcentaje que asciende a entre 80 y 94 por ciento en el caso de los adolescentes de 12 a 17 años. “Este nivel de exposición aumenta el grado y alcance de vulnerabilidad de las infancias”, advirtió.
