Proteger a los menores de edad frente a la Inteligencia Artificial

El diputado Pablo Trejo Pérez presentó una iniciativa que adiciona la fracción VIII Bis al artículo 13 de la Ley de los Derechos de Niñas, Niños y Adolescentes de la Ciudad de México, con el objetivo de establecer que las personas menores de edad tienen derecho a una vida libre de violencia incluida aquella que se ejerce mediante el uso de la inteligencia artificial.

Ante el Pleno del Congreso de la CDMX afirmó que en la actualidad las Tecnologías de la Información y la Comunicación (TIC) han tenido un crecimiento acelerado en gran parte del mundo, dando como resultado que existen dispositivos interconectados casi en cualquier rincón del planeta, facilitando así las comunicaciones entre personas de distintas partes del país y el mundo.

Asimismo, que partiendo de la preponderancia de las Tecnologías de la Información y la Comunicación, se puede afirmar que, actualmente, en todas las facetas y actividades que desarrollan las personas en la vida moderna, ya sea en la esfera educativa, empresarial, cultural, laboral y el ocio, dependen de estas tecnologías.

Señaló que, de acuerdo con datos de la Unión Internacional de Telecomunicaciones (UIT), organismo especializado de las Naciones Unidas para las Tecnologías de la Información y la Comunicación, entre 2000 y 2015 la penetración de internet se multiplicó casi por siete, pasando de 6.5% a 43% por ciento de la población mundial y la proporción de hogares con acceso a internet aumentó de 18% en 2005 a 46% en 2015.

Por su parte, en el informe “Medición del desarrollo digital: hechos y cifras 2022”, de la UIT, se indica que 5,300 millones de personas utilizaban internet, lo que representa 66% de la población mundial.

Además, otro resultado relevante que muestra dicho reporte refiere que tres cuartas partes de la población de 10 años o más posee un teléfono móvil.

En el Recinto Legislativo de Donceles aseguró que los datos señalan que las personas jóvenes, de 15 a 24 años, tienen una mayor conectividad, ya que 75% de ellos usa internet, en comparación con el resto de la población, cuyo porcentaje se reduce 10%.

“Con el crecimiento exponencial de las Tecnologías de la Información y la Comunicación y en la medida que se han hecho más accesibles para todos los sectores de la población, se han desarrollado diversas formas de relacionarse y socializar. Sin embargo, es importante señalar que si bien, las nuevas tecnologías son herramientas que facilitan la interacción, también pueden utilizarse para realizar acciones de intimidación y exclusión en un marco de relaciones de abuso y violencia”, aseveró.

En este contexto, dijo que las niñas, niños y adolescentes, al ser las personas que pasan más tiempo conectados a internet, pueden ser más vulnerados en sus derechos. “Al navegar por internet pueden verse expuestos a discursos de odio, contenido violento, incluidos mensajes que incitan a las autolesiones o al suicidio, e incluso, son más vulnerables al reclutamiento por parte de los grupos criminales y extremistas”.

Respecto del ciberacoso y otras formas de violencia digital mencionó que pueden afectar a los jóvenes cada vez que interactúan en redes sociales o plataformas de mensajería instantánea. “De acuerdo con la UNICEF, más de un tercio de las y los jóvenes en 30 países han reportado haber sufrido acoso cibernético, y uno de cada cinco de ellos falta a la escuela por causa de ello”.

Mencionó algunos resultados del Módulo sobre Ciberacoso (MOCIBA) 2023 del INEGI:

•         En ese año, 20.9% de la población usuaria de internet (18.4 millones de personas de 12 años y más) vivió alguna situación de ciberacoso.

•         En el mismo año, 22% de las mujeres y 19.6% de los hombres que usaron internet fueron víctimas de ciberacoso.

•         El ciberacoso más frecuente que experimentaron fue el contacto mediante identidades falsas.

Por lo que se refiere a la Ciudad de México, de acuerdo con el informe “Sextorsión en la era digital: Impacto en niñas, niños y adolescentes. Reporte 2023-2025”, del Consejo Ciudadano para la Seguridad y Justicia de la CDMX, se registró un incremento, entre el primer y segundo año del análisis, superior al 56% de los casos relacionados con la violencia digital caracterizada por amenazas de difundir contenidos íntimos a cambio de dinero.

El Diputado por el 15 Distrito de Iztacalco dijo: “Bajo este contexto, la inteligencia artificial representa un avance pero también representa riesgos específicos y potencialmente graves: por un lado, la inteligencia artificial puede ser utilizada para generar y difundir material de explotación sexual infantil altamente realista, como los llamados deepfakes que pueden causar un daño profundo y duradero a las víctimas y, por otro lado, la inteligencia artificial puede ser empleada por delincuentes, para manipular a los ususarios”.

Derivado de lo anterior, subrayó que en los últimos años, organismos internacionales como el Comité de los Derechos del Niño, las Naciones Unidas y UNICEF, han enfatizado la obligación de los Estados de adoptar todas las medidas necesarias para proteger los derechos de niñas, niños y adolescentes, en el entorno digital.

Por otra parte, mencionó que si bien, el marco constitucional mexicano garantiza el derecho de niñas, niños y adolescentes al acceso y uso de internet, así como a las Tecnologías de la Información y la Comunicación, también resulta fundamental la obligación del Estado de proteger a las y los menores de edad frente a las amenazas que se derivan del uso de los entornos digitales.