El ataque ocurrido el 1 de octubre en una secundaria de Torreón obliga a mirar nuevamente hacia un lugar que durante demasiado tiempo hemos considerado casi ajeno al derecho: las plataformas digitales.
Dos jóvenes ingresaron a la escuela armados con machetes y artefactos explosivos; una subdirectora murió y otras personas resultaron heridas.
Las investigaciones han identificado vínculos de los agresores con comunidades digitales que glorifican la violencia, aunque corresponde a las autoridades determinar con precisión qué influencia tuvieron esos contenidos en los hechos.
La respuesta del Gobierno Federal llegó rápidamente. La presidenta Claudia Sheinbaum anunció la preparación de disposiciones que impongan a las plataformas obligaciones para detectar, reportar y retirar oportunamente contenidos que inciten directamente a la violencia, además de fortalecer la protección de niñas, niños y adolescentes en redes sociales.
La discusión resulta particularmente pertinente porque, casi simultáneamente, los días 30 de septiembre y 1 de octubre el Instituto Nacional de Ciencias Penales (Inacipe) celebró el Foro Nacional “Infancias conectadas, derechos protegidos. Internet, plataformas digitales, redes sociales y respuestas del Estado”.
Durante dos jornadas participaron instituciones públicas, organismos internacionales, organizaciones civiles, académicos y representantes de las propias plataformas.
El propósito fue entender un problema que rebasa ampliamente la prohibición del teléfono celular o la eliminación de determinados contenidos.
Una conclusión quedó especialmente clara: las plataformas dejaron hace tiempo de ser simples escaparates donde los usuarios colocan información.
Diseñan la experiencia. Seleccionan aquello que vemos, recomiendan contenidos, administran nuestros datos, facilitan contactos y construyen mecanismos destinados a prolongar nuestra permanencia frente a la pantalla. Cuando esas decisiones afectan a menores de edad, surge un deber especial de cuidado.
En el foro se planteó de una manera sencilla que lo que se diseñó de una manera puede diseñarse de otra. Ahí comienza el espacio del derecho.
La regulación debería conseguir que las condiciones de seguridad formen parte del funcionamiento ordinario de una plataforma utilizada por menores y que la protección esté incorporada desde su diseño. Ese enfoque parece más útil que convertir cada tragedia en una nueva prohibición.
Retirar contenidos que incitan directamente a cometer actos violentos puede ser necesario. Pero la pregunta verdaderamente importante aparece antes: ¿por qué determinados algoritmos conducen reiteradamente a una persona hacia contenidos cada vez más extremos? ¿Qué ocurre cuando una menor muestra patrones persistentes de búsqueda relacionados con violencia, autolesiones o explotación? ¿Qué herramientas de prevención ofrece la propia arquitectura digital?
Regular tampoco significa entregar al Estado una facultad ilimitada para decidir qué puede decirse en internet. Cualquier intervención debe preservar la libertad de expresión, proteger la privacidad y establecer criterios jurídicos claros.
Una verificación de edad mal diseñada, por ejemplo, podría terminar creando enormes bases de datos sobre menores y producir nuevos riesgos.
En el Inacipe se advirtió también que el problema atraviesa a las familias, las escuelas, las empresas y las instituciones públicas. El derecho penal llega cuando el daño ya ocurrió, pero una verdadera política pública debe comenzar mucho antes.
Por eso la discusión anunciada por el Gobierno representa una oportunidad. México puede limitarse a ordenar que las plataformas retiren contenidos después de que aparecen, o puede avanzar hacia algo más importante: exigirles que diseñen espacios razonablemente seguros para quienes todavía están formando su personalidad. Proteger a nuestras infancias en internet requiere mirar menos la pantalla y mucho más a quienes decidieron cómo funciona.
