El laberinto algorítmico que impacta en la SEP

Ciberseguridad política 

Por: Raúl Fraga

Las aulas mexicanas enfrentan una creciente amenaza por la radicalización digital, el ciberacoso y la influencia de comunidades incel que promueven discursos misóginos y glorifican la violencia.

Lo que durante años se consideró un conjunto de conflictos aislados en los pasillos escolares se ha transformado en un fenómeno que trasciende las aulas: la violencia se amplifica en las redes sociales, encuentra espacios de validación en comunidades digitales y puede escalar hasta convertirse en una amenaza para la seguridad de estudiantes y docentes.

En octubre de 2026, las alertas se concentran en la circulación de mensajes que glorifican masacres, incitan a cometer agresiones contra el personal educativo y difunden amenazas de ataques escolares. Tendencias como la denominada «mañana tiroteo» pueden provocar temor, alterar las actividades académicas y paralizar planteles enteros, incluso cuando el origen de las amenazas todavía no ha sido esclarecido.

Ante este panorama, el Gobierno de México, encabezado por la presidenta Claudia Sheinbaum, ha sido señalado como impulsor de una medida presidencial orientada a obligar a las plataformas digitales a detectar y retirar contenidos que promuevan la violencia o el acoso escolar. La iniciativa plantea un debate sobre los alcances de la regulación digital, la responsabilidad de las empresas tecnológicas y la capacidad del Estado para proteger a los menores.

Sin embargo, antes de evaluar sus alcances, resulta indispensable establecer con precisión el contenido, el fundamento jurídico y el estado de aplicación de la disposición referida.

¿Puede un decreto frenar la radicalización de la violencia escolar?

La regulación de las plataformas digitales puede constituir una herramienta de protección, pero difícilmente resolverá por sí sola una problemática que combina factores psicológicos, sociales, educativos y tecnológicos.

Pretender que una disposición legal desactive de inmediato los mecanismos de radicalización que operan en internet supone subestimar la complejidad del fenómeno. La eficacia de cualquier medida dependerá de su aplicación, de la cooperación de las empresas tecnológicas y de la existencia de instituciones capaces de investigar las amenazas y atender a las víctimas.

El desafío enfrenta, al menos, tres obstáculos fundamentales.

1. Los límites de la soberanía digital.

Las grandes corporaciones tecnológicas operan en múltiples jurisdicciones y administran plataformas cuyos sistemas de moderación no siempre comprenden los modismos, la jerga local o el contexto sociocultural de las comunidades en las que circulan los mensajes.

Exigir que se retiren contenidos de manera inmediata plantea interrogantes sobre los procedimientos de detección, los criterios de intervención, los mecanismos de apelación y la coordinación entre las autoridades mexicanas y las empresas extranjeras.

La soberanía digital no se ejerce únicamente mediante disposiciones legales: también requiere capacidad técnica, cooperación internacional y mecanismos verificables de cumplimiento.

2. La migración hacia espacios digitales menos visibles.

Las medidas dirigidas a plataformas de uso masivo, como Facebook, Instagram o TikTok, pueden resultar insuficientes si las comunidades de radicalización trasladan sus actividades a canales de Telegram, servidores de Discord o foros anónimos.

Estos espacios presentan desafíos particulares para la detección de amenazas, sobre todo cuando existen grupos cerrados, identidades seudónimas y circulación de contenidos entre distintas plataformas.

No obstante, la dificultad de supervisar esos entornos no significa que sea imposible investigarlos. El reto consiste en desarrollar capacidades especializadas, respetar los derechos fundamentales y actuar con base en indicios verificables de conductas ilícitas.

3. Las limitaciones institucionales del Estado.

La investigación de delitos digitales exige personal capacitado, herramientas forenses, recursos presupuestarios y coordinación entre fiscalías, autoridades educativas y organismos especializados.

Fenómenos como la divulgación de datos personales sin consentimiento —conocida como doxing—, la suplantación de identidad y la difusión de imágenes manipuladas mediante inteligencia artificial requieren protocolos específicos de investigación y atención a las víctimas.

Sin estas capacidades, cualquier regulación corre el riesgo de quedarse en el terreno declarativo. La diferencia entre una política eficaz y una respuesta meramente simbólica radica en la posibilidad de investigar las amenazas, identificar a los responsables cuando corresponda y prevenir nuevas agresiones.

De la televisión tradicional al acoso digital permanente

Los planteles escolares enfrentan una transformación profunda en la manera en que se manifiesta la violencia entre estudiantes. Los conflictos que antes podían permanecer circunscritos al salón de clases o al patio escolar ahora pueden prolongarse en las redes sociales y alcanzar a las víctimas incluso cuando están en sus hogares.

Durante las últimas décadas del siglo XX, la televisión ocupó un lugar central en el debate sobre la influencia de los medios de comunicación en el desarrollo infantil. La exposición a contenidos violentos, la representación de estereotipos y la normalización de determinadas conductas suscitaron investigaciones sobre sus posibles efectos en niños y adolescentes.

El entorno digital modificó las condiciones de esa exposición. Los teléfonos inteligentes y las redes sociales permiten que los contenidos circulen de manera continua y que los usuarios participen activamente en su producción, difusión y reproducción.

En este contexto, el acoso puede adoptar distintas modalidades: divulgación no consentida de información personal, humillación pública, hostigamiento persistente y difusión de imágenes sexuales o manipuladas digitalmente para denigrar a compañeros de clase.

Las agresiones físicas también pueden convertirse en espectáculos digitales cuando son grabadas y difundidas para conseguir reconocimiento, comentarios o interacciones. La exposición de las víctimas se multiplica y el daño puede prolongarse mucho después de que termina el episodio original.

El problema, por tanto, no se limita al contenido violento. También involucra las dinámicas de participación, la búsqueda de aprobación social y los mecanismos mediante los cuales determinadas comunidades pueden reforzar comportamientos agresivos.

La controversia: regulación digital frente a libertad y eficacia institucional

Quienes defienden una mayor intervención del Estado sostienen que las plataformas tecnológicas no pueden desentenderse de las consecuencias de los contenidos que circulan en sus servicios, especialmente cuando están involucrados menores de edad.

Desde esta perspectiva, las empresas deberían fortalecer sus sistemas de detección, mejorar sus mecanismos de denuncia y disponer de equipos de moderación capaces de comprender el contexto cultural y lingüístico de los usuarios mexicanos.

También se plantea la necesidad de establecer responsabilidades claras, procedimientos transparentes y sanciones proporcionales cuando se acrediten incumplimientos de las obligaciones legales aplicables.

La regulación, bajo este argumento, no tendría que confundirse con censura indiscriminada. Su propósito debería ser proteger a las personas frente al acoso y las amenazas, sin eliminar las garantías de libertad de expresión, privacidad y debido proceso.

Las críticas, sin embargo, advierten que una disposición legal puede resultar ineficaz si no define con claridad qué contenidos deben retirarse, en qué plazos, bajo qué procedimientos y con qué mecanismos de supervisión.

A ello se suma la dificultad de investigar amenazas que circulan en comunidades cerradas o que migran rápidamente entre plataformas. La respuesta institucional exige algo más que órdenes de eliminación: requiere prevención, investigación criminal, atención psicológica y protocolos de actuación en los centros educativos.

La discusión de fondo es si México cuenta con los instrumentos jurídicos, técnicos y presupuestarios necesarios para convertir una iniciativa de regulación digital en una política pública efectiva.

De la televisión de los años noventa a la ciberviolencia incel: la metamorfosis del odio

La investigadora Ellen A. Wartella es una académica reconocida por sus estudios sobre la comunicación, los medios y el desarrollo infantil. Su trayectoria constituye un referente para abordar las preguntas sobre la influencia de los contenidos mediáticos en niños y adolescentes.

Sin embargo, comparar las investigaciones sobre violencia televisiva con los estudios contemporáneos sobre comunidades incel exige distinguir los contextos históricos, los métodos de investigación y los mecanismos de influencia.

El término incel, abreviatura del inglés involuntary celibate —celibato involuntario—, se utiliza para identificar una subcultura digital heterogénea en la que ciertos grupos articulan su frustración afectiva o sexual mediante discursos misóginos, resentimiento y hostilidad hacia las mujeres. No todas las personas que utilizan esa etiqueta participan en comunidades violentas, por lo que resulta importante evitar generalizaciones.

La preocupación se concentra en los espacios donde el resentimiento se transforma en una identidad colectiva, se normaliza la deshumanización de determinados grupos y se glorifica a autores de ataques violentos.

Comparativa de enfoques: televisión de los años noventa frente a ciberviolencia incel

La comparación permite identificar un cambio relevante: el debate ya no se limita a determinar qué contenidos consumen los menores, sino que también debe considerar cómo interactúan con ellos, qué comunidades encuentran y qué incentivos reciben por participar.

1. Del aprendizaje por observación a la radicalización ideológica

En los estudios sobre violencia mediática, una de las preguntas centrales consistía en determinar cómo la exposición reiterada a determinadas representaciones podía influir en las percepciones y conductas de niños y adolescentes.

En el entorno digital, la preocupación se amplía hacia los procesos mediante los cuales algunos usuarios ingresan en comunidades que refuerzan el resentimiento y presentan la hostilidad como una respuesta legítima ante sus frustraciones.

En determinados espacios incel, la llamada Black Pill o «píldora negra» representa una visión fatalista de las relaciones afectivas y de la posición social de los individuos. En sus expresiones más extremas, esta narrativa puede vincularse con discursos misóginos y con la justificación de la violencia.

No obstante, la exposición a estos contenidos no determina automáticamente que una persona se radicalice o cometa una agresión. La prevención exige considerar la interacción entre los factores individuales, familiares, escolares y comunitarios, además de las dinámicas de las plataformas.

2. De la recepción individual a la validación comunitaria

La televisión tradicional transmitía contenidos a grandes audiencias, pero no ofrecía las mismas posibilidades de interacción inmediata que las redes digitales.

En cambio, los foros y las comunidades en línea permiten que sus integrantes intercambien mensajes, refuercen determinadas interpretaciones y construyan códigos de pertenencia.

Cuando un grupo normaliza la misoginia o celebra las amenazas, la aprobación colectiva puede contribuir a desdibujar los límites entre la provocación digital y la violencia real.

Por ello, el análisis de la radicalización contemporánea debe examinar tanto los contenidos como las relaciones sociales que se construyen alrededor de ellos. La existencia de una comunidad digital, sin embargo, no demuestra por sí misma que todos sus integrantes compartan una ideología violenta o representen una amenaza.

3. La glorificación del agresor y la difusión de manifiestos

Otro fenómeno que merece atención es la exaltación de autores de ataques violentos dentro de determinadas comunidades digitales.

Elliot Rodger, responsable de los asesinatos perpetrados en Isla Vista, California, en 2014, se convirtió en una figura de referencia para algunos sectores de la subcultura incel. Su caso ha sido examinado por investigadores interesados en la glorificación de perpetradores y en la circulación de discursos misóginos.

En determinados episodios de violencia, los agresores también han difundido manifiestos, grabaciones o mensajes antes de cometer los ataques, con la intención de amplificar su notoriedad. En el ámbito de la prevención, el término leakage se utiliza para describir la comunicación previa de indicios o intenciones violentas que pueden alertar sobre un riesgo.

La identificación temprana de amenazas creíbles, la evaluación profesional del riesgo y la coordinación entre autoridades, familias y escuelas son elementos fundamentales para evitar que las señales de alerta sean ignoradas.

El refugio clandestino de la radicalización escolar

Atribuir toda la violencia juvenil a las plataformas digitales sería una explicación insuficiente. La tecnología puede facilitar la difusión del odio y amplificar determinadas conductas, pero los problemas de convivencia escolar también están relacionados con factores familiares, sociales, emocionales e institucionales.

La salud mental, el aislamiento social, la exclusión, la falta de redes de apoyo y la ausencia de mecanismos eficaces para atender el acoso pueden incrementar la vulnerabilidad de algunos adolescentes. Ninguno de estos factores, por sí solo, permite predecir que una persona ejercerá violencia.

Por ello, la respuesta pública debe superar la lógica de la eliminación de contenidos y articular una estrategia integral que incluya:

• Prevención escolar: protocolos claros para identificar y atender el acoso, las amenazas y las señales de riesgo.
• Atención psicológica: servicios accesibles para estudiantes víctimas de violencia y para quienes presentan conductas preocupantes.
• Alfabetización digital: formación para reconocer la manipulación, los discursos de odio y las dinámicas de radicalización.
• Responsabilidad de las plataformas: mecanismos accesibles de denuncia, revisión de contenidos y cooperación con las autoridades conforme a la ley.
• Investigación especializada: capacidades técnicas para documentar amenazas y perseguir conductas ilícitas con respeto a los derechos fundamentales.
• Participación familiar y comunitaria: redes de acompañamiento que permitan detectar problemas antes de que escalen.

El objetivo no debe ser únicamente reaccionar cuando una amenaza se vuelve viral, sino construir condiciones para que los estudiantes encuentren apoyo, puedan denunciar sin temor y reciban atención oportuna.

Conclusión: el desafío de gobernar la violencia digital

Las investigaciones sobre la influencia de los medios de comunicación y los estudios contemporáneos sobre radicalización digital abordan problemas relacionados, pero no idénticos. Mientras los primeros examinan, entre otros aspectos, los posibles efectos de la exposición a contenidos violentos, los segundos incorporan las dinámicas de interacción, pertenencia y validación que caracterizan a determinadas comunidades en línea.

La pantalla del teléfono inteligente no solo transmite contenidos: también puede convertirse en un espacio de socialización, confrontación y construcción de identidad. En determinados contextos, estas dinámicas contribuyen a amplificar el acoso y los discursos de odio, aunque sus efectos dependen de múltiples factores y no deben interpretarse como una relación automática entre exposición y violencia.

En consecuencia, una regulación digital puede formar parte de la respuesta, pero no sustituye la prevención escolar, la atención psicológica, la investigación de amenazas ni la responsabilidad de las instituciones educativas.

El desafío para el Gobierno de México y la Secretaría de Educación Pública consiste en articular una política que combine protección de los menores, capacidades institucionales, cooperación tecnológica y respeto a los derechos fundamentales.

La pregunta de fondo permanece abierta: ¿la regulación digital se traducirá en mecanismos verificables de prevención y protección, o terminará siendo una respuesta insuficiente ante una problemática que exige coordinación, recursos y atención sostenida?

La respuesta no dependerá únicamente de lo que establezca una disposición presidencial, sino de su fundamento jurídico, su aplicación efectiva y la capacidad del Estado para intervenir antes de que la violencia digital se convierta en una tragedia escolar.