Meta se ha asociado con Childhelp, una organización sin fines de lucro enfocada en la seguridad infantil, para desarrollar un programa educativo dirigido a adolescentes en Estados Unidos. El objetivo es enseñarles a navegar de manera segura en internet. La iniciativa, financiada en su totalidad por la empresa tecnológica, ofrecerá a escuelas, organizaciones y padres de familia una serie de recursos gratuitos para cumplir con el propósito.
La compañía liderada por Mark Zuckerberg destaca que este proyecto formativo es pionero en su tipo y permitirá a los estudiantes de secundaria identificar amenazas como el acoso, las estafas de extorsión sexual y otros tipos de explotación en línea. Además, proporcionará guías prácticas para que los usuarios sepan cómo actuar en caso de estar expuestos a alguno de estos delitos.
Apple refuerza la seguridad infantil con una nueva función para denunciar contenido explícito
La nueva herramienta de Apple es una extensión del conjunto de características conocido como “Seguridad en las Comunicaciones”; estará disponible a nivel mundial en el futuro.
El plan de estudios se ha diseñado con el apoyo de expertos en seguridad infantil del Centro Nacional para Niños Desaparecidos y Explotados, el Departamento de Seguridad Nacional, la Universidad de Purdue y el Centro de Investigación de Delitos contra los Niños. “Contempla lecciones enfocadas en desarrollar habilidades esenciales para que los jóvenes se desenvuelvan con seguridad tanto en el mundo digital como en el físico. Entre los temas abordados están el reconocimiento de relaciones seguras, el establecimiento de límites personales y la importancia de pedir ayuda”, señala la big tech.
Esta estrategia forma parte de ‘Speak Up Be Safe’, un proyecto de Childhelp que apoya a estudiantes de todas las edades para abordar distintos problemas en línea. El plan de estudios se adaptará a las necesidades de los alumnos de secundaria con la colaboración de especialistas de LifeSmarts, un programa estatal de educación básica y media superior.
“Por primera vez, los educadores de todo el país tendrán a su disposición un plan de estudios gratuito y respaldado por expertos para ayudar a los estudiantes a sentirse preparados para evitar diversas formas de explotación en línea”, asegura Antigone Davis, directora global de seguridad de Meta.
La IA podría aumentar el acoso cibernético
El 26.5% de los estadounidenses de entre 13 y 17 años de edad informó haber sido víctima de acoso cibernético en 2023, de acuerdo con una encuesta del Centro de Investigación sobre el Ciberbullying. El 74% de los adolescentes consideró que las plataformas de redes sociales no estaban haciendo lo suficiente para abordar el problema. El 81% expresó la misma preocupación respecto a las autoridades gubernamentales.
Los especialistas advierten que estas cifras podrían aumentar drásticamente debido a la adopción masiva de la inteligencia artificial (IA). Un reciente estudio publicado en la revista The Lancet, dirigido por Karen Mansfield, psicóloga investigadora de la Universidad de Oxford, señala que las funciones de IA que intentan emular las capacidades cognitivas y de razonamiento humanas, así como aquellas que permiten la generación de deepfakes, podrían ser perjudiciales para el bienestar psicológico de los jóvenes. Mansfield agrega que las herramientas de autodiagnóstico y los sistemas automatizados de recomendación de contenido pueden incrementar los casos de depresión, ansiedad y trastornos alimentarios en la población infantil.
Meta ha implementado diversas medidas y funciones para combatir este problema. El año pasado se comprometió, junto con OpenAI, Google, Microsoft, Amazon y otras cinco empresas tecnológicas, a luchar contra la creación y difusión de material de abuso sexual infantil generado con IA. Estas compañías acordaron adoptar los principios de “Safety by Design”, un enfoque que prioriza la seguridad y los derechos de los usuarios en el desarrollo de productos y servicios digitales.
La empresa matriz de Instagram, Facebook y WhatsApp también ha incorporado una función de protección contra la desnudez, la cual difumina automáticamente imágenes sensibles enviadas en mensajes directos a través de sus plataformas. “La explotación infantil es un delito atroz. En Meta hemos trabajado durante años en el desarrollo de medidas de seguridad para prevenir estos crímenes en nuestras aplicaciones”, enfatiza la compañía.
