Las redes sociales no sólo enfrentan un problema por los contenidos que publican sus usuarios: su propio diseño puede fomentar el uso excesivo y exponer a niñas, niños y adolescentes a contactos sexuales y materiales que nunca solicitaron, alertó Ravi Iyer, director general del Instituto de Psicología de Tecnología y del Centro Neely de la Universidad del Sur de California.
El especialista sostuvo que detrás de esos riesgos se encuentran algoritmos creados para maximizar la interacción —o engagement— mediante herramientas como el desplazamiento infinito, reproducción automática, notificaciones, conteo de “likes” y sistemas personalizados de recomendación.
“Estos productos pueden diseñarse mejor, y sé que la forma en que están diseñados hoy causa daño a los niños”, afirmó Iyer, quien aseguró conocer de primera mano el funcionamiento de los algoritmos tras haber trabajado durante cuatro años y medio en su diseño.
Explicó que las plataformas pueden elegir entre desarrollar sistemas que respondan a las aspiraciones de las personas o algoritmos que exploten sus impulsos inmediatos. Actualmente, dijo, domina la segunda alternativa.
“Los algoritmos actuales suelen diseñarse para optimizar el comportamiento observado, comúnmente llamado interacción o engagement”, explicó.
Para ilustrar la diferencia entre deseo inmediato y aspiraciones personales, Iyer puso como ejemplo el consumo de alimentos.
“Si me ofrecieran una dona en este momento probablemente me la comería. Quiero la dona, pero no quiero ser alguien que siempre esté comiendo donas”, expresó.
La misma contradicción, señaló, ocurre frente a una pantalla: una persona puede aspirar a pasar menos tiempo utilizando su teléfono, mientras las aplicaciones están diseñadas precisamente para conseguir que permanezca conectada.
Adolescentes se sienten atrapados
Iyer citó datos de una encuesta realizada entre adolescentes estadounidenses en la que 45% reconoció pasar demasiado tiempo en redes sociales, 45% dijo que éstas afectan su sueño y 40% consideró que perjudican su productividad.
Pero el riesgo, advirtió, va más allá del tiempo frente a la pantalla.
Según datos internos de Meta citados por el especialista y conocidos durante un litigio en Nuevo México, 13% de los usuarios de Instagram de entre 13 y 15 años reportó haber recibido alguna insinuación sexual no deseada durante los siete días anteriores.
En ese mismo grupo, aseguró, 19.2% manifestó haber visto desnudos u otro contenido no deseado en apenas una semana.
“La palabra clave aquí es indeseado. Estos niños no están buscando el material; se les ofrece a través de un sistema de recomendaciones diseñado para captar su atención”, subrayó.
Iyer sostuvo que el contenido sexual tiene una elevada capacidad para captar atención y, bajo modelos que premian precisamente esa interacción, puede terminar siendo impulsado por los sistemas de recomendación.
También citó información de Australia, donde una encuesta entre más de 3 mil menores de entre 10 y 17 años encontró que 47% había observado comentarios ofensivos o sexistas sobre niñas y mujeres, 47% videos de peleas y 46% retos peligrosos en internet.
Algoritmos, en el centro del problema
Para Iyer, responsabilizar exclusivamente a quienes generan contenidos nocivos impide identificar una parte fundamental del problema.
“El problema no son los usuarios malos que publican contenido negativo; es un sistema diseñado para fomentar el uso excesivo, el contacto indeseado y la exposición a contenido no deseado y dañino”, sentenció.
El especialista señaló que características aparentemente cotidianas de las aplicaciones responden a decisiones empresariales concretas: desde el scroll infinito y la reproducción automática hasta las notificaciones nocturnas, las configuraciones de privacidad y la posibilidad de que desconocidos contacten a menores.
“Cada una de estas es una decisión; cada una de ellas puede tomarse de otra manera”, insistió.
Iyer destacó en ese sentido una resolución judicial contra Meta Platforms en Nuevo México que, según expuso, obliga a la compañía a realizar modificaciones destinadas a incrementar la protección de los menores.
Entre ellas mencionó reforzar los mecanismos de verificación de edad, mantener privadas por defecto las cuentas de adolescentes, limitar notificaciones durante la noche y el horario escolar y establecer restricciones al tiempo de uso de Facebook e Instagram para menores de 18 años.
Las medidas también contemplan impedir que adultos sin relación previa puedan enviar mensajes a menores y evitar que las cuentas de éstos sean recomendadas a desconocidos.
Advierte riesgo de vínculos con chatbots
Iyer incluyó entre los nuevos desafíos de protección infantil a la inteligencia artificial y planteó que las plataformas deben impedir que menores mantengan conversaciones románticas o sexualizadas con sus chatbots.
“Esto debe incluir cualquier tipo de apego que un niño desarrolle con un producto de inteligencia artificial”, sostuvo.
El especialista señaló que diferentes gobiernos y organismos regulatorios están comenzando a cuestionar el diseño de las plataformas y mencionó acciones emprendidas en Estados Unidos, la Unión Europea, Reino Unido, Indonesia, Emiratos Árabes Unidos y Brasil.
Comparó este proceso con regulaciones que en otros sectores terminaron convirtiéndose en estándares básicos de seguridad, como la prohibición del asbesto en determinadas construcciones o la incorporación obligatoria de cinturones de seguridad en automóviles.
La discusión, puntualizó, no consiste en frenar el avance tecnológico, sino en determinar qué intereses deben guiar su diseño: la maximización de la atención o el bienestar de las personas.
“No estamos en contra de la tecnología, sólo queremos que los productos tecnológicos estén diseñados para ayudar a las personas a alcanzar aspiraciones, no para obstaculizarlas, especialmente en el caso de nuestros hijos”, concluyó Iyer.
Deja una respuesta