Aunque una persona comience sin ningún conocimiento previo sobre un tema, los algoritmos personalizados de las redes sociales pueden empujarla por caminos de información tan estrechos que su comprensión del mundo termine siendo distorsionada.
En el experimento, los investigadores trabajaron con participantes que no sabían nada sobre un tema ficticio: tenían que aprender a reconocer distintos tipos de criaturas alienígenas, definidas por varias características visuales.
Mientras algunos podían explorar todas las características libremente, a otros se les ofreció una ‘ayuda’ mediante un algoritmo que curaba la información enfocándose en unas pocas pistas.
El resultado fue claro: quienes usaron el algoritmo vieron muchas menos características en total, y su análisis quedó concentrado en patrones muy limitados.
Al ser evaluados con nuevos ejemplos, muchos los clasificaron incorrectamente. Sin embargo, a pesar del error, su seguridad al responder era sorprendentemente alta.
SESGOS
Lo más inquietante, como señalan los autores, es que este sesgo nace incluso cuando el usuario parte de cero —sin ideas preconcebidas, sin creencias previas. Aun así, el algoritmo dirige sus decisiones hacia una visión reducida de la realidad, y esa visión limitada se siente como si fuera verdad.
Esto sugiere que la personalización algorítmica no es sólo un problema de ‘burbuja de opinión’, sino un posible reinicio de los procesos mentales de aprendizaje: lo que el algoritmo decide mostrar puede formar la base de lo que alguien cree saber.
Los investigadores advierten que este efecto tiene implicaciones mucho más allá de consumir entretenimiento.
Si un niño (o cualquier aprendiz) confía en algoritmos para informarse, su construcción de conocimiento puede verse distorsionada desde el principio. Lo que percibe como ‘lo que sabe’, en realidad podría ser una versión sesgada, incompleta o incorrecta de la realidad.
Esto plantea interrogantes sobre cómo diseñamos sistemas de recomendación. No basta con hacer contenidos ‘atractivos’: debemos considerar cómo afectan nuestra capacidad para aprender, formar ideas y comprender el mundo.
“Consumir contenidos similares a menudo no está en consonancia con el aprendizaje”, concluye Brandon Turner, coautor del estudio y profesor de psicología en la Universidad Estatal de Ohio.