Aunque puedan parecer accesibles, rápidos y sin juicio, usarlos como sustitutos del acompañamiento profesional en salud mental entraña riesgos serios. ¿Qué pasa cuando una herramienta que no siente ni entiende el dolor humano intenta responder a alguien que lo está atravesando? Esta edición de La pizarra pone el foco en ese uso creciente —y silencioso— de la IA como consejera emocional, una práctica que plantea dilemas éticos, afectivos y educativos que merecen atención urgente.

La IA, una herramienta potencialmente poderosa

Delegar la empatía, la contención emocional y la escucha activa a un algoritmo no es un gesto menor. Cuando las y los adolescentes acuden a la inteligencia artificial en busca de orientación emocional o compañía, el riesgo no está solo en lo que reciben como respuesta, sino en lo que dejan de encontrar en sus vínculos humanos. Las IA pueden parecer empáticas, pero todavía hace falta mucho para un tratamiento adecuado.

El uso de IA como reemplazo de conversaciones terapéuticas —o incluso como sustituto de relaciones significativas— enciende las alertas. Según un estudio publicado en Jama Open Network y citado por El Tiempo, si bien las IA tienen potencial para detectar riesgos como depresión y suicidio, todavía carecen del nivel de precisión y sensibilidad necesario  para utilizarlos  clínicamente con seguridad.  

En Florida, Estados Unidos, un adolescente estableció un vínculo emocional con Dany, un personaje ficticio creado en Character.AI. En sus conversaciones con la IA, el menor habló constantemente de sus pensamientos suicidas, empezó a aislarse de su red y a perder interés en las actividades que antes disfrutaba. El final fue trágico. Jonathan Haidt, psicólogo y autor del superventas La generación ansiosa, citado en un artículo de The New York Times, advierte que aplicaciones como las redes sociales, además de adictivas, han aportado a formar una generación de adolescentes ansiosos y deprimidos. A todo esto se suman otros desafíos que deben situarse en una discusión central, como el incremento de sensación de soledad y la pérdida de habilidades sociales y cognitivas.

Tres riesgos de cuando la IA sustituye el apoyo de un profesional

Para entender mejor los riesgos psicológicos y emocionales de esta práctica, hablamos con Viviana Quintero Salgado, experta en protección a la niñez en línea de la red PaPaz. Con ella exploramos las implicaciones que tiene esta nueva forma de relacionarse con la tecnología y el papel que deben asumir adultos, docentes y cuidadores.

Según Quintero, uno de los principales peligros es que estas herramientas “pueden ofrecer respuestas que parecen empáticas, pero que no necesariamente están comprendiendo la complejidad de los seres humanos”. Las IA simulan las emociones a partir de un cálculo de probabilidades, se interactúa con una máquina que no siente. 

Esta aparente empatía  puede generar una confusión peligrosa en etapas de la vida tan sensibles como la niñez y la adolescencia, cuando se forma la identidad y se desarrollan las habilidades necesarias para la regulación emocional y la conexión con otros.

Si un menor de edad recurre constantemente a una IA para procesar situaciones difíciles, resolver sus dudas o consultar sobre sus emociones, podría empezar a evitar compartir lo que siente con figuras reales de apoyo. Esta dinámica, señala  Quintero, afecta el desarrollo de las habilidades socioemocionales que les permiten procesar las emociones con seres humanos reales.

Si bien estos modelos pueden generar respuestas muy convincentes, para la experta, no fueron diseñadas para dar apoyo en salud mental. De este modo, podrían ofrecer consejos erróneos, inapropiados o no adaptados al contexto particular de estos niños, niñas o adolescentes.

El papel de las personas frente al uso de niños, niñas y adolescentes es fundamental. Para Quintero, es importante considerar las consecuencias en el desarrollo, como la construcción de vínculos significativos, la regulación emocional, la empatía recíproca y la capacidad de tolerar la frustración. La psicóloga recomienda evitar el uso temprano de las IA y promover un acompañamiento constante, especialmente  frente a la exposición de datos personales y de información que los y las menores comparten en la web.

Hablar, acompañar, educar

Para Rocío López Ordosgoita, investigadora de la Facultad de Educación de la Pontificia Universidad Javeriana, lo más importante es la promoción del diálogo, la generación de confianza y el acompañamiento desde edades tempranas. Es importante “fortalecer procesos de alfabetización mediática informacional y hablar de todos los desafíos de la IAG, puesto que estamos a un clic”, señaló. 

Sobre el panorama legal, indicó que hace falta una política regulatoria. Según ella,  existen  vacíos legales y éticos. Las políticas prohibicionistas no son muy exitosas y, por su carácter transnacional, la regulación sigue siendo un desafío. Para avanzar, propone  revisar experiencias como la de 5Rights Foundation, una organización que trabaja por los derechos digitales de niños y adolescentes, y que puede ofrecer pistas para el camino por recorrer.

👉Dale play y descubre qué más nos contó Rocío López

Todo este tema del acompañamiento en salud mental, así como el de seguridad y vigilancia, necesitan ser revisados con mayor atención. Las herramientas como ChatGPT pueden ser un complemento, pero de ninguna manera un reemplazo de profesionales capacitados que cuentan con formación ética para diagnosticar de forma profesional.

Ponlo en práctica

Te proponemos algunas actividades para desarrollar en el aula:

Glosauriux

Glosauriux

Algoritmo (m) Conjunto de instrucciones que indica a las máquinas qué hacer y cómo hacerlo. En redes sociales, los algoritmos son como una especie de curador invisible: eligen qué contenidos mostrar, en qué orden y con qué frecuencia, basándose en nuestros gustos, clics y hábitos de navegación. Así, influyen directamente en lo que vemos, leemos o creemos importante… sin que muchas veces lo notemos.