De la moda de preguntarle todo a la inteligencia artificial ha emergido un debate necesario: la veracidad de sus respuestas y los riesgos que entraña su uso cotidiano. Lo que hace apenas dos años era una innovación celebrada, capaz de responder todo, hoy acumula cuestionamientos cada vez más serios. Y no son menores: algunos desenlaces han sido trágicos.
En agosto de 2025, la familia de Adam Raine, un adolescente de 16 años en California, presentó una demanda tras su muerte. Durante meses, el joven conversó con ChatGPT sobre su estado emocional y, según la denuncia, también sobre métodos de suicidio. El caso detonó un debate global sobre el papel de la inteligencia artificial en la salud mental. La familia sostiene que el sistema no detectó ni contuvo el riesgo; la empresa, en cambio, argumentó un “mal uso” de la herramienta.
No es un hecho aislado. En Estados Unidos y Europa se han documentado otros casos similares que hoy forman parte de litigios en curso. Aún no existe consenso científico ni legal para afirmar que la inteligencia artificial “causó” estos suicidios. Sin embargo, la discusión ya no pasa por ahí, sino por algo más inquietante: si las respuestas de estas plataformas pueden agravar estados de vulnerabilidad, si son capaces de contenerlos o si, en el peor de los casos, terminan validando ideas autodestructivas.
Hace poco más de un año, en este mismo espacio, abordé ‘La generación ansiosa’, de Jonathan Haidt, uno de los libros más leídos de la FIL 2024. Su tesis es clara: la hiperconectividad ha deteriorado la salud mental de los adolescentes. Hoy, ese diagnóstico se vuelve más complejo. Ya no se trata solo de redes sociales, sino de sistemas que dialogan, aconsejan y, en muchos casos, sustituyen interlocutores humanos.
En el aula lo confirmo con frecuencia. Hay jóvenes que experimentan ansiedad real si olvidan el teléfono en casa, si la batería se agota o si no hay wifi disponible. Para muchos, el dispositivo dejó de ser una herramienta: es una extensión de su cuerpo. También hay padres que, en un contexto de violencia como el nuestro, difícilmente respaldarían políticas que limiten el uso en las escuelas. El dilema es profundo.
En este escenario, la academia ha comenzado a hablar de “tecnofeudalismo”. Prefiero, sin embargo, la noción de Giuliano da Empoli: depredadores. Un puñado de multimillonarios que monopoliza las plataformas donde hoy ocurre buena parte del debate público; que decide las reglas de visibilidad; que asesoran gobiernos y acumulan poder sin contrapesos reales. Su influencia se legitima bajo la burbuja de la meritocracia, amplificada por buena prensa y contratos publicitarios que los presentan como héroes.
Frente a ello, el Estado no puede seguir ausente. Gobernar hoy implica entender que las decisiones públicas también moldean la interacción entre particulares. Dejemos de creer que Bezos, Musk, Zuckerberg, Pichai, Cook y Nadella son intocables. El gobierno debe volver: sus decisiones moldean la convivencia. El mercado no se regula solo; requiere límites, contrapesos y responsabilidades. La pregunta es ¿quién se atreve a ponerle el cascabel al gato?
jl/I
