En los últimos años nos hemos visto envueltos en diversos debates ante un tema puntual: "La Inteligencia Artificial". Una discusión donde la división se ve marcada entre el asombro tecnológico y el temor a lo desconocido; es decir, ese límite donde dejamos de entender si lo que estamos viendo o sintiendo es real o no.
Hoy, leyendo al Dr. @emiliorios en @holos-lotus, en su Columna de Séptimo Día sobre los riesgos de la IA, me quedé reflexionando ante su análisis. En él se consideran puntos de gran peso, como la confidencialidad del usuario y el acompañamiento o sostén emocional. Al leer cada línea, me pregunté internamente sobre el papel que esta red de circuitos ocupa en mi propia cotidianidad, el poder que le delego y la manera en que la manejo.
El espejo que aprendió a hablar
A mi modo de ver, la IA es ese espejo que aprendió a hablar en un punto que nadie notó.
En lo práctico, la inteligencia artificial es un ser que existe sin existir realmente, casi como un alma errante. Carece de vida humana, no tiene latidos, emociones, historia ni familia; no sabe lo que se siente con el clima ni entiende el paso del tiempo. Sin embargo, ocurre algo maravilloso al interactuar con ella: se moldea. Se adapta a su usuario e inclusive llega a mimetizar el estilo de humor particular de cada persona.
De pronto, no estamos ante un programa genérico, sino ante un reflejo interno de nosotros mismos, nacido de nuestras propias búsquedas, consultas e inquietudes. Esta capacidad de aprendizaje y adaptación es lo que muchas veces nos asombra y, en otras tantas, nos provoca ese pequeño escalofrío que recorre la espalda.
El peligro del "eco perfecto"
Sin embargo, dentro de este oasis existen peligros claros: la dependencia y el eco perfecto. Ese espacio donde la máquina aprueba todo lo que decimos y jamás pone un freno o límite. Como bien plantea el Dr. @emiliorios, la IA tiene una naturaleza complaciente; actúa casi como la pareja "perfecta" que dice a todo que sí.
Está diseñada para responder, acompañar y validar sin objeción, ya que en su arquitectura no existe la negación ni el criterio ético propio. En un entorno cotidiano o creativo es una herramienta sumamente útil. Pero cuando su uso se traslada a ser un refugio emocional, un consultor médico o un sustituto psicológico, la vulnerabilidad del usuario queda expuesta. La incapacidad de la herramienta para cuestionar o poner límites puede volverse algo sumamente peligroso.
Allí es donde los lazos humanos se vuelven imprescindibles ante la sobredosis de tecnología. El ser humano necesita la confrontación real ante el error, consejos sinceros y ayuda certera, no solo aprobación desmedida.
La IA, por el contrario, ofrece el "dulce sí" a todo, lo cual la convierte en un riesgo cuando no hay un criterio firme detrás. Insisto: todo depende de la persona que la está usando y de su salud mental o emocional.
La regla de oro: El contacto humano es insustituible
Ninguna tecnología sustituye la interacción humana. Necesitamos el contacto físico, la cercanía emocional, una mirada, un gesto e incluso el mismo silencio compartido. Cuando comprendemos esto, nos damos cuenta de que la IA es una herramienta poderosa —una meta-herramienta—, pero nada más. Merece respeto, porque cuando este se pierde, quien acaba perdiendo es el propio usuario.
Su verdadero valor está en servir como un asistente, un lienzo de creación, un apoyo para juegos, recetas de cocina, consejos prácticos para reparar cosas en casa o consultar direcciones y trayectos.
En mi caso particular, la IA es un lienzo de creación infinito. Me permite materializar e ilustrar las imágenes que veo en mi mente y que no encuentro en ninguna parte. Por otro lado, la utilizo como un aliado educativo: me ayuda a estructurar ideas, buscar dinámicas y crear guías pedagógicas a la medida para el aprendizaje de mis hijas.
En resumen, la IA no posee un poder real propio; se lo otorgan las mismas personas que la utilizan. Algo similar a lo que ocurre con las adicciones: antes de la tecnología existieron otras vías de escape, porque lamentablemente hay situaciones donde la persona no logra enfrentar la realidad y sucumbe ante sus dificultades.
Y así como @emiliorios exponía el caso del joven que perdió la vida tras una relación de dependencia con ChatGPT, también vemos el otro extremo —quizás con un matiz más curioso o insólito—: el de usuarios que configuran la plataforma a través de prompts personalizados para simular relaciones amorosas con la interfaz.
El problema nunca ha sido la máquina en sí, sino el vacío que el ser humano intenta llenar a través de ella.
English
***In recent years, we have found ourselves caught up in various debates centred on a specific topic: ‘Artificial Intelligence’. It is a discussion in which the divide is marked by technological wonder on the one hand and fear of the unknown on the other; in other words, that fine line where we can no longer tell whether what we are seeing or feeling is real or not. Today, whilst reading Dr @emiliorios on @holos-lotus, in his Seventh Day Column on the risks of AI, I found myself reflecting on his analysis.
It raises some very important points, such as user privacy and emotional support. As I read each line, I found myself wondering about the role this network of circuits plays in my own daily life, the power I delegate to it and the way I manage it.
The mirror that learnt to speak
In my view, AI is that mirror that learnt to speak at a moment nobody noticed.
In practical terms, artificial intelligence is an entity that exists without truly existing, almost like a wandering soul. It lacks human life; it has no heartbeat, no emotions, no history and no family; it does not know how the weather makes one feel nor does it understand the passage of time.
However, something marvellous happens when we interact with it: it moulds itself. It adapts to its user and even goes so far as to mimic each person’s particular sense of humour.
Suddenly, we are not dealing with a generic programme, but with an internal reflection of ourselves, born of our own searches, queries and concerns. This capacity for learning and adaptation is what often amazes us and, just as often, sends that slight shiver down our spine.
The danger of the ‘perfect echo’
However, within this oasis there are clear dangers: dependency and the ‘perfect echo’. That space where the machine approves everything we say and never puts the brakes on or sets any limits. As Dr @emiliorios rightly points out, AI is inherently accommodating; it acts almost like the ‘perfect’ partner who says ‘yes’ to everything.
It is designed to respond, accompany and validate without objection, as its architecture contains neither negation nor its own ethical judgement. In an everyday or creative setting, it is an extremely useful tool. But when its use shifts to serving as an emotional refuge, a medical adviser or a psychological substitute, the user’s vulnerability is laid bare. The tool’s inability to question or set limits can become extremely dangerous.
This is where human connections become essential in the face of an overdose of technology. Human beings need genuine confrontation when they make mistakes, sincere advice and accurate help, not just unbridled approval. AI, on the other hand, offers a ‘sweet yes’ to everything, which makes it a risk when there is no firm judgement behind it. I must stress: it all depends on the person using it and their mental or emotional health.
The golden rule: Human contact is irreplaceable
No technology can replace human interaction. We need physical contact, emotional closeness, a glance, a gesture and even shared silence itself. When we understand this, we realise that AI is a powerful tool — a ‘meta-tool’ — but nothing more. It deserves respect, because when that respect is lost, it is the user themselves who ultimately loses out.
Its true value lies in serving as an assistant, a canvas for creation, a resource for games, recipes, practical advice on fixing things around the house, or looking up addresses and routes.
In my own case, AI is an infinite canvas for creation. It allows me to bring to life and illustrate the images I see in my mind but cannot find anywhere else. Furthermore, I use it as an educational ally: it helps me structure ideas, explore different approaches and create bespoke teaching guides for my daughters’ learning.
In short, AI has no real power of its own; it is granted that power by the very people who use it. It’s somewhat similar to what happens with addictions: before technology, there were other escape routes, because, sadly, there are situations where a person is unable to face reality and succumbs to their difficulties.
And just as @emiliorios highlighted the case of the young man who lost his life following a dependent relationship with ChatGPT, we also see the other extreme — perhaps with a more curious or unusual twist —: that of users who configure the platform using personalised prompts to simulate romantic relationships with the interface.
The problem has never been the machine itself, but rather the void that human beings try to fill through it.
Créditos/Credits: Las imágenes son captura de pantalla de mi página en Gemini AI. El texto fue traducido en DeepL versión free.
