La frontera entre lo que delegamos a una inteligencia artificial y lo que reservamos para las relaciones humanas se difumina a una velocidad que ninguna legislacion ni codigo etico alcanza. Asi lo evidencia el ultimo episodio de Black Box: The Chatbots, el podcast del Guardian que ha dedicado su quinta entrega a desmontar, a traves de cinco historias reales, la pregunta mas inquietante del momento: en un mundo donde un chatbot puede consolarnos tras una ruptura, escucharnos como un amigo, actuar como coach de vida, redactar un mensaje dificil o, directamente, hacer nuestro trabajo, ¿donde trazamos la linea?

Aunque el formato del podcast no aporta una respuesta unica, si expone con crudeza los casos que estan definiendo el debate publico sobre los asistentes conversacionales. No se trata de ciencia ficcion: millones de usuarios ya recurren a modelos como ChatGPT, Claude, Gemini o Character AI para tareas que antes pertenecian al ambito de la intimidad, la psicologia o la economia domestica. La conversacion deja de ser transaccional para convertirse en algo parecido a un vinculo.

El primer frente que abre el episodio es el emocional. Plataformas como Replika o Character AI han documentado casos de usuarios que desarrollan dependencias afectivas reales, incluyendo duelos cuando el sistema cambia sus condiciones o desaparece. Investigadores de universidades como Stanford y MIT llevan meses alertando de que estos vinculos parasociales pueden alterar la capacidad de las personas, especialmente jovenes, para gestionar frustraciones, conflictos y soledad. La linea entre herramienta y compania sentimental se ha borrado.

El segundo ambito es el laboral. Si un chatbot puede redactar correos, resumir reuniones, generar codigo o preparar presentaciones, el valor diferencial de ciertas profesiones se reconfigura de la noche a la manana. El World Economic Forum estima que el 23% de los empleos cambiara sustancialmente en los proximos cinco anos precisamente por la automatizacion de tareas cognitivas. La cuestion ya no es si la IA nos reemplazara, sino quien controla la transicion: las empresas, los trabajadores o los gobiernos.

El tercero es el coaching y la salud mental. Aplicaciones como Woebot o Wysa llevan anos intentando democratizar el acceso a apoyo psicologico, pero los riesgos son evidentes: un modelo de lenguaje puede dar una respuesta plausible pero clinicamente peligrosa. La FDA y la EMA aun no han definido un marco regulatorio claro para los chatbots terapeuticos, y los incidentes se multiplican. La intimidad que exige un proceso de salud mental no admite improvisaciones tecnologicas.

El cuarto escenario, el de las relaciones personales, resulta especialmente sensible. Que un usuario pida a ChatGPT que redacte un mensaje de ruptura, una disculpa o una declaracion de amor no es trivial: externalizar la comunicacion emocional a una maquina revela tanto sobre la erosion de nuestras habilidades sociales como sobre la sofisticacion de estas herramientas. Estamos entrenando IAs para que nos ayuden a evitar las conversaciones mas importantes de nuestra vida.

Por ultimo, el podcast aborda la cuestion existencial. Si una IA puede hacer el trabajo, escuchar como un amigo y acompanarnos en decisiones vitales, ¿que queda exclusivamente para nosotros? La respuesta, sugieren los expertos consultados, pasa por redefinir el valor de la presencia, la imperfeccion y la autoria humana. No se trata de rechazar la tecnologia, sino de decidir deliberadamente que partes de nuestra vida estamos dispuestos a entregarle.

Para los profesionales tech hispanohablantes, el episodio de Black Box es mas que un ejercicio narrativo: es una alerta sobre las dimensiones eticas, legales y sociales que cualquier producto basado en LLMs deberia incorporar desde la fase de diseno. La proxima ola de innovacion en chatbots no se jugara en benchmarks ni en capacidades tecnicas, sino en la capacidad de cada empresa de responder a una pregunta aparentemente simple y profundamente compleja: donde esta, en definitiva, la linea que no estamos dispuestos a cruzar.