En la encrucijada donde la inteligencia artificial define nuestros algoritmos de recomendación, sugiere qué veremos, compra o interactúe, una pregunta se hace cada vez más urgente: ¿puede ser humana la IA? La respuesta no técnica, sino ética, viene de Aza Raskin, codirector del Centro para la Tecnología Humana (Center for Humane Technology), una organización que ha dedicado años a cuestionar los fundamentos de cómo diseñamos sistemas digitales.\n\nRaskin argumenta que la misma lógica que impulsó el diseño adictivo de las redes sociales ahora está moldeando el desarrollo de la IA. En una entrevista con Fast Company, explicó que las plataformas digitales priorizaron el engagement sobre el bienestar, creando mecanismos de refuerzo intermitente que aprovechaban los sesgos cognitivos humanos. Hoy, esa misma mentalidad competitiva está impulsando la carrera por la IA generativa, donde las empresas compiten por métricas de uso, tiempo de pantalla e interacciones, sin considerar adecuadamente los efectos a largo plazo.\n\nEl problema, según Raskin, no está en la tecnología en sí, sino en los incentivos que la sustentan. Cuando las empresas son evaluadas únicamente por su capacidad de retener la atención del usuario, el diseño de sus productos tiende a favorecer la adicción sobre la utilidad. En el contexto de la IA, esto se traduce en sistemas que generan respuestas hiperrealistas para mantener a los usuarios enganchados, incluso cuando esa interactuación no sirve realmente al propósito original.\n\nEste fenómeno adquiere un orden de magnitud mayor cuando se trata de IA. Mientras que un algoritmo de redes sociales puede convertir una búsqueda innocente en una trampa de contenido extremo, un sistema de IA mal diseñado puede afectar decisiones médicas, judiciales o educativas. Los riesgos no son solo privacidad o manipulación, sino también la erosión de la capacidad humana de pensar críticamente y tomar decisiones informadas.\n\nRaskin propone una reactivación del diseño centrado en el ser humano, donde las métricas de éxito no sean solo engagement y crecimiento, sino también bienestar, transparencia y control. Esto implica reformular cómo medimos el éxito de estos sistemas: en lugar de seguir los clics, debemos seguir la calidad de las interacciones, el impacto en la vida real y la capacidad del usuario para alejarse del sistema cuando lo necesite.\n\nEl mensaje de Raskin llega en un momento clave. Mientras gobiernos y reguladores intentan dar forma a la gobernanza de la IA, la pregunta fundamental es si podrán mantenerse por encima de la presión por partes de velocidad y competitividad. La historia reciente nos enseña que las reglas del juego definen el resultado. Si seguimos priorizando la carrera tecnológica sobre los valores humanos, corremos el riesgo de crear una IA poderosa, pero inhumana.\n\nLa tecnología humana no es un lujo, sino una necesidad. Y como recordó recientemente un experto en diseño de interfaces: los sistemas que no diseñamos para servir al ser humano terminan usando al ser humano para su propio funcionamiento.