En un giro que expone las tensiones entre innovación y responsabilidad, Google ha desactivado una controvertida función de inteligencia artificial que ofrecía consejos médicos basados en la sabiduría colectiva de usuarios anónimos. La herramienta, bautizada como "What People Suggest", se presentó en su momento como un ejemplo del "potencial de la IA para transformar resultados de salud a nivel global", pero ahora desaparece silenciosamente del buscador ante la creciente escrutinio sobre la aplicación de algoritmos en el ámbito sanitario.

La función, integrada en los resultados de búsqueda, compilaba y priorizaba recomendaciones de salud provenientes de foros, redes sociales y plataformas comunitarias. Un usuario que buscara síntomas de migraña podría encontrar sugerencias desde infusiones caseras hasta rutinas de ejercicio, todo procesado por IA para parecer coherente y relevante. El problema, según expertos consultados por IAOnda, radicaba en la equiparación implícita entre consejo verificado y opinión anónima.

"Esto representa un retroceso peligroso en la lucha contra la desinformación médica", comenta la Dra. Elena Ruiz, investigadora en ética de IA aplicada a la salud. "Los sistemas de recomendación basados en 'crowdsourcing' sin validación profesional crean una falsa sensación de consenso. Un algoritmo no puede distinguir entre un testimonio anecdótico y una evidencia clínica".

La decisión de Google llega en un momento crítico. La compañía enfrenta múltiples investigaciones regulatorias en la Unión Europea y Estados Unidos sobre cómo sus herramientas de IA manejan información sensible de salud. En febrero, un informe del Centro para la Democracia Digital demostró que el 68% de los consejos generados por "What People Suggest" carecían de respaldo científico, y un 12% eran potencialmente dañinos.

El caso ilustra una paradoja fundamental en la IA generativa: su capacidad para procesar enormes volúmenes de datos no garantiza la calidad de la información resultante. Mientras los grandes modelos de lenguaje pueden redactar ensayos convincentes sobre tratamientos médicos, carecen del marco ético y contextual que posee un profesional sanitario.

"No se trata de demonizar la tecnología, sino de establecer límites claros", señala Carlos Mendoza, director del Observatorio de IA en Salud Iberoamericana. "Las aplicaciones médicas de IA requieren validación clínica, transparencia sobre sus limitaciones y, sobre todo, supervisión humana. Ningún algoritmo debería sustituir la consulta con un profesional".

La retirada de esta función podría marcar un precedente importante en la industria. Microsoft, que integra IA en su motor de búsqueda, ya ha implementado advertencias explícitas en consultas de salud, mientras que Apple evita completamente sugerencias médicas automatizadas en sus asistentes.

Para los profesionales tech hispanohablantes, este episodio ofrece lecciones cruciales. Primero, que la escalabilidad de una solución tecnológica no la exime de responsabilidades éticas. Segundo, que en dominios de alto riesgo como la salud, los sistemas de IA deben diseñarse con "guardrails" (mecanismos de seguridad) desde la arquitectura, no como parches posteriores.

Google no ha aclarado si reemplazará la función con una versión mejorada. En su comunicado, solo mencionan que "evalúan continuamente sus funciones para garantizar utilidad y fiabilidad". Lo cierto es que el episodio deja una mancha más en el ya complejo panorama de la IA en salud, donde cada avance parece generar nuevas preguntas sobre límites y consecuencias.

Mientras la industria debate sobre regulación, los usuarios siguen expuestos a un ecosistema digital donde la información médica de calidad compite con contenido algorítmicamente optimizado pero clínicamente vacío. La retirada de "What People Suggest" no resuelve el problema de raíz, pero al menos reconoce que, en salud, la sabiduría de las multitudes tiene fecha de caducidad cuando la IA la procesa sin contexto ni criterio profesional.