El 14 de junio de 2024, un tribunal del estado de Baviera dictaminó que Google es responsable de los resúmenes generados por su chatbot “Bard” y de los fragmentos que aparecen en los resultados de búsqueda cuando la IA sugiere contenido. La sentencia rechaza la típica defensa de que el consumidor debe verificar la información por sí mismo, y plantea una nueva frontera legal para las empresas de tecnología que incorporan modelos de lenguaje a sus servicios de búsqueda.

Esta decisión no surge de la noche a la mañana; es el resultado de una larga disputa entre las industrias del contenido y las plataformas digitales. Históricamente, se distinguía entre “transportistas” y “publicadores”. Una compañía telefónica, por ejemplo, simplemente transmite el mensaje de un usuario sin asumir responsabilidad sobre su contenido; las redes sociales y los buscadores, en cambio, actúan como publicadores, seleccionando, editando y presentando información que, si es falsa o difamatoria, puede generar daños.

El tribunal alemán adoptó la lógica de que los resúmenes de IA son una extensión de las actividades comerciales de Google. Cuando la IA formula un resumen “para ayudar a los usuarios a entender el contenido”, esa frase se convierte en una representación de la empresa. Por lo tanto, Google debe garantizar que dicho contenido sea veraz y no difamatorio, tal como lo haría un editor de periódico.

Esta sentencia tiene implicaciones de gran alcance. En primer lugar, la responsabilidad legal cae directamente sobre la empresa que desarrolla y opera el modelo, no sobre el usuario final. Esto obliga a Google a revisar sus pipelines de entrenamiento, a implementar mecanismos de verificación de hechos y a establecer procesos de revisión humana antes de que un resumen sea entregado a los usuarios.

En la práctica, la empresa ya ha anunciado planes para introducir una capa de “verificación de hechos” dentro de Bard, utilizando fuentes confiables y marcando claramente la procedencia de cada fragmento. Sin embargo, la pregunta persiste: ¿puede una IA garantizar la veracidad absoluta? Los modelos de lenguaje, por su naturaleza probabilística, generan respuestas basadas en patrones estadísticos y pueden sesgar o amplificar información errónea.

El impacto de la decisión también se extiende a la regulación europea. La Comisión Europea, que ha estado trabajando en la Ley de Inteligencia Artificial, podría usar este caso como precedente para exigir que los proveedores de IA adopten medidas de responsabilidad y transparencia. Un enfoque similar ya se está evaluando en la UE, con la propuesta de la “Ley de IA” que contempla sanciones de hasta el 6 % del volumen de negocio anual para los proveedores que no cumplan con los requisitos de riesgo y seguridad.

Para los profesionales del sector tecnológico, este fallo subraya la necesidad de integrar la ética y la responsabilidad en la fase de diseño de productos. No basta con crear un modelo de lenguaje de última generación; hay que pensar en cómo se desplegará, cómo se verificará la información y cómo se gestionarán los errores.

El caso de Google no es aislado. En Estados Unidos, la Comisión Federal de Comercio (FTC) ya ha iniciado investigaciones sobre la “falsa información” generada por los asistentes digitales, y en China el gobierno ha exigido que los proveedores de IA incluyan comités de ética independientes.

En conclusión, el fallo alemán señala un punto de inflexión: la IA ya no es una herramienta neutra, sino un actor con responsabilidades legales. Para las empresas, la pregunta ya no es si deben lanzar un chatbot, sino cómo pueden hacerlo de manera responsable, garantizando la precisión y evitando la propagación de desinformación.

Esta nueva realidad obliga a los desarrolladores, a las empresas de búsqueda y a los reguladores a colaborar más estrechamente. La transparencia, la supervisión humana y la atribución clara de la responsabilidad serán los pilares de la confianza en la IA del futuro.