Durante su análisis, el tribunal concluyó que la IA de Google combinó información correspondiente a otras compañías señaladas por posibles prácticas ilícitas con datos de los demandantes, generando asociaciones que no aparecían en ninguna de las fuentes enlazadas por el buscador.
Las autoridades consideraron que, a diferencia de los motores de búsqueda tradicionales, que se limitan a mostrar listas de enlaces con declaraciones elaboradas por terceros, la herramienta de Google producía “declaraciones independientes, nuevas y sustanciales” basadas en una interpretación equivocada de la información disponible en internet.
Según la corte, corregir este problema no depende de terceros. Google es la única entidad con capacidad para modificar la tecnología que sustenta sus resúmenes generados mediante IA y, por lo tanto, “debe rendir cuentas”. Además, el tribunal consideró que la línea de defensa presentada por la empresa carecía de sustento, ya que la síntesis cuestionada “contiene declaraciones que no aparecen en absoluto en los resultados de búsqueda”.
Una nueva (y contundente) interpretación de la IA en la web
La interpretación que los jueces realizaron sobre el papel de la IA en la presentación de los resultados es lo que podría convertir este caso en un precedente histórico respecto a la responsabilidad que tienen las grandes compañías tecnológicas sobre la influencia de sus desarrollos más avanzados dentro de plataformas ampliamente utilizadas.
Hasta ahora, en la mayoría de los sistemas jurídicos, los motores de búsqueda han sido considerados herramientas que únicamente facilitan el acceso a contenidos creados por terceros y disponibles en la web. Esta condición les ha otorgado cierto nivel de protección cuando la información publicada resulta falsa, inexacta, engañosa o incluso difamatoria.
No obstante, el tribunal alemán sostuvo que dicha salvaguarda deja de aplicarse cuando los buscadores incorporan sistemas de IA generativa. De acuerdo con su razonamiento, esta tecnología es capaz de producir afirmaciones inexistentes a partir de múltiples fuentes y, en consecuencia, las empresas responsables de operarla deben asumir la responsabilidad por su contenido.
Los jueces también señalaron que, aunque Google invita a los usuarios a verificar la información debido a las posibles alucinaciones propias de los modelos de IA, esta advertencia no elimina la responsabilidad de quien difunde el contenido. De lo contrario, las víctimas de afirmaciones falsas quedarían prácticamente indefensas, ya que las fuentes originales nunca realizaron esas declaraciones y, por ende, no podrían ser objeto de acciones legales.
Asimismo, el tribunal sostuvo que los resultados generados por un sistema de IA no pueden ampararse bajo los principios de la libertad de expresión, debido a que son el producto de un algoritmo diseñado, entrenado y administrado por una empresa, y no la manifestación de una opinión individual.
citado por Ars Technica, sugirió que la decisión podría ser impugnada. El representante aseguró que “[Google invierte] significativamente en la calidad de los resúmenes generados por IA para garantizar que la gran mayoría de las respuestas proporcionen información precisa y reflejen el contenido disponible en la web. Estamos revisando cuidadosamente esta decisión, que aún no es definitiva”.El fallo del tribunal alemán podría tener repercusiones globales para toda la industria de la inteligencia artificial. Empresas como OpenAI, Anthropic y Perplexity AI también advierten a sus usuarios que las respuestas generadas por sus sistemas pueden contener errores o resultar engañosas y, al igual que Google, recomiendan verificar la información antes de utilizarla. Esta advertencia suele encontrarse en las políticas de uso que los usuarios aceptan al crear un perfil en alguna plataforma.
Sin embargo, este caso plantea que dichas advertencias no son suficientes para eximir de responsabilidad a los desarrolladores. La resolución sostiene que cuando una IA produce afirmaciones nuevas que no aparecen de forma directa en sus fuentes originales, la empresa que diseña, entrena, opera y administra el sistema debe asumir la responsabilidad legal por los posibles daños ocasionados por esas declaraciones.