La experiencia de realizar una búsqueda, recibir una lista de enlaces con información relacionada y analizarlos para inferir una posible respuesta cambió para siempre con la incorporación del Modo IA y los Overviews.
En términos generales, ambas funciones generan respuestas a partir de una síntesis elaborada con información procedente de diversas fuentes disponibles en la web. El resultado incluye referencias a las páginas utilizadas y presenta un formato visual coherente que promete explicar la respuesta de forma clara y detallada.
La generación algoritmo: ¿Debemos prohibir las redes para las infancias?En esta entrega especial, WIRED en Español reúne evidencia científica, experiencias de familias, debates sobre regulación y perspectivas de especialistas para entender cómo las plataformas digitales están transformando la infancia y qué alternativas existen para protegerla sin perder de vista sus derechos.
ArrowAunque Google sostiene que estas funciones facilitan la comprensión de los temas mediante un mecanismo más práctico y favorecen el descubrimiento de nuevas fuentes de información, una investigación realizada por Common Sense Media concluyó que esta nueva dinámica puede afectar los procesos de aprendizaje de niños y adolescentes. Ello no solo se debe a que estas herramientas pueden completar por sí solas diversas tareas escolares, sino también a que sus respuestas suelen ser imprecisas, engañosas y, en algunos casos, estar sustentadas en información inventada por el algoritmo.
Para evaluar las funciones AI Overview y AI Mode de Google Search, la organización sin fines de lucro diseñó un modelo experimental centrado en la seguridad y fiabilidad de las respuestas dirigidas a niños y adolescentes. Con ese propósito, los investigadores crearon una serie de cuentas, todas con la protección SafeSearch activada, para simular dos perfiles específicos.
El primer grupo reprodujo la actividad de un niño de 11 años supervisado por sus padres o tutores por medio de los controles parentales del buscador. El segundo simuló las cuentas de un adolescente de 15 años sin supervisión parental activa.
A través de estas cuentas se realizaron un total de 2,624 interacciones, que generaron más de 2,100 enlaces de referencia. Posteriormente, la información fue evaluada con base en siete criterios:
- Manejo de crisis de salud mental.
- Adecuación del contenido según la edad.
- Integridad académica.
- Precisión histórica.
- Sesgos y equidad.
- Exactitud en acontecimientos recientes.
- Capacidad para facilitar la creación de contenido sintético (como deepfakes).
El estudio también analizó preguntas abiertas desarrolladas en conversaciones de varios turnos con el propósito de determinar la capacidad de las herramientas de IA para aprovechar el contexto al momento de generar una respuesta, especialmente en situaciones de crisis que implicaban o sugerían riesgos elevados, como suicidio, autolesiones, trastornos alimentarios, alteraciones en la percepción de la realidad o acceso a sustancias peligrosas.
La seguridad del Modo IA y los Overviews de Google Search en duda
Tras analizar los resultados, los investigadores concluyeron que el Modo IA y los Overviews de Google Search no son lo suficientemente seguros para convertirse en la fuente predeterminada de información para niños y adolescentes, ya que facilitan la realización automática de tareas escolares, presentan información errónea con la misma autoridad que datos verificados y, sobre todo, responden de manera inconsistente ante situaciones de riesgo.
De manera específica, el estudio encontró que el Modo IA resolvió por completo ejercicios matemáticos y elaboró ensayos literarios de forma autónoma en el 100% de los casos evaluados: 180 de 180 intentos. Los autores consideran que este comportamiento compromete el aprendizaje porque sustituye el esfuerzo intelectual que los estudiantes deberían realizar para desarrollar habilidades como el razonamiento, la memoria de trabajo y la resiliencia frente a problemas complejos.
aseguró que "esto es un desastre para el aprendizaje de los estudiantes. Los deberes son una oportunidad para que los alumnos amplíen su pensamiento, practiquen y desarrollen sus conocimientos y habilidades. Si la búsqueda de Google con IA hace todos sus deberes por ellos, no están aprendiendo".No obstante, la posibilidad de que los estudiantes recurran a atajos para cumplir con sus tareas no es la principal preocupación de los especialistas. Lo que realmente genera inquietud es la inconsistencia de las respuestas y el grado de confianza con el que son presentadas.
Aunque ambas funciones ofrecieron un nivel de precisión cercano al 90% cuando respondían consultas sobre hechos ampliamente conocidos o acontecimientos recientes, la fiabilidad disminuyó de manera considerable al solicitar información más específica sobre esos mismos temas.
Asimismo, al repetir preguntas incluidas previamente en el historial de las cuentas ficticias con una redacción similar, las funciones de IA del buscador de Google ofrecieron respuestas sustancialmente distintas en el 43% de los casos.
Los investigadores también determinaron que los enlaces citados como fuentes por las funciones de IA de Google Search no siempre proceden de sitios capaces de garantizar la veracidad de la información. De los más de 2,100 enlaces analizados, el 29% provenía de plataformas alimentadas por contenido generado por los usuarios, como Reddit, Facebook, YouTube y diversos foros de discusión. A pesar de ello, la información fue presentada con un formato visual que transmite una apariencia de confiabilidad.
Finalmente, las funciones mostraron dificultades para identificar y rechazar preguntas basadas en premisas falsas. Aunque AI Overview descartó correctamente alrededor del 50% de estos planteamientos y el Modo IA lo hizo en el 80% de los casos, ambas herramientas llegaron a inventar acontecimientos, decisiones judiciales y resultados de investigaciones inexistentes con un elevado grado de aparente confianza.
detectan de forma inconsistente este tipo de escenarios. En las pruebas vinculadas con salud mental se identificaron 214 casos en los que era apropiado recomendar ayuda médica o proporcionar información sobre líneas de emergencia. AI Overview únicamente lo hizo en el 58% de los casos, mientras que AI Mode alcanzó el 77%, un porcentaje que los investigadores consideran insuficiente, ya que establecieron un umbral mínimo de desempeño del 95% para este tipo de situaciones.En los escenarios relacionados con ideación suicida, AI Overview respondió correctamente al 71% de las declaraciones explícitas; sin embargo, su desempeño descendió hasta aproximadamente el 50% cuando las señales eran indirectas. Además, en algunos casos generó respuestas consideradas inseguras, como explicar cómo configurar el acceso a una cuenta después de la muerte del usuario, en lugar de activar recursos de apoyo o recomendar asistencia especializada.
Las deficiencias también quedaron en evidencia en los casos relacionados con trastornos alimentarios. AI Overview solo recomendó buscar ayuda profesional en el 38% de las situaciones que así lo requerían, mientras que AI Mode lo hizo en el 65%. El estudio documentó ejemplos en los que AI Overview normalizaba el alivio que una persona experimenta después de vomitar o proporcionaba información sobre el uso de laxantes sin reconocer que el contexto podía estar relacionado con un trastorno alimentario.
En materia de consumo de sustancias, ninguna de las herramientas adaptó sus respuestas al hecho de estar interactuando con menores de edad. En algunos casos incluso llegaron a felicitar el consumo de cannabis o a ofrecer recomendaciones para aliviar una resaca, sin advertir sobre los riesgos particulares para los adolescentes ni sugerir que buscaran el apoyo de un adulto de confianza.
pensamiento crítico.Por ello, Geoffrey Fowler, director de Participación Pública del Instituto de Seguridad de la IA para Jóvenes de Common Sense Media, considera que Google debería desactivar estas funciones de manera predeterminada e implementar mecanismos que permitan a padres, tutores y profesores decidir cuándo su utilización resulta apropiada y cuándo no. Además, señaló que la empresa "debería asegurarse de que sus productos de IA dejen de completar las tareas escolares de los alumnos, respondan de forma coherente cuando un niño pueda estar en crisis y distingan claramente la investigación revisada por pares de las publicaciones en redes sociales y otros contenidos generados por los usuarios".
Google es el motor de búsqueda más utilizado del mundo y procesa alrededor de 14,000 millones de consultas al día. El uso de sus funciones basadas en inteligencia artificial mantiene un crecimiento constante entre los usuarios en edad escolar. Tan solo en Estados Unidos se estima que cerca del 75% de los adolescentes y preadolescentes utilizan estas herramientas.
Los autores del estudio consideran que esta tendencia probablemente se replicará en numerosas regiones del mundo, lo que obliga a Google a replantear la disponibilidad y el funcionamiento de estos recursos para garantizar una mayor protección de los usuarios más jóvenes. "Cuanto más inevitables hagan las respuestas de IA de Google, mayor será su responsabilidad de garantizar que sean seguras para los niños que las utilizan", concluyó Fowler.
Mantente al día con el mundo de la tecnología. Agréganos a tus Fuentes Preferidas en GoogleArrow