No es la única. El director de Wicked, Jon M. Chu, recurrió a un LLM "solo para obtener algunos consejos sobre la salud de sus hijos, que quizá no sean los mejores", dice. "Pero es un buen punto de referencia inicial".
Las propias empresas de IA ven la salud como un área de crecimiento potencial. OpenAI anunció ChatGPT Health, revelando que "cientos de millones de personas" utilizan el chatbot para responder a preguntas sobre salud y bienestar cada semana. ChatGPT Health introduce medidas adicionales de privacidad, dada la sensibilidad de las consultas. Claude for Healthcare, de Anthropic, tiene como clientes a hospitales y otros sistemas sanitarios.
No todos los entrevistados adoptan un enfoque tan inmersivo. "Intento no utilizar IA en absoluto. Cuando se trata de hacer tu propio trabajo, es muy fácil tener una opinión. La IA no debería darte una. Deberías hacerla por ti mismo", afirma Sienna Villalobos, estudiante de la Universidad de Berkeley.
Puede que esa opinión sea cada vez más minoritaria. Casi dos tercios de los adolescentes estadounidenses utilizan chatbots, según un reciente estudio de Pew Research. Aproximadamente 3 de cada 10 afirman utilizarlos a diario. Dado lo entrelazado que está Gemini con las búsquedas en Google hoy en día, es posible que muchos más utilicen la IA sin darse cuenta o sin proponérselo.
¿Preparados para el lanzamiento?
El ritmo del desarrollo y la implementación de la IA es implacable, a pesar de la preocupación por sus posibles impactos en la salud mental, el medio ambiente y la sociedad en general. En este entorno regulatorio tan abierto, las empresas se ven en gran medida obligadas a autocontrolarse. Entonces, ¿qué preguntas deberían plantearse las empresas de IA antes de cada lanzamiento, sin ninguna restricción por parte de los legisladores?
"¿Qué podría salir mal?" es una pregunta muy buena e importante que me gustaría que se hicieran más empresas", sugiere Mike Masnick, fundador del sitio de noticias sobre tecnología y política Techdirt.
nuevo agente de IA, afirma, las empresas deben preguntarse: "¿Qué tan seguras estamos de haber realizado suficientes pruebas de seguridad en este modelo?". Al igual que los fabricantes de automóviles realizan pruebas de choque, los desarrolladores de chatbots deben asegurarse de que lo que producen sea lo más confiable posible. "Realmente estamos lanzando esto al mundo; es algo en lo que la gente confiará a diario. ¿Me sentiría cómoda con que mi propio hijo lo use?".El CEO de Cloudflare, Matthew Prince, hizo hincapié en que las empresas de IA deben trabajar para establecer la confianza antes de lanzar un nuevo producto. Una encuesta reciente de YouGov reveló que, aunque el 35% de los adultos estadounidenses afirma usan IA a diario, solo el 5% "confía mucho en la IA", y el 41% desconfía. Una encuesta de Ipsos mostró que la confianza en las empresas de IA para proteger los datos personales cayó a nivel mundial de 2023 a 2024. "Creo que muchas anteponen el beneficio económico a la moralidad, y ese es uno de los mayores peligros", afirma Villalobos.
Una serie de demandas de alto perfil sobre supuestos daños causados por la IA ha tensado aún más la opinión pública sobre algunos proveedores de chatbot en particular. Lo que nos lleva de nuevo a la cuestión de las consecuencias. "¿A quién perjudica y a quién no? Si no sabes la respuesta, no tienes suficiente gente en la sala", menciona Michele Jawando, presidenta de la organización sin fines de lucro Omidyar Network, que colaboró con WIRED en este proyecto.
obtener datos de entrenamiento. A pesar de esa relación de confrontación, sigue siendo optimista sobre la tecnología en su conjunto. "Creo que en realidad va a hacer que la humanidad mejore, no que empeore".Varios estudiantes de Berkeley citaron la seguridad laboral y la privacidad de los datos como preocupaciones a largo plazo a medida que la IA continúa afianzándose. "En el campus, mucha gente está realmente estresada sobre si el campo en el que van a entrar va a seguir siendo un campo", indica la estudiante Abigail Kaufman. Jeremy Allaire, CEO de la empresa financiera digital Circle, está de acuerdo: "El cambio en la naturaleza del trabajo y cómo puede afectar a las personas y a la economía... Hay muchas preguntas importantes al respecto y grandes riesgos en torno a ello, y nadie parece tener buenas respuestas".
Investigaciones recientes de economistas de la Universidad de Stanford han revelado que las oportunidades de empleo para los jóvenes ya están disminuyendo, y varias gigantes tecnológicas han citado la IA como justificación para reestructurar sus plantillas.
la atención al paciente. Los médicos tienen sus errores, pero tampoco queremos tener otros nuevos, o empeorarlos con la IA", asegura el médico Eric Topol, autor de Super Agers.Aun así, la preocupación por las repercusiones futuras no ha impedido que la IA sea útil en el presente. "Estoy trabajando en una presentación para enseñar a la gente cómo utilizar la IA en Perú, mi país natal", cuenta Gonzalo Vásquez Negra, que está cursando un maestría en administración de empresas (MBA) en Berkeley. Gilliane Balingit, otro estudiante dice: "La última vez que utilicé la IA fue para escribir poesía. Me cuesta mucho editar lo que escribo, así que utilicé la IA solo para ayudarme a mejorar mis pensamientos y mis sentimientos".
Artículo originalmente publicado enWIRED.Adaptado por Alondra Flores.