Google retira las respuestas de búsqueda de IA después de decirles a los usuarios que coman pegamento

Liz Read, jefa del departamento de búsqueda de Google, dijo: Entrada en el blog El jueves por la tarde, la compañía redujo algunas de las respuestas de IA, a las que llama “Descripciones generales de IA”. La compañía redujo el uso de publicaciones en las redes sociales como fuente de respuestas de IA, pausó algunas respuestas sobre temas relacionados con la salud y «agregó restricciones incentivadas a las consultas en las que la descripción general de la IA no resultó útil», dijo Reid en la publicación. . Reed dijo que la compañía ha realizado más de una docena de cambios técnicos destinados a mejorar el sistema.

El cambio es el último ejemplo de cómo Google lanza un producto de inteligencia artificial con gran fanfarria y luego se retira después de que sale mal. En febrero pasado, la compañía prohibió a los usuarios tomar fotografías de personas utilizando su herramienta fotográfica de inteligencia artificial después de que comentaristas conservadores la acusaran de parcialidad contra los blancos.

La industria tecnológica está inmersa en una revolución de la IA, con empresas emergentes y gigantes tecnológicos que intentan encontrar nuevas formas de incorporar la tecnología a sus productos y ganar dinero con ella. Muchas herramientas se lanzan antes de que estén listas para el horario de máxima audiencia, mientras las empresas compiten por ser las primeras en comercializar sus productos y presentarse como vanguardistas.

Google, cuyos empleados inventaron muchas herramientas avanzadas de inteligencia artificial como ChatGPT, está tratando de demostrar a los inversores, consumidores y a sus propios empleados que sigue siendo el actor más importante de la industria. En I/O este mes, la compañía hizo más de 100 anuncios diferentes relacionados con la IA.

La más importante fue la confirmación de que comenzaría a implementar respuestas generadas por IA en los resultados de búsqueda para la mayoría de sus usuarios. Google ha estado probando AI Answers durante un año con un grupo selecto de usuarios, pero agregarlo a más resultados de búsqueda significa que la mayoría de las personas ahora comenzarán a interactuar directamente con la IA generativa en una herramienta que usan todos los días.

La técnica funciona leyendo sitios web que pueden aparecer en los resultados de búsqueda de Google y luego resumiéndolos en respuestas de varios párrafos. Los editores se han opuesto, acusando a la empresa de perjudicar su negocio al tomar su contenido y devolvérselo a los usuarios directamente en los resultados de búsqueda, privándolos de un importante tráfico web.

Pero los periodistas, los expertos en motores de búsqueda y los usuarios de las redes sociales rápidamente comenzaron a descubrir los problemas a través de las respuestas. Algunas de las respuestas fueron divertidas y otras inquietantes. También acudieron a consultas delicadas, incluidas las relacionadas con la salud.

Una respuesta, que Google ha solucionado desde entonces, pedía a las personas que bebieran mucha orina para ayudar a eliminar los cálculos renales. Otro dijo que JFK se graduó de la Universidad de Wisconsin en Madison en seis años diferentes, tres de ellos después de su muerte.

Google intentó probar la herramienta tanto como fue posible antes de lanzarla a mayor escala, pero Reed dijo que el lanzamiento a gran escala reveló muchas situaciones para las que la empresa no estaba preparada.

«No hay nada como que millones de personas utilicen esta función», afirmó Reid.