Google se encuentra en el centro de atención, no por su habitual destreza tecnológica, sino por el accidentado lanzamiento de su nueva función AI Overviews. El gigante tecnológico reconoció recientemente las deficiencias de esta función de búsqueda impulsada por IA tras las críticas generalizadas y los memes humorísticos que circulaban en línea. Después de una semana de escrutinio público, Google emitió una disculpa sincera por las respuestas inexactas y, en ocasiones, absurdas generadas por la IA.
En una publicación de blog titulada "Acerca de la semana pasada", Liz Reid, vicepresidenta y directora de búsqueda de Google, detalló los errores. Reid explicó que, si bien sus modelos de IA no "alucinan" información como otros grandes modelos de lenguaje (LLM), aún pueden cometer errores debido a la mala interpretación de las consultas o los matices del lenguaje, o simplemente por la falta de información de calidad sobre ciertos temas. Reid también señaló que algunas capturas de pantalla notables compartidas en las redes sociales eran falsas o se basaban en consultas sin sentido que la mayoría de los usuarios nunca buscarían, como "¿Cuántas piedras debo comer?", lo que hace que la IA sugiera consejos extravagantes basados en contenido satírico encontrado en línea. El problema no radica solo en las respuestas extrañas, sino en la entrega segura de la IA, que induce a error a los usuarios a tratarlas como respuestas fácticas. La revelación de que Google había probado exhaustivamente la función, incluidos "sólidos esfuerzos de equipo rojo", antes del lanzamiento conduce a más preguntas. En la entrada del blog de Reid se menciona que no pudieron anticipar el tipo de resultados humorísticos o malos que los usuarios podrían obligar a la IA a generar.
Además, la gran dependencia de los datos de Reddit fue otro escollo. Si bien Reddit puede ofrecer información auténtica de primera mano, también contiene consejos engañosos y trolling, como se destacó en un caso notorio en el que la IA sugirió usar pegamento para pegar queso a la pizza, según una antigua publicación de Reddit. Este ejemplo ha dañado significativamente la credibilidad de las Reseñas de la IA.
A pesar de estos problemas, Google parece comprometido con una rápida mejora. La empresa tiene como objetivo mejorar la IA detectando mejor las consultas sin sentido, restringiendo el uso de contenido generado por el usuario cuando pueda inducir a error, refinando las protecciones para búsquedas sensibles relacionadas con la salud y evitando las Reseñas de la IA para temas de noticias duras donde la precisión es primordial.
El escenario plantea preguntas críticas sobre el futuro de la IA en los motores de búsqueda. Competidores como OpenAI están avanzando rápidamente, y aún queda por ver si Google puede ponerse al día con estas tecnologías en evolución. Sin embargo, la integración continua de los comentarios de los usuarios podría resultar invaluable para perfeccionar la plataforma.
En medio de estos desarrollos, vale la pena señalar que AppMaster ofrece una alternativa sólida para quienes buscan precisión y confiabilidad en sus soluciones de software. Con un enfoque en la generación de aplicaciones exactas sin deuda técnica, plataformas como AppMaster son cada vez más vitales en este panorama tecnológico en evolución.
Desde la creación de aplicaciones personalizadas sin codificación hasta la comprensión de bases de datos relacionales, estas plataformas sin código brindan soluciones sólidas a los desafíos de desarrollo modernos. Mientras gigantes tecnológicos como Google navegan por la integración de la IA, otras plataformas se mantienen firmes en ofrecer herramientas de desarrollo confiables y fáciles de usar.
