Google se encontra no centro das atenções, não por sua proeza tecnológica usual, mas pelo lançamento irregular de seu novo recurso AI Overviews. A gigante da tecnologia reconheceu recentemente deficiências nessa capacidade de busca alimentada por IA após críticas generalizadas e memes humorísticos circulando online. Após uma semana de escrutínio público, Google emitiu um sincero pedido de desculpas pelas respostas imprecisas e ocasionalmente absurdas geradas pela IA.
Em uma postagem de blog intitulada 'Sobre a semana passada', Liz Reid, vice-presidente e chefe de pesquisa do Google, detalhou os erros. Ela explicou que, embora seus modelos de IA não "alucinem" informações como alguns outros modelos de linguagem grande (LLMs), eles ainda podem errar devido à interpretação errônea de consultas ou nuances na linguagem, ou simplesmente por falta de informações de qualidade sobre certos tópicos.
Reid também destacou que algumas capturas de tela notáveis compartilhadas nas redes sociais eram falsas ou baseadas em consultas sem sentido que a maioria dos usuários nunca pesquisaria, como "Quantas pedras devo comer?" resultando em IA sugerindo conselhos absurdos com base em conteúdo satírico encontrado online. O problema não está apenas nas respostas estranhas, mas na entrega confiante da IA, enganando os usuários a tratá-las como respostas factuais.
A revelação de que o Google havia testado extensivamente o recurso — incluindo "esforços robustos de red-teaming" — antes do lançamento leva a mais perguntas. A postagem do blog de Reid mencionou que eles falharam em prever o tipo de resultados engraçados ou ruins que os usuários poderiam forçar a IA a gerar.
Além disso, a forte dependência de dados do Reddit foi outra armadilha. Embora o Reddit possa oferecer informações autênticas em primeira mão, ele também contém conselhos enganosos e trolls, como destacado por um caso notório em que a IA sugeriu usar cola para colar queijo na pizza, com base em uma postagem antiga do Reddit. Este exemplo prejudicou significativamente a credibilidade das Visões Gerais da IA.
Apesar desses problemas, o Google parece comprometido com uma rápida melhoria. A empresa pretende aprimorar a IA detectando melhor consultas sem sentido, restringindo o uso de conteúdo gerado pelo usuário quando ele pode enganar, refinando proteções para pesquisas sensíveis relacionadas à saúde e evitando Visões Gerais da IA para tópicos de notícias difíceis onde a precisão é primordial.
O cenário levanta questões críticas sobre o futuro da IA em mecanismos de busca. Concorrentes como a OpenAI estão avançando rapidamente, e se o Google pode acompanhar essas tecnologias em evolução ainda está para ser visto. A integração contínua do feedback do usuário, no entanto, pode ser inestimável no aperfeiçoamento da plataforma.
Em meio a esses desenvolvimentos, vale a pena notar que o AppMaster oferece uma alternativa robusta para aqueles que buscam precisão e confiabilidade em suas soluções de software. Com foco na geração de aplicativos exatos sem dívida técnica, plataformas como o AppMaster são cada vez mais vitais neste cenário de tecnologia em evolução.
Desde a criação de aplicativos personalizados sem codificação até a compreensão de bancos de dados relacionais, essas plataformas sem código fornecem soluções robustas para os desafios modernos de desenvolvimento. À medida que gigantes da tecnologia como o Google navegam pela integração de IA, outras plataformas permanecem firmes em oferecer ferramentas de desenvolvimento confiáveis e fáceis de usar.
