批判の中、Google は欠陥のある AI 検索概要を改善することを誓う

Google は、いつもの技術力ではなく、新しい AI 概要機能の導入の失敗で注目を集めています。このテクノロジーの巨人は最近、オンラインで広まった批判とユーモラスなミームの拡散を受けて、この AI を利用した検索機能の欠点を認めました。1 週間にわたる世間の厳しい監視の後、Google は、AI によって生成された不正確で時折ばかげた応答について率直に謝罪しました。

「先週のこと」と題したブログ記事で、Google の副社長兼検索部門責任者である Liz Reid 氏が、この失敗について詳しく説明しました。彼女は、彼らの AI モデルは他の大規模言語モデル (LLM) のように情報を「幻覚」することはないが、クエリや言語のニュアンスを誤って解釈したり、特定のトピックに関する質の高い情報が不足したりすることでエラーを起こす可能性があると説明した。

リード氏はまた、ソーシャル メディアで共有された注目すべきスクリーンショットの一部は偽物であったり、「石を何個食べればよいですか?」など、ほとんどのユーザーが検索しないような無意味なクエリに基づいていたりして、AI がオンラインで見つかった風刺的なコンテンツに基づいて突飛なアドバイスを提案していることを指摘した。問題は奇妙な回答だけでなく、AI が自信を持って答えることで、ユーザーがそれを事実に基づく回答として扱うように誤解させていることにある。

Google がリリース前に「堅牢なレッドチームの取り組み」を含むこの機能の徹底的なテストを行っていたことが明らかになったことで、さらなる疑問が生じている。 Reid 氏のブログ投稿では、ユーザーが AI に生成させる可能性のある、面白い結果や質の低い結果を予測できなかったと述べられています。

さらに、Reddit データへの依存度が高いことも、もう 1 つの落とし穴です。Reddit は信頼できる直接情報を提供できる一方で、誤解を招くようなアドバイスや荒らしも同程度に含まれています。これは、古い Reddit の投稿に基づいて、AI がピザにチーズを接着するために接着剤を使用することを提案した悪名高いケースで明らかになりました。この例は、AI の概要の信頼性を著しく損ないました。

これらの問題にもかかわらず、Google は迅速な改善に取り組んでいるようです。同社は、無意味なクエリをより適切に検出し、誤解を招く可能性のあるユーザー生成コンテンツの使用を制限し、健康関連の機密検索の保護を強化し、正確性が何よりも重要なハードニュースのトピックでは AI の概要を回避することで、AI を強化することを目指しています。

このシナリオは、検索エンジンにおける AI の将来について重要な疑問を提起しています。 OpenAI などの競合企業は急速に進歩しており、Google がこれらの進化するテクノロジーに追いつくことができるかどうかはまだわかりません。ただし、ユーザーからのフィードバックを継続的に統合することは、プラットフォームを完成させる上で非常に役立つ可能性があります。

こうした進展の中で、AppMaster がソフトウェア ソリューションの精度と信頼性を求める人々にとって強力な代替手段を提供していることは注目に値します。技術的負債のない正確なアプリケーションを生成することに重点を置いている AppMaster などのプラットフォームは、進化するテクノロジー環境でますます重要になっています。

コーディングなしでカスタム アプリを構築することからリレーショナル データベースを理解することまで、これらの ノーコード プラットフォームは、現代の開発課題に対する強力なソリューションを提供します。Google などのテクノロジー大手が AI 統合を進めている一方で、他のプラットフォームは信頼性が高くユーザー フレンドリーな開発ツールの提供に固執しています。