Google menjadi pusat perhatian, bukan karena kehebatan teknologinya yang biasa, tetapi karena peluncuran fitur AI Overviews yang baru yang tidak mulus. Raksasa teknologi tersebut baru-baru ini mengakui kekurangan dalam kemampuan pencarian yang didukung AI ini setelah banyaknya kritik dan meme lucu yang beredar di internet. Setelah seminggu diawasi publik, Google mengeluarkan permintaan maaf yang jujur atas tanggapan yang tidak akurat dan terkadang tidak masuk akal yang dihasilkan oleh AI tersebut.
Dalam sebuah posting blog berjudul 'About Last Week,' Liz Reid, Google VP dan Head of Search, merinci kesalahan tersebut. Dia menjelaskan bahwa meskipun model AI mereka tidak "berhalusinasi" informasi seperti beberapa model bahasa besar (LLM) lainnya, model tersebut tetap dapat melakukan kesalahan karena salah menafsirkan pertanyaan atau nuansa dalam bahasa, atau hanya karena kurangnya informasi berkualitas tentang topik tertentu.
Reid juga menunjukkan bahwa beberapa tangkapan layar penting yang dibagikan di media sosial adalah palsu atau berdasarkan pertanyaan tidak masuk akal yang tidak akan pernah dicari oleh sebagian besar pengguna, seperti 'Berapa banyak batu yang harus saya makan?' yang mengakibatkan AI menyarankan saran yang tidak masuk akal berdasarkan konten satir yang ditemukan secara daring. Masalahnya bukan hanya terletak pada jawaban yang aneh tetapi juga pada penyampaian AI yang meyakinkan, yang menyesatkan pengguna untuk menganggapnya sebagai respons faktual.
Pengungkapan bahwa Google telah menguji fitur tersebut secara ekstensif—termasuk 'upaya tim merah yang kuat'—sebelum peluncuran menimbulkan pertanyaan lebih lanjut. Posting blog Reid menyebutkan bahwa mereka gagal mengantisipasi jenis hasil yang lucu atau buruk yang mungkin dipaksakan pengguna untuk dihasilkan oleh AI.
Lebih jauh, ketergantungan yang besar pada data Reddit merupakan jebakan lainnya. Meskipun Reddit dapat menawarkan informasi langsung yang autentik, namun juga mengandung saran yang menyesatkan dan trolling, seperti yang disorot oleh kasus terkenal di mana AI menyarankan penggunaan lem untuk merekatkan keju ke pizza, berdasarkan posting Reddit lama. Contoh ini telah merusak kredibilitas Ringkasan AI secara signifikan.
Meskipun ada masalah ini, Google tampaknya berkomitmen untuk melakukan perbaikan cepat. Perusahaan ini bertujuan untuk meningkatkan AI dengan mendeteksi kueri yang tidak masuk akal dengan lebih baik, membatasi penggunaan konten yang dibuat pengguna jika dapat menyesatkan, menyempurnakan perlindungan untuk pencarian terkait kesehatan yang sensitif, dan menghindari Ringkasan AI untuk topik berita yang sulit di mana akurasi adalah yang terpenting.
Skenario ini menimbulkan pertanyaan kritis tentang masa depan AI di mesin pencari. Pesaing seperti OpenAI berkembang pesat, dan apakah Google dapat mengejar teknologi yang terus berkembang ini masih harus dilihat. Namun, integrasi berkelanjutan dari umpan balik pengguna dapat terbukti sangat berharga dalam menyempurnakan platform.
Di tengah perkembangan ini, perlu dicatat bahwa AppMaster menawarkan alternatif yang kuat bagi mereka yang mencari ketepatan dan keandalan dalam solusi perangkat lunak mereka. Dengan fokus pada pembuatan aplikasi yang tepat tanpa utang teknis, platform seperti AppMaster semakin penting dalam lanskap teknologi yang terus berkembang ini.
Dari membangun aplikasi khusus tanpa pengodean hingga memahami basis data relasional, platform tanpa kode ini memberikan solusi yang kuat untuk tantangan pengembangan modern. Saat raksasa teknologi seperti Google menavigasi integrasi AI, platform lain tetap teguh dalam menawarkan alat pengembangan yang andal dan mudah digunakan.
