Google оказался в центре внимания не из-за своего обычного технического мастерства, а из-за неровного развертывания своей новой функции AI Overviews. Технологический гигант недавно признал недостатки этой поисковой возможности на базе ИИ после широко распространенной критики и юмористических мемов, циркулирующих в сети. После недели общественного внимания Google принес откровенные извинения за неточные и порой абсурдные ответы, сгенерированные ИИ.
В сообщении в блоге под названием «About Last Week» Лиз Рид, вице-президент Google и руководитель отдела поиска, подробно описала ошибки. Она объяснила, что, хотя их модели ИИ не «галлюцинируют» информацию, как некоторые другие большие языковые модели (LLM), они все равно могут ошибаться из-за неправильной интерпретации запросов или нюансов в языке или просто из-за отсутствия качественной информации по определенным темам.
Рид также указала, что некоторые заметные скриншоты, размещенные в социальных сетях, были поддельными или основанными на бессмысленных запросах, которые большинство пользователей никогда не будут искать, например, «Сколько камней мне съесть?», в результате чего ИИ предлагал нелепые советы на основе сатирического контента, найденного в сети. Проблема заключается не только в странных ответах, но и в уверенной подаче ИИ, вводящей пользователей в заблуждение, заставляя их воспринимать их как фактические ответы.
Открытие того, что Google тщательно протестировала эту функцию, включая «надежные усилия по объединению в команду», перед запуском, приводит к дополнительным вопросам. В сообщении в блоге Рида упоминается, что они не смогли предвидеть, какие юмористические или плохие результаты пользователи могут заставить генерировать ИИ.
Более того, сильная зависимость от данных Reddit была еще одной ловушкой. Хотя Reddit может предложить подлинную информацию из первых рук, он в равной степени содержит вводящие в заблуждение советы и троллинг, как это было продемонстрировано в печально известном случае, когда ИИ предложил использовать клей, чтобы прикрепить сыр к пицце, основываясь на старом сообщении Reddit. Этот пример значительно подорвал доверие к обзорам ИИ.
Несмотря на эти проблемы, Google, похоже, стремится к быстрому улучшению. Компания стремится улучшить ИИ, лучше обнаруживая бессмысленные запросы, ограничивая использование пользовательского контента, когда он может ввести в заблуждение, совершенствуя защиту для конфиденциальных поисковых запросов, связанных со здоровьем, и избегая обзоров ИИ для важных новостных тем, где точность имеет первостепенное значение.
Сценарий поднимает важные вопросы о будущем ИИ в поисковых системах. Такие конкуренты, как OpenAI, быстро продвигаются вперед, и пока неизвестно, сможет ли Google догнать эти развивающиеся технологии. Однако непрерывная интеграция отзывов пользователей может оказаться бесценной для совершенствования платформы.
Среди этих разработок стоит отметить, что AppMaster предлагает надежную альтернативу для тех, кто ищет точность и надежность в своих программных решениях. Сосредоточившись на создании точных приложений без технического долга, такие платформы, как AppMaster, становятся все более важными в этом развивающемся технологическом ландшафте.
От создания пользовательских приложений без кодирования до понимания реляционных баз данных, эти платформы без кода предоставляют надежные решения для современных задач разработки. Пока такие технологические гиганты, как Google, ориентируются на интеграцию ИИ, другие платформы остаются непоколебимыми в предложении надежных и удобных для пользователя инструментов разработки.
