Обновление ИИ-поиска в Google привело к неожиданным последствиям: система начала воспринимать нейтральные команды пользователей как личные просьбы или обращения. Например, запросы вроде «стой» или «заткнись» теперь вызывают у поисковой системы реакции, которые больше напоминают ответы на эмоциональные обращения, а не на обычные команды.
Проблема затрагивает не только голосовые запросы, но и классический текстовый поиск. Пользователи отмечают, что система стала выдавать нелогичные результаты или даже пытаться «общаться» с пользователем, когда тот просто пытается получить информацию. Это нарушает привычный алгоритм работы поиска, где команды должны выполняться как инструментальные запросы, а не как диалог.
Специалисты по обработке естественного языка (NLP) предполагают, что сбой может быть связан с чрезмерной оптимизацией модели на диалоговые сценарии. Новый ИИ-поиск, вероятно, слишком сильно фокусируется на понимании контекста и эмоционального подтекста, что приводит к ложным срабатываниям на нейтральные команды. Такое поведение может снизить доверие пользователей к системе, особенно если ошибки сохранятся надолго.
Эксперты также указывают на риск для бизнес-запросов: если поисковая система начнет интерпретировать команды как личные обращения, это может искажать результаты для корпоративных пользователей, которым важна точность и скорость поиска. Например, команды вроде «покажи отчет за квартал» могут быть восприняты как просьбу о помощи, а не как запрос данных.
Google пока не комментирует детали проблемы, но пользователи активно обсуждают инцидент в социальных сетях. Некоторые отмечают, что сбои напоминают ранние этапы развития чат-ботов, когда модели путают задачи с диалогами. Однако в случае поисковой системы такие ошибки критичнее, так как пользователи ожидают инструментального, а не социального взаимодействия.
Если проблема не будет устранена быстро, это может повлиять на репутацию Google как лидера в сфере поисковых технологий. Пользователи привыкли к стабильности и предсказуемости поиска, и любые отклонения от этого стандарта вызывают настороженность. В то же время, инцидент может стать тестовой площадкой для дальнейшей оптимизации ИИ-моделей, где важно найти баланс между пониманием контекста и сохранением инструментальной функциональности.
Для разработчиков это также сигнал о необходимости более тщательной проверки обновлений, особенно когда речь идет о системах, где ошибки могут иметь масштабные последствия. В случае с Google речь идет не только о комфорте пользователей, но и о миллиардах запросов в день, где даже небольшой процент ошибок может привести к значительным искажениям.
