Исследования показали, как работает Google MUM

1 335
31 мая 2021

Ключ к разгадке того, как работает Google MUM, можно найти в недавнем исследовании искусственного интеллекта.

Унифицированная модель многозадачности Google (MUM) – это новая технология для ответов на сложные вопросы. Google опубликовал исследовательские работы, которые могут дать подсказки о том, что такое ИИ MUM, и как он работает. MUM, вероятно, состоит из нескольких инноваций. Например, в исследовательской статье Google «Трансформаторы HyperGrid: на пути к единой модели для нескольких задач» описывается новое состояние дел в многозадачном обучении, которое могло бы стать частью MUM.
Подпишись на наш Телеграм и читай все статьи и новости первым!

Документы о многозадачных унифицированных моделях

Как в случае с Neural Matching, нет никаких патентов или исследовательских работ с торговой маркой MUM. Имеются только научно-исследовательские работы, в которых обсуждаются аналогичные проблемы, которые MUM решает с помощью многозадачности.

Предыстория проблемы, которую решает MUM

Подробный ответ на вопрос – это сложный поисковый запрос, на который нельзя ответить с помощью ссылки или фрагмента. Для ответа требуются абзацы информации, содержащие несколько подтем. В объявлении Google MUM описывается сложность некоторых вопросов на примере пользователя, который хочет узнать, как подготовиться к осеннему походу на гору Фудзи. «Сейчас Google может помочь вам с этим вопросом, но для этого потребуется много поисковых запросов – вам придется искать высоту каждой горы, среднюю температуру осенью, сложность пешеходных троп, правильное снаряжение для использования и т.д». Вот пример длинного вопроса: «В чем разница между водоемами, такими как озера, реки и океаны?» Вышеупомянутый вопрос требует нескольких абзацев для обсуждения качеств озер, рек и морей, а также сравнения каждого водоема друг с другом. В объявлении Google нет речи о том, как должен выглядеть подробный ответ на этот вопрос, но возможно MUM будет решать эту проблему.

Изменение способа ответа на вопросы

В мае 2021 года исследователь Google по имени Дональд Метцлер опубликовал статью, в которой был представлен пример того, как поисковые системы должны выдавать ответы, чтобы пользователи могли получать ответы на сложные вопросы. В тексте говорится, что текущий метод поиска информации, состоящий из индексации веб-страниц и их ранжирования, не подходит для ответа на сложные поисковые запросы. В статье положение поисковых систем на сегодняшний день позиционируется следующим образом: «Современные системы часто полагаются на комбинацию основанного на терминах семантического поиска для создания первоначального набора кандидатов. Затем этот набор обычно передается на один или несколько этапов моделей повторного ранжирования, которые, скорее всего, будут моделями обучения ранжированию на основе нейронных сетей».

MoSE: многозадачная смесь выводов экспертов для исследования активности пользователей

MoSE - это технология машинного интеллекта, которая учится из нескольких источников данных (журналы поиска и просмотра) прогнозировать сложные многоэтапные шаблоны поиска. Он очень эффективен, что делает его масштабируемым и мощным. Эти функции MoSE соответствуют определенным качествам алгоритма MUM, в частности, что MUM может отвечать на сложные поисковые запросы и в 1000 раз мощнее, чем такие технологии, как BERT.

Что делает MoSE

MoSE получает необходимую информацию из просмотра данных пользователем. Эта информация позволяет моделировать процесс сложных поисковых запросов для получения удовлетворительных ответов. В исследовательском документе MoSE от Google за декабрь 2020 года описывается последовательное моделирование поведения пользователей, а не моделирование на основе поискового запроса и контекста.

MoSE обучили поиску

Алгоритм MoSE фокусируется на изучении того, что называется разнородными данными, что означает разные/разнообразные формы данных. В контексте MUM нас интересует то, что алгоритм MoSE обсуждается в контексте поиска и взаимодействия пользователей в их поисках ответов, то есть какие шаги предпринял поисковик, чтобы найти ответ.
«… В этой работе мы фокусируемся на моделировании потоков активности пользователей из разнородных источников данных (например, журналов поиска и журналов просмотра) и взаимодействий между ними».
Исследователи экспериментировали и протестировали алгоритм MoSE на задачах поиска в G Suite и Gmail.

Почему успех MoSE примечателен

Google публикует множество патентов на алгоритмы и исследовательских работ. Многие из них отодвигают границы современного уровня техники, отмечая при этом недостатки и ошибки, требующие дальнейшего изучения. В случае с MoSE дело обстоит иначе. Совсем наоборот. Исследователи отмечают достижения MoSE и то, что еще есть возможность сделать его еще лучше. Что делает исследование MoSE еще более примечательным, так это уровень успеха, на который оно претендует, и дверь, которую оно оставляет открытой для того, чтобы добиться еще большего. Это примечательно и важно, когда в исследовательской статье утверждается об успехе, а не о сочетании успеха и проигрыша.

MoSE - это технология искусственного интеллекта Google MUM?

MUM описывается как технология искусственного интеллекта. MoSE классифицируется как Machine Intelligence в блоге Google по искусственному интеллекту. В чем разница между ИИ и машинным интеллектом? Не очень большая, они почти в одной категории. В базе данных Google AI Publications исследовательские работы по искусственному интеллекту классифицируются в категории Machine Intelligence. Категории искусственного интеллекта нет. Мы не можем с уверенностью сказать, что MoSE является частью технологии, лежащей в основе MUM Google.
  • Возможно, что MUM на самом деле представляет собой несколько технологий, работающих вместе, и MoSE является их частью.
  • Возможно, MoSE является основной частью Google MUM.
  • Или может случиться так, что MoSE не имеет никакого отношения к MUM.
Тем не менее, интригует то, что MoSE представляет собой успешный подход к прогнозированию поведения пользователей при поиске и что его можно легко масштабировать с помощью Transformers. Независимо от того, является ли это частью технологии Google MUM, алгоритмы, описанные в этих документах, показывают, каково состояние дел в области поиска информации.
Поделиться