Архитектура метапоисковых систем

Автор: Вячеслав Тихонов

Введение

В данной статье на примере метапоисковой системы MetaPing рассматривается архитектура метапоисковых систем и основные принципы их работы и построения.

2. Что такое метапоисковая система?

Ни для кого не секрет, что всемирная сеть Интернет, содержащая постоянно растущий огромный объем динамически изменяющейся информации, развивается небывало бурными темпами. Для того, чтобы как-то упорядочить этот непрерывный поток данных, а самое главное, дать возможность пользователям Сети находить нужную информацию, были созданы специальные поисковые системы. Каждая такая система имеет индекс, несущий служебную информацию о содержимом проиндексированных документов, где каждому слову текста соответствует частота его употребления и координаты данного слова в тексте.

Каждая поисковая система имеет только свое собственное, ограниченное ее ресурсами, множество документов, которые доступны для поиска. Ни одна из подобных систем не сможет охватить всех ресурсов Интернет, поэтому в любой момент может возникнуть ситуация, когда информационные потребности пользователя не смогут быть удовлетворены. Как правило, в этом случае пользователь переходит на другую поисковую систему и пытается искать то, что ему нужно, там.

Для решения данной проблемы и расширения возможности поиска, были созданы системы, названные метапоисковыми. Они не имеют собственных поисковых баз данных, не содержат никаких индексов и при поиске используют ресурсы множества поисковых систем. За счет этого полнота поиска в таких системах максимальна и вероятность нахождения нужной информации очень высока.

3. Принципы работы метапоисковых систем

При проектировании метапоисковой системы нужно решить ряд проблем.

Прежде всего, из полученного от поисковых систем множества документов необходимо выделить наиболее релевантные, то есть соответствующие запросу пользователя. Как правило, создатели метапоисковых систем не совсем оправданно надеются, что поисковые системы, которые они используют, возвращают релевантные результаты поиска, и слишком полагаются на позицию, на которой в данной поисковой системе находится документ.

Этот стандартный подход представлен на рис. 1. В таких системах анализ полученных описаний документов не производится, что может поставить нерелевантные документы, идущие первыми в одной поисковой системе, выше релевантных в другой, чем существенно понизить качество самого поиска. Этот принцип оказался хорошим при создании автором анализатора позиции сайта в поисковых системах, но в целом для систем метапоиска оказался неудовлетворительным.

Рис.1 Стандартная метапоисковая система

При разработке следующего поколения метапоисковых систем были учтены недостатки, присущие стандартным метапоисковым системам. Были созданы системы с возможностью выбора тех поисковых машин, в которых, по мнению пользователя, он с большей вероятностью может найти то, что ему нужно (рис. 2)

Рис. 2. Следующее поколение метапоисковых систем

Кроме этого, такой подход позволяет уменьшить используемые вычислительные ресурсы метапоискового сервера, не перегружая его слишком большим объемом ненужной информации и серьезно сэкономить трафик. Здесь нужно отметить, что в любой системе метапоиска наиболее узким местом в основном является пропускная способность канала передачи данных, так как обработка страниц с результатами поиска, полученными от нескольких десятков поисковых серверов не является слишком трудоемкой операцией, потому что затраты времени на обработку информации на порядки меньше времени прихода страниц, запрошенных у поисковых серверов.

Как пример систем, имеющих подобную организацию, можно назвать Profusion, Ixquick, SavvySearch, MetaPing.

4. Как же все это работает?

Ниже будет описан принцип работы метапоисковой системы MetaPing, разработанной автором этой статьи, однако общие принципы будут верны и для остальных систем этого класса (см. рис. 2).

Начнем со стартовой страницы данной метапоисковой системы. Обычно интерфейс такой системы предельно упрощен и сразу же позволяет понять, что, где и как здесь можно искать. В нашем случае (MetaPing) поиск возможен по трем областям поиска: по России, по Украине и по всему миру, при этом имеется возможность искать все, отметив поиск по интернету, или сузить область поиска и искать конкретно объявления, новости, файлы и рефераты (рис. 3).

Рис.3 Стартовая страница MetaPing

Пользователь выбирает, скажем, поиск по России, и вводит, например, такой запрос: "лучшие поисковые системы" (рис. 4).

Рис. 4 Страница MetaPing с результатами поиска

После этого запрос ретранслируется указанным российским поисковым системам (в нашем случае это Рамблер, Апорт, Lycos и Google). Следует отметить, что Google, хотя и не является российской поисковой системой, в настоящее время успешно с ними конкурирует как по полноте баз, так и по качеству поиска, и именно поэтому он здесь оказался. Кстати, внимательный читатель наверняка отметил отсутствие самой крупной российской поисковой системы Яндекс. На момент запуска MetaPing Яндекс тоже здесь тоже присутствовал, но после известного скандала его пришлось убрать.

Для передачи запроса к поисковой системе используется специальный метапоисковый агент, который отвечает не только за процесс ретрансляции запроса и приема страниц, но и за то, чтобы запрос был передан в правильной кодировке, принятой в каждой из выбранных поисковых систем, иначе будет получен совершено другой набор описаний документов или не будет получен вовсе, что негативно скажется на качестве поиска.

После обработки полученного запроса каждая система возвращает метапоисковому агенту множество описаний и ссылок на документы, которые считает релевантными данному запросу.

Как среди этого множества выбрать именно то, что нужно пользователю?

В начале этой статьи уже упоминался стандартный подход, который используется большинством систем метапоиска и состоит в том, чтобы просто расположить полученные ссылки по порядку их следования в результатах поиска каждой из поисковых систем. При этом, если в разных поисковых системах был найден один и тот же сайт, то ценность его для пользователя, естественно, существенно повышается.

Подход, безусловно, правильный, но что делать в том случае, если одна система, к примеру, индексирует динамически генерирующиеся страницы, а другая нет? У них различные множества проиндексированных документов, различная полнота баз, следовательно, запрошенная пользователем информация может быть найдена в одной системе и может быть не найдена в другой. В этом случае пользователь может получить несколько действительно релевантных ссылок от одной системы, которые будут перемешаны с абсолютно нерелевантными из другой (например, в случае, когда фраза целиком не найдена, поиск идет по одному из ключевых слов запроса). В результате, пользователю вручную приходится отбирать релевантные ссылки и велика вероятность того, что покопавшись в подобном "винегрете", он попросту уйдет и уже никогда не вернется.

Есть ли какой-либо способ решить эту проблему? Конечно есть. Нужно с полученным от поисковых систем множеством описаний документов сделать то же, что делают они сами с этими документами, то есть определить частоты ключевых слов в каждом заголовке и описании и попытаться самостоятельно определить рейтинг каждого из них.

Именно по такому принципу построена метапоисковая система MetaPing, где реализован смешанный алгоритм обработки информации. Автором были разработаны специальные программы для анализа полученных данных, благодаря которым на первом этапе происходит ранжирование множества описаний полученных документов, на втором ранг дополнительно корректируется согласно месту, на котором находится документ, и общему количеству документов, найденных по запросу (это позволяет оценить полноту поисковых баз конкретной системы).

Подобная обработка позволяет не только убирать документы, в описании которых вообще нет ключевых слов как потенциально нерелевантные запросу, но и находить строгое соответствие в том случае, если все ключевые слова встречаются в описании документа полностью, что неизмеримо повышает качество и точность поиска.

5. Заключение

Данная статья, естественно, не претендует на полноту изложения, в ней рассмотрены лишь основные принципы построения метапоисковых систем. Поэтому если после ее прочтения у Вас возникли какие-либо вопросы, Вы можете задать их по e-mail: Этот e-mail адрес защищен от спам-ботов, для его просмотра у Вас должен быть включен Javascript .

Литература

Eric J. Glover, Steve Lawrence, Michael D. Gordon, William P. Birmingham, C. Lee Giles - "Web Search - Your Way"

Adele E. Howe Daniel Dreilinger – "SavvySearch: A MetaSearch Engine that Learns which Search Engines to Query"

Вячеслав Тихонов - "Поисковые системы в сети Интернет"
http://www.citforum.ru/internet/search/searchsystems.shtml

Weiyi Meng, Clement Yu, King-Lup Liu – "Building Efficient and Effective Metasearch Engines"

Zonghuan Wu, Weiyi Meng, Clement Yu, Zhuogang Li - "Towards a HighlyScalable and Effective Metasearch Engine"

Swathi Chiteddi - "Meta Search Engine For NWRC"

Источник: http://www.adelite.com

Статьи по теме

Google подвел итоги 2023 года в поиске

По традиции в начале декабря Google подвел итоги уходящего года, выделив самые популярные события и темы, которые волновали пользователей...

2023-12-28

Вывод сайта из-под фильтров

Вывод сайта из-под фильтров Фильтр – это один из алгоритмов поисковых систем, который определяет, насколько хорош тот или иной сайт. У к�...

2023-02-01

Ключевые слова − база для полёта в ТОП-выдачи

Одна из основных задач, которые ставятся перед SEO-оптимизаторами, занимающимися продвижением сайтов, − подбор правильных ключевых запр�...

2021-04-02

Факторы ранжирования-2021

В мае прошлого года специалисты Google опубликовали анонс метрик, которые будут работать при ранжировании. Теперь представители компании �...

2021-01-22

Алгоритм YATI: новая разработка Яндекса

Алгоритм YATI: новая разработка Яндекса Одним из продуктов, который был представлен на конференции YaC 2020, стал новый алгоритм YATI. Расшифр�...

2021-01-12

Bing: обновление для веб-мастеров

Совсем недавно вышло обновление руководства для веб-мастеров, подготовленное специалистами Bing. Эта поисковая система достаточно попул�...

2020-09-17

Яндекс.Поиск: особенности и плюсы такого инструмента на сайте

Такой процесс, как поиск информации в интернете, уже давно известен пользователям. Аналогичный инструмент можно использовать и в рамках...

2020-03-26

Чистка поисковой выдачи: как удалить ненужную информацию?

Наверное, каждый из пользователей находил в поисковой выдаче ссылки на страницы, которых на самом деле не существует. Их наличие на сайт�...

2019-03-20

ИКС: Яндекс оценивает качество сайтов по-новому

Недавно Яндекс ввёл новый показатель качества интернет-ресурсов, который получил название ИКС. Расшифровывается эта аббревиатура как и...

2018-09-12

Четыре рекламных объявления в спецразмещении

Портал Яндекс стал внедрять четвертую позицию спецразмещений контекстной рекламы в поисковике. При этом он сообщил о показе четырех сп�...

2017-12-27

Новый алгоритм поиска Яндекса Королев

Королёв: новый алгоритм-герой Яндекса Яндекс неустанно производит на свет всё новые и новые алгоритмы, чтобы сделать поисковую выдачу н...

2017-09-12

Ссылочное ранжирование: что о нём нужно знать?

  Популярность сайта во многом зависит от его позиции в поисковой выдаче. Существует много факторов, которые влияют на этот показатель...

2016-11-08

Проседание поискового трафика: в чём причина?

Проседание поискового трафика: в чём причина?   Владельцы сайтов нередко сталкиваются с такой проблемой, как проседание трафика. Это ч...

2016-05-17

Особенности работы поисковых роботов

Особенности работы поисковых роботов   Людям, которые занимаются продвижением интернет-ресурсов, крайне важно понимать принцип рабо�...

2016-03-23

10 важных фактов о продвижении в Гугл, о которых вы могли не знать

Последнее время Google активно общается с вебмастерами. В том числе обновил рекомендации для вебмастеров. Большой плюс в том, что ребята из ...

2016-03-22