Индексные поисковые системы (indexing engines)

Поиск в сети Интернет

В рекламе Интернета часто повторяются восторженные слова о том, что там можно найти любую информацию. Однако опытные обитатели Сети знают, что это далеко не так. Действительно, сегодня в Глобальной сети можно получить самые разнообразные сведения — от расписания авиарейсов и маршрутов движения транспорта до прогнозов погоды и рецептов экзотических блюд. Но если по содержанию («контенту») Сеть представляет собой буквально бездонный кладезь информации, то по способу организации — это, прошу прощения за грубое выражение, типичная помойка, где найти что-либо ценное представляется весьма проблематичным. Адреса Internet можно получить из различных источников. Это могут быть периодические издания, телевидение, радио, специализированные справочники и т.д. Но в этом как раз и состоит одна из главных проблем навигации в Internet. Не существует единого каталога, описывающего структуру сети и происходящие в ней изменения. Даже знаменитые "Желтые страницы Internet" содержат лишь несколько десятков тысяч адресов. А число компьютеров в сети ежедневно увеличивается. Кроме того, Internet просто перенасыщен информационным "мусором" – никому не нужными документами, покинутыми и не обновляемыми WWW-страницами.

За время существования Интернета предпринимались различные попытки организации поисковых средств. Наиболее удачных проекты появились в последнее 2-3 года.

Характер и качество предоставляемой поисковыми системами информации в значительной степени зависят от способа сбора данных в сети. Например, некоторые поисковые системы собирают информацию в Internet автоматически, с помощью специальных программ-роботов, посещающих WWW-страницы. Такие электронные поисковые системы называют индексными. При поиске профессиональной, узкоспециализированной информации эти системы приносят огромное количество "мусора", в котором достаточно долго приходится искать что-либо стоящее, а зачастую просмотреть все эти ссылки просто невозможно. Например, в любой электронной поисковой машине зарегистрированы тысячи документов, которые она предоставит в ответ на ключевое слово "Педагогика". По этой причине в Сети существуют специальные серверы, называемые поисковымикаталогами, где собираются и систематизируются ссылки на наиболее важные и качественные ресурсы Сети. Обращение к ним, как правило, оказывается более эффективным. Обычно при поиске информации начинают с одного из каталогов, вводя в строку запроса наиболее общее понятие – одно или два слова, характеризующих предмет поиска, например – "Повышение квалификации". Через некоторое время в ответ будет доставлено небольшое количество страниц, в которых упомянута эта фраза. Если количество полученных страниц слишком велико, можно переформулировать или конкретизировать запрос, например: "Повышение квалификации руководящих работников образования". Если просмотр результата поиска и видоизменение запроса в каталоге не привели к желаемому результату, то переходят к поиску с помощью индексной поисковой машины.

Для поиска можно воспользоваться многочисленными специализированными инструментами и средствами:

o Индексными поисковыми системами (indexing engines)

o Поисковыми каталогами (directories),

o Метапоисковыми системами

Для понимания различия между индексными поисковыми системами и поисковыми каталогами приведём пример книги. Чаще всего книга начинается с содержания и заканчивается алфавитным указателем. Несмотря на то, что они расположены в разных местах книги и выглядят совершенно по-разному, задача у них одна: помочь найти в книге нужный раздел. Содержание – это пример каталогизации. Алфавитный указатель – пример индексации. Читатель находит в указателе нужный термин и получает номер страницы, на которой он встречается. В Интернете каталоги и указатели различаются технологией подготовки. Над каталогами работают люди (модераторы), а поисковые индексные системы формируют базу данных автоматически.

Индексные поисковые системы (indexing engines)

Поисковые системы состоят из трех основных частей:

1. Робот (он же паук, червяк, гусеница, краулер, спайдер) - программа, которая посещает Web-страницы, считывает (индексирует) полностью или частично их содержимое и следует далее по ссылкам, найденным на данной странице. Через определенные периоды времени (например, каждый месяц) робот возвращается и индексирует страницу снова. Каждый поисковый механизм имеет собственный набор правил, определяющих, как собирать документы. Некоторые следуют за каждой ссылкой на каждой найденной странице и затем, в свою очередь, исследуют каждую ссылку на каждой из новых страниц, и так далее. Некоторые игнорируют ссылки, которые ведут к графическим и звуковым файлам, файлам мультипликации; другие игнорируют ссылки к ресурсам типа баз данных WAIS; другие проинструктированы, что нужно просматривать наиболее популярные страницы. Некоторые, например, индексируют каждое отдельное слово во встречающемся документе, в то время как другие индексируют только наиболее важных 100 слов в каждом, индексируют размер документа и число слов в нем, название, заголовки и подзаголовки и так далее.

2. База данных, которая содержит всю информацию, собираемую пауками.

3. Третья часть - это программа, которая в соответствии с запросом пользователя перебирает индексы поисковой системы в поисках информации, интересующей пользователя, и выдает ему найденные документы в порядке убывания релевантности (т.е. соответствия запросу). Когда кто-либо хочет найти информацию, доступную в Интернет, он посещает страницу поисковой системы и заполняет форму, детализирующую информацию, которая ему необходима. Здесь могут использоваться ключевые слова, даты и другие критерии. Критерии в форме поиска должны соответствовать критериям, используемым роботами при индексации информации, которую они нашли при перемещении по Сети. База данных отыскивает предмет запроса, основанный на информации, указанной в заполненной форме, и выводит соответствующие документы, подготовленные базой данных.

Различные поисковые системы используют различные алгоритмы ранжирования (сортировки полученных результатов), однако основные принципы определения ранжирования следующие:

1. Количество слов запроса в текстовом содержимом документа (т.е. в html-коде).

2. Тэги, в которых эти слова располагаются.

3. Местоположение искомых слов в документе.

4. Удельный вес слов, относительно которых определяется релевантность, в общем количестве слов документа.

5. Время - как долго страница находится в базе поискового сервера. Поначалу кажется, что это довольно бессмысленный принцип. Но, если задуматься, как много существует в Интернете сайтов, которые живут максимум месяц! Если же сайт существует довольно долго, это означает, что владелец весьма опытен в данной теме и пользователю больше подойдет сайт, который пару лет вещает миру о правилах поведения за столом, чем тот, который появился неделю назад с этой же темой.

6. Индекс цитируемости - как много ссылок на данную страницу ведет с других страниц, зарегистрированных в базе поисковика.

База данных выводит ранжированный подобным образом список документов с HTML и возвращает его человеку, сделавшему запрос. Различные поисковые механизмы также выбирают различные способы показа полученного списка - некоторые показывают только ссылки; другие выводят ссылки с первыми несколькими предложениями, содержащимися в документе или заголовок документа вместе с ссылкой. Когда Вы щелкаете на ссылке к одному из документов, который вас интересует, этот документ запрашивается у того сервера, на котором он находится.

Сравнительный обзор поисковых систем

Наиболее известными поисковыми машинами являются:

Alta Vista - http://www.altavista.com
Excite NetSearch - http://www.excite.com
HotBot - http://www.hotbot.com
Infoseek - http://guide.infoseek.com
Lycos - http://www.lycos.com
Magellan - http://www.mckinley.com
OpenText - http://www.opentext.com
WebCrawler - http://www.webcrawler.com

Lycos. В Lycos используется следующий механизм индексации:

· слова в <title> заголовке имеют высший приоритет;

· слова в начале страницы;

· слова в ссылках;

· если в его базе индекса есть сайты, ссылка с которых указывает на индексируемый документ - релевантность этого документа возрастает.

Как и большинство систем, Lycos дает возможность применять простой запрос и более изощренный метод поиска. В простом запросе в качестве поискового критерия вводится предложение на естественном языке, после чего Lycos производит нормализацию запроса, удаляя из него так называемые stop-слова, и только после этого приступает к его выполнению. Почти сразу выдается информация о количестве документов на каждое слово, а позже и список ссылок на формально релевантные документы. В списке против каждого документа указывается его мера близости запросу, количество слов из запроса, попавших в документ, и оценочная мера близости, которая может быть больше или меньше формально вычисленной. Пока нельзя вводить логические операторы в строке вместе с терминами, но использовать логику через систему меню Lycos позволяет. Такая возможность применяется для построения расширенной формы запроса, предназначенной для искушенных пользователей, уже научившихся работать с этим механизмом. Таким образом, видно, что Lycos относится к системе с языком запросов типа "Like this", но намечается его расширение и на другие способы организации поисковых предписаний.

AltaVista. Индексирование в этой системе осуществляется при помощи робота. При этом робот имеет следующие приоритеты:

o слова содержащиеся в теге <title> имеют высший приоритет; ключевые фразы в <Meta> тэгах;

o ключевые фразы, находящиеся в начале странички;

o ключевые фразы в ALT - ссылках

o ключевые фразы по количеству вхождений\присутствия слов\фраз;

Если тэгов на странице нет, использует первые 30 слов, которые индексирует и показывает вместо описания (tag description)

Наиболее интересная возможность AltaVista - это расширенный поиск. Здесь стоит сразу оговориться, что, в отличие от многих других систем AltaVista поддерживает одноместный оператор NOT. Кроме этого, имеется еще и оператор NEAR, который реализует возможность контекстного поиска, когда термины должны располагаться рядом в тексте документа. AltaVista разрешает поиск по ключевым фразам, при этом она имеет довольно большой фразеологический словарь. Кроме всего прочего, при поиске в AltaVista можно задать имя поля, где должно встретиться слово: гипертекстовая ссылка, applet, название образа, заголовок и ряд других полей. К сожалению, подробно процедура ранжирования в документации по системе не описана, но видно, что ранжирование применяется как при простом поиске, так и при расширенном запросе. Реально эту систему можно отнести к системе с расширенным булевым поиском.

Yahoo. Данная система появилась в Сети одной из первых, и сегодня Yahoo сотрудничает со многими производителями средств информационного поиска, а на различных ее серверах используется различное программное обеспечение. Язык Yahoo достаточно прост: все слова следует вводить через пробел, они соединяются связкой AND либо OR. При выдаче не указывается степень соответствия документа запросу, а только подчеркиваются слова из запроса, которые встретились в документе. При этом не производится нормализация лексики и не проводится анализ на "общие" слова. Хорошие результаты поиска получаются только тогда, когда пользователь знает, что в базе данных Yahoo информация есть наверняка. Ранжирование производится по числу терминов запроса в документе. Yahoo относится к классу простых традиционных систем с ограниченными возможностями поиска.

OpenText. Информационная система OpenText представляет собой самый коммерциализированный информационный продукт в Сети. Все описания больше похожи на рекламу, чем на информативное руководство по работе. Система позволяет провести поиск с использованием логических коннекторов, однако размер запроса ограничен тремя терминами или фразами. В данном случае речь идет о расширенном поиске. При выдаче результатов сообщается степень соответствия документа запросу и размер документа. Система позволяет также улучшить результаты поиска в стиле традиционного булевого поиска. OpenText можно было бы отнести к разряду традиционных информационно-поисковых систем, если бы не механизм ранжирования.

Infoseek. В этой системе индекс создает робот, но он индексирует не весь сайт, а только указанную страницу. При этом робот имеет такие приоритеты:

· слова в заголовке <title> имеют наивысший приоритет;

· слова в теге keywords, description и частота вхождений\повторений в самом тексте;

· при повторении одинаковых слов рядом выбрасывает из индекса

· Допускает до 1024 символов для тега keywords, 200 символов для тэга description;

· Если тэги не использовались, индексирует первые 200 слов на странице и использует как описание;

Система Infoseek обладает довольно развитым информационно-поисковым языком, позволяющим не просто указывать, какие термины должны встречаться в документах, но и своеобразно взвешивать их. Достигается это при помощи специальных знаков "+" - термин обязан быть в документе, и "-" - термин должен отсутствовать в документе. Кроме этого, Infoseek позволяет проводить то, что называется контекстным поиском. Это значит, что используя специальную форму запроса, можно потребовать последовательной совместной встречаемости слов. Также можно указать, что некоторые слова должны совместно встречаться не только в одном документе, а даже в отдельном параграфе или заголовке. Имеется возможность указания ключевых фраз, представляющих собой единое целое, вплоть до порядка слов. Ранжирование при выдаче осуществляется по числу терминов запроса в документе, по числу фраз запроса за вычетом общих слов. Все эти факторы используются как вложенные процедуры. Подводя краткое резюме, можно сказать, что Infoseek относится к традиционным системам с элементом взвешивания терминов при поиске.

WAIS. WAIS является одной из наиболее изощренных поисковых систем Internet. В ней не реализованы лишь поиск по нечетким множествам и вероятностный поиск. В отличие от многих поисковых машин, система позволяет строить не только вложенные булевые запросы, считать формальную релевантность по различным мерам близости, взвешивать термины запроса и документа, но и осуществлять коррекцию запроса по релевантности. Система также позволяет использовать усечения терминов, разбиение документов на поля и ведение распределенных индексов. Не случайно именно эта система была выбрана в качестве основной поисковой машины для реализации энциклопедии "Британика" на Internet.

Основные русскоязычные индексные поисковые службы:

Дата добавления: 2021-01-21; просмотров: 1335; Мы поможем в написании вашей работы!

Поделиться с друзьями:

12 3 4 Следующая ⇒

Мы поможем в написании ваших работ!