Индексация сайта

Индексация сайта (веб-индексирование) - процесс добавления сведений (о сайте) роботом поисковой машины в базу данных, впоследствии использующуюся для (полнотекстового) поиска информации на проиндексированных сайтах. Индексация означает, что поисковая машина посетила Ваш сайт, проанализировала его контент и внесла результаты своего анализа в свою базу.

Для управления индексацией (например, запрета индексации той или иной страницы) используется файл robots.txt и такие директивы как Disallow, Allow, User-agent, Crawl-delay и другие. Также, для управления индексацией применяют теги и атрибут , закрывающие содержимое сайта от роботов Яндекса и Google соответственно (Yahoo использует тег ).

назад в раздел : таблица  /  глоссарий