Яндекс & robots.txt

123 4
M
На сайте с 29.03.2003
Offline
65
#11
BigBrother:
Максим, жду ответа на свой вопрос - что было в robots.txt до 15-16 Сентября? И что поменяли?

Было абсолютно всё тоже самое, за исключением строчки

Disallow: /templates

она была добавлена перед тем, как сообщить Яндексу о необходимости удалить эту директорию, а сегодня эту строчку заменил на

Disallow: /temp

для бота * (секции для бота Яндекса нет, для него должна действовать общая секция).

Проверь свои запросы: Вершки Рунета (http://www.43n39e.ru/)
BigBrother
На сайте с 16.06.2006
Offline
96
#12
Maxime:
Было абсолютно всё тоже самое, за исключением строчки
Disallow: /templates
она была добавлена перед тем, как сообщить Яндексу о необходимости удалить эту директорию, а сегодня эту строчку заменил на
Disallow: /temp
для бота * (секции для бота Яндекса нет, для него должна действовать общая секция).

Я правильно понял, что Disallow: /templates вы добавили именно между 14-м и 16-м?

So many kings, but few jokers!
M
На сайте с 29.03.2003
Offline
65
#13
BigBrother:
Я правильно понял, что Disallow: /templates вы добавили именно между 14-м и 16-м?

Нет, 18-го.

BigBrother
На сайте с 16.06.2006
Offline
96
#14
Maxime:
Нет, 18-го.

Спасибо, понятно.

Две новости - хорошая и плохая.

Хорошая - робот у нас все корректно понял, и начал по мере обхода выкидывать раздел.

Плохая - есть глюк в delurl. Исправим.

Спасибо.

SS
На сайте с 03.09.2004
Offline
141
#15

Прошу прощения за оффтопик, хотелось задать вопрос лично BigBrother.

Скажите, пожалуйста, как Вас зовут. Мы знаем поименно всех Яндексоидов, здесь время от времени появляющихся, а Вашего имени не знаем.

«Клянусь своей жизнью и любовью к ней, что никогда не буду жить ради другого человека и никогда не попрошу и не заставлю другого человека жить ради меня» (с) Джон Галт
FlyAway
На сайте с 01.06.2005
Offline
439
#16

Seventh Son, если не ошибаюсь, Романом его зовут. ;)

зы: BigBrother, привет Платону ;)

Сердюченко Андрей (http://www.serdyuchenko.ru/) Масонская ложа — SЕ-Team.ru (http://goo.gl/YIjV6h) :)
Megavolt
На сайте с 23.12.2005
Offline
179
#17

да не все ли равно, как его зовут? по мне, так пусть это будет образ типа платона. главное, чтоб не раз в полгода заходил, а вот как сейчас, достаточно оперативно реагировал. :)

Иногда лучше жевать.... (С)
M
На сайте с 29.03.2003
Offline
65
#18

Всё-таки не всё ладно с интерпретацией robots.txt:

Запись

Disallow: /cgi-bin/search

присутствует в robots.txt уже не один год, однако такой запрос:

http://www.yandex.ru/yandsearch?text=43n39e

в данный момент на четвёрной позиции показывает ссылку:

http://sochi.org.ru/cgi-bin/search.cgi?c=01&m=near&np=7&ps=10&q=%D7%C1%D4%C5%D2%CC%CF%CF&s=IRPD&sp=1&sy=0&tmplt=search.htm.ru&wf=33F37F73

А она прямо запрещена к индексированию согласно стандарту robots.txt

😕

Megavolt
На сайте с 23.12.2005
Offline
179
#19

попробуйте удалить эту страницу

удаляет только если роботсом запрещена, ведь так?

M
На сайте с 29.03.2003
Offline
65
#20
Megavolt:
попробуйте удалить эту страницу
удаляет только если роботсом запрещена, ведь так?

Вы думаете таких страниц одна штука ?

Эти страницы в принципе не должны были индексироваться, никак.

123 4

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий