|
Translated has no connection with the authors of this page and is not responsible for its content.
View original page |
Lingobot Home
|
| What you are seeing is the cache version of a page that has been translated automatically | ||
|
Translated has no connection with the authors of this page and is not responsible for its content.
View original page |
Lingobot Home
|
| What you are seeing is the cache version of a page that has been translated automatically | ||
В опознавании этой проблемы, много роботов стержня предлагают средства для администраторов web site и содержимых providers для того чтобы ограничивать робот делает. Это достигано через 2 механизма:
|
Протокол исключения роботов |
Администратор web site может показать которые части места не должны быть vistsed роботом, путем обеспечивать специально форматный архив на их месте, в http://.../robots.txt.
|
|
Бирка META роботов |
Автор стержня может показать если страница may or may not быть индексирована, или проанализирована для соединений, то через пользу специальной бирки META HTML.
|
Заметьте что эти методы полагаются на сотрудничестве от робота, и by no means гарантируйте, что работать для каждого робота. Если вы более сильное предохранение от роботов и других веществ, то вы должны использовать другие методы such as защита секретности пароля.
В nutshell, когда vists робота web site, мнение http://www.foobar.com/,, котор оно firsts проверяет для http://www.foobar.com/robots.txt. Если оно может найти этот документ, то оно проанализирует свое содержание для показателей как:
увидеть если оно позволен retrieve документ. Точные детали на как эти правила можно определить, и они намереваются, смогите быть найдено в:Потребител-вещество: * Disallow: /
Заметьте что в настоящее время только немного роботов снабжают это.
В этом просто примере:
робот должен ни индексировать этот документ, ни анализирует его для соединений.<META NAME= " РОБОТЫ " CONTENT= " NOINDEX, NOFOLLOW " >
Детальные описания на как это маркирует работы обеспечены: