Robots.txt на сайте не могу понять значение. Внутри письма всё.

интернет программирование проблема веб дизайн

User-agent: *
Disallow:
Sitemap: адрес карты

User-Agent: Yandex
Allow: /
Host: имя хоста.ru
Sitemap: адрес карты

Нет ли тут каких запретов? Вроде нет, но я не уверен. Если нет запретов, то зачем создано правило для яндекса? Если так нужно, то почему нет правила для гугла? Или его не нужно? Я читал, что можно вообще пустой файл robots.txt . Или лучше с дерективой. Я тут мимоходом, поэтому не судите строго за простенький вопрос. Я понимаю, что Dissalow-запрет, а Allow-разрешено, но мне нужно понять зачем писать разрешение, если пустой файл тоже всё разрешает и почему нет аналогичного для гугла. Хочу разобраться, чтобы понимать.
Сайт мой, создавался под заказ у одной конторы-рекламировать не буду. Но есть проблема, что поисковые роботы не индексировали сайт пока я не пригласил их и то, яндекс проиндексировал только главную страницу, на остальные плюнул. Гугл же все те. где адрес. о компании и т.д, кроме тех, где товар/услуги. Где. что не так ищу.

Примечание:
ᴽ - хорошо, а разве для google не надо тоже-самое?
Ответы:
Будете смеяться, даже полное отсутствие робоца разрешает :))
Запретов нет (инструкция "Disallow: " — пустая).


10 лет назад

RPI.su - самая большая русскоязычная база вопросов и ответов. Наш проект был реализован как продолжение популярного сервиса otvety.google.ru, который был закрыт и удален 30 апреля 2015 года. Мы решили воскресить полезный сервис Ответы Гугл, чтобы любой человек смог публично узнать ответ на свой вопрос у интернет сообщества.

Все вопросы, добавленные на сайт ответов Google, мы скопировали и сохранили здесь. Имена старых пользователей также отображены в том виде, в котором они существовали ранее. Только нужно заново пройти регистрацию, чтобы иметь возможность задавать вопросы, или отвечать другим.

Чтобы связаться с нами по любому вопросу О САЙТЕ (реклама, сотрудничество, отзыв о сервисе), пишите на почту [email protected]. Только все общие вопросы размещайте на сайте, на них ответ по почте не предоставляется.