Как запретить индексацию .html/.htm файлов?

программирование seo веб дизайн сервер robots

У меня есть папка /content с другими вложенными папками в которых находятся .html/.htm файлы. В корне лежит index.php который это все выводит нужным образом.
Нужно запретить роботам индексировать содержимое /content чтобы паук или пользователь из поисковика попадал только на index.php?file=value
Как это сделать?
Ответы:
robots.txt
User-agent: *
Disallow: /content/


12 лет назад

RPI.su - самая большая русскоязычная база вопросов и ответов. Наш проект был реализован как продолжение популярного сервиса otvety.google.ru, который был закрыт и удален 30 апреля 2015 года. Мы решили воскресить полезный сервис Ответы Гугл, чтобы любой человек смог публично узнать ответ на свой вопрос у интернет сообщества.

Все вопросы, добавленные на сайт ответов Google, мы скопировали и сохранили здесь. Имена старых пользователей также отображены в том виде, в котором они существовали ранее. Только нужно заново пройти регистрацию, чтобы иметь возможность задавать вопросы, или отвечать другим.

Чтобы связаться с нами по любому вопросу О САЙТЕ (реклама, сотрудничество, отзыв о сервисе), пишите на почту [email protected]. Только все общие вопросы размещайте на сайте, на них ответ по почте не предоставляется.