Google Webmaster-Tools können es sehen, aber ich kann es nicht finden. Irgendeine Idee, wie es generiert wird oder wo es die Dateistruktur ist? Ich sehe die Datei nicht in meinem Stammverzeichnis. Meine Website befindet sich unter http://mikewills.me und die URL der robots.txt-Datei lautet http://mikewills.me/robots.txt .
Am Ende indiziert Google meine Website nicht und ich versuche herauszufinden, wie die robots.txt so bearbeitet werden kann, dass die Indizierung zulässig ist. Ich habe die Datenschutzoption geändert, um die Indizierung zuzulassen, aber die robots.txt wurde dadurch nicht aktualisiert.
Antworten:
Es wird dynamisch von der Funktion generiert
do_robots()
, die sowohl eine Aktion (do_robotstxt
) als auch einen Filter (robots_txt
) enthält. Wenn Sie einerobots.txt
Datei in Ihrem WordPress-Stammverzeichnis erstellen , wird sie (wahrscheinlich) bereitgestellt, wenn Sie/robots.txt
dazu aufgefordert werden. Andernfalls wird die Verarbeitung auf WordPress zurückgesetzt.Ihre aktuelle Datei sieht folgendermaßen aus:
Die ersten beiden Einstellungen sind für ein indizierbares Blog geeignet. Möglicherweise warten Sie an dieser Stelle nur auf Google. Möglicherweise müssen Sie eine erneute Überprüfung Ihrer Website beantragen .
quelle
User-agent
Übereinstimmung*
(also alle Roboter), die Liste der Seiten, auf die Sie nicht zugreifen können, ist[empty]
." Dies bedeutet, dass sie auf alle Seiten zugreifen können.robots.txt wird dynamisch erstellt. Es gibt keine robots.txt-Datei. Installieren Sie ein robot.txt-Plugin, um Ihr Problem zu lösen. Hoffe das hilft
quelle