User-agent: * # disallow all files in these directories Disallow: /agencias/wp-admin Disallow: /agencias/wp-includes Disallow: /agencias/wp-content/plugins Disallow: /agencias/wp-content/cache Disallow: /agencias/wp-content/themes Disallow: /agencias/cgi-bin/ Disallow: /agencias/z/j/ Disallow: /agencias/z/c/ Disallow: /agencias/stats/ Disallow: /agencias/dh_ Disallow: /agencias/about/ Disallow: /agencias/contact/ Disallow: /agencias/tag/ Disallow: /agencias/wp-admin/ Disallow: /agencias/wp-includes/ Disallow: /agencias/contact Disallow: /agencias/manual Disallow: /agencias/manual/* Disallow: /agencias/phpmanual/ Disallow: /agencias/category/ Disallow: /agencias/trackback Disallow: /agencias/*trackback Disallow: /agencias/*trackback* Disallow: /agencias/*/trackback Disallow: /agencias/*?* Disallow: /agencias/*.html/$ Disallow: /agencias/*feed* Disallow: /administracion/administrator/ Disallow: /administracion/cache/ Disallow: /administracion/components/ Disallow: /administracion/editor/ Disallow: /administracion/help/ Disallow: /administracion/images/ Disallow: /administracion/includes/ Disallow: /administracion/language/ Disallow: /administracion/mambots/ Disallow: /administracion/media/ Disallow: /administracion/modules/ Disallow: /administracion/templates/ Disallow: /administracion/installation Disallow: /administracion/*?* User-agent: Googlebot # disallow all files ending with these extensions Disallow: /agencias/*.php$ Disallow: /agencias/*.js$ Disallow: /agencias/*.inc$ Disallow: /agencias/*.css$ Disallow: /agencias/*.gz$ Disallow: /agencias/*.wmv$ Disallow: /agencias/*.cgi$ Disallow: /agencias/*.xhtml$ # disallow all files with ? in url Disallow: /agencias/*?* Disallow: /administracion/*?* # disable duggmirror User-agent: duggmirror Disallow: / # allow google image bot to search all images User-agent: Googlebot-Image Disallow: Allow: /* # allow adsense bot on entire site User-agent: Mediapartners-Google Disallow: Allow: /* # block print and email User-agent: * Disallow: /agencias/*/*/email/$ Disallow: /agencias/*/*/print/$ Disallow: /agencias/*/*/#$ Disallow: /agencias/page/ # block all folders with broken links User-agent: * Disallow: /agencias/20$