Generador robots.txt
Genera un robots.txt listo para desplegar con reglas para buscadores y crawlers IA 2026. Elige una plantilla de stack, ajusta las rutas Disallow y copia el archivo. Se genera en local, y tu sitio nunca se consulta ni se prueba en vivo.
Notas para desarrolladores
deployTarget cambia el comentario de cabecera y rutas Disallow por defecto hasta que edites manualmente. aiCrawlerPolicy añade grupos User-agent nombrados — no reemplaza el grupo *. includeSitemap añade Sitemap solo si la URL tiene valor; usa https:// en producción. outputStyle minimal quita comentarios para pegar en un archivo existente. Separado del /robots.txt de FastMinify y de meta name="robots" en el generador de meta tags.
Opciones
Política crawlers IA
Añade grupos User-agent para crawlers IA 2026. block-training es el valor por defecto: bloquea el entrenamiento y permite la búsqueda y la navegación.
Destino de despliegue
Cambia comentario de copia y rutas Disallow por defecto (raíz static, Next.js public/robots.txt, WordPress).
Incluir línea Sitemap
Añade Sitemap: {url} si el campo tiene valor. Desactiva para borradores sin URL de producción.
Estilo de salida
commented añade cabeceras #; minimal solo directivas.
Cuándo usar esta herramienta
Publicar un sitio estático o JAMstack bloqueando GPTBot/Google-Extended, pero permitiendo agentes de búsqueda y navegación. Colocar public/robots.txt en Next.js con Disallow para /api/ y /_next/data/. Redactar un robots.txt de WordPress antes de subirlo, sin probador de URL en vivo.
Herramientas relacionadas
Vuelve al hub Herramientas SEO / Web. Combina con Generador de meta tags para comparar meta robots y robots.txt, y con Generador sitemap XML. Añade datos estructurados con el Generador JSON-LD Schema. Descompón las URL del sitemap con Analizador de URL, normaliza segmentos con Slugify o formatea JSON-LD con Formateador JSON.
FAQ Generador robots.txt
Generador local de archivo de rastreo
¿FastMinify obtiene o prueba mi robots.txt en vivo?
No. La generación y la validación usan solo tus entradas. Nada se rastrea, se reenvía ni se verifica contra tu dominio de producción.
¿Es el mismo robots.txt que el de FastMinify?
No. El /robots.txt de FastMinify sirve a este sitio. Este generador construye un archivo para tu proyecto, con lógica y salida separadas.
¿Qué significan los ajustes predefinidos de crawlers IA?
block-training bloquea crawlers de entrenamiento (GPTBot, Google-Extended, CCBot, anthropic-ai). Permite agentes de búsqueda y navegación como ChatGPT-User y PerplexityBot. block-all-ai bloquea todos los agentes IA catalogados. custom elige agentes individualmente.
¿Puede emitir etiquetas meta robots?
No. Para la etiqueta <meta name="robots"> usa el generador de meta tags, porque robots.txt y meta robots son capas distintas.
Herramientas SEO / Web
Genera etiquetas meta, Open Graph, Twitter Card, robots.txt, sitemap.xml y JSON-LD en tu navegador. Las vistas previas salen de lo que escribes y tu sitio nunca se consulta.
Explorar otras categorías de herramientas
- Minificar
Minifica JavaScript, CSS, HTML, JSON, XML, SVG y otros formatos para enviar menos bytes, antes de gzip o de un CDN.
- Desminificar
Vuelve legible el código minificado para depurarlo o revisarlo. Desminifica JavaScript, CSS, TypeScript, SCSS, LESS, SQL, YAML y otros formatos.
- Conversión
Convierte datos entre JSON, YAML, XML, CSV, TOML y otros formatos en local, sin subir nada a un servidor.
- Codificación
Codifica o decodifica Base64, URL, entidades HTML y JWT, y genera hashes y HMAC en tu navegador.
- Serialización
Serializa y deserializa estructuras PHP junto a los flujos JSON.
- Herramientas JSON
Comprueba, formatea, repara, compara y explora JSON en tu navegador, como complemento del minificador y de los convertidores.
- Herramientas SVG
Previsualiza, optimiza con SVGO, exporta como data URI, redimensiona, embellece, convierte a JSX y comprueba SVG en tu navegador.
- Embellecer
Haz el código legible con una indentación coherente. Embellece JavaScript, CSS, TypeScript, SCSS, LESS, Markdown, GraphQL, SQL, YAML y más en tu navegador.
- Preprocesadores CSS
Compila SCSS o LESS a CSS estándar en tu navegador. Combínalo con embellecer o minificar para trabajar toda la hoja de estilos.
- Herramientas color y CSS
Comprueba el contraste WCAG, convierte colores y unidades CSS y genera tonos, border-radius y box-shadow en tu navegador.
- DevOps e Infra
Formato, validación y minificación de Terraform HCL, formato y lint de Dockerfile, validación de Docker Compose y .env.
- CI/CD
Formatea el YAML de GitHub Actions y GitLab CI y comprueba la estructura de workflows y jobs en tu navegador.
- Logs y observabilidad
Formatea, filtra y comprueba logs JSON y NDJSON, y convierte access logs de Nginx o Apache a CSV o TSV.
- Kubernetes
Manifiestos con varios documentos, validación estructural, Ingress y Deployment de partida y formato del values.yaml de Helm.
- Red / IP
Calculadora de subredes, conversión de IP, rango a CIDR, resumen de CIDR y comprobación de IP en subred, para IPv4 e IPv6, en tu navegador.
- Seguridad y tokens
Inspecciona JWKS, verifica JWT, decodifica certificados X.509, convierte PEM y JWK, busca secretos y genera hashes bcrypt en tu navegador.
- API y esquemas
Formatea, comprueba, revisa con lint y convierte OpenAPI, JSON Schema y GraphQL SDL en tu navegador.
- Herramientas HTTP
Pega comandos cURL, mensajes HTTP, URL, archivos HAR y cabeceras Cookie o Set-Cookie para formatearlos e inspeccionarlos. No se envía nada.
- Utilidades para desarrolladores
Timestamps, UUID, ULID, Nanoid, cron, contraseñas, regex, slugs, bases numéricas, mayúsculas y minúsculas, comparación de textos, chmod y Lorem Ipsum, todo en tu navegador.
- Texto y Markdown
Cuenta palabras, genera tablas de contenidos Markdown, convierte CSV en tablas Markdown y ordena o elimina líneas duplicadas en tu navegador.
- IA y LLM
Cuenta tokens, estima costes de API, comprueba el ajuste a la ventana de contexto, convierte JSON a TOON y analiza prompts en tu navegador.
- Datos de prueba
Nombres, emails, teléfonos, direcciones, fechas, IBAN, números de tarjeta y filas JSON, CSV o SQL ficticios para fixtures y bases de datos de prueba. Todo se genera en tu navegador.
- Etiquetas de código de barras
Dibuja etiquetas Code 128, EAN-13 y UPC-A y códigos QR estáticos en tu navegador, y descárgalos en PNG o SVG. No es una consulta GS1.