Glossário · Crawlers e acesso
O que é ClaudeBot?
ClaudeBot é o robô da Anthropic que coleta conteúdo da web que pode ser usado para treinar os modelos Claude. Bloqueá-lo no robots.txt indica que o conteúdo futuro do site deve ficar fora do treinamento.
Também chamado de: Robô da Anthropic.
A Anthropic usa robôs separados para cada finalidade: ClaudeBot (treino), Claude-SearchBot (melhorar a qualidade das respostas de busca) e Claude-User (acessar páginas quando um usuário pede). Cada um pode ser liberado ou bloqueado separadamente, e a regra precisa ser repetida em cada subdomínio.
Exemplo
Bloquear o ClaudeBot e liberar o Claude-SearchBot mantém o site disponível para as buscas do Claude sem ceder conteúdo para treino.