커뮤니티·블로그 · 1차 데이터
브런치 AI 크롤러 허용 여부, 11개 중 4개 차단
브런치(brunch.co.kr)의 robots.txt 는 크롤러 11개 중 4개(GPTBot, ClaudeBot, Google-Extended, CCBot)를 공개 글 URL에서 차단합니다.
| 크롤러 | 브런치 | 같은 분류에서 같은 판정 |
|---|---|---|
| Googlebot | 허용 | 10 / 11 |
| Yeti | 허용 | 8 / 11 |
| Bingbot | 허용 | 10 / 11 |
| OAI-SearchBot | 허용 | 6 / 11 |
| Claude-SearchBot | 허용 | 6 / 11 |
| PerplexityBot | 허용 | 6 / 11 |
| ChatGPT-User | 허용 | 9 / 11 |
| GPTBot | 차단 | 5 / 11 |
| ClaudeBot | 차단 | 5 / 11 |
| Google-Extended | 차단 | 5 / 11 |
| CCBot | 차단 | 5 / 11 |
판정 근거
무엇으로 판정했나
- robots.txt:
https://brunch.co.kr/robots.txt· 판정일 2026-10-27 - 다음 수집 로봇(Daum): 허용
- robots.txt 파일만 받아(UA MarketResearchBot/0.1) RFC 9309 로 판정했습니다. 방화벽 같은 다른 차단 장치는 이 판정 밖입니다.