쇼핑 · 1차 데이터
번개장터 AI 크롤러 허용 여부, 11개 중 4개 차단
번개장터(m.bunjang.co.kr)의 robots.txt 는 크롤러 11개 중 4개(GPTBot, ClaudeBot, Google-Extended, CCBot)를 공개 글 URL에서 차단합니다.
| 크롤러 | 번개장터 | 같은 분류에서 같은 판정 |
|---|---|---|
| Googlebot | 허용 | 7 / 7 |
| Yeti | 허용 | 6 / 7 |
| Bingbot | 허용 | 5 / 7 |
| OAI-SearchBot | 허용 | 6 / 7 |
| Claude-SearchBot | 허용 | 6 / 7 |
| PerplexityBot | 허용 | 5 / 7 |
| ChatGPT-User | 허용 | 6 / 7 |
| GPTBot | 차단 | 3 / 7 |
| ClaudeBot | 차단 | 3 / 7 |
| Google-Extended | 차단 | 2 / 7 |
| CCBot | 차단 | 4 / 7 |
판정 근거
무엇으로 판정했나
- robots.txt:
https://m.bunjang.co.kr/robots.txt· 판정일 2026-10-27 - 판정에 쓴 공개 글 URL 모양:
m.bunjang.co.kr/products/123456789 - 다음 수집 로봇(Daum): 허용
- llms.txt: 없음(HTML 응답)
- robots.txt 파일만 받아(UA MarketResearchBot/0.1) RFC 9309 로 판정했습니다. 방화벽 같은 다른 차단 장치는 이 판정 밖입니다.