소셜 · 1차 데이터
미디엄 AI 크롤러 허용 여부, 11개 중 2개 차단
미디엄(medium.com)의 robots.txt 는 크롤러 11개 중 2개(GPTBot, ClaudeBot)를 공개 글 URL에서 차단합니다. 같은 소셜 분류 11곳과 견주면 OAI-SearchBot 허용, Claude-SearchBot 허용, PerplexityBot 허용, ChatGPT-User 허용, Google-Extended 허용, CCBot 허용이 이 플랫폼에서 드문 판정입니다.
| 크롤러 | 미디엄 | 같은 분류에서 같은 판정 |
|---|---|---|
| Googlebot | 허용 | 9 / 10 |
| Yeti | 허용 | 4 / 10 |
| Bingbot | 허용 | 8 / 10 |
| OAI-SearchBot | 허용 | 2 / 10 |
| Claude-SearchBot | 허용 | 2 / 10 |
| PerplexityBot | 허용 | 1 / 10 |
| ChatGPT-User | 허용 | 1 / 10 |
| GPTBot | 차단 | 9 / 10 |
| ClaudeBot | 차단 | 9 / 10 |
| Google-Extended | 허용 | 2 / 10 |
| CCBot | 허용 | 1 / 10 |
판정 근거
무엇으로 판정했나
- robots.txt:
https://medium.com/robots.txt· 판정일 2026-10-27 - 판정에 쓴 공개 글 URL 모양:
medium.com/@exampleuser/example-post-title-1a2b3c4d5e6f - robots.txt 에 적힌 사이트맵 1개 (그 밖(도움말·이벤트·일반 목록 등) 1)
- robots.txt 파일만 받아(UA MarketResearchBot/0.1) RFC 9309 로 판정했습니다. 방화벽 같은 다른 차단 장치는 이 판정 밖입니다.