AIクローラーのアクセスをサーバーログで数える

この
- GA4は
既知の ボットを 自動で 除くので、 AIクローラーの 取得は サーバーの ログで 数える - ボット名は
名乗るだけでも 付けられる。 各社が 公開する IPの 一覧で 本物かを 確かめる - Google-Extendedは
通信上の 名前を 持たないので、 ログでは 数えられない
目次
AIクローラーの
この
なぜGA4ではなく、サーバーのログを見る?
GA4の
Google アナリティクスの
プロパティでは、 既知の bot およびスパイダーに よる トラフィックは 自動的に 除外されます。
同じ
GA4で
アクセスログは、
ログでは、どの名前を数える?
各社の
| 名前 | 会社 | 数える |
|---|---|---|
| GPTBot | OpenAI | 学習用。 |
| OAI-SearchBot | OpenAI | ChatGPTの |
| ChatGPT-User | OpenAI | 利用者の |
| ClaudeBot | Anthropic | 学習用。 |
| Claude-SearchBot | Anthropic | 検索の |
| Claude-User | Anthropic | 利用者の |
| PerplexityBot | Perplexity | 検索結果への |
| Perplexity-User | Perplexity | 利用者の |
| Googlebot | DNSを |
出典は
ログのGPTBot/1.4 のように
robots.txtの取得は、本文の取得と分ける
OpenAIのrobots.txt という
robots.txtの/robots.txt の
利用者の操作で取りに来たものは、巡回と分ける
ChatGPT-User、
この
名前を名乗るだけの偽物は、どう見分ける?
ユーザーエージェントは、
OpenAI、
Googleの
- ログの
IPアドレスで DNSを 逆に 引き、 ドメイン名が googlebot.com、 google.com、 googleusercontent.com の どれかかを 確かめる - 出てきた
ドメイン名で DNSを 引き直し、 元の IPアドレスと 同じかを 確かめる
1回だけなら
IPで
Anthropicの
Google-Extendedは、なぜログに出ない?
同じ
Google-Extended には、
個別の HTTP リクエスト ユーザー エージェント 文字列は ありません。 クロールは 既存の Google ユーザー エージェント 文字列を 使用して 行われます。
Google-Extendedは、
同じ
数えた行を、どう表にまとめる?
月ごとに、
- 取得の
回数 (robots.txtを除く) - robots.txtを
取りに 来た回数 - 応答の
ステータスコードの 内訳 (200・301・403・404・5xx) - よく
取得された URLの上位 - IPの
照合で 本物と 確かめられた 行の割合
ステータスコードの
製造業なら、
私たちが
メーカー図鑑の
ログでも
Cloudflareを使っているなら、どこを見る?
配信に
AIの
- クローラーごと、
運営会社ごとの リクエスト数と 転送量 - 応答の
ステータスコードの 分布 (2xx・3xx・4xx・5xx) - よく
取得された パスと、 URLの まとまり ごとの取得 - 日付、
クローラー、 パスでの 絞り込みと、 CSVでの 書き出し
AIサービスから
1行ずつの
私たちの
数えた後に、何と並べる?
ボットの
回答の
仕様・出典の
よくある質問
AIクローラーのアクセスは、GA4で見られますか?
見られません。
ログにGPTBotと書いてあれば、OpenAIからのアクセスですか?
それだけでは
Google-Extendedのアクセスは、ログで数えられますか?
数えられません。
ClaudeBotのアクセスが多いと、Claudeの回答に引用されていますか?
アクセスの
Cloudflareを使っていれば、ログを用意しなくても見られますか?
AI Crawl Controlの
あわせて読みたい
robots.txtは、
AI経由の
AIでの
Claudeとは、



