AIO研究ブログ用語と定義

llms.txt とは?効果を137,000ドメインのログ調査で確かめる

公開日: #llms.txt #AI検索 #GEO #AIO #LLMO

llms.txt とは?効果を137,000ドメインのログ調査で確かめる
この記事でわかること
- llms.txt とは何で、robots.txt と何が違うのか(何を制御し、何を制御しないのか)
- 137,000 ドメインのサーバーログ調査でわかった、97% のファイルに 1 件もリクエストが届いていないという事実
- 読みに来ているのが AI 検索ではなく AI エージェントや監査ツールだという内訳
- 日本で AI に引用されているサイト 36 ホストの実査結果と、置いた後に自分で確かめる手順

llms.txt とは何か — robots.txt との違いと、何を制御しないのか

llms.txt とは、サイトのルートに置く Markdown 形式のインデックスファイルで、サイトが何であるかと主要なコンテンツへのリンクを、LLM やエージェントが読みやすい形でまとめたものです。提案したのは Jeremy Howard 氏で、提案ページは 2024 年 9 月 3 日に公開されました(llmstxt.org「llms.txt」2024年9月3日公開・2026年8月10日更新2026年8月21日取得・英語)

出発点は「Web ページは人のために作られている。HTML ページは情報をナビゲーション・広告・JavaScript で包んでおり、そこから綺麗なテキストに戻すのは難しく、精度も出ない」という問題意識。だから機械が読みやすい索引を 1 枚置こう、というのが提案の骨子です。

押さえておきたいのは、ファイル名が robots.txt に似ているために生まれやすい誤解です。llms.txt は robots.txt 型の指示ではなく、何も制御せず、何もブロックしません(Ahrefs「We Analyzed 137K Sites: 97% of llms.txt Files Never Get Read」2026年6月15日公開・2026年8月12日更新2026年8月21日取得・英語。※外部調査会社による分析であり弊社の実測値ではありません)。検索上位の解説のなかには、AI クローラーのアクセス可否や利用条件を書けるとする記述も見られます。ただし提案者の一次ページと Ahrefs の調査はいずれも、このファイルを指示ではなく案内として扱っています。

ファイル何のためのものか制御するか
robots.txtクローラーに巡回してよいパスを指示するする
sitemap.xml検索エンジンに URL の一覧と更新情報を渡すしない
llms.txtLLM やエージェントにサイトの概要と主要コンテンツを案内するしない

書き方は短時間で終わります。サイトのルート(https://example.com/llms.txt)に、サイト名の見出し・1 段落の要約・主要ページへのリンクと短い説明を Markdown で並べるだけ。Wix はすでに自動生成しており、Framer や Lovable も AI 対応のチェック機能に組み込んでいると Ahrefs は報告しています。

では、このファイルは実際に読まれているのでしょうか。

llms.txt は実際に読まれているのか — 137,000 ドメインのサーバーログ調査

有効な llms.txt を持つ約 38,000 ドメインのうち、97% は 2026 年 5 月の 1 か月間に一度もリクエストを受けていませんでした。ボットからも人間からも、ゼロです(前掲 Ahrefs 調査。※外部調査会社による分析であり弊社の実測値ではありません)

調査の設計を先に押さえておきます。母集団は Ahrefs Web Analytics に登録され、2026 年 5 月にトラフィックのあった 137,210 ドメイン。各ドメインのルートで /llms.txt が HTTP 200 を返すかを確認し、そのパスへの全リクエストを HTTP 応答(200 と 404)別・ユーザーエージェント別に分類しています。中身が HTML の「見せかけのファイル」を除くスクリーニングも入っています。

設置率は 28%(38,360 ドメイン)。ただし Ahrefs 自身が「Web Analytics の利用者は技術・SEO の意識が高い層に偏るため、28% は上限値として扱ってほしい」と明記しています。そのうえで、リクエストがゼロだったファイルが 97%。残る 3%(約 1,100 ドメイン)が、測定された約 22,000 件のリクエストをすべて受け取っていました。

届いた分の内訳は、ボットが 96%・人間が 4% です。象徴的なのは、Slackbot 単体の取得回数が PerplexityBot を上回っていたこと。リンクプレビュー用のボットのほうが、AI 検索のボットより多く取りに来ていたわけです。

llms.txtを読んでいるボットの分類別リクエスト構成比。上位4分類はSEO監査ツール21.7%・不明14.9%・一般クローラー13.1%・技術プロファイリング11.6%でいずれもAIではない。AI系はエージェント10.5%・学習クローラー5.3%・アシスタント2.5%・AI検索の取得ボット1.1%(Ahrefs 2026年調査)

では、その 3% を読みに来ているのは、いったい誰なのでしょうか。

読んでいるのは AI 検索ではなく AI エージェントだった — ボット別の内訳

リクエストが届いた 3% のログを見ると、上位 4 分類はいずれも AI ツールではなく、AI 系 4 分類を合計しても 19.5%、最も小さい AI 検索の取得ボットは全体の 1.1% でした(前掲 Ahrefs 調査。※外部調査会社による分析であり弊社の実測値ではありません)

「AI が読んでいる」と「AI 検索に効いている」は、ここで分かれます。Ahrefs はユーザーエージェントを 12 分類に整理しました。

分類リクエスト数構成比
SEO 監査ツール4,77621.7%
不明・匿名3,27814.9%
一般ウェブクローラー2,87113.1%
技術プロファイリングツール2,54611.6%
AI エージェント・エージェント基盤2,30210.5%
GEO・AEO ツール1,2785.8%
AI 学習クローラー1,1795.3%
llms.txt 専用スキャナ7933.6%
サービス・ソーシャルボット6452.9%
研究ボット5852.7%
AI アシスタント5592.5%
AI 検索の取得ボット2331.1%

最上位の SEO 監査ツールには Ahrefs 自身の 3 つのクローラーが含まれており、その分が 2,334 件(全体の 10.6%)。これを除いた第三者の SEO 監査ツールは 2,442 件(11.1%)だと同社は注記しています。AI 系で最も多いのはユーザーの代わりに動くエージェントとその基盤で 10.5%、次が学習用のクローラーで 5.3%(GPTBot 4.51%・ClaudeBot 0.8%)。AI 検索の取得ボットは 1.1%(OAI-SearchBot 0.74%)で、学習クローラーのおよそ 5 分の 1 にとどまります。なお GEO・AEO ツール、llms.txt 専用スキャナ、研究ボットの 3 分類、つまり llms.txt そのものを調べている側からのリクエストが合わせて 12% を占めます。

置いていないサイトにとって重要な観測もあります。存在しない /llms.txt(404 が返るパス)へのリクエストのうち、AI ボットの割合はゼロでした。404 側は 98% が人間で、競合のファイルを確かめようと URL を打ち込んだ人たちだと Ahrefs は推測しています。AI のツールはリンクや指示で存在を知ったときに取りに来るのであって、自分から探しには来ていない、というのが同社の読み方です。

必ず添えておくべき但し書きもあります。同調査は「取得された(fetched)ことは、読まれた(read)ことを意味しない。本調査のすべての数値は実際の消費量の上限である」と明記しています。19.5% も、最も寛大に読んだ場合の上限です。

同社の結論は「ChatGPT・Perplexity・AI Overviews に出ることが目的なら、llms.txt はほぼ装飾(largely decoration)」。これは Ahrefs の結論であり、弊社が同じ断定をしているわけではありません。

llms.txt を置くと AI に引用されやすくなるのか — 300,000 ドメインの相関分析

はじめに設計の違いを断っておきます。この節の調査は、前節までのサーバーログ調査とは測っている対象も時点も別物です。前者はリクエストの数を、後者は引用頻度との関係を見ており、足したり平均したりできる関係にはありません。

別の調査会社が約 300,000 ドメインを対象に分析したところ、llms.txt の有無は AI の引用頻度を説明する変数として機能しませんでした(SE Ranking「Does LLMs.txt impact your AI visibility and citations? No, according to research」2025年11月7日2026年8月21日取得・英語。※外部調査会社による分析であり弊社の実測値ではありません)

公表されている数字は 3 つです。まず、設置していたのは 10.13%(およそ 9 割は未設置)。次に、トラフィック帯で設置率がほとんど変わりません。低(0〜100 訪問)9.88%、中(1,001〜5,000 訪問)10.54%、高(100,001 訪問以上)8.27% で、大手ほど先に導入しているという直感は成立していません。そして、引用頻度を予測する XGBoost のモデルから llms.txt の有無という変数を外したところ、精度はむしろ向上しました(手法は Spearman 相関・XGBoost 回帰・SHAP 分析の併用)。

SE Ranking の結論は「llms.txt は現時点で、AI システムがコンテンツをどう見てどう引用するかに影響していない」というもの。同社は「結果は特定のモデルとデータセットの中での相対的な重要度を反映したもので、文脈依存として扱うべきだ」という但し書きも添えています。

なお設置率が 28%(Ahrefs)と 10.13%(SE Ranking)で食い違うことも、そのまま並べておきます。母集団も判定基準も時点も違うためで、どちらかが正しいという話ではありません。

Google はどう言っているのか — 検索の公式ガイドと Chrome の監査

Google 検索セントラルは「Google 検索に表示されるために、新しい機械可読ファイル・AI 用テキストファイル・マークアップ・Markdown を作る必要はない」「Google 検索自体はそれらを使用しない」と公式ドキュメントに明記しています(Google 検索セントラル「Google's Guide to Optimizing for Generative AI Features on Google Search」最終更新2026年7月10日 UTC2026年8月21日取得・英語)

この記述は「生成 AI 検索の通説を解く — やらなくてよいこと」という見出しの節にあり、続けて「そうしたファイルを作っても、Google 検索での可視性や順位を害しも助けもしない。Google 検索はそれらを無視するからだ」と書かれています。作ってはいけないという話ではなく、Google 検索に出るための条件ではない、という整理です。

一方、同じ Google のなかで、Chrome の開発者向けドキュメントは別の角度から扱っています。Lighthouse の Agentic Browsing 監査には llms.txt のチェックがあり、そのページは「このファイルがない場合、エージェントはサイトの大まかな構造と主要なコンテンツを把握するために、より多くの時間をかけて巡回することがある」と説明しています(Chrome for Developers「Lighthouse > Agentic browsing audits > llms.txt」最終更新2026年5月5日 UTC2026年8月21日取得・英語)

2 つの記述は矛盾して見えますが、問いが違うだけだと弊社は考えています。前者が答えているのは「検索に出るために必要か」で、答えは「不要であり、Google 検索は使わない」。後者が答えているのは「エージェントがサイトを把握しやすくなるか」で、答えは「ない場合は巡回に時間がかかることがある」。なお前節のログ調査では、この Lighthouse 監査によるリクエストは 22 件、およそ 1,000 件に 1 件でした。

混同されやすい事実がもうひとつあります。llmstxt.org は、OpenAI・Anthropic・Gemini といった AI ラボ自身が自社の開発者ドキュメント向けに llms.txt を公開していると記載しています。これは「AI 各社が自社ドキュメントで使っている」という事実であって、「AI が他社サイトの llms.txt を読んで回答に使っている」という事実ではありません。前節で AI エージェントが最大の読み手だったことと符合します。

同じ Google のガイドを構造化データの側から読んだ整理は構造化データのLLMO効果とは?Google公式見解と実測データで整理にまとめました。あちらは schema.org のマークアップを実装した前後の因果の話、本記事は別ファイルが誰にどれだけ読まれているかというログの話です。

では、日本で実際に AI に引用されているサイトは、このファイルを置いているのでしょうか。

日本で AI に引用されているサイトは llms.txt を置いているのか — 36 ドメインの実査

弊社が 2026 年 8 月 21 日に調べた範囲では、日本の AI 検索で引用上位に現れるドメイン 36 ホストのうち、ルートに有効な llms.txt があったのは 2 件でした。日本語圏の設置状況をまとめた公開データが見当たらなかったため、手元で確かめたものです。

対象は 2 通りで選びました。ひとつは、弊社が 22 業種で実施した計測(2,609 計測・引用 16,351 件)で引用上位に現れた国内ドメイン 26 ホスト(業種ごとの顔ぶれは22業種×2,600回の実測でわかった、AIが引用する日本のサイトに整理しています)。もうひとつは Ahrefs 日本版の引用元ドメインランキング 3 版に掲載された 11 ホストで、note.com が両方に登場するため、ユニークで 36 ホストです。

判定基準は Ahrefs の調査に合わせ、各ホストのルート(https://<host>/llms.txt)に GET を送り、HTTP 200 が返り、本文が HTML ではなく、冒頭に 404 相当の文言がなく、20 バイト以上あるものを有効としました。有効は www.cosme.net(148 バイト)と boxil.jp(2,452 バイト)の 2 件で、どちらも弊社の計測で引用上位に現れた側。Ahrefs 日本版ランキング掲載の 11 ホストは 0 件でした。

日本でAIに引用されているサイトのllms.txt設置状況。弊社22業種の引用上位26ホスト中2件、Ahrefs日本版ランキング掲載11ホスト中0件が有効。HTTP200だが中身がHTMLの見せかけ4件、403・500で判定不能2件(弊社実査2026年8月21日取得)

うまくいかなかった部分も書いておきます。hikkoshi.suumo.jp は HTTP 403 でボットからのアクセスが遮断され、waterserver-guide.com は HTTP 500 を返したため、この 2 件は設置の有無を判定できていません

そしてもうひとつ、置いた側がそのまま使える発見がありました。HTTP 200 が返るのに、中身が llms.txt ではなく HTML のページだったホストが 4 件あったのです(it-trend.jp / www.instagram.com / www.reddit.com / mwed.jp)。存在しない URL に 404 ではなく通常ページを返す設定は珍しくないため、ブラウザで開いて画面が表示されただけでは「置けている」ことの確認になりません。Ahrefs が同じスクリーニングを調査手法に入れているのも同じ理由です。

これは 36 ホストのスナップショットであり、日本全体の設置率ではありません。母集団を代表する標本ではないため、「日本の設置率は 5.6%」といった一般化はできません。cosme.net と boxil.jp が引用上位にあることとの関係も、この実査では検証していません。

それでも置くなら何に注意するか — 置く/置かないの判断材料

Ahrefs の同調査は最後に llms.txt の利点と欠点を並べ、同記事の筆者は「現時点では欠点が利点を上回る」と結論づけています(前掲 Ahrefs 調査。※外部調査会社による分析であり弊社の実測値ではありません)。判断材料として、その整理をそのまま引きます。

利点欠点
コストが低い — ファイル自体は小さく、Wix のようなプラットフォームが自動生成するようになりつつある基礎確率が低い — 既存ファイルの 97% は誰にも読まれていない
コーディングエージェント経由の読み手がいる — 意図された読者に最も近いのはコーディングエージェント。顧客がコーディングエージェントを使っているなら、読まれる可能性がある公開しただけでは半分 — エージェントは指示されたときに取りに来るため、どこからもリンクされていないファイルは拾われにくい
将来への備えになりうる — エージェントが AI 検索を仲介するようになれば、可視性に影響する余地はある(Ahrefs はこれを可能性として挙げており、検証された話ではありません)セキュリティ上の懸念 — エージェントはこのファイルを信頼するよう作られており、実際に prompt-injection-survey と名乗る研究ボットが調査対象にしている
現時点の AI 検索の可視性には効かない — 前述のとおり AI 検索の取得ボットはほとんど取得せず、置いていないファイルを探しにも来ない

3 つ目の欠点への対処として、Ahrefs は llms.txt をコードと同じように扱うことを挙げています。バージョン管理下に置く、編集できる人を制限する、変更に気づけるようアラートを設定する、内容はリンクと説明にとどめて指示のような文言を書かない、自社が管理しているリソースだけをリンクする、自動生成されたものは必ず目を通す。どれも特別な作業ではありません。

弊社のサイトにも llms.txt は置いています。ただし、それ自体を成果とは見ていません。

「ファイルを置く」型の施策すべてが同じというわけでもありません。たとえば IndexNow は仕様と運用主体がはっきりしており、更新を検索インデックスへ通知する経路として機能します(Copilotに引用されるには?Bingインデックス起点の仕組みと計測方法で扱っています)。仕様の成熟度と読み手の実在は、施策ごとに違います。

置いた後に何を確かめるか — llms.txt の効果を測る手順

置いたかどうかではなく、自分のログにリクエストが届いているかと、AI の回答が変わったかを見るほうが、判断材料になると弊社は考えています。ここまでの 3 つの調査はいずれも母集団全体の傾向であって、個別のサイトの結果を保証も否定もしません。

確かめ方は次の 4 ステップです。

  • アクセスログで /llms.txt を絞り込む — リクエストの有無、ユーザーエージェント、ステータスコードが 200 か 404 かを見ます。置いたつもりのファイルに 404 が返っているケースは実在します
  • 取得された数を「読まれた数」と読み替えない — 取得は上限値です。ボットが中身に基づいて何かをしたかは、ログからは分かりません
  • 設置の前後で、同じ質問セット・同じエンジンで記録する — 自社名や主要サービス名の質問を 5〜10 本決め、回答と引用元を同じ条件で残します
  • 見るのは順位ではなく、言及の状態と引用元の顔ぶれ — 言及あり・引用つき/言及あり・引用なし/言及なしの 3 状態と、引用元の媒体分類を追います

手動での記録方法と限界はAI検索の可視性を計測する方法|手動・無料チェッカー・専用ツールの3手順に 3 段階で整理しています。本記事の手順はそのうち「1 つの施策の前後を比べる」部分です。カテゴリ全体の考え方はAIO・GEOとは?AI検索対策の始め方がわかる完全ガイド【2026年版】をご覧ください。

弊社の エリスグリ AIO は、日本語の質問に対する AI の回答を定点で記録し、言及を 3 状態(● 引用つき/◐ 引用なし/○ 言及なし)で、引用元を日本の媒体分類で追える GEO・AIO 計測ツールです。なお、先に現在地の見当だけ付けたい場合は、サイトの URL を入れるだけで使える無料のAI検索診断(5 つの質問)から始めることもできます。

現在プレローンチ段階のため、導入実績・お客様の声はまだご紹介できません。ベータ招待の準備を進めています。

まとめ

  • llms.txt はサイトのルートに置く Markdown の索引ファイルで、robots.txt とは違い何も制御せず、何もブロックしない
  • 137,000 ドメインのサーバーログ調査では、有効なファイルの 97% が 1 か月間に一度もリクエストを受けていなかった(Ahrefs・2026 年 6 月公開)
  • 届いた 3% の内訳では、上位 4 分類はいずれも AI ではない。AI 系の合計は 19.5%、うち AI 検索の取得ボットは 1.1%。読み手の中心は AI エージェントだった
  • 約 300,000 ドメインの別の分析でも、llms.txt の有無は引用頻度を説明する変数にならなかった(SE Ranking・2025 年 11 月)
  • Google 検索セントラルは「Google 検索は使用しない」と明記する一方、Chrome の Lighthouse はエージェント向けの監査項目として扱っている。答えている問いが違う
  • 日本で AI に引用されている 36 ホストのうち、有効な llms.txt を置いていたのは 2 件(弊社実査・2026 年 8 月 21 日取得。判定不能 2 件、見せかけ 4 件を含む)

次のステップ

  • 自社サイトの /llms.txt を実際に取得し、HTTP 200 が返るか、中身が HTML になっていないかを確かめる
  • アクセスログを /llms.txt で絞り込み、リクエストの有無・ユーザーエージェント・ステータスコードを 1 か月分見る
  • 置く/置かないを決める前に、自社名と主要サービス名の質問を 5〜10 本決めて、AI の回答と引用元を記録する起点を作る

よくある質問(FAQ)

Q1. llms.txt を置けば ChatGPT や Perplexity に載りますか?

それを裏づけるデータは、現時点では見当たりません。Ahrefs が 137,210 ドメインのサーバーログを調べた 2026 年の調査では、AI 検索の回答用にページを取りに来る取得ボットは全リクエストの 1.1%(233 件)で、OAI-SearchBot が 0.74%、PerplexityBot はそれ以下でした。

Q2. robots.txt と何が違いますか?

robots.txt はクローラーに巡回の可否を指示するファイルで、llms.txt は指示をしないファイルです。Ahrefs は「ファイル名にもかかわらず、robots.txt 型のディレクティブではない。何も制御せず、何もブロックしない」と整理しています。AI クローラーのアクセスを制御したいなら、使うのは従来どおり robots.txt 側の記述です。

Q3. Google は llms.txt を使っていますか?

Google 検索セントラルの生成 AI 最適化ガイド(最終更新 2026 年 7 月 10 日 UTC)は「Google 検索自体はそれらを使用しない」「作っても Google 検索での可視性や順位を害しも助けもしない」と明記しています。一方で Chrome の Lighthouse には Agentic Browsing 監査の項目として llms.txt のチェックがあり(最終更新 2026 年 5 月 5 日 UTC)、こちらはエージェントの巡回時間という別の観点です。

Q4. 置いていないと不利になりますか?

不利になることを示すデータは確認できていません。Ahrefs の調査では、存在しない /llms.txt へのリクエストのうち AI ボットの割合はゼロで、404 側のアクセスは 98% が人間でした。AI のツールはリンクや指示でファイルの存在を知ったときに取りに来ており、置いていないサイトを探しに来てはいない、というのが同社の観測です。

Q5. HTTP 200 が返れば、設置できていることになりますか?

なりません。弊社が 2026 年 8 月 21 日に日本の引用上位 36 ホストを調べたところ、HTTP 200 が返るのに中身が HTML のページだったホストが 4 件ありました。確認するときは、ステータスコードだけでなく Content-Type と本文の中身まで見てください。

関連記事


AI に聞いたとき、あなたのビジネスは出てきますか。サイトの URL を入れるだけ。5 つの質問で、AI 検索での自社の見え方を無料診断できます。無料でAI検索診断を試す →登録後は無料トライアルも利用できます

登録して継続計測するなら無料トライアルへ。

※ 本記事の設置率・リクエスト構成比・相関分析の数値は Ahrefs 社・SE Ranking 社による外部公表資料であり、弊社の実測値ではありません(36 ホストの llms.txt 実査と 22 業種の計測のみ弊社)。実査の結果は 2026 年 8 月 21 日取得時点のスナップショットで、日本全体の設置率を示すものではありません。各数値は調査時点・調査設計に依存します。