llms.txt in Studien: bei Ahrefs 97 % der Dateien ungelesen
Eine Selbstauskunft: Was diese Seite über das Archiv sagt, stützt sich auf die Dateien im Repository. Was sie über andere sagt, trägt eine Fußnote auf eine fremde Quelle, mit deren Wortlaut. Die Zahlen setzt der Build bei jeder Veröffentlichung aus dem Bestand ein.
Footnoted bietet Sprachmodellen eine llms.txt und ein Netz von Dateien dahinter an. Wie das gebaut ist, beschreibt llms.txt in Footnoted. Diese Seite sammelt, was andere darüber gemessen haben, auch dort, wo es gegen die Datei spricht.
Der Vorschlag
Jeremy Howard von Answer.AI veröffentlichte den Vorschlag am 3. September 2024.1 Websites sollten unter /llms.txt eine Markdown-Datei mit kurzer Einführung, Hinweisen und Links auf ausführlichere Markdown-Dateien anbieten.1 Es ist ein Vorschlag, dem eine Website folgen kann.1
Wer die Datei liest
Ahrefs hat die Abrufe des Mai 2026 auf 137.000 Domains ausgewertet, die das Analysewerkzeug des Unternehmens nutzen.2 28 % davon bieten eine llms.txt an, und 97 % dieser Dateien wurden im ganzen Monat kein einziges Mal abgerufen.2 Weil diese Kunden technisch versierter sind als das Netz im Ganzen, nennt Ahrefs die 28 % eine Obergrenze.2 Von den Abrufen, die es gab, kamen 19,5 % von benannten KI-Werkzeugen.2 Nach der Zusammenfassung der Studie fragte unter ihnen GPTBot am häufigsten, an zweiter Stelle Claude Code, ein Programmierwerkzeug, und beide vor jedem Such- und Assistenzdienst.2
John Mueller von Google schrieb im Juni 2025, derzeit nutze kein KI-System die Datei.3 Die Chatbots riefen Seiten für Training und Antworten ab, aber keiner hole die llms.txt.3
Was Google sagt
Google schreibt in seiner Dokumentation zu den KI-Funktionen der Suche, dass man dafür keine neuen maschinenlesbaren Dateien, KI-Textdateien oder eigenes Markup braucht.4 Ende Mai 2026 riet Google in einer Anleitung zu generativer Suche ebenso von solchen Dateien ab; Tage später nahm das Chrome-Team eine Prüfung auf llms.txt in die experimentellen Agentic-Browsing-Audits von Lighthouse auf.2 Auf den Widerspruch angesprochen, sagte Mueller, die Datei sei „not done for search“.2 Er nannte sie eine vorübergehende Hilfe für Programmierwerkzeuge, die Entwicklerdokumentation lesen, vielleicht um Token zu sparen.2
Ob die Datei Zitierungen bringt
Search Atlas hat für 13.911 Domains geprüft, ob sie eine llms.txt anbieten, und das mit 83.387 Datensätzen über ihre Sichtbarkeit auf sechs KI-Plattformen verglichen.5 Ob eine Domain die Datei anbietet, sagte nicht voraus, wie oft sie zitiert wurde.5 Der Zusammenhang, der zunächst mit der Qualität der Datei zu wachsen schien, ging großenteils auf die Autorität der Domains zurück; stärkere Domains haben eher die besser gebauten Dateien.5
Was drei Studien messen
Drei Studien fragen nicht, ob die Datei abgerufen wird, sondern jeweils etwas anderes.
- Wie Agenten abrufen. Borysenko beobachtete neun Programmierwerkzeuge und sechs Assistenzdienste auf einem Dokumentationsportal.6 Sie verdichteten eine Navigation über mehrere Seiten auf ein oder zwei Abrufe.6 Als Anpassungen erörtert die Studie, Dokumentation auf den Tokenverbrauch hin zu entwerfen und maschinenlesbare Formate anzubieten, darunter
llms.txt.6 - Wie genau ein Modell antwortet. Volpini, Raad, Gamba und Riccitelli verglichen reines HTML, HTML mit JSON-LD und eigens für Agenten aufbereitete Seiten, jeweils mit einfachem und agentischem Abruf.7 JSON-LD allein brachte nur wenig.7 Seiten mit Hinweisen für Agenten nach Art von
llms.txt, mit einer Pfadnavigation und einer Suche verbesserten die Genauigkeit der Antworten um 29,6 % im einfachen und um 29,8 % im agentischen Verfahren.7 - Wie oft eine Quelle in der Antwort vorkommt. Aggarwal und Kollegen gehen davon aus, dass Autoren kaum steuern können, ob und wie generative Suchsysteme ihre Inhalte zeigen.8 Am wirksamsten waren in ihrem Prüfstand Quellenangaben, Zitate und Zahlen im Text, mit einer relativen Verbesserung von 30 bis 40 % beim nach Position gewichteten Wortanteil in der Antwort.8
Was daraus folgt
Die Messungen sprechen gegen die Erwartung, dass eine llms.txt eine Website in KI-Antworten sichtbarer macht. Footnoted erwartet das auch nicht. Footnoted ist eine von vielen Websites mit einer llms.txt, und niemand verpflichtet einen Dienst, sie zu lesen.
Das Netz von Footnoted ist auf das ausgerichtet, was die drei Studien betrachten: wenige Abrufe für eine Frage, eine Struktur, die ein Agent durchgehen kann, und Quellenangaben im Text. Die Ergebnisse der GEO-Studie betreffen solche Quellenangaben, nicht die Datei; Fußnoten in der Form, wie Footnoted sie setzt, hat sie nicht untersucht.
Offen bleibt, ob und wie oft Agenten die Dateien von Footnoted lesen. Gemessen ist das bisher nicht. Diese Seite wird neu gelesen, wenn sich daran etwas ändert, spätestens nach 90 Tagen.
Quellen
-
/llms.txt—a proposal to provide information to help LLMs use websites — Answer.AI, abgerufen am
We propose that those interested in providing LLM-friendly content add a /llms.txt file to their site. This is a markdown file that provides brief background information and guidance, along with links to markdown files providing more detailed information. Author Jeremy Howard Published September 3, 2024
-
We Analyzed 137K Sites: 97% of llms.txt Files Never Get Read — Ahrefs, abgerufen am
28% of the 137K domains using Ahrefs Web Analytics publish an llms.txt file. 97% of those files received zero traffic in May 2026. Nothing fetched them at all. 96% of the requests that did reach llms.txt files came from bots. 19.5% of fetches came from named AI tools (of the 3% of files that weren't ignored). GPTBot is top and Claude-Code is second, ahead of every AI search and assistant bot. … In late May 2026, Google took both sides of the llms.txt argument in under a week. Its new guide on optimizing for generative AI features told site owners, in a section literally titled "mythbusting", that machine-readable files like llms.txt aren't needed to appear in generative AI search. Days later, the Chrome team shipped an llms.txt check inside Lighthouse's experimental Agentic Browsing audits … When Lily Ray pressed Google's John Mueller on the contradiction, he explained that llms.txt is "not done for search." It's a "temporary crutch, perhaps to save some tokens" for AI coding tools parsing developer documentation … Ahrefs Web Analytics customers skew more technical and SEO-aware than the web at large, so treat the 28% adoption figure as an upper bound.
-
Google Says No AI System Currently Uses LLMs.txt — Search Engine Roundtable, abgerufen am
FWIW no AI system currently uses llms.txt. — John Mueller ( @johnmu.com ) June 17, 2025 … The consumer LLMs / chatbots (the ones that SEOs want traffic from) will fetch your pages - for training and grounding, but none of them fetch the llms.txt file.
-
AI features and your website — Google Search Central, abgerufen am
You don't need to create new machine readable files, AI text files, or markup to appear in these features. There's also no special schema.org structured data that you need to add.
-
The Limits of /llms.txt for AI Search: Citation Analysis Across Major LLMs — Search Atlas, abgerufen am
This study analyzes HTTP-crawled /llms.txt adoption across 13,911 domains and compares those findings against 83,387 LLM visibility records spanning six major AI platforms … The findings show that /llms.txt adoption does not predict LLM citation behavior. What initially appeared to be a quality-dependent dose-response effect is largely explained by underlying domain authority. Higher-authority sites tend to publish better-structured /llms.txt files, while the file itself adds no measurable visibility lift once authority is controlled for.
-
Developer Experience with AI Coding Agents: HTTP Behavioral Signatures in Documentation Portals — arXiv (Oleksii Borysenko), abgerufen am
We present an empirical study of HTTP request fingerprints from nine AI coding agents (Aider, Antigravity, Claude Code, Cline, Cursor, Junie, OpenCode, GitHub Copilot (VS Code agent mode), and Windsurf) and six AI assistant services (ChatGPT, Claude, Google Gemini, Google NotebookLM, MistralAI, and Perplexity) accessing a live developer documentation endpoint … Our study shows that AI agent access compresses multi-page navigation into a single or two requests, making traditional engagement metrics - session depth, time-on-page, click path, and bounce rate - unreliable indicators of actual documentation consumption. We discuss practical adaptations for developer portal teams, including tokenomics-aware documentation design, adoption of emerging machine-readable standards ( AGENTS.md , llms.txt , skill.md , agent-permissions.json )
-
Structured Linked Data as a Memory Layer for Agent-Orchestrated Retrieval — arXiv (Andrea Volpini, Elie Raad, Beatrice Gamba, David Riccitelli), abgerufen am
Our experimental design tests seven conditions: three document representations (plain HTML, HTML with JSON-LD, and an enhanced agentic-optimized entity page) crossed with two retrieval modes (standard RAG and agentic RAG with multi-hop link traversal) … Our results reveal that while JSON-LD markup alone provides only modest improvements, our enhanced entity page format—incorporating llms.txt -style agent instructions, breadcrumbs, and neural search capabilities—achieves substantial gains: +29.6% accuracy improvement for standard RAG … and +29.8% for the full agentic pipeline
-
GEO: Generative Engine Optimization — arXiv (Pranjal Aggarwal u. a.), KDD 2024, abgerufen am
Given the black-box and fast-moving nature of generative engines, content creators have little to no control over when and how their content is displayed. … Specifically, our top-performing methods, Cite Sources, Quotation Addition, and Statistics Addition, achieved a relative improvement of 30-40% on the Position-Adjusted Word Count metric and 15-30% on the Subjective Impression metric.
Worauf diese Seite sich stützt
Für die Aussagen über das Archiv: die Dateien im Repository, aus denen die Aussagen und Zahlen stammen.
src/netz.ts— die Umsetzung in Footnoted, auf die sich der letzte Abschnitt bezieht
Text zuletzt gegen den Stand geprüft: .