{
  "id": "gpt-3-few-shot-learning-2020",
  "title": "GPT-3 löst Aufgaben, ohne dafür trainiert zu werden",
  "date": "2020-01-01",
  "summary": "Am 28. Mai 2020 stellten 31 Autoren um Tom B. Brown ein Modell mit 175 Milliarden Parametern vor, das Aufgaben aus einer Anweisung und einigen Beispielen löst. Seine Gewichte werden dafür nicht angepasst. Zwei Wochen später gab OpenAI eine geschlossene Beta seiner Schnittstelle frei.",
  "body": "Am 28. Mai 2020 erschien das Papier „Language Models are Few-Shot Learners\" von 31 Autoren um Tom B. Brown.[^s1] Es beschreibt GPT-3, ein Sprachmodell mit 175 Milliarden Parametern — nach eigener Angabe zehnmal mehr als jedes vorherige nicht-sparse Sprachmodell.[^s1] Eingesetzt wird das Modell „without any gradient updates or fine-tuning\"; Aufgabenstellung und Beispiele werden ihm allein als Text übergeben.[^s1] Zwei Wochen darauf, am 11. Juni 2020, öffnete OpenAI eine geschlossene Beta seiner Schnittstelle, hinter der diese Modellfamilie stand.[^s2]\n\nBis dahin war der übliche Weg, ein vortrainiertes Modell für jede Aufgabe mit zusätzlichen Daten nachzutrainieren.[^s1] Das Papier führt stattdessen Aufgaben vor, die das Modell ohne solche Anpassung bewältigt: Übersetzung, Frage-Antwort-Aufgaben und Lückentexte, dazu Aufgaben, die im Moment der Bearbeitung Schlussfolgerungen verlangen — Wörter entwirren, ein neu eingeführtes Wort in einem Satz verwenden, dreistellige Zahlen addieren.[^s1] Das Papier benennt auch, wo es nicht trägt: Es nennt Datensätze, bei denen das Verfahren weiterhin scheitert, und methodische Probleme, die aus dem Training auf großen Web-Korpora folgen.[^s1] OpenAI begründete den Zugang über eine Schnittstelle statt über ein frei verfügbares Modell damit, dass sich der Zugriff so nachträglich anpassen lasse; schädliche Verwendungen würden gesperrt.[^s2]\n\nDie Schnittstelle blieb zunächst eine Warteliste.[^s5] Nach Angaben des Unternehmens lief GPT-3 in mehr als 300 Anwendungen, wurde von Zehntausenden Entwicklern genutzt und erzeugte täglich 4,5 Milliarden Wörter.[^s4] Am 18. November 2021 fiel die Warteliste weg, womit sich Entwickler in unterstützten Ländern ohne Vorprüfung anmelden konnten — bestimmte Anwendungsfelder blieben ausgeschlossen, weil das Unternehmen schädliche von zulässigen Verwendungen nicht zuverlässig unterscheiden konnte.[^s5]",
  "themeId": "theme-sprachmodelle-skalieren",
  "datePrecision": "year",
  "dateSources": [
    "s1",
    "s2"
  ],
  "verification": "verified",
  "sources": [
    {
      "key": "s1",
      "title": "Language Models are Few-Shot Learners (arXiv:2005.14165, v1 vom 28. Mai 2020)",
      "publisher": "arXiv (Cornell University)",
      "url": "https://arxiv.org/abs/2005.14165",
      "accessedAt": "2026-09-17",
      "status": "live"
    },
    {
      "key": "s2",
      "title": "OpenAI makes an all-purpose API for its text-based AI capabilities (11. Juni 2020)",
      "publisher": "TechCrunch",
      "url": "https://techcrunch.com/2020/06/11/openai-makes-an-all-purpose-api-for-its-text-based-ai-capabilities/",
      "accessedAt": "2026-09-17",
      "status": "live"
    },
    {
      "key": "s4",
      "title": "OpenAI's GPT-3 Algorithm Is Now Producing Billions of Words a Day (4. April 2021)",
      "publisher": "Singularity Hub",
      "url": "https://singularityhub.com/2021/04/04/openais-gpt-3-algorithm-is-now-producing-billions-of-words-a-day/",
      "accessedAt": "2026-10-11",
      "status": "live"
    },
    {
      "key": "s5",
      "title": "OpenAI’s API now available with no waitlist (18. November 2021)",
      "publisher": "OpenAI",
      "url": "https://openai.com/index/api-no-waitlist/",
      "accessedAt": "2026-10-26",
      "status": "unchecked"
    }
  ],
  "provenance": {
    "origin": "recherche",
    "reviewedBy": "recherche",
    "reviewedAt": "2026-09-17",
    "migratedAt": "2026-09-14"
  },
  "seeAlso": [
    {
      "id": "transformer-2017",
      "note": "Dieselbe Architektur, nur in eine Richtung gelesen und um drei Größenordnungen weiter gebaut."
    },
    {
      "id": "chatgpt-2022",
      "note": "Zwei Jahre später wird aus der Schnittstelle für Entwickler ein Eingabefeld für alle."
    }
  ],
  "wikidata": [
    {
      "id": "Q95726734",
      "name": "GPT-3"
    },
    {
      "id": "Q95727440",
      "name": "Language Models are Few-Shot Learners"
    }
  ],
  "category": "history",
  "area": {
    "id": "ai",
    "title": "Künstliche Intelligenz"
  },
  "theme": {
    "id": "theme-sprachmodelle-skalieren",
    "title": "Eine Architektur und ihre Skalierung"
  },
  "referencedBy": [
    {
      "area": "ai",
      "id": "bert-google-2018",
      "title": "Google stellt BERT vor, ein Sprachmodell, das in beide Richtungen liest",
      "note": "Zwei Lesarten derselben Architektur: hier für jede Aufgabe nachtrainiert, dort im Text selbst unterwiesen."
    }
  ],
  "zeitalter": [
    {
      "id": "neueste-geschichte",
      "name": "Neueste Geschichte",
      "art": "kette"
    },
    {
      "id": "neuzeit",
      "name": "Neuzeit",
      "art": "ueberlagerung"
    },
    {
      "id": "zeitgeschichte",
      "name": "Zeitgeschichte",
      "art": "ueberlagerung"
    }
  ],
  "verzeichnis": "https://footnoted.net/de/ai/llms.txt#gpt-3-few-shot-learning-2020",
  "license": "https://creativecommons.org/licenses/by/4.0/",
  "creditText": "Footnoted — footnoted.net",
  "usageInfo": "https://footnoted.net/de/lizenz/"
}