---
id: ai-safety-alignment-research
title: Der International AI Safety Report fasst den Stand der KI-Sicherheit zusammen
date: '2025-01-29'
datePrecision: day
dateSources:
  - s1
  - s4
summary: >-
  Am 29. Januar 2025 erscheint der International AI Safety Report: über 100
  Fachleute unter Vorsitz von Yoshua Bengio, beauftragt vom Gipfel von
  Bletchley Park. Getragen wird er von mehr als dreißig Staaten und
  internationalen Organisationen.
themeId: theme-sicherheit-und-regulierung
wikidata:
  - id: Q133091167
    name: 'International AI Safety Report'
verification: verified
sources:
  - key: s1
    title: International AI Safety Report (arXiv:2501.17805)
    publisher: arXiv (Cornell University)
    url: https://arxiv.org/abs/2501.17805
    accessedAt: '2026-09-15'
  - key: s2
    title: International AI Safety Report
    publisher: International AI Safety Report
    url: https://internationalaisafetyreport.org/
    accessedAt: '2026-09-15'
  - key: s3
    title: >-
      The Bletchley Declaration by Countries Attending the AI Safety Summit,
      1–2 November 2023
    publisher: GOV.UK
    url: https://www.gov.uk/government/publications/ai-safety-summit-2023-the-bletchley-declaration/the-bletchley-declaration-by-countries-attending-the-ai-safety-summit-1-2-november-2023
    accessedAt: '2026-10-12'
  - key: s4
    title: First International AI Safety Report to inform discussions at AI Action Summit
    publisher: GOV.UK
    url: https://www.gov.uk/government/news/first-international-ai-safety-report-to-inform-discussions-at-ai-action-summit
    accessedAt: '2026-10-12'
provenance:
  origin: legacy-entries-ts
  migratedAt: '2026-09-14'
  reviewedBy: audit
  reviewedAt: '2026-09-15'
seeAlso:
  - id: eu-ai-act-2024
    note: Der Bericht beschreibt den Stand, das Gesetz zieht daraus Rechtsfolgen.
  - id: reasoning-models-explicit-thought
    note: >-
      Was ein Modell intern erwägt, bleibt auch für die Sicherheitsforschung
      verborgen.
  - area: politik
    id: menschenrechtserklaerung-1948
    note: >-
      Auch dort ein erklärter Grundsatz ohne bindende Wirkung — und trotzdem
      folgenreich.
---

Am 29. Januar 2025 wurde der International AI Safety Report veröffentlicht.[^s1][^s4]
Er fasst nach eigener Beschreibung den Stand der Erkenntnis über Fähigkeiten,
Risiken und Sicherheit fortgeschrittener KI-Systeme zusammen.[^s1] Dreißig
Staaten sowie die Vereinten Nationen, die OECD und die Europäische Union
benannten je einen Vertreter für den Beirat des Berichts.[^s1]

Den Vorsitz führt Yoshua Bengio, Träger des Turing-Preises; verfasst haben den
Bericht über 100 unabhängige Fachleute.[^s2] Über den Inhalt entschieden allein
die beteiligten Fachleute unter Leitung des Vorsitzenden.[^s1]

Den Auftrag erteilten die Staaten, die im November 2023 am AI Safety Summit in
Bletchley teilnahmen.[^s1][^s4] Die dort vertretenen 28 Staaten und die
Europäische Union verabschiedeten die Bletchley Declaration; sie verlangt, dass
KI sicher, am Menschen ausgerichtet, vertrauenswürdig und verantwortlich
gestaltet, entwickelt und eingesetzt wird.[^s3]

Der Bericht soll Entscheidungsträgern in Regierungen und darüber hinaus ein
gemeinsames Bild der Risiken und Folgen von KI geben.[^s2] Die zweite Ausgabe
erschien am 3. Februar 2026.[^s2]

Ende der Datei: 4 Quellen.