Der International AI Safety Report fasst den Stand der KI-Sicherheit zusammen
Am 29. Januar 2025 erscheint der International AI Safety Report: über 100 Fachleute unter Vorsitz von Yoshua Bengio, beauftragt vom Gipfel von Bletchley Park. Getragen wird er von mehr als dreißig Staaten und internationalen Organisationen.
Am 29. Januar 2025 wurde der International AI Safety Report veröffentlicht.1,4 Er fasst nach eigener Beschreibung den Stand der Erkenntnis über Fähigkeiten, Risiken und Sicherheit fortgeschrittener KI-Systeme zusammen.1 Dreißig Staaten sowie die Vereinten Nationen, die OECD und die Europäische Union benannten je einen Vertreter für den Beirat des Berichts.1
Den Vorsitz führt Yoshua Bengio, Träger des Turing-Preises; verfasst haben den Bericht über 100 unabhängige Fachleute.2 Über den Inhalt entschieden allein die beteiligten Fachleute unter Leitung des Vorsitzenden.1
Den Auftrag erteilten die Staaten, die im November 2023 am AI Safety Summit in Bletchley teilnahmen.1,4 Die dort vertretenen 28 Staaten und die Europäische Union verabschiedeten die Bletchley Declaration; sie verlangt, dass KI sicher, am Menschen ausgerichtet, vertrauenswürdig und verantwortlich gestaltet, entwickelt und eingesetzt wird.3
Der Bericht soll Entscheidungsträgern in Regierungen und darüber hinaus ein gemeinsames Bild der Risiken und Folgen von KI geben.2 Die zweite Ausgabe erschien am 3. Februar 2026.2
Siehe auch
- EU AI Act tritt in Kraft 2024 Der Bericht beschreibt den Stand, das Gesetz zieht daraus Rechtsfolgen.
- Reasoning-Modelle rechnen länger — und zeigen den Rechenweg nicht 2024 Was ein Modell intern erwägt, bleibt auch für die Sicherheitsforschung verborgen.
- Politik Allgemeine Erklärung der Menschenrechte: niemand stimmt dagegen 1948 Auch dort ein erklärter Grundsatz ohne bindende Wirkung — und trotzdem folgenreich.
Hierher verwiesen
- Reasoning-Modelle rechnen länger — und zeigen den Rechenweg nicht 2024 Was ein Modell intern erwägt, ist genau die Frage der Sicherheitsforschung.