Miles Brundage

ref · 25. Mai 2026 um 07:22

AI-Policy-Forscher, ehemaliger Leiter der Politikforschung und Senior Advisor für AGI-Readiness bei OpenAI sowie Gründungsgeschäftsführer von AVERI — dem gemeinnützigen Institut, das auf dem Grundsatz beruht, dass Unternehmen der KI-Branche nicht ihre eigenen Hausaufgaben benoten dürfen.

Profil

Bereich	Detail
Staatsangehörigkeit	Amerikanisch
Derzeitige Institution	AVERI — AI Verification and Evaluation Research Institute (Geschäftsführer)
Weitere Mitgliedschaften	Non-Resident Senior Fellow, Institute for Progress; Mitglied, AI Governance Forum (CNAS); Mitglied, AI Policy & Governance Working Group (IAS/Princeton); Berater, Epoch AI; Berater, RAND Corporation
Forschungsschwerpunkte	KI-Auditierung und -Verifikation, Regulierung von Frontier-KI, Compute-Governance, Bewertung des KI-Fortschritts, wirtschaftliche Auswirkungen von KI, KI-Großstrategie
PhD	Human and Social Dimensions of Science and Technology, Arizona State University, 2019
PhD-Komitee	David Guston (Vorsitzender); Erik Fisher; Joanna Bryson; Lauren Keeler
Persönliche Website	milesbrundage.com
Substack	milesbrundage.substack.com
X / Twitter	@Miles_Brundage

Überblick

Miles Brundage ist ein amerikanischer KI-Policy-Forscher, der sechs Jahre bei OpenAI verbrachte – zunächst als Forschungswissenschaftler, dann als Leiter der Politikforschung, und schließlich als Senior Advisor für AGI-Readiness –, bevor er im Oktober 2024 ging, um unabhängig zu arbeiten. Während seiner Zeit bei OpenAI war er eine zentrale Figur bei der Gestaltung der Bereitstellungspraktiken des Unternehmens: Seine Teams initiierten das externe Red-Teaming-Programm von OpenAI, erstellten die ersten mehreren OpenAI-Systemkarten und veröffentlichten Forschungsergebnisse zu Themen, die von den gesellschaftlichen Auswirkungen von Sprachmodellen bis hin zu Compute-Governance und der Regulierung von Frontier-KI reichten. Vor OpenAI war er Research Fellow am Future of Humanity Institute in Oxford, wo er den wegweisenden Bericht von 2018 über den böswilligen Einsatz von KI mitverfasste – einen der ersten umfassenden Rahmen zur Betrachtung von KI-Sicherheitsbedrohungen, über den die BBC, die New York Times und Wired berichteten. Im Januar 2026 gründete er AVERI (das AI Verification and Evaluation Research Institute), eine gemeinnützige Organisation, die auf dem Argument beruht, dass unabhängige externe Prüfungen von Frontier-KI-Systemen universell werden müssen und dass KI-Unternehmen ihre eigene Sicherheit nicht selbst bewerten sollten. Er gilt weithin als eine der einflussreichsten Praktiker-Stimmen in der Frontier-KI-Politik.

Frühes Leben & Ausbildung

B.A., Politikwissenschaft — George Washington University, 2010
Brundage studierte Politikwissenschaft an der GWU, wo er Praktika im Bereich Energiepolitik absolvierte. Sein frühes Interesse an der Governance neu entstehender Technologien, kombiniert mit der Arbeit in der Energiepolitik, legte den Grundstein für seine spätere Tätigkeit im Bereich KI-Governance.

ARPA-E / US-Energieministerium (ca. 2010–2012)
Nach seinem Abschluss arbeitete Brundage etwa zwei Jahre lang bei der Advanced Research Projects Agency – Energy (ARPA-E), der risikoreichen Energie-Forschungsbehörde der US-Regierung, die im Energieministerium angesiedelt ist. Diese Erfahrung an der Schnittstelle von Regierung, Technologie und Politik vermittelte ihm ein Verständnis dafür, wie Bundesbehörden Technologieverläufe beeinflussen können – später relevant für sein Interesse am AI Safety Institute und Compute-Governance.

Institute for Human and Machine Cognition (IHMC) — Praktikum
Brundage absolvierte auch ein Praktikum am IHMC, einem Forschungsinstitut für kognitive Systeme, das seine Auseinandersetzung mit Fragen der Mensch-Maschine-Interaktion vertiefte.

PhD, Human and Social Dimensions of Science and Technology — Arizona State University, 2019
Brundage promovierte im interdisziplinären Programm der ASU zur sozialen Wissenschaft und Technologieforschung, betreut von David Guston (Vorsitzender), Erik Fisher, Joanna Bryson und Lauren Keeler. Seine Graduiertenforschung wurde von der National Science Foundation, dem Bipartisan Policy Center und dem Future of Life Institute unterstützt. Die Schwerpunkte des Programms auf verantwortungsvoller Innovation, antizipativer Governance und der Koproduktion von Wissenschaft und Gesellschaft verliehen seiner späteren KI-Policy-Arbeit eine unverwechselbare theoretische Grundlage, die in einem Bereich, der oft von technischen Forschern bevölkert wird, die in die Politik gewechselt sind, ungewöhnlich ist.

Karriere

Future of Humanity Institute, Universität Oxford — Research Fellow (2016–2018)

Während der Fertigstellung seiner Dissertation (abgeschlossen 2019, obwohl sich die FHI-Position überschnitt) war Brundage Research Fellow am Future of Humanity Institute in Oxford – damals das weltweit führende akademische Zentrum für existenzielle Risiken und KI-Sicherheitsforschung. Sein bedeutendstes Ergebnis aus dieser Zeit war der wegweisende Bericht von 2018 über böswillige KI-Nutzung.

„The Malicious Use of Artificial Intelligence: Forecasting, Prevention, and Mitigation“ (Februar 2018): Der von Brundage zusammen mit Shahar Avin mitverfasste Bericht versammelte 26 Forscher vom FHI, dem Centre for the Study of Existential Risk in Cambridge, OpenAI, der Electronic Frontier Foundation und anderen Institutionen – darunter Dario Amodei, Jack Clark, Helen Toner und Paul Scharre. Er lieferte die erste umfassende Übersicht über KI-gestützte Sicherheitsbedrohungen in den Bereichen Digital, Physisch und Politisch; identifizierte Deepfakes, automatisierte Cyberangriffe und KI-gestützte Desinformation als vorrangige Risiken; und schlug Governance- und technische Gegenmaßnahmen vor. Über BBC, New York Times, Wired und Washington Post berichtet, etablierte er Brundage als die führende Stimme auf dem Gebiet des KI-Missbrauchs und von Sicherheitsbedrohungen und wurde als Referenzmaterial in nachfolgenden KI-Regulierungsdiskussionen an gesetzgebende Körperschaften im Vereinigten Königreich, der EU und den USA übermittelt.

OpenAI — Research Scientist, Head of Policy Research, Senior Advisor for AGI Readiness (2018–2024)

Brundage trat OpenAI im August 2018 als Research Scientist im Policy-Team bei, einem der ersten dedizierten Policy-Forscher in einem Frontier-KI-Labor. Im Laufe von sechs Jahren und drei Rollen erweiterten sich seine Verantwortlichkeiten um die Leitung des Policy-Research-Teams (das die Systemkarten von OpenAI und die nach außen gerichteten Politikdokumente erstellte) und später des AGI-Readiness-Teams (das sowohl die interne Bereitschaft von OpenAI für leistungsfähigere Systeme als auch die Bereitschaft der weiteren Welt, diese zu regulieren, bewertete).

Externes Red-Teaming-Programm: Brundages Teams starteten das externe Red-Teaming-Programm von OpenAI – strukturierte gegnerische Bewertung durch externe Experten vor der Veröffentlichung von Modellen – und etablierten diese Praxis als Teil des Veröffentlichungsprozesses von OpenAI, was zur entstehenden Norm der Bewertung vor der Bereitstellung in der gesamten Branche beitrug.

OpenAI-Systemkarten: Das von Brundage geleitete Policy- und Sicherheitsteam erstellte die ersten mehreren OpenAI-Systemkarten – strukturierte Dokumente, die Modellfähigkeiten, -einschränkungen und Sicherheitsbewertungen beschreiben, die wichtige Veröffentlichungen begleiten (GPT-2, GPT-3, Codex, GPT-4, ChatGPT und andere). Diese Dokumente halfen, das Genre der Transparenzberichterstattung für Frontier-KI zu definieren und schufen einen Präzedenzfall, den andere Labore später übernahmen.

Compute-Governance-Forschung: Brundage war Mitautor eines der grundlegenden Papiere auf dem Gebiet der Compute-Governance (arXiv:2402.08797), das das Argument darlegt, dass Computerhardware – einzigartig nachweisbar, ausschließbar, quantifizierbar und über eine konzentrierte Lieferkette hergestellt – der handhabbarste Punkt für regulatorische Hebelwirkung im KI-Ökosystem ist.

AGI-Readiness und Levels-Framework: In seiner letzten Rolle war Brundage dafür verantwortlich, die Führungskräfte von OpenAI und den Vorstand über die Bereitschaft des Unternehmens zu beraten, zunehmend leistungsfähige KI-Fähigkeiten zu verwalten, und über die Bereitschaft der Welt, diese zu regulieren. Sein Team arbeitete an der Ausarbeitung des „Levels of AI“-Frameworks von OpenAI – einer strukturierten Alternative zum binären AGI-Denken.

Abgang (Oktober 2024): Brundage verließ OpenAI am 23. Oktober 2024 und veröffentlichte einen detaillierten Substack-Beitrag, in dem er seine Entscheidung erläuterte. Zu seinen genannten Gründen gehörten der Wunsch nach größerer Unabhängigkeit und Freiheit, ohne brancheninterne Überprüfung zu veröffentlichen, die Sorge um die Wahrnehmung von Befangenheit bei der Arbeit innerhalb eines Frontier-Labors, und die Ansicht, dass branchenunabhängige Stimmen in der KI-Politik kritisch unterrepräsentiert seien. Er stellte klar, dass sein Weggang nicht auf eine negative Bewertung von OpenAI an sich zurückzuführen sei, sondern auf ein strukturelles Argument darüber, wo Politikforschung am wirkungsvollsten sei. Er merkte an: „weder OpenAI noch irgendein anderes Frontier-Labor ist bereit, und die Welt ist auch nicht bereit“ für AGI – während er klarstellte, dass dies keine kontroverse Ansicht innerhalb der Führung von OpenAI sei.

Öffentliche Kritik im März 2025: Nach seinem Weggang reagierte Brundage öffentlich auf einen Blogbeitrag von OpenAI, lobte ihn im Großen und Ganzen, warf ihm aber vor, die Geschichte des Bereitstellungsansatzes des Unternehmens so umzuschreiben, dass die Beweislast auf Sicherheitsbedenken gelegt werde – eine pointierte Kritik von jemandem mit direktem institutionellem Gedächtnis an den betreffenden Richtlinien.

Axon AI and Policing Technology Ethics Board (2018–2022)

Brundage war vier Jahre lang Mitglied des Ethikbeirats von Axon für KI- und Polizeitechnologie – einem der ersten KI-Ethikbeiräte eines Unternehmens, dessen Produkte direkt mit der Strafverfolgung zusammenhängen. Im Juni 2022 trat der Beirat geschlossen aus Protest gegen den Vorschlag von Axon zurück, eine mit Tasern bewaffnete Drohne für die Schulsicherheit zu entwickeln – ein Fall, der zu einem prominenten Beispiel für die Grenzen von Unternehmensethikbeiräten ohne strukturelle Durchsetzungsbefugnis wurde.

AVERI — Geschäftsführer (Januar 2026–heute)

Im Januar 2026 gründete Brundage formell das AI Verification and Evaluation Research Institute (AVERI), eine gemeinnützige Organisation, deren Mission es ist, die Prüfung von Frontier-KI-Systemen durch Dritte effektiv und universell zu machen. Die Gründung wurde exklusiv von Fortune berichtet und fiel mit der Veröffentlichung eines Forschungspapiers zusammen, das von Brundage und mehr als dreißig KI-Sicherheitsforschern und Governance-Experten mitverfasst wurde und einen detaillierten Rahmen dafür liefert, wie unabhängige Prüfungen in der Praxis funktionieren könnten.

Das Kernprinzip von AVERI – dass KI-Unternehmen nicht erlaubt werden sollte, ihre eigene Sicherheit ohne externe Überprüfung zu bewerten („KI-Unternehmen sollten nicht ihre eigenen Hausaufgaben benoten dürfen“) – erweitert die Logik der Finanzprüfung, der Sicherheitstests von Arzneimitteln und nuklearer Verifikationsregime auf KI. Brundage hat argumentiert, dass eine der kritischen Lehren aus seiner Zeit bei OpenAI darin besteht, dass „Unternehmen die Normen für diese Art von Dingen selbst herausfinden“, und dass ein universell angewendeter externer Prüfungsstandard notwendig sei, um die Glaubwürdigkeitslücke zwischen behaupteter und tatsächlicher Sicherheit zu schließen.

Wichtigste Beiträge

„The Malicious Use of Artificial Intelligence“ (2018) – Mitverfasser des ersten umfassenden Rahmens für KI-Sicherheitsbedrohungen; band 26 Forscher aus Wissenschaft, Zivilgesellschaft und Industrie ein; prägte gesetzgeberische und regulatorische Diskussionen im Vereinigten Königreich, der EU und den USA.
Externes Red-Teaming-Programm von OpenAI – Initiiert und institutionalisierte strukturierte gegnerische Bewertung vor der Bereitstellung bei OpenAI; half, die Praxis als branchenweite Norm zu etablieren.
OpenAI-Systemkarten – Leitete die Erstellung der ersten mehreren Systemkarten, die wichtige Modellveröffentlichungen begleiten; definierte das Genre der Transparenzberichterstattung für Frontier-KI.
Compute-Governance – War Mitautor grundlegender Forschung (arXiv:2402.08797), die darlegt, warum Computerhardware der handhabbarste Punkt für KI-Governance-Hebelwirkung ist und welche Governance-Architekturen darum herum aufgebaut werden könnten.
AVERI – Gründete und leitet das erste gemeinnützige Institut, das speziell externen KI-Prüfungsstandards gewidmet ist; das Gründungspapier vom Januar 2026, das von mehr als 30 Forschern mitverfasst wurde, lieferte einen detaillierten operativen Rahmen für unabhängige KI-Prüfungen.
KI-Governance-Karriere und Ökosystemaufbau – Brundages viel gelesener FAQ zu KI-Politik-Karrieren, sein Substack und sein umfangreiches öffentliches Engagement haben ihn zu einem der am meisten zitierten Praktiker auf dem Gebiet für diejenigen gemacht, die in die KI-Governance-Arbeit einsteigen.
AGI-Readiness-Framework – Leitete die interne Arbeit von OpenAI am „Levels of AI“-Framework und an der strukturierten Bewertung sowohl der organisatorischen als auch der gesellschaftlichen Bereitschaft für zunehmend leistungsfähige KI – beeinflusste, wie die Frontier-KI-Community über Fähigkeitsmeilensteine diskutiert.

Institutionelle Positionen & Anerkennung

Institute for Progress – Non-Resident Senior Fellow; konzentriert sich auf staatliche Beschleunigung vorteilhafter KI und gesellschaftliche Resilienz.
Center for a New American Security (CNAS) – Mitglied, AI Governance Forum.
Institute for Advanced Study (IAS), Princeton – Mitglied, AI Policy and Governance Working Group.
Epoch AI – Berater; spiegelt sein Interesse an rigoroser quantitativer Bewertung von KI-Fortschrittstrends wider.
RAND Corporation – Berater; spiegelt die Auseinandersetzung mit den nationalen Sicherheitsdimensionen der KI-Governance wider.
Axon Ethics Board (2018–2022) – Mitglied bis zum kollektiven Rücktritt aufgrund des Taser-Drohnen-Vorschlags.
NSF Graduate Research Support – Forschung finanziert von der National Science Foundation, dem Bipartisan Policy Center und dem Future of Life Institute während des PhD.

Wichtige Beziehungen

David Guston – PhD-Betreuer an der Arizona State; führender Wissenschaftler für verantwortungsvolle Innovation und antizipative Governance; der theoretische Rahmen, den Guston für das Denken über Governance neu entstehender Technologien entwickelte, prägt Brundages Ansatz zur KI-Politik.
Joanna Bryson – Mitglied des PhD-Komitees und langjährige Mitarbeiterin; Brysons Arbeit zu KI-Ethik und -Governance ist ein fortlaufender intellektueller Bezugspunkt.
Dario Amodei – Mitautor des Berichts „The Malicious Use of AI“; jetzt CEO von Anthropic; Brundages Arbeit mit Amodei bei FHI/OpenAI im Jahr 2018 repräsentiert eine frühe Schnittstelle der sicherheitsorientierten Forscher, die später zwischen OpenAI und Anthropic divergierten.
Jack Clark – Mitautor des Berichts von 2018 über böswillige Nutzung; gründete später Anthropic mit Amodei; ein weiterer früher Mitarbeiter aus der Oxford/OpenAI-Sicherheitsgemeinschaft.
Sam Altman – Im Abgangspost von Brundage erwähnt; CEO von OpenAI während Brundages Amtszeit; von Brundage gedankt für das Vertrauen, ihm zunehmende Verantwortlichkeiten zu übertragen.
Helen Toner – Mitautorin des Berichts von 2018; später ein umstrittenes Vorstandsmitglied von OpenAI während der Krise im November 2023; teilte frühes Interesse an KI-Governance aus dem FHI-Netzwerk.

Persönlicher Stil

Brundage gehört zu den intellektuell transparentesten Praktikern in der KI-Politik: Sein Abgangspost von OpenAI umfasste mehrere tausend Worte Selbstanalyse, unterschied sorgfältig zwischen seinen Gründen für den Weggang und wies explizit auf die Arten hin, wie seine eigene Unabhängigkeit in Frage gestellt werden könnte. Diese Reflexivität – über Voreingenommenheit, über institutionelle Interessen, über den Unterschied zwischen Forschung und Advocacy – ist konsistent mit seiner akademischen Ausbildung in Science and Technology Studies, die darauf ausgerichtet ist, die Bedingungen zu untersuchen, unter denen Wissensansprüche erhoben werden, und nicht nur die Ansprüche selbst. Sein öffentliches Engagement hat einen unverwechselbaren Doppelmodus: Zu technischen politischen Fragen (Compute-Governance, Prüfungsrahmen, Frontier-KI-Regulierung) veröffentlicht er strukturierte akademische Argumente; zu breiteren Fragen des KI-Fortschritts und der Dringlichkeit schreibt er persönlicher und ist bereit, starke Behauptungen über die Unzulänglichkeit der derzeitigen Governance aufzustellen. Sein Digg-Vibe-Profil fängt dies gut ein: „Informativ“ und „Humorig“ liegen etwa gleichauf an der Spitze, dicht gefolgt von „Lehrend“ und „Provozierend“ – ein Forscher, der sein Fach ernst nimmt, ohne sich selbst zu ernst zu nehmen.