Miles Brundage

ref · 25 Mayo, 2026 07:22

Investigador de políticas de IA, exdirector de Investigación de Políticas y Asesor Principal para la Preparación de AGI en OpenAI, y director ejecutivo fundador de AVERI, el instituto sin ánimo de lucro construido sobre el principio de que no se debería permitir a las empresas de IA corregir sus propios deberes.

Perfil

Campo	Detalle
Nacionalidad	Estadounidense
Institución actual	AVERI — Instituto de Investigación en Verificación y Evaluación de IA (Director Ejecutivo)
Otras afiliaciones	Senior Fellow no residente, Institute for Progress; Miembro, Foro de Gobernanza de IA (CNAS); Miembro, Grupo de Trabajo de Política y Gobernanza de IA (IAS/Princeton); Asesor, Epoch AI; Asesor, RAND Corporation
Áreas de investigación	Auditoría y verificación de IA, regulación de IA de frontera, gobernanza de computación, evaluación del progreso de la IA, impactos económicos de la IA, gran estrategia de IA
Doctorado	Dimensiones humanas y sociales de la ciencia y la tecnología, Universidad Estatal de Arizona, 2019
Comité de doctorado	David Guston (presidente); Erik Fisher; Joanna Bryson; Lauren Keeler
Sitio web personal	milesbrundage.com
Substack	milesbrundage.substack.com
X / Twitter	@Miles_Brundage

Resumen

Miles Brundage es un investigador estadounidense de políticas de IA que pasó seis años en OpenAI — primero como científico investigador, luego como director de Investigación de Políticas y, finalmente, como Asesor Principal para la Preparación de AGI — antes de irse en octubre de 2024 para trabajar de forma independiente. Durante su etapa en OpenAI fue una figura central en la configuración de las prácticas de despliegue de la empresa: sus equipos iniciaron el programa externo de red teaming de OpenAI, produjeron las primeras system cards de OpenAI y publicaron investigaciones sobre temas que van desde las implicaciones sociales de los modelos de lenguaje hasta la gobernanza de la computación y la regulación de la IA de frontera. Antes de OpenAI fue Research Fellow en el Instituto para el Futuro de la Humanidad de Oxford, donde codirigió el informe histórico de 2018 sobre el uso malicioso de la IA — uno de los primeros marcos integrales para pensar sobre las amenazas de seguridad de la IA, cubierto por la BBC, The New York Times y Wired. En enero de 2026 lanzó AVERI (el Instituto de Investigación en Verificación y Evaluación de IA), una organización sin ánimo de lucro anclada en el argumento de que la auditoría externa independiente de los sistemas de IA de frontera debe volverse universal y que las empresas de IA no deberían evaluar su propia seguridad. Es ampliamente considerado una de las voces de mayor influencia entre los profesionales de la política de IA de frontera.

Primeros años y educación

Licenciatura en Ciencias Políticas — Universidad George Washington, 2010
Brundage estudió Ciencias Políticas en la GWU, donde realizó prácticas relacionadas con la política energética. Su interés temprano en la gobernanza de tecnologías emergentes, combinado con su trabajo en política energética, marcó la trayectoria hacia la gobernanza de la IA.

ARPA-E / Departamento de Energía de EE. UU. (c. 2010–2012)
Tras graduarse, Brundage trabajó durante aproximadamente dos años en la Agencia de Proyectos de Investigación Avanzados – Energía (ARPA-E), la agencia de investigación energética de alto riesgo del gobierno estadounidense ubicada dentro del Departamento de Energía. Esta experiencia trabajando en la intersección del gobierno, la tecnología y la política le inculcó una comprensión de cómo las agencias federales pueden dar forma a las trayectorias tecnológicas — algo que más tarde fue relevante para su interés en el Instituto de Seguridad de la IA y la gobernanza de la computación.

Instituto para la Cognición Humana y de Máquinas (IHMC) — Prácticas
Brundage también realizó prácticas en el IHMC, un instituto de investigación en sistemas cognitivos, profundizando su exposición a las cuestiones de la interacción humano-máquina.

Doctorado en Dimensiones humanas y sociales de la ciencia y la tecnología — Universidad Estatal de Arizona, 2019
Brundage realizó su doctorado en el programa interdisciplinario de estudios sociales de la ciencia y la tecnología de la ASU, supervisado por David Guston (presidente), Erik Fisher, Joanna Bryson y Lauren Keeler. Su investigación de posgrado fue apoyada por la Fundación Nacional de Ciencias, el Centro de Políticas Bipartidista y el Instituto para el Futuro de la Vida. El énfasis del programa en la innovación responsable, la gobernanza anticipatoria y la coproducción de ciencia y sociedad le dio a su trabajo posterior en políticas de IA una base teórica distintiva, inusual en un campo a menudo poblado por investigadores técnicos que migraron a la política.

Trayectoria profesional

Instituto para el Futuro de la Humanidad, Universidad de Oxford — Research Fellow (2016–2018)

Mientras completaba su disertación (finalizada en 2019, aunque el puesto en el FHI se superpuso), Brundage fue Research Fellow en el Instituto para el Futuro de la Humanidad de Oxford — en ese momento el centro académico líder mundial en riesgo existencial e investigación en seguridad de la IA. Su producción más significativa de este período fue el informe histórico de 2018 sobre el uso malicioso de la IA.

«El uso malicioso de la inteligencia artificial: predicción, prevención y mitigación» (febrero de 2018): Codirigido por Brundage con Shahar Avin, el informe reunió a 26 investigadores del FHI, el Centro para el Estudio del Riesgo Existencial de Cambridge, OpenAI, la Electronic Frontier Foundation y otras instituciones — incluyendo a Dario Amodei, Jack Clark, Helen Toner y Paul Scharre. Proporcionó el primer estudio exhaustivo de las amenazas de seguridad habilitadas por la IA en los ámbitos digital, físico y político; identificó los deepfakes, los ciberataques automatizados y la desinformación asistida por IA como riesgos prioritarios; y propuso respuestas de gobernanza y técnicas. Cubierto por la BBC, The New York Times, Wired y The Washington Post, estableció a Brundage como la voz líder del campo sobre el uso indebido de la IA y las amenazas a la seguridad, y fue presentado a los cuerpos legislativos del Reino Unido, la UE y EE. UU. como material de referencia en las discusiones posteriores sobre la regulación de la IA.

OpenAI — Científico investigador, Director de Investigación de Políticas, Asesor Principal para la Preparación de AGI (2018–2024)

Brundage se incorporó a OpenAI en agosto de 2018 como científico investigador en el equipo de Políticas, uno de los primeros investigadores dedicados a políticas en un laboratorio de IA de frontera. Durante seis años y tres roles, sus responsabilidades se expandieron para incluir la dirección del equipo de Investigación de Políticas (que produjo las system cards de OpenAI y los documentos de política externos) y luego el equipo de Preparación de AGI (que evaluaba tanto la preparación interna de OpenAI para sistemas cada vez más capaces como la preparación del mundo en general para gobernarlos).

Programa externo de red teaming: Los equipos de Brundage lanzaron el programa externo de red teaming de OpenAI — una evaluación adversarial estructurada realizada por expertos externos antes del lanzamiento del modelo — estableciendo la práctica como parte del proceso de publicación de OpenAI y contribuyendo a la norma emergente de la evaluación previa al despliegue en toda la industria.

System Cards de OpenAI: El equipo de políticas y seguridad que dirigía Brundage produjo las primeras system cards de OpenAI — documentos estructurados que describen las capacidades, limitaciones y evaluaciones de seguridad de los modelos que acompañan a los principales lanzamientos (GPT-2, GPT-3, Codex, GPT-4, ChatGPT y otros). Estos documentos ayudaron a definir el género de los informes de transparencia de la IA de frontera y sentaron un precedente que otros laboratorios adoptaron posteriormente.

Investigación sobre gobernanza de la computación: Brundage es coautor de uno de los artículos fundacionales del campo sobre gobernanza de la computación (arXiv:2402.08797), articulando el argumento de que el hardware de computación — detectable, excluible, cuantificable y producido a través de una cadena de suministro concentrada de forma única — es el punto de apalancamiento regulatorio más factible en el ecosistema de la IA.

Marco de Preparación de AGI y niveles: En su último rol, Brundage fue responsable de asesorar a los ejecutivos de OpenAI y a la junta directiva sobre la preparación de la empresa para administrar capacidades de IA cada vez más potentes y sobre la preparación del mundo para gobernarlas. Su equipo trabajó para desarrollar el marco de «niveles de IA» de OpenAI — una alternativa estructurada al pensamiento binario sobre la AGI.

Salida (octubre de 2024): Brundage dejó OpenAI el 23 de octubre de 2024, publicando un detallado artículo en Substack explicando su decisión. Sus razones declaradas incluyeron el deseo de una mayor independencia y libertad para publicar sin revisión de la industria, la preocupación por la percepción de sesgo al trabajar dentro de un laboratorio de frontera y la opinión de que las voces independientes de la industria en la política de IA estaban críticamente subrepresentadas. Fue explícito en que su salida no se debió a una evaluación negativa de OpenAI en particular, sino a un argumento estructural sobre dónde es más impactante la investigación de políticas. Señaló: «ni OpenAI ni ningún otro laboratorio de frontera están preparados, y el mundo tampoco lo está» para la AGI — aclarando que no se trataba de una opinión controvertida dentro del liderazgo de OpenAI.

Crítica pública de marzo de 2025: Después de irse, Brundage respondió públicamente a una entrada de blog de OpenAI, elogiándola en general pero acusándola de «reescribir la historia» del enfoque de despliegue de la empresa de una manera que colocaba la carga de la prueba en las preocupaciones de seguridad — una crítica punzante de alguien con memoria institucional directa de las políticas en cuestión.

Junta de Ética de IA y Tecnología Policial de Axon (2018–2022)

Brundage sirvió durante cuatro años como miembro de la junta de ética de Axon para IA y tecnología policial — una de las primeras juntas de ética corporativa de IA para una empresa cuyos productos se cruzan directamente con las fuerzas del orden. En junio de 2022, la junta renunció en masa en protesta por la propuesta de Axon de desarrollar un dron armado con una pistola Taser para la seguridad escolar — un caso que se convirtió en un ejemplo prominente de los límites de las juntas de ética corporativas sin poder de ejecución estructural.

AVERI — Director Ejecutivo (enero de 2026–presente)

En enero de 2026, Brundage lanzó formalmente el Instituto de Investigación en Verificación y Evaluación de IA (AVERI), una organización sin ánimo de lucro cuya misión es hacer que la auditoría de terceros de los sistemas de IA de frontera sea efectiva y universal. El lanzamiento fue cubierto en exclusiva por Fortune y coincidió con la publicación de un artículo de investigación coautorado por Brundage y más de treinta investigadores en seguridad de IA y expertos en gobernanza, estableciendo un marco detallado sobre cómo podrían funcionar las auditorías independientes en la práctica.

El principio central de AVERI — que no se debe permitir a las empresas de IA evaluar su propia seguridad sin verificación externa («a las empresas de IA no se les debería permitir corregir sus propios deberes») — extiende la lógica de la auditoría financiera, las pruebas de seguridad farmacéutica y los regímenes de verificación nuclear a la IA. Brundage ha argumentado que una de las lecciones críticas de su etapa en OpenAI es que «las empresas están descubriendo las normas de este tipo de cosas por sí mismas», y que un estándar de auditoría externa aplicado universalmente es necesario para cerrar la brecha de credibilidad entre la seguridad afirmada y la real.

Contribuciones clave

«El uso malicioso de la inteligencia artificial» (2018) — Coautor principal del primer marco integral para las amenazas de seguridad de la IA; involucró a 26 investigadores del mundo académico, la sociedad civil y la industria; dio forma a las discusiones legislativas y regulatorias en el Reino Unido, la UE y EE. UU.
Programa externo de red teaming de OpenAI — Inició e institucionalizó la evaluación adversarial estructurada previa al despliegue en OpenAI; ayudó a establecer la práctica como una norma en todo el campo.
System Cards de OpenAI — Lideró la producción de las primeras system cards que acompañaron los lanzamientos de modelos principales; definió el género de informes de transparencia para la IA de frontera.
Gobernanza de la computación — Coautor de la investigación fundacional (arXiv:2402.08797) que articula por qué el hardware de computación es el punto de apalancamiento más factible de la gobernanza de la IA y qué arquitecturas de gobernanza podrían construirse a su alrededor.
AVERI — Fundó y dirige la primera institución sin ánimo de lucro dedicada específicamente a los estándares de auditoría externa de IA; el artículo de lanzamiento de enero de 2026, coautorado con más de 30 investigadores, proporcionó un marco operativo detallado para las auditorías independientes de IA.
Trayectoria en gobernanza de IA y construcción de ecosistema — Las preguntas frecuentes de Brundage sobre carreras en políticas de IA, su Substack y su amplia participación pública lo han convertido en uno de los profesionales más citados del campo para aquellos que se inician en el trabajo de gobernanza de IA.
Marco de Preparación de AGI — Lideró el trabajo interno de OpenAI sobre el marco de «niveles de IA» y sobre la evaluación estructurada tanto de la preparación organizativa como social para una IA cada vez más capaz — influyendo en cómo la comunidad de IA de frontera discute los hitos de capacidad.

Cargos institucionales y reconocimiento

Institute for Progress — Senior Fellow no residente; se centra en la aceleración gubernamental de la IA beneficiosa y la resiliencia social.
Center for a New American Security (CNAS) — Miembro, Foro de Gobernanza de IA.
Institute for Advanced Study (IAS), Princeton — Miembro, Grupo de Trabajo de Política y Gobernanza de IA.
Epoch AI — Asesor; refleja su interés en la evaluación cuantitativa rigurosa de las tendencias del progreso de la IA.
RAND Corporation — Asesor; refleja su compromiso con las dimensiones de seguridad nacional de la gobernanza de la IA.
Junta de Ética de Axon (2018–2022) — Miembro hasta la renuncia colectiva por la propuesta del dron Taser.
Apoyo a la investigación de posgrado de la NSF — Investigación financiada por la Fundación Nacional de Ciencias, el Centro de Políticas Bipartidista y el Instituto para el Futuro de la Vida durante el doctorado.

Relaciones clave

David Guston — Asesor de doctorado en la Universidad Estatal de Arizona; destacado académico en innovación responsable y gobernanza anticipatoria; el marco teórico que Guston desarrolló para pensar sobre la gobernanza de tecnologías emergentes da forma al enfoque de Brundage hacia la política de IA.
Joanna Bryson — Miembro del comité de doctorado y colaboradora de larga data; el trabajo de Bryson sobre ética y gobernanza de la IA ha sido un punto de referencia intelectual continuo.
Dario Amodei — Coautor del informe «El uso malicioso de la IA»; ahora CEO de Anthropic; el trabajo de Brundage en 2018 con Amodei en el FHI/OpenAI representa una intersección temprana de los investigadores centrados en la seguridad que luego divergirían entre OpenAI y Anthropic.
Jack Clark — Coautor del informe de 2018 sobre uso malicioso; más tarde cofundó Anthropic con Amodei; otro colaborador temprano de la comunidad de seguridad de Oxford/OpenAI.
Sam Altman — Reconocido en el artículo de salida de Brundage; CEO de OpenAI durante la etapa de Brundage; agradecido por Brundage por «confiar en mí con responsabilidades crecientes».
Helen Toner — Coautora del informe de 2018; más tarde miembro polémico de la junta directiva de OpenAI durante la crisis de noviembre de 2023; compartió un interés temprano en la gobernanza de la IA desde la red del FHI.

Estilo personal

Brundage es uno de los profesionales más transparentes intelectualmente en la política de IA: su artículo de salida de OpenAI se extendió a varios miles de palabras de autoanálisis, distinguiendo entre sus razones para irse en un orden cuidadoso y señalando explícitamente las formas en que su propia independencia podría ser cuestionada. Esta reflexividad — sobre el sesgo, sobre los intereses institucionales, sobre la diferencia entre investigación y defensa — es consistente con su formación académica en estudios de ciencia y tecnología, que está orientada a examinar las condiciones bajo las cuales se hacen las afirmaciones de conocimiento en lugar de solo las afirmaciones en sí mismas. Su compromiso público tiene un doble registro distintivo: en cuestiones de política técnica (gobernanza de la computación, marcos de auditoría, regulación de la IA de frontera) publica argumentos estructurados de estilo académico; en cuestiones más amplias del progreso y la urgencia de la IA escribe de forma más personal y está dispuesto a hacer afirmaciones contundentes sobre la insuficiencia de la gobernanza actual. El perfil de Digg vibe lo captura bien: «Informar» y «Humorístico» están aproximadamente empatados en la parte superior, seguidos de cerca por «Enseñar» y «Provocativo» — un investigador que se toma su tema en serio sin tomarse demasiado en serio a sí mismo.