Quanquan Gu

Wiki
, ,
1

Maschineller Lerntheoretiker und KI-Forschungsleiter, der gleichzeitig die Vorhersage von Proteinstrukturen an der Grenze von KI für die Wissenschaft voranbrachte und gemeinsam die LLM-Vortrainings- und Skalierungsbemühungen bei ByteDance Seed leitete.
Geboren ca. 1984, China
Nationalität chinesisch-amerikanisch
Derzeitige Institution(en) University of California, Los Angeles — Department of Computer Science (Associate Professor with Tenure, beurlaubt); ByteDance Research (Research Scientist, Juli 2023–Juni 2026, ausgeschieden)
Forschungsgebiete Nichtkonvexe Optimierung, Deep Learning Theorie, Reinforcement Learning, Large Language Models, KI für die Wissenschaft (Proteindesign & -strukturvorhersage), Diffusionsmodelle
Doktorvater Jiawei Han
Dissertation Online and Active Learning of Big Networks: Theory and Algorithms (University of Illinois at Urbana-Champaign, 2014)
Webseite web.cs.ucla.edu/~qgu
X / Twitter @QuanquanGu
Google Scholar Quanquan Gu

Überblick

Quanquan Gu ist ein chinesisch-amerikanischer Forscher für maschinelles Lernen und tenured Associate Professor für Informatik an der UCLA, bekannt für rigorose theoretische Beiträge zu Deep Learning, nichtkonvexer Optimierung und Reinforcement Learning. Von Juli 2023 bis Juni 2026 hatte er eine gleichzeitige Rolle als Research Scientist bei ByteDance Seed inne, wo er zwei unterschiedliche Forschungsfronten leitete: Zuerst baute er einen der wettbewerbsfähigsten KI-Stacks für Proteinwissenschaften in der Industrie auf, um dann zu wechseln und das Team für LLM-Optimierung und -Skalierung mitzugründen, das die Entwicklung von Seed 2.0 untermauerte. Seine parallele Beherrschung von ML-Theorie, biologischer KI und groß angelegtem Vortraining – Gebiete, die sich bei einem einzelnen Forscher selten überschneiden – hat sowohl in der Wissenschaft als auch in der Industrie anhaltende Aufmerksamkeit erregt. Er verließ ByteDance im Juni 2026 und verabschiedete sich mit den Worten „Das beste Modell kommt noch. Das Skalieren geht weiter“, ohne sein nächstes Ziel preiszugeben.

Frühes Leben & Ausbildung

Gu absolvierte sein Grundstudium an der Tsinghua University mit einem Bachelor of Engineering in Automatisierungstechnik (2003–2007), gefolgt von einem Master of Science in Regelungstechnik und -technik an derselben Institution (2007–2010). Anschließend zog er in die Vereinigten Staaten, um an der University of Illinois at Urbana-Champaign (UIUC) unter der Leitung von Jiawei Han, einem der meistzitierten Forscher in Data Mining und Wissensentdeckung, zu promovieren. Seine Dissertation, Online and Active Learning of Big Networks: Theory and Algorithms, befasste sich mit der Herausforderung des effizienten Lernens aus massiven, sich schnell entwickelnden Informationsnetzwerken, indem sie Algorithmen des Online-Lernens mit aktiven Lernstrategien kombinierte. Er schloss seine Promotion 2014 ab und erhielt während seines Doktoratsstudiums sowohl das UIUC Computer Science Department Fellowship (2010) als auch das IBM PhD Fellowship (2013–2014). Nach seinem Abschluss verbrachte er ein Jahr als Postdoctoral Research Associate in der Abteilung für Operations Research und Financial Engineering an der Princeton University (2014–2015).

Karriere

University of Virginia (2015–2018)

Gu kam als tenure-track Assistant Professor an die UVa, zunächst in der Abteilung für Systems and Information Engineering (2015–2017), mit einer gleichzeitigen Ernennung in der Abteilung für Informatik ab 2016 bis zu seinem Weggang 2018. In dieser Zeit etablierte er seine Forschungsagenda zur nichtkonvexen Optimierung und den theoretischen Grundlagen des Deep Learning und veröffentlichte frühe Arbeiten zu Methoden der stochastischen Varianzreduktion und statistischen Lerntheorie für überparametrisierte Modelle. Während seiner Zeit an der UVa erhielt er den NSF CAREER Award (2017) und den UVa SEAS Research Innovation Award (2017) und sicherte sich mehrere NSF-Zuschüsse zum maschinellen Lernen unter Berücksichtigung von Privatsphäre und hochdimensionalen Daten.

University of California, Los Angeles, Department of Computer Science (2018–heute)

Gu kam im Juli 2018 als tenure-track Assistant Professor an die UCLA, wurde im Juli 2022 zum Associate Professor with Tenure befördert und leitet das UCLA Artificial General Intelligence Lab. Seine Forschungsgruppe hat eine beträchtliche Anzahl von Arbeiten in vier miteinander verbundenen Bereichen hervorgebracht.

Im Bereich Optimierung und Deep-Learning-Theorie leitete das Labor scharfe Generalisierungsgrenzen für den stochastischen Gradientenabstieg in überparametrisierten Netzwerken ab, charakterisierte gutartiges Overfitting in zweischichtigen Convolutional Neural Networks (NeurIPS 2022, Oral) und analysierte die implizite Regularisierung von SGD in einer Reihe von Arbeiten. Der MARS-Optimierer (ICML 2025) führte ein neues Framework zur Varianzreduktion für das Training großer Modelle ein, und Tensor Product Attention (NeurIPS 2025, Spotlight) schlug eine neue Aufmerksamkeitsmechanismus-Architektur vor.

Im Reinforcement Learning stellte die Gruppe nahezu minimax-optimale Ergebnisse zur Stichprobenkomplexität für lineare Markov-Entscheidungsprozesse und lineare Mischungs-MDPs auf (COLT 2021, ICML 2021, ICML 2023) und trug so zu einer rigorosen Theorie des beweisbar effizienten RL mit Funktionsapproximation bei.

Bei der Ausrichtung und Feinabstimmung von Sprachmodellen entwickelte Gu gemeinsam Self-Play Fine-Tuning (SPIN, ICML 2024), eine Methode, die es einem Sprachmodell ermöglicht, sich iterativ zu verbessern, indem es gegen die eigenen Ausgaben der vorherigen Iteration spielt, ohne dass zusätzliche menschliche Annotationen erforderlich sind, und erweiterte das Framework auf Diffusionsmodelle für die Text-zu-Bild-Generierung (NeurIPS 2024). Self-Play Preference Optimization (SPPO, ICLR 2025) verfeinerte dies zu einem prinzipientreuen Ausrichtungsansatz.

In der KI für die Wissenschaft nahmen die an der UCLA durchgeführten Arbeiten zum strukturbasierten Wirkstoffdesign (DecompDiff, ICLR 2024; DecompOpt, ICLR 2024) und zur Modellierung von Proteinkonformationen (ICML 2024) die biologische Forschung im industriellen Maßstab, die Gu später bei ByteDance leiten sollte, direkt vorweg und beeinflussten sie.

Während der COVID-19-Pandemie (2020–2021) entwickelte sein Team das epidemiologische Modell UCLA SuEIR, das von den US-amerikanischen Centers for Disease Control and Prevention für wöchentliche Vorhersagen der kumulierten Todesfälle und Krankenhauseinweisungen verwendet wurde; die Ergebnisse wurden in PNAS (2022, 2023) veröffentlicht.

Gu hatte auch zwei längere Forschungsaufenthalte am Simons Institute for the Theory of Computing: als Research Fellow im Foundations of Deep Learning Summer Program in Berkeley (Mai–August 2019) und als Long-term Participant im Theory of Reinforcement Learning Program (August–Dezember 2020). Darüber hinaus war er ein Short-term Visitor am Institute for Advanced Study in Princeton während des Special Year on Optimization, Statistics, and Theoretical Machine Learning (Oktober–November 2019).

ByteDance Research (Juli 2023–Juni 2026)

Gu kam im Juli 2023 zu ByteDance Research, um die KI-Initiative des Unternehmens für die Wirkstoffforschung zu leiten, und behielt dabei seine beurlaubte UCLA-Fakultätsposition bei. In etwa achtzehn Monaten produzierte sein Team drei bedeutende Ergebnisse in der Computerbiologie.

SeedFold (arXiv: 2512.24354, Dezember 2025) ist ein System zur Vorhersage von Biomolekülstrukturen, das die AlphaFold 3-Architektur entlang dreier Achsen skaliert: Modellbreite, architektonische Effizienz durch lineare trianguläre Aufmerksamkeit und Datenvolumen durch groß angelegte Destillation auf 26,5 Millionen Trainingsproben. Gemessen an FoldBench übertraf SeedFold AlphaFold 3 bei den meisten proteinbezogenen Aufgaben, einschließlich Monomervorhersage, Protein-Protein-Docking, Antikörper-Antigen-Komplexen und Protein-Ligand-Bindung.

SeedProteo (arXiv: 2512.24192, Februar 2026) ist ein diffusionsbasiertes De-novo-Allatom-Proteinbinder-Designsystem, das die SeedFold-Faltungsarchitektur als generatives Framework wiederverwendet und Self-Conditioning-Features integriert, um den Designprozess zu leiten. Bei der unkonditionierten Generierung verarbeitet es Sequenzen von bis zu 1.000 Resten, und bei Binder-Design-Benchmarks übertraf es AlphaProteo, RFDiffusion, Chai-2, BinderCraft und BoltzGen. Die In-vitro-Validierung an PD-L1- und SC2RBD-Zielen bestätigte experimentell exprimierte und bindende Binder.

DPLM / DPLM-2 ist eine Familie von Diffusions-Protein-Sprachmodellen (ICML 2024; ICLR 2025; erweitert in ICML 2025), die die Repräsentationslernens von Proteinen, die unkonditionierte Generierung und die Any-to-Any-konditionierte Generierung – einschließlich Faltung, inverser Faltung und Motiv-Scaffolding – unter einem einzigen diskreten Diffusions-Vortrainingsziel vereinen. DPLM-2 erweitert das Framework, um Sequenz und 3D-Struktur gemeinsam in einem einzigen vortrainierten Backbone zu modellieren.

Anfang 2025, nach den viel beachteten Veröffentlichungen von DeepSeek, die den Wettbewerb um LLMs in China verschärften, wechselte Gu zu ByteDances Spitzenmodell-Initiative und gründete das Team für LLM-Optimierung und -Skalierung innerhalb der Seed-Vortrainingsgruppe. Dieses Team baute einen skalierbaren Vortrainings-Stack von Grund auf und trug direkt zur Entwicklung und Veröffentlichung von Seed 2.0 – ByteDances Flaggschiff-Spitzenmodell – etwa vier Monate vor Gus Weggang bei. ByteDances KI-Assistent Doubao, der die Fähigkeiten von Seed 2.0 integriert, hatte Mitte 2026 etwa 336 Millionen monatlich aktive Nutzer erreicht.

Gu gab seinen Weggang von ByteDance Seed am 3. Juni 2026 bekannt, dankte seinen Kollegen für eine „unglaublich lohnende Reise“ und gab sein nächstes Ziel nicht preis.

Wichtigste Beiträge

  • SeedFold — Das erste industriell eingesetzte System zur Vorhersage von Biomolekülstrukturen, das AlphaFold 3 bei einer breiten Palette von FoldBench-Aufgaben übertrifft, indem es Architekturskalierung, lineare Aufmerksamkeit und groß angelegte Datendestillation auf 26,5 Millionen Proben kombiniert.
  • SeedProteo — Hochmodernes De-novo-Allatom-Proteinbinder-Designmodell, das in In-silico-Benchmarks alle wichtigen Open-Source-Konkurrenten übertrifft, mit experimenteller In-vitro-Validierung; öffentlich bereitgestellt unter seedfold.io.
  • DPLM-Serie — Eine Familie von Diffusions-Protein-Sprachmodellen (ICML 2024, ICLR 2025), die Repräsentationslernen und konditionierte/unkonditionierte Generierung vereinen; DPLM-2 modelliert Sequenz und 3D-Struktur gemeinsam in einem einzigen vortrainierten Backbone.
  • Seed 2.0 Vortrainings-Stack — Gemeinsame Leitung des LLM-Optimierungs- und Skalierungsteams, das ByteDances skalierbare Spitzen-Vortrainingsinfrastruktur aufbaute, die direkt Seed 2.0 und nachfolgende Modelle antrieb.
  • Self-Play Fine-Tuning (SPIN) — Ein Framework zur Selbstverbesserung von Sprachmodellen (ICML 2024), das iterative Verbesserung ohne zusätzliche menschliche Annotation ermöglicht; erweitert auf Diffusionsmodelle (NeurIPS 2024) und Präferenzoptimierung (SPPO, ICLR 2025).
  • Theorie des gutartigen Overfittings — Eine Reihe von Arbeiten, die charakterisieren, wann überparametrisierte, durch SGD trainierte neuronale Netze trotz Interpolation von Trainingsdaten generalisieren (NeurIPS 2022 Oral; COLT 2021; JMLR 2024), und damit ein weit verbreitetes empirisches Phänomen im modernen Deep Learning rigoros untermauern.
  • Beweisbar effizientes Reinforcement Learning — Ermittlung nahezu minimax-optimaler Schranken für die Stichprobenkomplexität linearer MDPs und linearer Mischungs-MDPs (COLT 2021, ICML 2021, ICML 2023), wodurch RL-Algorithmen auf eine solide theoretische Grundlage gestellt wurden.
  • UCLA SuEIR-Modell — COVID-19-epidemiologisches Modell, das vom CDC für nationale Vorhersagen von Todesfällen und Krankenhauseinweisungen verwendet wurde (2020–2021), mit Ergebnissen, die zu zwei PNAS-Publikationen beitrugen (2022, 2023).
  • EurekaClaw — Ein lokaler KI-Forschungsagent (eurekaclaw.ai), der die Pipeline von der Ideenfindung über den Beweis und das Experiment bis hin zur Papiergenerierung automatisiert und damit Gus umfassendere Vision einer KI-gestützten wissenschaftlichen Entdeckung verkörpert.

Auszeichnungen & Anerkennungen

  • WSDM Test of Time Paper Award (2024) — Würdigung der langfristigen Auswirkungen früherer Forschungen zu Informationsnetzwerken und Lernen.
  • Alfred P. Sloan Research Fellowship (2022) — Verliehen von der Alfred P. Sloan Foundation für herausragende frühe Karrierebeiträge zum maschinellen Lernen und zur KI.
  • JP Morgan Faculty Research Award (2022) — Unternehmensanerkennung der Auswirkungen angewandter ML-Forschung.
  • AWS Machine Learning Research Award (2020) — Auszeichnung von Amazon Web Services für Beiträge zur maschinellen Lernforschung.
  • IJCAI Early Career Talk (2020) — Auswahl, um einen eingeladenen Vortrag zu Beginn der Karriere auf der International Joint Conference on Artificial Intelligence zu halten.
  • Simons Berkeley Research Fellowship (2019) — Fellowship am Simons Institute for the Theory of Computing, Foundations of Deep Learning Summer Program.
  • Adobe Data Science Research Award (2018) und Salesforce Deep Learning Research Award (2018) — Doppelte Branchenanerkennung im selben Jahr.
  • NSF CAREER Award (2017) — Die wichtigste Auszeichnung für den frühen Karriereverlauf der US-amerikanischen National Science Foundation, die sein Forschungsprogramm zur nichtkonvexen statistischen Optimierung unterstützte.
  • UVa SEAS Research Innovation Award (2017) — Anerkennung von Forschungsinnovationen durch die School of Engineering der University of Virginia.
  • Yahoo! Academic Career Enhancement Award (2015) — Verliehen zu Beginn seiner akademischen Laufbahn.
  • IBM PhD Fellowship (2013–2014) — Wettbewerbsfähiges IBM-Stipendium zur Unterstützung der Doktoratsforschung.
  • Best Master Thesis Award, Tsinghua University (2010) — Fachbereichsinterne Anerkennung für herausragende Masterarbeit.
  • UIUC Computer Science Department Fellowship (2010) — Stipendium zur Unterstützung des Eintritts in das Doktoratsprogramm an der UIUC.

Wichtige Beziehungen

  • Jiawei Han — Doktorvater an der UIUC; eine der einflussreichsten Persönlichkeiten im Data Mining, dessen Arbeiten zur Wissensentdeckung aus Netzwerken Gus Dissertation und frühe Forschungsagenda direkt geprägt haben.
  • Zaixiang Zheng — Hauptkollaborateur bei ByteDance Seed; Projektleiter für DPLM, DPLM-2, SeedProteo und verwandte Proteinmodellierungssysteme.
  • Xinyou Wang — Hauptkoautor der DPLM- und DPLM-2-Papiere (ICML 2024, ICLR 2025), maßgeblich am Aufbau der Protein-Sprachmodell-Serie beteiligt.
  • Huizhuo Yuan — Häufiger Koautor sowohl bei Arbeiten an der UCLA (MARS-Optimierer, SPPO) als auch bei ByteDance; eine Schlüsselfigur in Gus Forschungsstrang zu LLMs und Optimierung.
  • Dongruo Zhou — Produktiver Koautor zur Theorie des Reinforcement Learnings (mehrere ICML- und NeurIPS-Papiere) und zur nichtkonvexen Optimierung; heute unabhängiger Forscher.
  • Difan Zou — Koautor einer Reihe einflussreicher Arbeiten, die die implizite Regularisierung von SGD und gutartiges Overfitting in überparametrisierten Modellen analysieren.
  • Zixiang Chen — Koautor zur Deep-Learning-Theorie und zur Self-Play Fine-Tuning-Arbeitslinie (SPIN, ICML 2024).

Persönlicher Stil

Gu ist unter ML-Forschern ungewöhnlich, da er in der Wissenschaft hochproduktive, rigorose theoretische Arbeit aufrechterhält und gleichzeitig angewandte Technik an der Grenze der industriellen KI vorantreibt – eine Arbeitsweise, die typischerweise Kompromisse erfordert, denen er sich offenbar widersetzt hat. Sein Forschungsstil ist in beiden Umgebungen durch eine Vorliebe für minimax-optimale statistische Garantien anstelle von heuristischen Leistungsverbesserungen gekennzeichnet, selbst in praktisch motivierten Kontexten. Öffentlich hat er sich lautstark für die Auffassung eingesetzt, dass KI nicht nur ein Werkzeug für die Forschung ist, sondern die Forschungspipeline selbst aktiv umstrukturiert – sein EurekaClaw-Projekt und Kommentare auf X spiegeln die Überzeugung wider, dass „systemische Entdeckung“, bei der Menschen, Modelle und Werkzeuge gemeinsam evolvieren, bereits im Gange ist. Sein Weggang von ByteDance mit der knappen Verabschiedung „Das beste Modell kommt noch. Das Skalieren geht weiter“ wurde weithin als Absichtserklärung und nicht als Rückblick gelesen.

Referenzen