Hugo Larochelle（雨果·拉罗谢尔）

维基
, , , ,
1

加拿大深度学习研究者，Mila – 魁北克人工智能研究所科学总监，以其在神经自回归模型、去噪自编码器和零样本学习方面的奠基性贡献而闻名。

个人简介
出生 1981年，加拿大
国籍 加拿大
现任机构 Mila – 魁北克人工智能研究所；蒙特利尔大学（兼职教授）；麦吉尔大学（兼职教授）
研究领域 深度学习、生成模型、表征学习、零样本学习
博士导师 约书亚·本希奥（Yoshua Bengio）
博士论文 Études de techniques d’apprentissage non-supervisé pour l’amélioration de l’entraînement supervisé de modèles connexionnistes（2009年）
个人网站 cs.toronto.edu/~larocheh
X / Twitter @hugo_larochelle
GitHub larocheh

概述

雨果·拉罗谢尔（Hugo Larochelle）是一位加拿大计算机科学家，其博士及博士后工作使他身处蒙特利尔深度学习生态系统形成期的核心。他的研究催生了多项现已融入现代人工智能系统的技术，包括去噪自编码器、神经自回归分布模型以及零样本学习的早期形式化。在历经十年学术生涯、一家初创公司被收购以及领导谷歌蒙特利尔人工智能实验室后，他于2025年9月被任命为魁北克人工智能研究所Mila的科学总监，接替洛朗·夏尔兰（Laurent Charlin）——实际上是接替了他自己的博士导师约书亚·本希奥长期担任的机构职位。他同时担任蒙特利尔大学和麦吉尔大学的兼职教授，并且是加拿大CIFAR人工智能讲席教授。

早期生活与教育

雨果·拉罗谢尔于1981年出生于加拿大，并在蒙特利尔大学完成了全部大学教育。他于2004年获得数学与计算机科学学士学位，随后在同一机构攻读博士学位。

他于2009年在约书亚·本希奥的指导下获得计算机科学博士学位。论文题为Études de techniques d’apprentissage non-supervisé pour l’amélioration de l’entraînement supervisé de modèles connexionnistes（非监督学习技术在改进连接主义模型监督训练中的应用研究），探讨了在那个领域尚未获得主流认可的时期的深度网络预训练策略。正如拉罗谢尔后来回忆的那样，早期涉及人工神经网络的工作遭到了相当大的怀疑：他参与的第一篇论文因涉及人工神经网络而无人问津，当时这一概念尚未获得太多关注。

2009年至2011年，他在多伦多大学杰弗里·辛顿（Geoffrey Hinton）的指导下完成了博士后研究——这两位现在被广泛称为“人工智能教父”的人物塑造了他的早期职业生涯。

职业生涯

谢布鲁克大学（2011–2016）

拉罗谢尔于2011年加入谢布鲁克大学计算机系担任助理教授。在此期间，他继续在生成模型和表征学习领域发表大量论文，同时教授那些后来成为其广为流传的在线讲座系列基础的课程。也正是在这一时期，他开始从事最终促成一家初创公司成立的应用研究。

Whetlab / Twitter（2014–2016）

在谢布鲁克大学期间，拉罗谢尔与贾斯珀·斯诺克（Jasper Snoek）、凯文·斯韦尔斯基（Kevin Swersky）、瑞安·P·亚当斯（Ryan P. Adams）和亚历克斯·威尔奇科（Alex Wiltschko）共同创立了Whetlab。该公司专注于利用实用的贝叶斯优化技术来自动化机器学习超参数调优。Whetlab于2015年6月被Twitter收购。收购后，拉罗谢尔作为研究科学家加入Twitter Cortex小组。

谷歌大脑蒙特利尔（2016–2023）

2016年底，拉罗谢尔离开Twitter，在蒙特利尔建立并领导一个新的谷歌大脑研究小组——这是谷歌在加拿大的第一个专门的人工智能研究实验室。他受聘领导谷歌在蒙特利尔的人工智能研究实验室，该实验室现已整合到Google DeepMind中。在他的领导下，该实验室成长为谷歌生产力最高的研究前哨之一，研究方向涵盖强化学习、生成建模以及环境科学和代码生成等应用领域。

Google DeepMind蒙特利尔（2023–2025）

2023年4月，谷歌大脑与DeepMind合并，组建了Google DeepMind。拉罗谢尔在蒙特利尔的统一Google DeepMind组织中担任首席科学家至2025年4月。

Mila – 魁北克人工智能研究所（2025年至今）

2025年9月，Mila宣布任命雨果·拉罗谢尔担任科学总监一职。他于9月2日正式就职，接替自约书亚·本希奥转为Mila创始人和科学顾问以来一直担任此职的洛朗·夏尔兰。在此职位上，他领导着一个拥有超过1500名研究人员和150个工业合作伙伴的研究所。他设定的愿景强调跨学科研究，他称之为“AI与x”，将机器学习与生态学、健康和环境科学等领域联系起来。

主要贡献

  • 去噪自编码器（DAE） — 与帕斯卡·文森特（Pascal Vincent）、约书亚·本希奥等人合著了2008年ICML奠基性论文及其2010年JMLR扩展版本。这项工作确立了从大量未标记数据中学习有意义表征的可扩展范式——对损坏输入进行重建，并且至今仍是自监督学习领域的基石参考文献。

  • 新任务的零数据学习 — 2008年与杜米特鲁·埃尔汉（Dumitru Erhan）和约书亚·本希奥合著的AAAI论文，形式化了向不存在任何标记训练样例的类别泛化的概念。这项工作引入了现已标准的零样本学习概念，支撑了大量现代迁移学习和少样本学习研究。

  • 神经自回归分布估计器（NADE） — 与伊恩·默里（Iain Murray）在AISTATS 2011上共同提出，获得显著论文奖。NADE提供了一种可计算且可扩展的多变量分布建模方法，有助于将神经自回归建模确立为一种实用范式。通过NADE和MADE等模型，拉罗谢尔帮助普及了如今在生成式AI中无处不在的神经自回归建模范式。

  • 深度网络的贪婪逐层训练 — 与约书亚·本希奥及同事在NIPS 2007上合著，是证明可以通过逐层无监督预训练有效训练深度网络的开创性论文之一。

  • 探索训练深度神经网络的策略 — 2009年JMLR上的一项全面研究，为训练深度架构提供了系统的经验指导，在随后的深度学习发展十年中被广泛引用。

  • 机器学习研究汇刊（TMLR） — 拉罗谢尔与拉亚·哈德塞尔（Raia Hadsell）和赵京焕（Kyunghyun Cho）共同创立了TMLR；该期刊于2022年在机器学习研究杂志旗下创刊。他曾担任创刊主编至2025年底，塑造了一种旨在为机器学习社区提供更快、更开放的同行评审的出版模式。

  • 神经网络在线课程 — 基于在谢布鲁克大学授课的课程，创建了关于神经网络和深度学习的全套视频讲座系列，并在YouTube上免费提供，被全球的学习者和教育工作者广泛使用。

  • TechAide会议 — 创办了一年一度的TechAide活动，动员蒙特利尔科技社区为Centraide筹款，以支持其消除贫困和社会排斥的使命。

奖项与荣誉

  • AISTATS显著论文奖（2011年） — 授予与伊恩·默里合著的《神经自回归分布估计器》。
  • 加拿大CIFAR人工智能讲席教授 — 一项竞争性研究讲席，表彰加拿大顶尖AI研究人员，与CIFAR机器与大脑学习项目关联。
  • 图灵奖传承 — 直接在约书亚·本希奥（2018年图灵奖得主）和杰弗里·辛顿（2018年图灵奖得主）两位门下受训，这种罕见的学术背景使拉罗谢尔处于蒙特利尔深度学习学派的核心。

主要关系

  • 约书亚·本希奥 — 蒙特利尔大学的博士导师；图灵奖得主、Mila创始人，拉罗谢尔现担任其科学总监一职。
  • 杰弗里·辛顿 — 多伦多大学的博士后导师；图灵奖得主、深度学习革命的主要人物之一。
  • 帕斯卡·文森特 — 早期频繁合作者；成为自监督学习里程碑的关于去噪自编码器的论文的合著者。
  • 伊恩·默里 — NADE论文（AISTATS 2011显著论文）的合著者；在生成建模方面的长期合作者。
  • 贾斯珀·斯诺克与凯文·斯韦尔斯基 — Whetlab的联合创始人；在支撑该初创公司的贝叶斯超参数优化研究方面的合作者。
  • 拉亚·哈德塞尔与赵京焕 — TMLR的联合创始人；三人合作设计并推出了该期刊，作为机器学习研究的一种新同行评审模式。
  • 亚伦·库维尔（Aaron Courville） — Mila同事，深度学习与强化学习研究的长期合作者。
  • 洛朗·夏尔兰 — 作为Mila临时科学总监的直接前任；蒙特利尔高等商学院（HEC Montréal）副教授。

个人风格

拉罗谢尔的研究风格以严谨的实证精神和偏好可处理、有原则的概率模型而非纯粹工程驱动的方法为特点——这种敏锐反映了他师从本希奥学派的训练。在公共话语中，他持重而有学者风范，很少发表争论性言论，并倾向于从追求工业实验室可能降低优先级的问题的能力角度来阐述学术AI研究的重要性。自担任Mila科学总监以来，他阐述了一个以跨学科应用——“AI与x”——为中心的愿景，并直言在一个大型企业实验室时代，开放的、扎根于大学的研究仍然具有重要意义。作为慈善家，他与妻子投入了大量个人财务承诺，用于资助应用于环境问题的AI领域的研究生奖学金，这反映了他的价值观与职业选择之间的一致性。

参考来源