Юго Ларошель

вики
, , , ,
1

Канадский исследователь глубокого обучения и научный директор Mila – Института искусственного интеллекта Квебека, известный за основополагающий вклад в нейронные авторегрессионные модели, шумоподавляющие автоэнкодеры и обучение без примеров (zero-shot learning).

Краткая информация
Родился 1981, Канада
Гражданство Канада
Текущее место работы Mila – Институт искусственного интеллекта Квебека; Монреальский университет (адъюнкт-профессор); Университет Макгилла (адъюнкт-профессор)
Области исследований Глубокое обучение, генеративные модели, обучение представлениям, обучение без примеров
Научный руководитель Йошуа Бенжио
Докторская диссертация Études de techniques d’apprentissage non-supervisé pour l’amélioration de l’entraînement supervisé de modèles connexionnistes (2009)
Личный сайт cs.toronto.edu/~larocheh
X / Twitter @hugo_larochelle
GitHub larocheh

Общие сведения

Гюго Ларошель — канадский учёный в области компьютерных наук, чья докторская и постдокторская работа поставили его в центр монреальской экосистемы глубокого обучения в годы её становления. Его исследования привели к появлению нескольких методов, которые сейчас используются в современных системах искусственного интеллекта, включая шумоподавляющие автоэнкодеры, нейронные авторегрессионные модели распределения и раннюю формализацию обучения без примеров. Проведя десятилетие между академической средой, приобретением стартапа и руководством монреальской лабораторией Google по ИИ, он был назначен научным директором Mila, Института искусственного интеллекта Квебека, в сентябре 2025 года, сменив на этом посту Лорана Шарлена, — фактически заняв ту институциональную должность, которая долгое время ассоциировалась с его собственным научным руководителем Йошуа Бенжио. Он занимает должности адъюнкт-профессора в Монреальском университете и Университете Макгилла, а также является руководителем канадской программы Кафедр ИИ CIFAR.

Ранние годы и образование

Гюго Ларошель родился в 1981 году в Канаде и получил всё своё университетское образование в Монреальском университете. Он получил степень бакалавра по математике и информатике в 2004 году, после чего остался в том же университете для обучения в аспирантуре.

Докторскую степень по информатике он получил в 2009 году под руководством Йошуа Бенжио. Диссертация под названием Études de techniques d’apprentissage non-supervisé pour l’amélioration de l’entraînement supervisé de modèles connexionnistes (Исследование методов обучения без учителя для улучшения обучения с учителем коннекционистских моделей) изучала стратегии предварительного обучения для глубоких сетей в то время, когда эта область ещё не получила широкого признания. Как позже вспоминал Ларошель, ранние работы с искусственными нейронными сетями встречали значительный скептицизм: первая статья, над которой он работал, не вызвала интереса, потому что в ней использовались искусственные нейронные сети — концепция, которая тогда ещё не получила широкого распространения.

С 2009 по 2011 год он проходил постдокторские исследования в Университете Торонто под руководством Джеффри Хинтона — второго из двух деятелей, которых сейчас часто называют «крёстными отцами ИИ» и которые сформировали его раннюю карьеру.

Карьера

Шербрукский университет (2011–2016)

Ларошель поступил на кафедру информатики Шербрукского университета в качестве доцента в 2011 году. В этот период он продолжал активно публиковаться по темам генеративных моделей и обучения представлениям, а также читал лекции, которые позже легли в основу его широко распространённого онлайн-цикла лекций. Именно в это время он начал прикладные работы, которые привели к созданию стартапа.

Whetlab / Twitter (2014–2016)

Во время работы в Шербруке Ларошель стал соучредителем Whetlab вместе с Джаспером Снуком, Кевином Сверски, Райаном П. Адамсом и Алексом Вильчко. Компания сосредоточилась на практических методах байесовской оптимизации для автоматизации подбора гиперпараметров машинного обучения. Whetlab была приобретена Twitter в июне 2015 года. После приобретения Ларошель перешёл в Twitter в качестве научного сотрудника в группу Twitter Cortex.

Google Brain Montreal (2016–2023)

В конце 2016 года Ларошель покинул Twitter, чтобы основать и возглавить новую исследовательскую группу Google Brain в Монреале — первую специализированную лабораторию Google по ИИ в Канаде. Он был приглашён возглавить лабораторию Google по ИИ в Монреале, которая теперь интегрирована в Google DeepMind. Под его руководством лаборатория выросла в один из самых продуктивных исследовательских центров Google, работая в таких областях, как обучение с подкреплением, генеративное моделирование, а также в приложениях для наук об окружающей среде и генерации кода.

Google DeepMind Montreal (2023–2025)

В апреле 2023 года Google Brain объединилась с DeepMind, образовав Google DeepMind. Ларошель работал в качестве ведущего научного сотрудника в объединённой организации Google DeepMind в Монреале до апреля 2025 года.

Mila – Институт искусственного интеллекта Квебека (2025 – настоящее время)

В сентябре 2025 года Mila объявила о назначении Гюго Ларошеля на должность научного директора. Он официально приступил к своим обязанностям 2 сентября, сменив Лорана Шарлена, который исполнял эти обязанности с тех пор, как Йошуа Бенжио перешёл на роль основателя и научного советника Mila. В этом качестве он руководит институтом, который объединяет сообщество из более чем 1500 исследователей и 150 промышленных партнёров. Его заявленное видение делает акцент на междисциплинарных исследованиях, которые он называет «ИИ и x», связывая машинное обучение с такими областями, как экология, здравоохранение и науки об окружающей среде.

Ключевые достижения

  • Шумоподавляющие автоэнкодеры (DAE) — Соавтор фундаментальной статьи на ICML 2008 года и её расширенной версии в JMLR 2010 года с Паскалем Венсаном, Йошуа Бенжио и другими. Эта работа установила реконструкцию повреждённых входных данных как масштабируемую парадигму для обучения осмысленным представлениям на больших объёмах немаркированных данных и остаётся краеугольным камнем в области самообучения с учителем (self-supervised learning).

  • Обучение новым задачам без данных (Zero-Data Learning of New Tasks) — Статья на AAAI 2008 года с Дюмитру Эрханом и Йошуа Бенжио, в которой формализована концепция обобщения на категории, для которых не существует размеченных обучающих примеров. Эта работа ввела ныне стандартную концепцию обучения без примеров, которая лежит в основе многих современных исследований в области трансферного обучения и обучения с несколькими примерами (few-shot learning).

  • Нейронная авторегрессионная оценка распределения (NADE) — Представлена на AISTATS 2011 с Иэном Мюрреем, получив награду Notable Paper Award. NADE предложил вычислительно эффективный и масштабируемый подход к моделированию многомерных распределений, который помог утвердить нейронное авторегрессионное моделирование как практическую парадигму. Благодаря таким моделям, как NADE и MADE, Ларошель помог популяризировать парадигму нейронного авторегрессионного моделирования, которая сейчас повсеместно используется в генеративном ИИ.

  • Жадное послойное обучение глубоких сетей — Соавтор с Йошуа Бенжио и коллегами на NIPS 2007, одна из основополагающих статей, демонстрирующих, что глубокие сети могут эффективно обучаться с помощью послойного обучения без учителя.

  • Исследование стратегий обучения глубоких нейронных сетей — Комплексное эмпирическое исследование 2009 года в JMLR, предоставляющее систематические практические рекомендации по обучению глубоких архитектур, широко цитируемое в последующее десятилетие развития глубокого обучения.

  • Transactions on Machine Learning Research (TMLR) — Ларошель стал соучредителем TMLR вместе с Райей Хадселл и Кёнхёном Чо; журнал был запущен в 2022 году под эгидой Journal of Machine Learning Research. Он занимал пост главного редактора-основателя до конца 2025 года, формируя модель публикации, предназначенную для обеспечения более быстрого и открытого рецензирования для сообщества машинного обучения.

  • Онлайн-курс по нейронным сетям — Создал обширный цикл видеолекций по нейронным сетям и глубокому обучению, основанный на курсах, прочитанных в Шербрукском университете, бесплатно доступный на YouTube и широко используемый учащимися и преподавателями по всему миру.

  • Конференция TechAide — Основал ежегодное мероприятие TechAide, мобилизующее технологическое сообщество Монреаля для сбора средств для Centraide на поддержку деятельности по борьбе с бедностью и социальной изоляцией.

Награды и признание

  • AISTATS Notable Paper Award (2011) — Присуждена статье «The Neural Autoregressive Distribution Estimator» в соавторстве с Иэном Мюрреем.
  • Канадская кафедра ИИ CIFAR — Конкурсная исследовательская кафедра, признающая ведущих исследователей ИИ в Канаде, проводится в рамках программы CIFAR Learning in Machines & Brains.
  • Премия Тьюринга — Прошёл подготовку непосредственно под руководством Йошуа Бенжио (лауреат премии Тьюринга 2018 года) и Джеффри Хинтона (лауреат премии Тьюринга 2018 года), что является необычным академическим опытом, ставящим Ларошеля в центр монреальской школы глубокого обучения.

Ключевые связи

  • Йошуа Бенжио — Научный руководитель докторской диссертации в Монреальском университете; лауреат премии Тьюринга и основатель Mila, чью должность научного директора сейчас занимает Ларошель.
  • Джеффри Хинтон — Научный руководитель постдокторантуры в Университете Торонто; лауреат премии Тьюринга и одна из главных фигур революции глубокого обучения.
  • Паскаль Венсан — Частый соавтор на раннем этапе; соавтор статей по шумоподавляющим автоэнкодерам, ставших вехами в области самообучения с учителем.
  • Иэн Мюррей — Соавтор статьи NADE (AISTATS 2011 Notable Paper); давний соавтор по генеративному моделированию.
  • Джаспер Снук и Кевин Сверски — Соучредители Whetlab; соавторы исследований по байесовской оптимизации гиперпараметров, которые легли в основу стартапа.
  • Райя Хадселл и Кёнхён Чо — Соучредители TMLR; они вместе разработали и запустили журнал как новую модель рецензирования для исследований в области машинного обучения.
  • Аарон Курвилль — Коллега по Mila и давний соавтор исследований в области глубокого обучения и обучения с подкреплением.
  • Лоран Шарлен — Непосредственный предшественник на посту временного научного директора Mila; адъюнкт-профессор HEC Montréal.

Личный стиль

Исследовательский стиль Ларошеля характеризуется тщательной эмпирической строгостью и предпочтением вычислительно эффективных, принципиальных вероятностных моделей перед чисто инженерными подходами — что отражает подготовку в школе Бенжио. В публичных выступлениях он сдержан и коллегиален, редко полемизирует и склонен рассматривать важность академических исследований в области ИИ с точки зрения их способности заниматься вопросами, которые промышленные лаборатории могут недооценивать. С момента вступления в должность научного директора Mila он сформулировал видение, сосредоточенное на междисциплинарном применении — «ИИ и x», — и открыто высказывался о сохраняющейся актуальности открытых, университетских исследований в эпоху крупных корпоративных лабораторий. Как филантроп, он и его жена сделали значительные личные финансовые вложения для финансирования стипендий для аспирантов в области ИИ, применяемого к экологическим проблемам, что отражает последовательное согласование между его заявленными ценностями и профессиональным выбором.

Ссылки