Эндрю Ын

вики
, , , ,
1

Британско-американский исследователь ИИ и педагог; сооснователь Google Brain и Coursera, главный научный сотрудник Baidu и самая влиятельная фигура в массовом обучении ИИ — обучил более восьми миллионов студентов по всему миру.

Основная информация / Профиль

Поле Подробности
Полное имя Эндрю Ян-Так Нг (吳恩達)
Дата рождения 18 апреля 1976 г., Лондон, Англия
Гражданство Британско-американское
Текущие должности Основатель и CEO DeepLearning.AI; управляющий партнёр AI Fund; основатель Landing AI; адъюнкт-профессор Стэнфордского университета; член совета директоров Amazon
Области исследований Машинное обучение, глубокое обучение, обучение с подкреплением, компьютерное зрение, обработка естественного языка, робототехника
Научный руководитель (PhD) Майкл И. Джордан
Диссертация (PhD) Shaping and Policy Search in Reinforcement Learning (UC Berkeley, 2002)
Личный сайт andrewng.org
X / Twitter @AndrewYNg
GitHub github.com/andrewyng
Google Scholar scholar.google.com/citations?user=mG4imMEAAAAJ
Coursera coursera.org/instructor/andrewng
Новостная рассылка The Batch, через deeplearning.ai

Обзор

Эндрю Нг — британско-американский учёный в области компьютерных наук, чья карьера охватывает фундаментальные исследования в области ИИ, крупномасштабное промышленное внедрение и, пожалуй, самые значительные образовательные инициативы в истории ИИ. Будучи профессором Стэнфорда, он руководил Стэнфордской лабораторией ИИ и превратил курс CS229 в самый посещаемый курс университета; как исследователь он стал соавтором статьи о латентном размещении Дирихле, руководил проектом Стэнфордского автономного вертолёта и сыграл ключевую роль в закладке технических основ для Robot Operating System (ROS). В 2011 году он совместно с Джеффом Дином основал Google Brain, и эксперимент проекта с «кошачьим нейроном» — нейронная сеть, научившаяся распознавать кошек на основе неконтролируемого обучения на видео с YouTube, — стал знаковым демонстратором возможностей крупномасштабного глубокого обучения. Будучи главным научным сотрудником Baidu с 2014 по 2017 год, он построил одно из самых передовых в Китае подразделений по исследованиям и разработке продуктов в области ИИ. Впоследствии он основал или стал сооснователем Coursera (свыше 148 миллионов учащихся по состоянию на 2024 год), DeepLearning.AI (более восьми миллионов студентов), Landing AI и AI Fund — стартап-студии, инвестировавшей в десятки компаний в сфере ИИ. Он является одним из самых громких голосов, утверждающих, что нарративы об экзистенциальном риске ИИ преувеличены, а доступ к образованию в области ИИ и технологиям с открытым исходным кодом является наиболее насущной задачей в этой области.

Ранние годы и образование

Детство: Лондон, Гонконг, Сингапур

Нг родился 18 апреля 1976 года в Лондоне. Его отец, Рональд Пол Нг, был гематологом и преподавателем медицинской школы Университетского колледжа Лондона; мать, Тиса Хо, была администратором в сфере искусства на Лондонском кинофестивале. Оба родителя были иммигрантами из Гонконга. Семья вернулась в Гонконг, когда Нг был маленьким, а в 1984 году переехала в Сингапур. Он учился в Raffles Institution, одной из ведущих академических средних школ Сингапура, после чего уехал учиться в университет в США.

Университет Карнеги-Меллона — бакалавриат (1993–1997)

Нг получил степень бакалавра в Университете Карнеги-Меллона с тройной специализацией по информатике, статистике и экономике, окончив его в 1997 году. В период с 1996 по 1998 год он проводил исследования в Bell Labs компании AT&T по обучению с подкреплением, выбору моделей и отбору признаков — раннее систематическое погружение в проблемы, которые впоследствии определили его докторскую диссертацию.

Массачусетский технологический институт (MIT) — магистратура (1997–1998)

В MIT он получил степень магистра наук в области электротехники и компьютерных наук. В этот период он создал первую общедоступную поисковую систему по научным статьям в области машинного обучения с автоматическим индексированием — предшественника CiteSeerX, что свидетельствует о раннем интересе к инфраструктуре, который будет появляться на протяжении всей его карьеры.

Калифорнийский университет в Беркли — PhD (1998–2002)

Нг завершил докторантуру в Калифорнийском университете в Беркли под руководством Майкла И. Джордана, одного из основоположников вероятностного машинного обучения и статистики. Его диссертация Shaping and Policy Search in Reinforcement Learning была посвящена методам обучения, напоминающим учебную программу, для улучшения сходимости агентов обучения с подкреплением и методам формирования вознаграждения. Во время работы над докторской диссертацией он в соавторстве с Дэвидом М. Блеем и Майклом И. Джорданом написал статью, представляющую латентное размещение Дирихле (LDA) — вероятностную тематическую модель, ставшую одной из самых цитируемых работ в машинном обучении и обработке естественного языка.

Карьера

Стэнфордский университет — ассистент и ассоциированный профессор, директор SAIL (2002 – наст. вр.)

Нг поступил в Стэнфорд в качестве ассистента профессора в 2002 году и стал ассоциированным профессором в 2009 году. Он занимал должность директора Стэнфордской лаборатории искусственного интеллекта (SAIL). Его курс CS229: Machine Learning стал самым посещаемым курсом Стэнфорда: в некоторые годы на него записывались более 1000 студентов, а открыто опубликованные конспекты лекций и задач стали основным справочным материалом для специалистов по машинному обучению во всём мире. Исследовательская группа Нга в Стэнфорде выполнила несколько влиятельных работ:

Проект Stanford Autonomous Helicopter (2004–2008) продемонстрировал одни из самых совершенных в мире автономных полётов с выполнением фигур высшего пилотажа, используя обучение с подражанием, чтобы вертолёты учились манёврам, наблюдая за пилотом-экспертом, — работа, повлиявшая на раннюю формулировку имитационного обучения в робототехнике.

Проект STAIR (Stanford Artificial Intelligence Robot) привёл к созданию Robot Operating System (ROS), открытой робототехнической платформы, ставшей доминирующей инфраструктурой для академических и коммерческих исследований в области робототехники во всём мире. Проект получил поддержку Скотта Хассана, который впоследствии основал Willow Garage для продолжения работы.

В 2008 году группа Нга была одной из первых, кто систематически выступал за использование GPU для обучения глубоких нейронных сетей — технически спорная позиция в то время, которая предвосхитила то, что стало стандартной вычислительной парадигмой в этой области.

Он также стал соавтором основополагающих работ по разреженному кодированию, самообучению и многозадачному обучению, а также был научным руководителем нескольких исследователей, ставших крупными фигурами в области ИИ: Яна Гудфеллоу (изобретатель GAN), Питера Аббила (робототехника и обучение с подкреплением, UC Berkeley), Куока В. Ле (Google Brain, исследования больших языковых моделей) и Дэвида Стивенса (автономные транспортные средства). Нг остаётся в Стэнфорде в качестве адъюнкт-профессора.

Google Brain — сооснователь (2011–2012)

В 2011 году, работая в Google X с Джеффом Дином, Грегом Коррадо и Раджем Монгой, Нг стал сооснователем того, что впоследствии стало Google Brain. Проект построил нейронную сеть, обученную на 16 000 ядер CPU с использованием неконтролируемого обучения на десяти миллионах кадров видео с YouTube; без каких-либо размеченных данных или инструкций о концепции кошки сеть развила нейрон, который сильно активировался на изображения кошачьих морд — результат, широко освещавшийся в прессе как свидетельство мощи глубокого обучения. Технология распознавания речи проекта была впоследствии интегрирована в Android, а Google Brain выросла в одну из самых продуктивных исследовательских лабораторий ИИ в мире. Нг покинул проект в 2012 году, чтобы сосредоточиться на Стэнфорде и Coursera.

Coursera — сооснователь (2012–2014)

В октябре 2011 года Нг и его коллеги из Стэнфорда запустили курс машинного обучения CS229a онлайн на собственной платформе; на первый выпуск записалось более 100 000 студентов. В 2012 году на основе этого эксперимента Нг и Дафна Коллер основали Coursera, где Нг стал со-CEO. Coursera стала одной из ведущих в мире платформ массовых открытых онлайн-курсов (MOOC); по состоянию на 2024 год она сообщила о более чем 148 миллионах зарегистрированных учащихся. Собственные курсы Нга — «Машинное обучение», «Нейронные сети и глубокое обучение» и «ИИ для всех» — неизменно входят в число самых популярных предложений платформы. Он отошёл от операционной деятельности Coursera в 2014 году после перехода в Baidu.

Baidu — главный научный сотрудник (2014–2017)

В мае 2014 года Нг присоединился к Baidu в качестве главного научного сотрудника, переехав в Кремниевую долину, чтобы возглавить исследовательское подразделение Baidu по ИИ — это был первый крупный найм американца такого уровня китайской технологической компанией. Он создал несколько исследовательских групп, включая проекты по распознаванию лиц, распознаванию речи и медицинскому ИИ (чат-бот Melody). Он разработал DuerOS — разговорную платформу Baidu на основе ИИ, и помог позиционировать Baidu как ведущую китайскую компанию в дискурсе об ИИ в то время, когда эта область переосмысливалась. Он ушёл в марте 2017 года, сославшись на желание добиться более широкого социального эффекта за пределами стратегических рамок одной компании.

DeepLearning.AI — основатель (2017 – наст. вр.)

В августе 2017 года Нг запустил DeepLearning.AI — специализацию, представленную на Coursera, включающую пять курсов по нейронным сетям, настройке гиперпараметров, структурированию ML-проектов, свёрточным сетям и последовательным моделям. Специализация по глубокому обучению стала одним из самых популярных онлайн-курсов в любой технической дисциплине, превысив отметку в восемь миллионов студентов. Последующие учебные программы DeepLearning.AI охватили MLOps, NLP, TensorFlow и ИИ во благо. Нг также публикует The Batch — еженедельную новостную рассылку об исследованиях и индустрии ИИ, и распространяет Machine Learning Yearning и AI Transformation Playbook в качестве бесплатных практических руководств.

Landing AI — основатель (2017 – наст. вр.)

Landing AI, основанная в 2017 году, фокусируется на помощи промышленным предприятиям во внедрении ИИ — особенно компьютерного зрения и MLOps для контроля качества и обнаружения аномалий в производстве. Компания привлекла 57 миллионов долларов в ходе раунда серии A под руководством McRock Capital в ноябре 2021 года. Её платформа LandingLens позволяет инженерам, не являющимся специалистами по машинному обучению, создавать и развёртывать приложения для компьютерного зрения, что отражает давний аргумент Нга о том, что внедрение ИИ требует инструментов, доступных экспертам в предметной области, а не исследователям машинного обучения.

AI Fund — основатель и управляющий партнёр (2018 – наст. вр.)

В январе 2018 года Нг запустил AI Fund, первоначально с капиталом в 175 миллионов долларов, как специализированную венчурную студию и фонд, который создаёт стартапы с нуля, а не инвестирует в существующие компании. Фонд профинансировал компании в сферах здравоохранения, образования, логистики и финансовых услуг. В октябре 2024 года он сделал свою первую инвестицию в Индии, поддержав платформу медицинского ИИ Jivi. Нг описал модель AI Fund как осознанную попытку применить исследовательские возможности ИИ в вертикалях, где мало глубоких практиков машинного обучения.

Совет директоров Amazon (2024 – наст. вр.)

В апреле 2024 года Amazon объявила о назначении Нга в свой совет директоров, добавив перспективу исследований ИИ в надзор за компанией в момент значительных инвестиций в ИИ в AWS и потребительских продуктах Amazon.

Ключевые достижения

  • Латентное размещение Дирихле (LDA) (JMLR, 2003, с Блеем и Джорданом) — Соавтор одной из двух статей, независимо представивших LDA, генеративную вероятностную тематическую модель, которая остаётся одной из самых цитируемых работ в машинном обучении и анализе текстов.
  • Стэнфордский автономный вертолёт — Разработка алгоритмов обучения с подражанием, позволяющих вертолётам выполнять фигуры высшего пилотажа через имитацию действий пилотов-экспертов; одна из самых совершенных демонстраций автономного полёта своего времени.
  • Robot Operating System (ROS) — Руководство проектом STAIR, техническая инфраструктура которого привела непосредственно к созданию ROS, ныне доминирующей открытой платформы для исследований и коммерческой разработки в робототехнике по всему миру.
  • Продвижение GPU для глубокого обучения (2008) — Один из первых академических учёных, систематически выступавших за обучение на GPU, — позиция, впоследствии подтверждённая как всеобщая вычислительная основа этой области.
  • Сооснование Google Brain и эксперимент с «кошачьим нейроном» (2011–2012) — Соосновал Google Brain и руководил крупномасштабным проектом по неконтролируемому обучению, продемонстрировав, что нейронные сети могут изучать высокоуровневые визуальные концепции на основе немаркированного видео; широко цитируемый знаковый момент для промышленного потенциала глубокого обучения.
  • CS229: Machine Learning — Разработал и преподавал самый посещаемый курс Стэнфорда; опубликованные конспекты, слайды и наборы задач служат основным справочником для самостоятельного изучения ML-практиками по всему миру уже более двух десятилетий.
  • Coursera (сооснована в 2012 году с Дафной Коллер) — Соавтор платформы MOOC, которая сейчас обслуживает более 148 миллионов учащихся и предлагает сертификаты от более чем 300 университетов и компаний.
  • Специализация по глубокому обучению / DeepLearning.AI — Разработал учебную программу, на которую записались более восьми миллионов студентов, что делает её самой широко используемой образовательной программой по глубокому обучению в мире.
  • «ИИ для всех» — Нетехнический курс по грамотности в области ИИ для бизнес-лидеров и широкой публики, отражающий убеждённость Нга в том, что трансформация с помощью ИИ — это в равной степени организационная и техническая задача.
  • «ИИ — это новое электричество» — Концептуальная рамка, которую Нг популяризировал примерно с 2016 года, утверждая, что инфраструктурная роль ИИ в экономике аналогична трансформации каждой отрасли электричеством столетие назад; широко принята в корпоративных и политических дискуссиях.
  • Пропаганда открытого ИИ — Последовательный публичный голос против регуляторных предложений, которые обременяли бы разработку моделей с открытым исходным кодом, выступая против калифорнийского SB 1047 в 2024 году и высказывая мнение, что лицензионные требования для фундаментальных моделей сосредоточили бы возможности ИИ в крупных действующих компаниях.
  • Machine Learning Yearning и AI Transformation Playbook — Бесплатные практические руководства, распространяемые напрямую, переведённые на множество языков и используемые в качестве вводного материала в командах ИИ по всему миру.

Награды и признание

  • Исследовательская стипендия Альфреда П. Слоана (2007)
  • TR35: Инноваторы до 35 лет по версии MIT Technology Review (2008)
  • Премия IJCAI Computers and Thought (2009) — Высшая награда в области ИИ для исследователей младше 35 лет.
  • Time 100: Самые влиятельные люди мира (2013, совместно с Дафной Коллер за Coursera)
  • Fortune 40 до 40 (2013)
  • CNN 10: Мыслители (2013)
  • Fast Company: Самые креативные люди в бизнесе (2014)
  • Молодые глобальные лидеры Всемирного экономического форума (2015)
  • Time 100 AI: Самые влиятельные люди в ИИ (2023)
  • Почётный член Королевского статистического общества (2024)

Ключевые связи

  • Майкл И. Джордан — Научный руководитель докторской диссертации в UC Berkeley; одна из определяющих фигур в статистическом машинном обучении; статья по LDA, написанная в соавторстве с Джорданом, остаётся самой цитируемой академической работой Нга.
  • Джефф Дин — Сооснователь Google Brain; руководил инженерной инфраструктурой проекта «кошачий нейрон» и последующим масштабированием исследований Google в области глубокого обучения.
  • Дафна Коллер — Коллега по Стэнфорду и соосновательница Coursera; они вместе создали платформу MOOC и были совместно названы в числе 100 самых влиятельных людей мира по версии Time в 2013 году.
  • Ян Гудфеллоу — Докторант в Стэнфорде, впоследствии изобретатель GAN; в интервью Mila Гудфеллоу назвал стэнфордский проект Нга по робототехнике и его курсы катализатором своей приверженности исследованиям ИИ.
  • Питер Аббил — Докторант, ставший ведущим исследователем в области робототехники и обучения с подкреплением в UC Berkeley и сооснователем Covariant.
  • Куок В. Ле — Докторант, ушедший в Google Brain и руководивший разработкой моделей seq2seq, word2vec и внёсший вклад в создание больших языковых моделей.
  • Джеффри Хинтон — Интеллектуальный предшественник, чьи читательские группы в Торонто повлияли на многих аспирантов Нга; пропаганда Нга глубокого обучения в пиковые годы Baidu шла параллельно собственному переходу Хинтона из Торнто в Google.
  • Руководство Baidu (Робин Ли) — Под руководством Робина Ли у Нга были ресурсы и полномочия для создания одной из первых крупных промышленных исследовательских программ по ИИ в Китае — необычный уровень организационной поддержки для иностранного учёного.

Личный стиль

Нг — необычайно открытый педагог: в то время как многие исследователи предпочитают общаться через статьи, он последовательно выбирал педагогические структуры — курсы, специализации, новостные рассылки, бесплатные руководства — в качестве основного формата своей продукции, относясь к каждому как к продукту, требующему итераций, а не как к разовому результату. Его публичная позиция по рискам ИИ систематична и последовательна: он является одним из самых заметных критиков формулировок об экзистенциальном риске, утверждая, что опасения по поводу «роботов-убийц» отвлекают от конкретных проблем на рынке труда, которые ИИ создаёт в ближайшей перспективе, и что регуляторные предложения, направленные против моделей ИИ с открытым исходным кодом, нанесут вред исследователям и небольшим компаниям, которые с наибольшей вероятностью создадут полезные приложения. Он описал ИИ как «новое электричество», а доступ к образованию в области ИИ — как фундаментальный вопрос справедливости, и его карьерные решения — от бесплатного распространения курсов до бесплатных руководств и новостной рассылки, охватывающей сотни тысяч подписчиков, — отражают искреннюю приверженность расширению доступа, а не просто стратегию брендинга.

Ссылки