Andrej Karpathy

维基
, , , ,
1

斯洛伐克-加拿大人工智能研究员、教育家暨开源构建者；OpenAI 创始成员、前特斯拉人工智能总监、Eureka Labs 创始人、Anthropic 技术团队成员。

基本信息

领域 详情
全名 Andrej Karpathy
出生 1986年10月23日，捷克斯洛伐克（今斯洛伐克）布拉迪斯拉发
国籍 斯洛伐克-加拿大
现任机构 Anthropic
研究领域 深度学习、计算机视觉、自然语言处理、大语言模型预训练
博士导师 李飞飞
博士论文 连接图像与自然语言（斯坦福大学，2016年）
个人网站 karpathy.ai
X / Twitter @karpathy
GitHub github.com/karpathy
Google Scholar scholar.google.com/citations?user=l8WuQJgAAAAJ

简介

Andrej Karpathy 是一位斯洛伐克-加拿大裔的人工智能研究者和教育家，被公认为现代深度学习领域最具影响力的人物之一。他是 OpenAI 创始成员，后担任特斯拉人工智能总监，负责支撑 Autopilot 和全自动驾驶系统的计算机视觉架构。他设计了斯坦福大学第一门深度学习课程 CS 231n，该课程后来成为该校选课人数最多的课程之一，并成为全球参考课程。2026 年 5 月，他加入 Anthropic 担任技术团队成员，专注于预训练研究，负责组建一个利用 Claude 加速大规模训练科学研究的团队。除了研究角色，Karpathy 还是 YouTube 上关注度最高的人工智能教育者之一，并创造了「氛围编程」（vibe coding）这一术语，被柯林斯词典选为年度词汇。

早年生活与教育

童年与移居加拿大

Karpathy 于 1986 年 10 月 23 日出生于捷克斯洛伐克（今斯洛伐克）的布拉迪斯拉发。15 岁时，全家移居加拿大安大略省多伦多市，他在那里完成了中学教育。甚至在大学之前，他就对计算和竞赛类爱好产生了浓厚兴趣：从 2006 年开始，他以用户名 badmephisto 在 YouTube 上发布魔方速拧教程，累计观看次数超过 900 万，并影响了包括世界纪录保持者 Feliks Zemdegs 在内的众多知名速拧玩家。

多伦多大学（2005—2009）

2009 年，Karpathy 在多伦多大学获得计算机科学和物理学双主修理学学士学位，并辅修数学。在此期间，他通过参加 Geoffrey Hinton 的讲座和阅读小组首次接触到深度学习，他称这段经历奠定了他研究轨迹的基础。

不列颠哥伦比亚大学（2009—2011）

他在不列颠哥伦比亚大学攻读理学硕士学位，导师为 Michiel van de Panne，研究方向为物理模拟角色的学习控制器——实际上是将机器学习应用于敏捷角色动画和仿真机器人领域。这项研究包括一篇 2011 年 SIGGRAPH 合著论文，内容涉及模拟四足动物的运动技能。

斯坦福大学博士（2011—2015）

Karpathy 加入斯坦福大学视觉实验室，在李飞飞的指导下攻读博士学位，于 2015 年毕业（论文于 2016 年正式提交）。他的博士论文《连接图像与自然语言》探讨了卷积和循环神经网络在图像描述生成和视觉-语义对齐等任务中的结合使用。在读博期间，他完成了三次研究实习：在 Google Brain（2011 年，视频无监督学习）、Google Research（2013 年，YouTube 大规模监督学习）和 DeepMind（2015 年，与 Koray Kavukcuoglu 和 Vlad Mnih 合作深度强化学习）。他还设计并教授了斯坦福大学首门深度学习课程 CS 231n：用于视觉识别的卷积神经网络，2015 年有 150 名学生注册，到 2017 年增长至 750 人。

职业经历

OpenAI —— 创始研究员（2015—2017）

Karpathy 是 2015 年 12 月 OpenAI 公开亮相时名列其中的创始研究员之一，加入了这家非营利组织的创始团队。在此期间，他的工作集中在深度学习和计算机视觉领域。2017 年年中，他被特斯拉直接挖走，离开了 OpenAI。

特斯拉 —— 人工智能总监（2017—2022）

2017 年 6 月，Karpathy 成为特斯拉的人工智能和 Autopilot 视觉总监，直接向埃隆·马斯克汇报。在此职位上，他领导了特斯拉 Autopilot 和全自动驾驶（FSD）的完整计算机视觉架构：包括内部数据标注流水线、神经网络训练以及在其定制推理芯片上的部署。他在 2019 年特斯拉自动驾驶日演讲和 2021 年特斯拉 AI 日演讲中公开介绍了该团队的架构。他还短暂负责了特斯拉 Optimus 人形机器人的早期工作，之后离职。经过数月休假后，他于 2022 年 7 月宣布辞职。

独立时期 —— YouTube 与开源（2022—2023）

在离开特斯拉到重返 OpenAI 之间，Karpathy 发布了一系列极具影响力的开源项目和教学类 YouTube 视频。这段时期产生了 nanoGPT（GitHub 超 5.4 万星标）——一个最小的 GPT 训练框架；llm.c（超 2.9 万星标）——一个纯 C/CUDA 实现的 LLM 训练代码；以及「神经网络：从零到英雄」视频系列——一个从基本原理逐步构建神经网络的课程。这些材料被全球大学课程和自学项目广泛采用。

OpenAI —— 回归（2023—2024）

2023 年 2 月 9 日，Karpathy 宣布重返 OpenAI，加入负责中间训练和合成数据生成的团队。他于 2024 年 2 月 13 日再次离职，OpenAI 发言人确认了这一变动。在第二次任职期间，他在 Microsoft Build 2023 大会上发表了广为传播的演讲《GPT 的现状》。

Eureka Labs —— 创始人（2024—2026）

2024 年 7 月 16 日，Karpathy 宣布创办 Eureka Labs，一家 AI 原生的教育公司。核心理念是将人类教师与能够大规模个性化教学的 AI 助教相结合。公司旗舰产品是 LLM101n：让我们构建一个故事生成器——一门指导学生端到端构建大语言模型的课程。2025 年 2 月，他创造了「氛围编程」一词来描述一种编程工作流程，即开发者通过自然语言提示完全将代码生成委托给 AI 模型；柯林斯词典将其评为 2025 年度词汇。

Anthropic —— 技术团队成员（2026 年至今）

2026 年 5 月 19 日，Karpathy 宣布加入 Anthropic，担任技术团队成员。他在团队负责人 Nick Joseph 领导的预训练团队工作，负责组建一个新的研究小组，专注于利用 Claude 加速预训练本身的科学——这是一种 AI 辅助研究形式，旨在使未来的模型训练更高效、更自动化。

主要贡献

  • CS 231n：用于视觉识别的卷积神经网络 —— 于 2015 年设计并教授了斯坦福大学第一门专门的深度学习课程；该课程成为该校最大的课程之一（三年内从 150 人增至 750 人），其免费提供的讲座视频和教材仍是全球从业者的主要入门资源。

  • 「生成图像描述的深度视觉-语义对齐」（CVPR 2015，口头报告） —— 视觉-语言建模的早期里程碑，使用多模态循环神经网络联合对齐图像区域与句子片段。

  • 「循环神经网络不可思议的有效性」（博客文章，2015 年） —— 一篇广为阅读的字符级语言模型演示文章，成为一代从业者序列建模的经典入门读物之一。

  • char-rnn —— 一个早期的 Lua/Torch 开源字符级语言模型，在 Transformer 时代之前普及了序列模型的动手实验。

  • 特斯拉 Autopilot 视觉架构 —— 领导特斯拉 Autopilot 感知系统的端到端重新设计，从雷达与地图融合转向基于纯视觉、以数据为中心的方法，并在定制芯片上大规模部署。

  • 「软件 2.0」（Medium，2017 年） —— 一篇将神经网络定义为一种新编程范式的文章，其中模型权重取代了手写代码，在产业结构性转变的讨论中被广泛引用。

  • nanoGPT —— 一个最小化、可破解的 GPT 训练仓库（GitHub 超 5.4 万星标），使没有大量计算预算的研究人员和学生也能复现 GPT 类模型。

  • llm.c —— 一个用 C/CUDA 从头实现的 LLM 训练代码（超 2.9 万星标），在没有框架抽象的情况下展示了完整算法。

  • micrograd —— 一个 100 行标量值自动求导引擎，具有类似于 PyTorch 的 API（超 1.5 万星标），被广泛用作反向传播的教学工具。

  • 「从零到英雄」YouTube 系列 —— 一个免费且技术严谨的视频课程，从基本原理开始构建神经网络和语言模型；是在线最受关注的 AI 技术教育内容之一。

  • 「深入探讨 ChatGPT 等大语言模型」（YouTube，2024 年） —— 面向普通受众的关于大语言模型内部机制的讲座，吸引了机器学习社区之外的广泛观众。

  • 氛围编程（Vibe coding） —— 于 2025 年 2 月创造，用于描述通过自然语言提示将编程委托给 AI；该术语被业界广泛采纳，并被柯林斯词典评为 2025 年度词汇。

  • arxiv-sanity —— 一个用于按相关性和相似度过滤和发现 arXiv 预印本的网络应用程序，被许多研究人员用来管理机器学习出版物的大量内容。

奖项与认可

  • MIT Technology Review 35 岁以下创新者（2020 年） —— 因领导特斯拉 AI 和 Autopilot 视觉团队而受到认可。

  • TIME 100 位人工智能领域最具影响力人物（2024 年） —— 入选《时代》杂志首届人工智能领域最具影响力的 100 人名单。

  • 柯林斯词典年度词汇——「氛围编程」（2025 年） —— 由 Karpathy 于 2025 年 2 月创造的术语；柯林斯词典将其选为当年最具代表性的新词。

主要关系

  • 李飞飞 —— 斯坦福大学视觉实验室的博士导师；多篇基础性视觉-语言论文的合著者，包括 CVPR 2015 图像描述生成工作。

  • Geoffrey Hinton —— 本科期间的启发者；Karpathy 将参加多伦多大学 Hinton 阅读小组的经历视为自己对深度学习兴趣的起源。

  • Michiel van de Panne —— 不列颠哥伦比亚大学的硕士导师；引导 Karpathy 接触物理模拟和运动控制的强化学习。

  • 埃隆·马斯克 —— 在担任特斯拉人工智能总监的五年期间直接向其汇报；马斯克在 2022 年公开确认了 Karpathy 的离职。

  • Sam Altman / OpenAI 领导层 —— 在 OpenAI 的两个任职阶段（2015—2017 年、2023—2024 年）在其领导下工作；Karpathy 是创始团队成员之一。

  • Justin Johnson —— 斯坦福大学的博士同事和频繁合作者；合著了 DenseCap 和《理解与可视化循环网络》论文；共同主持 Clubhouse 上的深度学习阅读小组。

  • Andrew Ng —— 斯坦福大学的同事，与 Daphne Koller、Sebastian Thrun 和 Vladlen Koltun 一起塑造了 Karpathy 的博士环境；后来在讨论 AI 教育时引用了 Karpathy。

  • Nick Joseph —— 当前在 Anthropic 的团队负责人，负责管理 Karpathy 所在的预训练部门。

个人风格

Karpathy 兼具对极简与清晰性的强烈偏好以及教学本能：他最有影响力的开源项目有意剥离框架抽象以暴露底层算法，这种理念在 micrograd 和 llm.c 等仓库中得到了明确阐述。他的公开写作和讲座更倾向于具体、可运行的示例而非理论阐述，并且他始终优先考虑让没有专用硬件的人也能接触到前沿概念。在社交媒体上，他的帖子在技术观察、概念创造（氛围编程、tokenmaxxing）以及对领域发展速度和方向的坦诚反思之间切换，赋予他一种同时覆盖专业和普通受众的声音。他以知识上的直率和一定程度的戏谑而闻名——他的个人网站完全使用纯 HTML 和 CSS 编写，没有使用任何框架，这本身就是关于技术极简主义的一份宣言。

参考资料