Andrej Karpathy

위키
, , , ,
1

슬로바키아계 캐나다인 AI 연구원, 교육자, 오픈소스 개발자; OpenAI 공동 창립 멤버, 전 테슬라 AI 디렉터, 유레카 랩스(Eureka Labs) 창립자, 앤트로픽(Anthropic) 기술 스태프.

기본 정보 / 프로필

항목 내용
전체 이름 안드레이 카파시(Andrej Karpathy)
출생 1986년 10월 23일, 체코슬로바키아(현 슬로바키아) 브라티슬라바
국적 슬로바키아계 캐나다인
현 소속 기관 앤트로픽(Anthropic)
연구 분야 딥러닝, 컴퓨터 비전, 자연어 처리, 대규모 언어 모델 사전 학습
박사 지도교수 페이페이 리(Fei-Fei Li)
박사 학위 논문 Connecting Images and Natural Language(스탠퍼드 대학교, 2016)
개인 웹사이트 karpathy.ai
X / 트위터 @karpathy
깃허브 github.com/karpathy
구글 스콜라 scholar.google.com/citations?user=l8WuQJgAAAAJ

개요

안드레이 카파시는 슬로바키아계 캐나다인 AI 연구원이자 교육자로, 현대 딥러닝에서 가장 영향력 있는 인물 중 한 명으로 널리 인정받고 있다. OpenAI의 공동 창립 멤버였으며, 이후 테슬라의 AI 디렉터를 역임하며 오토파일럿(Autopilot) 및 완전 자율 주행(FSD) 프로그램의 기반이 되는 컴퓨터 비전 시스템을 총괄했다. 그는 스탠퍼드 최초의 딥러닝 강좌인 CS 231n을 설계했으며, 이 강좌는 스탠퍼드에서 가장 수강생이 많은 과목 중 하나로 성장하여 전 세계적으로 참고할 만한 커리큘럼이 되었다. 2026년 5월, 그는 앤트로픽에 기술 스태프로 합류하여 사전 학습(pre-training) 연구에 집중하고, 클로드(Claude)를 활용해 대규모 훈련 실행 과학을 가속화하는 팀을 구축하는 임무를 맡고 있다. 연구 역할 외에도 카파시는 유튜브에서 가장 많은 구독자를 보유한 AI 교육자 중 한 명이며, vibe coding이라는 용어를 만든 장본인으로, 콜린스 사전(Collins Dictionary)이 이 용어를 올해의 단어로 선정했다.

초기 생애 및 교육

유년 시절과 캐나다 이주

카파시는 1986년 10월 23일, 당시 체코슬로바키아(현 슬로바키아)의 일부였던 브라티슬라바에서 태어났다. 15세 때 가족과 함께 캐나다 토론토로 이주하여 중등 교육을 마쳤다. 대학에 입학하기 전부터 그는 계산과 경쟁적인 취미에 관심을 갖게 되었다. 2006년부터 badmephisto라는 이름으로 유튜브 채널을 운영하며 루빅스 큐브 스피드 솔빙 튜토리얼을 게시했고, 이 동영상들은 900만 회 이상의 조회수를 기록하며 세계 기록 보유자인 펠릭스 젬덱스(Feliks Zemdegs)를 포함한 저명한 스피드큐버들에게 영향을 미쳤다.

토론토 대학교 (2005~2009)

카파시는 2009년 토론토 대학교에서 컴퓨터 과학과 물리학을 복수 전공하고 수학을 부전공으로 하여 이학사 학위를 취득했다. 이 기간 동안 그는 제프리 힌튼(Geoffrey Hinton)의 강의와 독서 모임에 참석하여 처음으로 딥러닝을 접했으며, 이 경험을 자신의 연구 경로의 기초가 되었다고 언급한다.

브리티시 컬럼비아 대학교 (2009~2011)

그는 브리티시 컬럼비아 대학교에서 미힐 반 데 판(Michiel van de Panne)의 지도 아래 석사 학위를 취득했으며, 물리적으로 시뮬레이션된 캐릭터를 위한 학습 제어기에 초점을 맞추었다. 즉, 기계 학습을 민첩한 캐릭터 애니메이션과 시뮬레이션 로봇 공학에 적용하는 것이었다. 이 연구에는 시뮬레이션된 사족 보행 동물을 위한 보행 기술에 관한 SIGGRAPH 2011 공동 저술 논문이 포함된다.

스탠퍼드 대학교 박사 과정 (2011~2015)

카파시는 페이페이 리 밑에서 박사 학위를 위해 스탠퍼드 비전 랩(Stanford Vision Lab)에 합류하여 2015년에 학위를 마쳤다(논문은 공식적으로 2016년에 제출됨). 그의 논문인 Connecting Images and Natural Language는 이미지 캡셔닝 및 시각-의미론적 정렬과 같은 작업을 위한 합성곱 신경망과 순환 신경망의 교차점을 탐구했다. 박사 과정 동안 그는 구글 브레인(2011, 비디오로부터의 비지도 학습), 구글 리서치(2013, 유튜브에서의 대규모 지도 학습), 딥마인드(2015, 코레이 카부크추올루 및 블라드 므니흐와의 심층 강화 학습)에서 세 번의 연구 인턴십을 완료했다. 또한 그는 스탠퍼드의 첫 딥러닝 강좌인 CS 231n: Convolutional Neural Networks for Visual Recognition을 설계하고 가르쳤으며, 이 강좌는 2015년에 150명의 학생이 등록했고 2017년에는 750명으로 증가했다.

경력

OpenAI — 창립 연구원 (2015~2017)

카파시는 2015년 12월 OpenAI가 공개적으로 소개되었을 때 지명된 원래 연구 과학자 중 한 명으로, 비영리 단체의 창립 팀의 일원으로 합류했다. 이 기간 동안 그의 작업은 딥러닝과 컴퓨터 비전에 중점을 두었다. 테슬라가 그를 직접 스카우트한 2017년 중반에 그는 OpenAI를 떠났다.

테슬라 — AI 디렉터 (2017~2022)

2017년 6월, 카파시는 테슬라의 인공 지능 및 오토파일럿 비전 디렉터가 되어 일론 머스크에게 보고했다. 이 역할에서 그는 테슬라 오토파일럿 및 완전 자율 주행(FSD)을 위한 전체 컴퓨터 비전 스택(사내 데이터 레이블링 파이프라인, 신경망 훈련, 테슬라 맞춤형 추론 칩에 배포)을 이끌었다. 그는 2019년 테슬라 오토노미 데이(Tesla Autonomy Day)와 2021년 테슬라 AI 데이(Tesla AI Day)에서 팀의 아키텍처를 공개적으로 발표했다. 그는 잠시 테슬라 옵티머스 휴머노이드 로봇에 대한 초기 작업도 감독하다가 떠났다. 몇 달 간의 안식 기간 후, 2022년 7월에 사임을 발표했다.

독립 활동 — 유튜브 및 오픈소스 (2022~2023)

테슬라를 떠나 OpenAI에 재합류하기 사이에, 카파시는 매우 영향력 있는 일련의 오픈소스 프로젝트와 교육용 유튜브 강의를 공개했다. 이 기간 동안 nanoGPT(GitHub 별 54,000개 이상), 최소 GPT 훈련 프레임워크; llm.c(별 29,000개 이상), 순수 C/CUDA로 구현된 LLM 훈련; 그리고 첫 원리부터 신경망을 구축하는 단계별 커리큘럼인 「Neural Networks: Zero to Hero」 동영상 시리즈가 탄생했다. 이러한 자료들은 전 세계 대학 강좌와 독학 프로그램에서 널리 채택되었다.

OpenAI — 복귀 (2023~2024)

2023년 2월 9일, 카파시는 OpenAI로 복귀한다고 발표했으며, 중간 훈련(mid-training) 및 합성 데이터 생성에 중점을 둔 팀에 합류했다. 그는 2024년 2월 13일에 다시 떠났으며, OpenAI 대변인이 이 이적을 확인했다. 이 두 번째 재직 기간 동안 그는 마이크로소프트 빌드 2023(Microsoft Build 2023)에서 널리 공유된 강연 「State of GPT」를 발표했다.

유레카 랩스 — 창립자 (2024~2026)

2024년 7월 16일, 카파시는 AI 기반 교육 회사인 유레카 랩스(Eureka Labs)의 창립을 발표했다. 핵심 개념은 인간 강사와 대규모로 개인 맞춤형 교육을 제공할 수 있는 AI 조교를 짝짓는 것이었다. 회사의 주력 제품은 LLM101n: Let’s Build A Storyteller로, 학생들이 대규모 언어 모델을 처음부터 끝까지 구축하는 과정을 안내하는 강좌였다. 2025년 2월, 그는 개발자가 자연어 프롬프트를 통해 코드 생성을 전적으로 AI 모델에 위임하는 프로그래밍 워크플로우를 설명하기 위해 vibe coding이라는 용어를 만들었다. 콜린스 사전은 이 용어를 2025년의 올해의 단어로 선정했다.

앤트로픽 — 기술 스태프 (2026~현재)

2026년 5월 19일, 카파시는 앤트로픽에 기술 스태프로 합류했다고 발표했다. 그는 팀 리드인 닉 조셉(Nick Joseph) 아래 사전 학습 팀에서 일하며, 클로드를 사용하여 사전 학습 자체의 과학을 가속화하는 새로운 연구 그룹을 구축하는 임무를 맡고 있다. 이는 AI 지원 연구의 한 형태로, 향후 모델 훈련을 더 효율적이고 자동화하는 것을 목표로 한다.

주요 기여

  • CS 231n: Convolutional Neural Networks for Visual Recognition — 2015년 스탠퍼드 최초의 전용 딥러닝 강좌를 설계하고 가르침; 3년 만에 150명에서 750명으로 성장하여 대학 최대 규모 강좌 중 하나가 되었으며, 무료로 제공되는 강의 동영상과 노트는 전 세계 실무자들에게 주요 입문 자료로 남아 있음.

  • 「Deep Visual-Semantic Alignments for Generating Image Descriptions」 (CVPR 2015, 구두 발표) — 다중 모달 순환 신경망을 사용하여 이미지 영역과 문장 조각을 공동으로 정렬하는 비전-언어 모델링의 초기 이정표.

  • 「순환 신경망의 놀라운 효율성」 (블로그 게시물, 2015) — 문자 수준 언어 모델에 대한 널리 읽힌 데모로, 한 세대의 실무자들에게 시퀀스 모델링에 대한 표준적인 소개 자료 중 하나가 됨.

  • char-rnn — 트랜스포머 시대 이전에 시퀀스 모델에 대한 실습 실험을 대중화한 Lua/Torch 기반의 초기 오픈소스 문자 수준 언어 모델.

  • 테슬라 오토파일럿 비전 스택 — 테슬라 오토파일럿 인식 시스템의 종단간 재설계를 주도하여 레이더와 지도 융합에서 맞춤형 실리콘에 배포된 순수 비전, 데이터 중심 접근 방식으로 전환.

  • 「소프트웨어 2.0」 (Medium, 2017) — 신경망을 모델 가중치가 수동 코드를 대체하는 새로운 프로그래밍 패러다임으로 설명하는 에세이로, 업계의 구조적 변화에 대한 논의에서 널리 인용됨.

  • nanoGPT — 최소한의 해킹 가능한 GPT 훈련 저장소(GitHub 별 54,000개 이상)로, 대규모 컴퓨팅 예산 없이도 연구자와 학생들이 GPT급 모델을 재현할 수 있게 함.

  • llm.c — 프레임워크 추상화 없이 전체 알고리즘을 보여주는 C/CUDA로 구현된 LLM 훈련의 처음부터 구현(별 29,000개 이상).

  • micrograd — PyTorch와 유사한 API를 가진 100줄의 스칼라 값 자동 미분 엔진(별 15,000개 이상)으로, 역전파 교육 도구로 널리 사용됨.

  • 「Zero to Hero」 유튜브 시리즈 — 첫 원리부터 신경망과 언어 모델을 구축하는 무료이며 기술적으로 엄격한 동영상 커리큘럼; 온라인에서 가장 많이 시청된 기술 AI 교육 콘텐츠 중 하나.

  • 「Deep Dive into LLMs like ChatGPT」 (YouTube, 2024) — 대규모 언어 모델의 내부에 대한 일반 청중 대상 강연으로, ML 커뮤니티를 넘어 넓은 시청자층에 도달함.

  • Vibe coding — 2025년 2월에 자연어 프롬프트를 통한 AI 위임 프로그래밍을 설명하기 위해 만들어짐; 이 용어는 업계 전반에 채택되어 콜린스 사전 2025년 올해의 단어로 선정됨.

  • arxiv-sanity — 관련성과 유사성으로 arXiv 사전 인쇄본을 필터링하고 발견하기 위한 웹 애플리케이션으로, 많은 연구자들이 ML 출판물의 양을 관리하는 데 사용함.

수상 및 인정

  • MIT 테크놀로지 리뷰 35세 미만 혁신가 (2020) — 테슬라의 AI 및 오토파일럿 비전 팀을 이끈 공로를 인정받음.

  • 타임100 AI 분야 가장 영향력 있는 인물 (2024) — 타임지의 첫 번째 인공 지능 분야 가장 영향력 있는 인물 100인 목록에 선정됨.

  • 콜린스 사전 올해의 단어 — 「vibe coding」 (2025) — 카파시가 2025년 2월에 만든 용어; 콜린스가 올해를 정의하는 신조어로 선정함.

주요 관계

  • 페이페이 리 — 스탠퍼드 비전 랩에서 박사 지도교수; CVPR 2015 이미지 캡셔닝 연구를 포함한 여러 기초 비전-언어 논문의 공동 저자.

  • 제프리 힌튼 — 학부 시절 영향; 카파시는 토론토 대학교에서 힌튼의 독서 모임에 참석한 것이 딥러닝에 대한 관심의 시작이라고 밝힘.

  • 미힐 반 데 판 — UBC에서 석사 지도교수; 카파시에게 물리 기반 시뮬레이션 및 운동 제어를 위한 강화 학습을 소개함.

  • 일론 머스크 — 테슬라 AI 디렉터로 5년간 직접 보고 관계; 머스크는 2022년 카파시의 사임을 공개적으로 인정함.

  • 샘 알트먼 / OpenAI 리더십 — 두 번의 OpenAI 재직 기간(2015~2017, 2023~2024) 동안 함께 일함; 카파시는 원래 창립 코호트의 일원이었음.

  • 저스틴 존슨(Justin Johnson) — 스탠퍼드 박사 동료이자 자주 협력하는 사람; DenseCap 및 Visualizing and Understanding Recurrent Networks 논문을 공동 저술; Clubhouse에서 딥러닝 독서 모임을 공동 주최함.

  • 앤드류 응(Andrew Ng) — 스탠퍼드 동료로, 데프니 콜러, 제바스티안 스런, 블라들렌 콜툰과 함께 카파시의 박사 환경을 형성함; 이후 AI 교육 논의에서 카파시를 인용함.

  • 닉 조셉 — 현재 앤트로픽에서 카파시가 속한 사전 학습 부서를 감독하는 팀 리드.

개인 스타일

카파시는 미니멀리즘과 가독성에 대한 강한 선호를 교육적 본능과 결합한다. 그의 가장 영향력 있는 오픈소스 프로젝트들은 의도적으로 프레임워크 추상화를 제거하여 기본 알고리즘을 드러내며, 이 철학은 micrograd 및 llm.c와 같은 저장소에서 명시적으로 설명된다. 그의 공개 저술과 강의는 이론적 설명보다 구체적이고 실행 가능한 예제를 선호하며, 특별한 하드웨어 없이도 실무자들이 최첨단 개념에 접근할 수 있도록 지속적으로 우선시한다. 소셜 미디어에서 그의 게시물은 기술적 관찰, 개념적 조어(vibe coding, tokenmaxxing), 그리고 해당 분야의 속도와 방향에 대한 솔직한 성찰 사이를 오가며, 전문가와 일반 청중 모두에게 어필하는 목소리를 낸다. 그는 지적 직설성과 약간의 불경함으로 알려져 있다. 그의 개인 웹사이트는 프레임워크 없이 순수 HTML과 CSS로 작성되어 있으며, 이 자체가 기술적 미니멀리즘에 대한 선언이다.

참고 자료