리처드 소셔

위키
, , , ,
1

독일계 미국인 NLP 선구자로서 신경망을 자연어 처리에 도입하고, GloVe 단어 벡터와 프롬프트 엔지니어링의 기초 개념을 창안했습니다. 이후 MetaMind, You.com, Recursive 등 일련의 AI 기업을 세워 AI를 더 폭넓게 접근 가능하게 하거나 더 강력하게 만드는 데 기여했습니다.

프로필
출생 1983년, 동독 드레스덴
국적 독일계 미국인
현재 소속 기관 Recursive (CEO 및 공동 창업자); You.com (CEO 및 창업자); AIX Ventures (창업자 및 전무 파트너)
연구 분야 자연어 처리, 딥러닝, 단어 표현, 멀티태스크 학습, 재귀 신경망, AI 검색, 자기 개선 AI 시스템
박사 지도교수 크리스토퍼 매닝; 앤드류 응
박사 학위 논문 “자연어 처리 및 컴퓨터 비전을 위한 재귀 딥러닝” (스탠포드 대학교, 2014)
웹사이트 socher.org
X / 트위터 @RichardSocher
Google 학술 검색 Richard Socher — 180,000회 이상 인용

개요

리처드 소셔(Richard Socher)는 독일계 미국인 AI 연구자이자 연쇄 창업가로, 연구 커뮤니티가 딥뉴럴 네트워크 접근법에 깊은 회의를 품고 있던 시기에 딥뉴럴 네트워크를 자연어 처리에 최초로 도입한 인물로 널리 인정받고 있습니다. 스탠포드 대학교에서 크리스토퍼 매닝과 앤드류 응과 함께 수행한 박사 및 초기 박사후 연구는 구성적 언어 이해를 위한 실용적인 아키텍처로서 재귀 신경망(Recursive Neural Network)을 확립하고, 스탠포드 감정 트리뱅크(Stanford Sentiment Treebank)를 도입했으며, 수년간 가장 널리 사용된 단어 임베딩 방법인 GloVe로 이어졌습니다. MetaMind를 설립(세일즈포스에 인수, 2016)하고 세일즈포스의 최고 과학자로 재직한 후, 모든 NLP 작업을 질문 응답으로 캐스팅하는 아이디어를 도입한 decaNLP 논문을 공동 저술하여 프롬프트 엔지니어링 패러다임에 영향을 미쳤습니다. 2020년에는 언어 모델을 통합한 최초의 검색 엔진으로 You.com을 공동 창업했으며, 2026년에는 재귀적 자기 개선 슈퍼인텔리전스를 추구하는 회사 Recursive를 설립하여 창업 후 몇 달 만에 46억 5천만 달러의 가치 평가로 6억 5천만 달러를 조달했습니다. Google 학술 검색에서 180,000회 이상 인용되었으며, 세 개의 서로 다른 NLP 시대에 제1 저자로서 최고의 영예를 안은 몇 안 되는 연구자 중 한 명입니다.

초기 생애 및 교육

소셔는 1983년 당시 동독이었던 드레스덴에서 태어나, 통일 후 강력한 수학 및 기술 문화를 가진 도시에서 성장했습니다. 그는 자신의 길을 수학과 언어라는 두 가지 열정의 예상치 못한 교차점을 찾는 과정으로 설명했으며, 이를 전산 언어학과 NLP에서 발견했습니다. 2003년경 독일에서 언어 컴퓨터 과학을 공부하기 시작한 후 박사 과정을 위해 미국으로 이동했습니다.

스탠포드 대학교에서 소셔는 크리스토퍼 매닝(스탠포드 NLP를 이끄는 선도적인 전산 언어학자)과 앤드류 응의 공동 지도 아래 컴퓨터 과학 박사 학위를 마쳤습니다. 그의 박사 학위 논문인 “자연어 처리 및 컴퓨터 비전을 위한 재귀 딥러닝”(2014)은 트리 구조 신경망을 언어 이해를 위한 일반 아키텍처로 처음 포괄적으로 다룬 연구였습니다. 이 논문은 2014년 스탠포드에서 아서 L. 사무엘 최우수 컴퓨터 과학 박사 학위 논문상을 수상했습니다. 이후 그는 스탠포드 CS 학과의 겸임 교수로 재직하며 CS224n(딥러닝을 활용한 자연어 처리)을 가르쳤으며, 이 강의는 공개 강의 녹화를 통해 세계에서 가장 많이 시청된 NLP 강의 시퀀스 중 하나가 되었습니다.

그는 AI에 대한 기여를 인정받아 출생 도시의 대표적인 기술 대학인 TU 드레스덴으로부터 명예 공학 박사 학위(Dr.-Ing. h.c.)를 받았습니다.

경력

스탠포드 NLP 그룹 — 박사 연구 (2010–2014)

소셔의 박사 시절은 거의 모든 NLP 연구가 통계 및 규칙 기반 방법을 사용하고 신경망이 언어에 부적합하다고 여겨지던 시기와 일치했습니다. 2010년부터 시작하여 ICML, EMNLP, NIPS, ICLR에 논문을 발표하면서, 그는 문장의 구문 분석 트리 구조를 반영하는 네트워크인 재귀 신경망이 감정 분석, 의역 탐지, 장면 구문 분석, 의미역 레이블링 등의 작업에서 최첨단 통계 방법을 능가하는 구성적 표현을 학습할 수 있음을 입증했습니다.

2013년에는 문장 수준이 아닌 구문 분석 트리의 모든 노드에서 감정을 주석 처리한 데이터셋인 스탠포드 감정 트리뱅크(SST)를 도입하여, 절 전체에서 감정이 어떻게 구성되는지 미세하게 연구할 수 있게 했습니다. 이와 함께 발표된 재귀 신경 텐서 네트워크(RNTN) 모델은 이 데이터셋에서 기준점을 설정하고 널리 채택되었습니다. 2013년 논문은 10년 후인 2023년 ACL 시간의 시험상(Test of Time Award)을 수상했습니다.

2014년에는 제프리 페닝턴, 크리스토퍼 매닝과 함께 EMNLP에서 GloVe(단어 표현을 위한 전역 벡터, Global Vectors for Word Representation)를 발표했습니다. GloVe는 로컬 문맥 창 대신 전역 동시 발생 통계에서 단어 임베딩을 학습했으며, 수년간 표준 벤치마크에서 Word2Vec보다 뛰어난 성능을 보였습니다. 이는 문맥화된 임베딩(ELMo, BERT)이 등장한 2018년경까지 NLP 연구의 기본 단어 표현으로 자리 잡았습니다.

MetaMind — CEO 및 CTO (2014–2016)

박사 학위 직후, 소셔는 팔로알토에 기반을 둔 AI 스타트업 MetaMind를 설립하여 비전문 기업도 신경망 훈련에 접근할 수 있도록 하는 도구를 구축했습니다. MetaMind는 NLP 및 컴퓨터 비전 모델 훈련을 위한 클라우드 플랫폼을 제공하고 의료 및 고객 서비스 등의 산업을 위한 엔터프라이즈 NLP 애플리케이션을 구축했습니다. 이 회사는 2016년 세일즈포스에 인수되었습니다.

세일즈포스 — 최고 과학자 및 EVP (2016–2020)

세일즈포스의 첫 번째 최고 과학자이자 부사장으로서 소셔는 세일즈포스 연구 부서를 소규모 그룹에서 세계에서 가장 활동적인 산업 NLP 연구 팀 중 하나로 성장시켰습니다. 그의 지휘 아래 팀은 ICML, NeurIPS, ICLR, ACL에서 논문을 발표했으며, 경쟁력 있는 학술 연구와 함께 일련의 영향력 있는 응용 시스템을 생산했습니다.

이 시기의 주요 연구 결과로는 브라이언 맥캔, 제임스 브래드버리, 카이밍 시옹과 함께한 CoVe(문맥화된 단어 벡터, NeurIPS 2017)가 있습니다. 이는 신경 기계 번역 모델에서 전이된 표현이 다운스트림 NLP 작업 성능을 향상시킨다는 것을 보여주며 ELMo보다 먼저 등장하여 NLP 전이 학습의 초기 사례를 제공했습니다. 세일즈포스 팀은 또한 추상적 요약(심층 강화 모델, ICLR 2018)과 AI 이코노미스트(세금 정책 연구를 위한 강화 학습 프레임워크)에 관한 연구를 발표했습니다.

세일즈포스 시절의 핵심 결과물은 브라이언 맥캔과 함께한 “자연어 10종 경기”(decaNLP, 2018)였습니다. 이 논문은 질문 응답, 번역, 요약, 감정 분석, 의미 구문 분석 등 10가지 다양한 NLP 작업을 컨텍스트에 대한 질문 응답으로 균일하게 캐스팅할 것을 제안했습니다. 이 논문은 멀티태스크 질문 응답 네트워크(MQAN)를 도입하고 단일 모델 아키텍처가 작업별 모듈 없이 일반 언어 이해를 처리할 수 있다는 주장을 펼쳤습니다. 이러한 프레임 — 언어 작업이 질문 응답 인터페이스 아래 통합될 수 있고 올바른 방식으로 프롬프트된 모델이 작업 간에 전이될 수 있다는 것 — 은 OpenAI GPT-2 논문에서 직접 인용되었으며 현대 프롬프트 엔지니어링 패러다임의 전조로 간주됩니다.

You.com — 공동 창업자 및 CEO (2020–현재)

2020년, 소셔와 브라이언 맥캔은 You.com을 공동 창업하여 2021년에 대규모 언어 모델을 검색 인터페이스에 직접 통합한 최초의 검색 엔진으로 공개 출시했습니다. 이는 구글, 마이크로소프트 등의 유사한 움직임보다 약 2년 앞선 것이었습니다. 회사의 초기 논제는 LLM 출력을 실시간 검색 검색에 근거시키는 것이 환각 현상을 줄이는 가장 실용적인 경로라는 것이었으며, 이는 이후 상식이 되었습니다. You.com은 여러 차례에 걸쳐 9,900만 달러를 조달(NVIDIA, 세일즈포스 벤처스, 덕덕고 포함)하여 약 15억 달러의 가치 평가에 도달했습니다. 회사는 소비자 검색에서 엔터프라이즈 및 개발자 API로 방향을 전환하여 OpenAI, Amazon, Alibaba 및 기타 주요 AI 개발자의 애플리케이션을 지원하는 웹 검색, 콘텐츠 추출, 연구 및 금융 연구 API를 제공합니다.

AIX Ventures — 창업자 및 전무 파트너 (2021–현재)

You.com과 병행하여 소셔는 AI 스타트업에 초점을 맞춘 벤처 캐피털 회사인 AIX Ventures를 설립했습니다. 이 회사는 90건 이상의 투자를 했습니다. 소셔의 이전 박사 과정 학생과 인턴 중 여러 명이 주목할 만한 AI 회사를 설립했습니다. 그는 자신이 멘토링한 사람 중 적어도 4명이 수십억 달러 규모의 회사를 이끌고 있으며, 여기에는 Hugging Face와 Commure의 공동 창업자가 포함된다고 언급했습니다.

Recursive — 공동 창업자 및 CEO (2026–현재)

2026년 초, 소셔는 팀 록트셸, 팀 시, 조시 토빈, 카이밍 시옹, 제프 클룬, 위안동 톈, 알렉세이 도소비츠키 등 7명의 공동 창업자와 함께 Recursive(Recursive Superintelligence라고도 함)를 설립했습니다. 회사의 명시된 사명은 재귀적 자기 개선 슈퍼인텔리전스 — AI 연구 자체를 시작으로 물리학, 화학, 전임상 생물학으로 확장할 계획인 여러 도메인에서 자율적으로 새로운 과학적 지식을 발견할 수 있는 AI 시스템 — 를 구축하는 것입니다. 소셔는 이 야망을 "AI를 생물학에 있어서 미적분학이 물리학에 한 것처럼 만드는 것"이라고 설명했습니다. Recursive는 GV(구글 벤처스)와 Greycroft가 주도하는 라운드에서 46억 5천만 달러의 가치 평가로 6억 5천만 달러를 조달했으며, NVIDIA와 AMD의 벤처 부서도 참여했습니다. 고문 및 관련 연구원으로는 피터 노빅, 제프리 페닝턴, 크리스 커민스가 있습니다.

주요 기여

  • NLP를 위한 재귀 신경망 (2010–2014) — ICML 2011(최우수 논문상)에서 시작된 일련의 논문으로, 트리 구조의 재귀 신경망이 구성적 언어 이해를 위한 실용적인 아키텍처임을 확립하고 신경망이 구문 분석, 감정, 장면 이해 및 의미역 레이블링에서 통계적 방법과 일치하거나 능가할 수 있음을 입증했습니다. 이 연구는 현대 딥러닝 NLP 시대의 출발점입니다.

  • 스탠포드 감정 트리뱅크(SST) 및 RNTN (EMNLP 2013) — 구성 구문 분석 트리의 모든 노드에서 감정을 주석 처리한 최초의 대규모 데이터셋을 생성하여 언어 구조 전반에 걸쳐 감정이 어떻게 구성되는지 추론하는 모델을 훈련할 수 있게 했습니다. SST는 미세한 감정 분석을 위한 표준 벤치마크가 되었습니다. ACL 2023 시간의 시험상을 수상했습니다.

  • GloVe — 단어 표현을 위한 전역 벡터 (EMNLP 2014) — 제프리 페닝턴 및 크리스토퍼 매닝과 함께. 로컬 문맥이 아닌 전역 동시 발생 행렬 분해에서 학습하는 비지도 단어 임베딩 방법으로, 발표 당시 Word2Vec을 지속적으로 능가했습니다. GloVe는 약 4년 동안 NLP 연구의 기본 단어 표현이 되었으며, 사전 훈련된 벡터는 여전히 널리 배포 및 사용됩니다.

  • CoVe — 문맥화된 단어 벡터 (NeurIPS 2017) — 브라이언 맥캔, 제임스 브래드버리, 카이밍 시옹과 함께. 신경 기계 번역 모델의 인코더 표현을 다른 NLP 작업에 전이하면 성능이 향상된다는 것을 입증했습니다. 이는 NLP에서 전이 학습의 최초의 실용적인 시연 중 하나이며 ELMo와 BERT의 선구자입니다.

  • decaNLP / 자연어 10종 경기 (2018) — 브라이언 맥캔과 함께. 모든 NLP 작업을 질문 응답으로 캐스팅하는 멀티태스크 질문 응답 프레임을 도입하고, 작업별 매개변수 없이 10개 작업에 걸쳐 단일 모델을 훈련했으며 프롬프트 기반 작업 지정을 제안했습니다. 이 논문은 GPT-2 논문에서 인용되었으며 명령어 튜닝 및 프롬프트 엔지니어링의 개념적 선구자로 인정받고 있습니다.

  • CS224n — 딥러닝을 활용한 NLP — 소셔가 설계하고 가르친 스탠포드 강좌로, 2016년부터 녹화 강의로 공개되어 전 세계 NLP 딥러닝 인력의 상당 부분을 교육했습니다. 여러 세대의 연구자들이 이 강좌를 현장 입문점으로 꼽습니다.

  • You.com API 플랫폼 — 언어 모델을 검색 엔진에 최초로 상업적으로 통합(2021); OpenAI 및 Amazon을 포함한 주요 AI 개발자들이 채택한 엔터프라이즈 검색 및 연구 API로 전환하여 LLM 출력을 실시간 웹 콘텐츠에 근거시키는 검색 인프라를 제공합니다.

수상 및 인정

  • ICML 최우수 논문상 (2011) — 신경 방법에 회의적인 커뮤니티에서 당시 크게 논쟁이 되었던 결과였던 NLP를 위한 재귀 신경망에 대한 초기 연구.
  • Microsoft 박사 펠로우십 — 스탠포드 박사 과정 중 수상.
  • 아서 L. 사무엘 스탠포드 최우수 컴퓨터 과학 박사 학위 논문상 (2014) — _“자연어 처리 및 컴퓨터 비전을 위한 재귀 딥러닝”_에 대해.
  • PAMI 롱게-히긴스 상 — ImageNet 논문(스탠포드 시절 공동 저술)에 대해, 컴퓨터 비전에 대한 근본적인 기여를 인정.
  • WEF 젊은 글로벌 리더 (2016) — 세계 경제 포럼 선정.
  • 명예 박사 학위, TU 드레스덴 (Dr.-Ing. h.c.) — 출생 도시의 기술 대학에서 AI에 대한 기여를 인정받아.
  • ACL 시간의 시험상 (2023) — 2013년 EMNLP 감정 트리뱅크 논문에 대해, 10년 후 현장에 지속적인 영향을 미친 점을 인정.
  • TIME100 AI (2023) — Time지의 첫 번째 AI 분야 가장 영향력 있는 100인 목록에 선정.
  • WEF 기술 선구자 (2024) — AI 기반 정보 접근에 대한 You.com의 기여를 인정받아.

주요 관계

  • 크리스토퍼 매닝 — 스탠포드 박사 지도교수; 미국의 선도적인 전산 언어학자이자 소셔의 재귀 신경망 연구가 발전한 지적 고향; GloVe 및 많은 기초 NLP 논문의 공동 저자. 소셔의 연구는 매닝의 확률론적 NLP 전통을 신경 방법으로 확장하고 변형시켰습니다.
  • 앤드류 응 — 박사 공동 지도교수; 소셔의 연구를 뒷받침한 딥러닝 관점과 대규모 ML 인프라 사고를 제공했습니다; 여러 초기 논문을 공동 저술하고 소셔를 Google Brain 네트워크와 연결했습니다.
  • 브라이언 맥캔 — 소셔 경력에서 가장 가까운 연구 협력자; 세일즈포스 연구에서 CoVe와 decaNLP를 공동 저술하고 You.com을 공동 창업했습니다. 맥캔-소셔 협력은 현대 LLM 패러다임에 가장 큰 영향을 미친 세일즈포스 연구 결과물을 정의했습니다.
  • 제프리 페닝턴 — GloVe 공동 저자; 이후 Google Brain의 선임 연구원이 됨; 현재 Recursive의 공동 창업자로 3개 회사와 15년에 걸친 협력을 이어가고 있습니다.
  • 카이밍 시옹 — 세일즈포스 연구의 고위 인물이자 CoVe 및 후속 작업의 공동 저자; 현재 Recursive의 공동 창업자.
  • 팀 록트셸 — UCL 교수이자 Google DeepMind 연구원; 개방형 학습 및 신경기호 AI 전문 지식을 공동 창업자로 Recursive에 가져옴.
  • 제프 클룬 — 진화 계산 및 개방형 연구자(전 OpenAI, UBC); Recursive의 공동 창업자; 그의 개방형 학습 연구는 Recursive의 자기 개선 의제와 직접적으로 일치합니다.

개인적 스타일

소셔의 경력은 주류가 되기 전에 인기 없는 입장을 옹호 — 2010년 NLP를 위한 신경망, 2020년 LLM 통합 검색, 2026년 재귀적 자기 개선 — 하고 단순히 논문을 발표하는 대신 그 주변에 회사를 구축하려는 의지로 정의됩니다. 그의 지적 성향은 원래 의미에서 학제적입니다. 그는 수학과 언어의 교차점에 있기 때문에 NLP에 입문했으며, 시각, 언어, 생물학, 경제학을 전반에 걸쳐 일관되게 연구해 왔으며 전문화로 좁히지 않았습니다. 그는 멘토로 특히 다작입니다. 그의 박사 과정 학생과 인턴 중 여러 명이 중요한 AI 회사를 설립했습니다. 연구 외에도 그는 파라모터 항공 및 모험 사진을 연구에 가져오는 것과 같은 체계적인 강도로 추구합니다. 아이슬란드, 나미비아, 미 국립공원에서의 그의 항공 사진 컬렉션은 자체적인 팔로워를 보유하고 있습니다. 그는 자신의 작업 모토를 "더 낫게, 더 낫게, 절대 끝나지 않는다."라고 설명합니다.

참고 자료