Together AITogether Computer, Inc. · Leading Open-Source AI Acceleration Cloud · $8.3B Valuation 2026
Napster 엔지니어 출신의 연쇄 창업가와 Stanford·ETH Zürich의 최정상 AI 시스템 연구자들이 의기투합해 설립한 오픈소스 AI 인프라 기업 — 창업 4년 만에 연환산 예약매출 $11.5억을 돌파하고, Aramco Ventures·NVIDIA가 리드한 $8억 Series C로 $83억 기업가치를 인정받으며 폐쇄형 프론티어 모델의 경제성 문제에 대한 산업계의 대안으로 자리매김했다
Together AI(공식 법인명: Together Computer, Inc.)는 2022년 6월 미국 샌프란시스코에서 Vipul Ved Prakash(CEO), Ce Zhang(CTO), Chris Ré, Percy Liang 4인이 공동 창립한 오픈소스 AI 인프라 기업입니다. 창업팀의 구성은 이례적으로 산업계의 반복적 창업 경험과 학계의 최정상 AI 시스템 연구 역량이 동시에 결합되어 있다는 점에서 주목받았으며, 이후 FlashAttention의 발명자인 Tri Dao가 Chief Scientist로 합류하며 리서치 조직의 완성도를 더했습니다. 회사는 생성형 AI라는 세대적 기술이 소수 기업에 의해 통제되어서는 안 되며, 개방적이고 누구나 접근 가능해야 한다는 창업 신념 아래 출발했습니다.
인도 델리 소재 St. Stephen’s College에서 1997년 컴퓨터공학을 전공하고 졸업한 뒤, 초기 P2P 음악 공유 서비스 Napster의 엔지니어로 커리어를 시작했습니다. 이 시기 개발한 오픈소스 스팸 필터 “Vipul’s Razor”는 전 세계 1,000만 대 이상의 서버에 설치되며 협업 필터링 기반 스팸 차단 기술의 표준으로 자리잡았습니다.
2001년 이 기술을 상용화하기 위해 안티스팸 기업 Cloudmark를 공동 창업해 Chief Scientist로 재직했으며, Cloudmark는 2010년 기준 전 세계 120개 이상의 대형 통신사업자 네트워크에 배치되는 성과를 거두었습니다. 이후 2007년에는 소셜미디어 검색·분석 기업 Topsy Labs를 창업, CEO 겸 이사회 의장으로 재직했으며, 2013년 Topsy는 Apple에 $2억 이상에 매각되어 업계에서 그의 두 번째 성공적 엑시트로 기록되었습니다. Topsy 매각 이후에는 온라인 평판관리 기업 Reputation.com에서도 경력을 쌓았습니다.
20년 이상 분산 시스템·정보 검색·인터넷 인프라 분야에서 창업과 엑시트를 반복해 온 그는, 2022년 생성형 AI가 촉발한 컴퓨팅 패러다임 전환을 목격하며 Together AI를 공동 창업했습니다.
공동창업자 및 핵심 연구진 구성 — 산업 실행력과 학계 리서치 역량의 결합:
ETH Zürich 부교수 및 University of Chicago 부교수 겸직. 분산·탈중앙화 학습(Decentralized Training)과 데이터 중심 MLOps 분야의 세계적 권위자로, Together AI의 인프라 아키텍처 전반을 총괄합니다.
Stanford University 컴퓨터공학과 교수. AI 모델 아키텍처 및 시스템 인프라 분야의 선도 연구자이자, Together AI 이전에도 다수의 성공적 스타트업을 창업한 연쇄 창업가입니다.
Stanford University 컴퓨터공학과 교수이자 Stanford CRFM(Center for Research on Foundation Models) 디렉터. 파운데이션 모델 연구를 선도하며 Together AI의 리서치 방향성 수립에 기여합니다.
Stanford 컴퓨터공학 박사(지도교수 Chris Ré). 현 Princeton University 조교수 겸직. Transformer 모델의 표준 기술로 자리잡은 FlashAttention과 Mamba의 발명자로, ICML·COLM·MLSys 학회에서 우수논문상을 다수 수상했습니다.
Prakash를 비롯한 창업팀은 생성형 AI가 인류 진보의 전환점이라는 확신 아래, 이 기술이 소수 폐쇄형 모델 기업에 의해 독점되어서는 안 된다는 문제의식에서 출발했습니다. 이들은 프론티어 모델 API의 가격 구조가 프로토타입 단계에서는 감당할 만해 보이지만, 실제 프로덕션 규모로 확장되는 순간 추론(inference) 비용이 예산 증가 속도를 압도하며 기업들이 지능 사용량 자체를 배급(ration)해야 하는 역설적 상황에 직면한다는 점을 정확히 짚어냈습니다. Together AI는 이 구조적 문제에 대한 해법으로 오픈소스 모델과 자체 최적화 스택을 결합한 완전한 대안 플랫폼을 구축했습니다.
“History shows that the biggest technology shifts are won by open ecosystems that make innovation cheaper, faster and available to everyone.”
Together AI는 “AI Acceleration Cloud”를 표방하는 풀스택 오픈소스 AI 인프라 플랫폼으로, 추론(Inference)·컴퓨트(Compute)·모델 셰이핑(Model Shaping)·리서치(Research)의 네 개 레이어를 하나의 통합 스택으로 제공합니다. DeepSeek·Nemotron·MiniMax·Kimi·GLM 등 오픈웨이트 모델이 폐쇄형 프론티어 모델과의 품질 격차를 빠르게 좁혀가는 흐름 속에서, Together AI는 모델·커널·컴파일러·추론 시스템·트레이닝 인프라·하드웨어 활용까지 전 스택을 최적화해 압도적인 비용 효율을 실현하는 전략을 취하고 있습니다.
핵심 제품 및 서비스 포트폴리오:
API 형태의 고성능 서버리스 추론부터, 지연시간에 민감하지 않은 워크로드를 위한 배치 추론(실시간 대비 50% 저가), 커스텀 하드웨어·모델을 위한 전용 인프라까지 다층적 추론 상품군을 제공합니다. 코딩 에이전트 워크로드에서 경쟁 OSS 엔진 대비 31% 더 높은 처리량(TPS)을 기록하며 업계 최고 수준의 추론 속도를 입증했습니다.
NVIDIA 최신 세대 GPU를 대규모로 확보·운영하는 온디맨드 클러스터 서비스와, 프론티어 규모의 커스텀 인프라를 구축하는 AI Factory를 제공합니다. Series C를 통해 확보한 500MW 이상의 컴퓨팅 용량 약정으로 향후 5년간 인프라 규모를 약 50배 확장할 계획입니다.
고객이 자체 데이터로 오픈소스 모델을 커스터마이징할 수 있는 파인튜닝 API와 모델 품질을 정량 평가하는 Evaluations 툴을 제공합니다. 최근 포스트트레이닝 API를 확장해 툴 호출·추론·비전-언어 모델까지 지원 범위를 넓혔습니다.
전체 인력의 약 절반이 리서처로 구성된 연구 중심 조직으로, NVIDIA Blackwell용 FlashAttention-4, 커널 수준 최적화를 프로덕션에 적용하는 Together Megakernel과 together.compile을 발표했습니다. Chief Scientist Tri Dao가 발명한 FlashAttention은 OpenAI·Anthropic·Meta·Mistral AI 등 업계 전반의 Transformer 모델에 표준으로 채택되어 있습니다.
주요 고객 및 전략적 파트너십:
세계에서 가장 빠르게 성장하는 AI 애플리케이션 기업들이 프로덕션 인프라로 채택. Decagon은 Together AI로 전환 이후 추론 비용을 6분의 1로 절감했습니다.
코드 실행 환경 기업 CodeSandbox를 인수해 플랫폼 내 코드 인터프리테이션 기능을 업계 최초로 통합했으며, Refuel.AI 인수와 Nous Research에 대한 전략적 투자로 데이터·모델 역량을 확장했습니다.
임차 GPU 중심 운영에서 나아가 자체 데이터센터 자산을 확보하는 방향으로 전환 중이며, 이는 장기적으로 단위 경제성(Unit Economics) 개선에 기여할 것으로 평가됩니다.
Together AI는 2023년 5월 Seed 라운드를 시작으로 2026년 7월 Series C까지 4년이 채 되지 않는 기간 동안 누적 약 $13.3억을 조달했습니다. 초기에는 Lux Capital·Kleiner Perkins 등 전통적 벤처캐피털이 주도했으나, Series B부터 NVIDIA·Salesforce Ventures 등 전략적 산업 투자자가 본격 가세했고, Series C에서는 Aramco Ventures·Vista Equity Partners·Schneider Electric·Pegatron 등 에너지·인프라·하드웨어 밸류체인 전반의 전략적 자본이 대거 유입되며 라운드 성격 자체가 순수 재무 투자에서 글로벌 AI 인프라 구축 파트너십으로 진화했습니다. 특히 Series C와 함께 확보한 500MW 이상의 컴퓨팅 용량 약정은 신규 투자자들이 별도로 자본화(capitalize)하는 구조로, 지분 투자와 인프라 조달이 결합된 독특한 딜 구조입니다.
Lux Capital이 리드하고 Long Journey Ventures·Factory 등이 참여한 초기 Seed 라운드입니다. 창업 직후 유휴 데이터센터 컴퓨팅 자원을 결합해 대규모 AI 트레이닝을 조율하는 “Together Research Computer” 개념을 구체화하는 데 자금이 투입되었으며, 이 시기의 리서치 성과가 이후 오픈소스 데이터셋 RedPajama 발표로 이어졌습니다.
Kleiner Perkins가 리드하고 NVIDIA·Emergence Capital이 참여한 Series A입니다. Kleiner Perkins의 Bucky Moore가 이사회에 합류했습니다. NEA·Prosperity7·Greycroft·137 Ventures 등 신규 투자자와 기존 Seed 투자자 전원이 함께 참여했습니다. 창업 6개월도 되지 않아 스타트업·엔터프라이즈 고객으로부터 빠른 초기 견인력을 확보한 점이 라운드 성사의 배경이 되었으며, 조달 자금은 미국·유럽 복수 데이터센터에 걸친 20 엑사플롭스 규모 컴퓨팅 인프라 구축에 투입되었습니다.
Salesforce Ventures가 리드하고 헤지펀드 Coatue Management, 기존 투자자 Lux Capital·Emergence Capital이 참여한 라운드로, Series A 종료로부터 불과 4개월 만에 밸류에이션이 2배 이상 상승했습니다. 2024년 한 해 동안 회사는 사용자 기반을 45만 명 이상의 개발자로 확대했고, Dell·NVIDIA·Meta와 협업하며 DeepSeek 모델의 북미 데이터센터 배치, Together Enterprise Platform 출시, AWS Marketplace 입점, CodeSandbox 인수 등 굵직한 이정표를 달성했습니다.
General Catalyst가 리드하고 아람코 벤처 부문 Prosperity7 Ventures가 공동 리드한 $3.05억 라운드로, 밸류에이션이 직전 대비 2배 이상 상승한 $33억을 기록했습니다. Salesforce Ventures·NVIDIA·Kleiner Perkins·Coatue 등 기존 투자자 전원이 재참여했으며, DAMAC Capital·March Capital·SE Ventures 등 신규 전략 투자자도 합류했습니다. 조달 자금은 NVIDIA Blackwell GPU의 대규모 배치와 AI Acceleration Cloud의 인프라 확장에 투입되었습니다. 라운드 발표 시점 연환산 매출은 전년 $3,000만에서 $1억 이상으로 확대된 상태였습니다.
사우디 국영 에너지 기업 아람코의 벤처 부문 Aramco Ventures가 리드하고, Vista Equity Partners·General Catalyst·Emergence Capital·NVIDIA·March Capital·Schneider Electric(SE Ventures)·Pegatron·Salesforce Ventures·DTCP Growth·Lux Capital·Geodesic·PSP Partners 등이 참여했습니다. 직전 Series B 대비 밸류에이션이 2배 이상 상승했습니다.
이번 라운드의 핵심 특징:
① 지분 투자와 별도로 신규 투자자들이 독자 자본화하는 500MW 이상의 컴퓨팅 용량 약정을 확보 — 향후 5년간 인프라 규모를 약 50배 확장하는 재원
② 에너지(Aramco, Schneider Electric)·하드웨어 제조(Pegatron)·소프트웨어 바이아웃(Vista Equity) 밸류체인 전반의 전략적 자본이 결집 — 순수 벤처 투자를 넘어선 산업 인프라 파트너십 성격
③ Aramco Ventures Meshal Almashari: “AI 인프라와 이를 규모 있게 구현할 플랫폼에 대한 장기적 확신을 반영한 투자”
④ Schneider Electric CEO Olivier Blum: “AI와 에너지 인프라는 수렴하고 있으며, 효율성이 그 연결고리다. 더 효율적인 AI는 워크로드당 더 적은 에너지를 의미한다”
⑤ 직전 분기 연환산 예약매출 $11.5억 돌파, 지난 1년간 OSS 모델 사용량 3배 증가(OpenRouter 데이터 기준)를 배경으로 성사된 라운드
Together AI의 경쟁 방어력은 리서치 조직이 곧 상용 제품 경쟁력으로 직결되는 독특한 구조, 풀스택 최적화를 통한 압도적 비용 우위, 전략적 인프라 투자자들과 결합된 대규모 컴퓨팅 확보력, 그리고 오픈소스 생태계 내에서 축적한 선점 지위에서 형성됩니다. 경쟁사가 GPU 재임대에 그치는 “커모디티 뉴클라우드(Commodity Neocloud)” 모델에 머무는 것과 달리, Together AI는 소프트웨어 레이어를 통해 구조적 해자를 구축했다는 점에서 차별화됩니다.
전체 인력의 약 절반이 리서처로 구성되어 있으며, Chief Scientist Tri Dao가 발명한 FlashAttention은 OpenAI·Anthropic·Meta·Mistral AI를 포함한 업계 전체 Transformer 모델의 표준 기술로 채택되어 있습니다. FlashAttention-4·Together Megakernel·together.compile 등 연구 성과가 수개월 내 프로덕션에 반영되는 리서치-투-프로덕션 파이프라인은 경쟁사가 단기간에 복제하기 어려운 구조적 우위입니다.
모델·커널·컴파일러·추론 시스템·트레이닝 인프라·하드웨어 활용까지 전 스택을 자체 최적화함으로써, 오픈소스 모델 기반 고객사는 동등하거나 더 나은 성능을 유지하면서 폐쇄형 프론티어 모델 대비 6배에서 20배 낮은 비용을 실현합니다. 실제 고객사 Decagon은 전환 이후 추론 비용을 6분의 1로 절감했습니다. 이는 단순 GPU 재임대가 아닌 소프트웨어 레이어의 가치 창출이라는 점에서 커모디티화 위험을 구조적으로 방어합니다.
Series C에 참여한 Aramco Ventures(에너지)·Schneider Electric(전력 인프라)·Pegatron(하드웨어 제조)·NVIDIA(GPU)는 단순 재무 투자자가 아닌 컴퓨팅 공급망 전반의 전략적 파트너입니다. 이들이 별도로 자본화하는 500MW 이상의 컴퓨팅 용량 약정은 경쟁사 대비 조달 속도와 규모에서 구조적 우위를 제공하며, 향후 5년간 50배 인프라 확장이라는 공격적 목표의 실행 기반이 됩니다.
DeepSeek·Nemotron·MiniMax·Kimi·GLM 등 최신 오픈웨이트 모델을 가장 빠르게 프로덕션급 엔드포인트로 제공하는 선도적 지위를 확보하고 있으며, 45만 명 이상의 개발자와 Cognition·Decagon·Eleven Labs·Cursor·Suno 등 최고 성장률의 AI 네이티브 기업을 고객으로 확보했습니다. 지난 1년간 플랫폼 내 오픈소스 모델 사용량이 3배 증가한 것은, 폐쇄형 모델의 마진 잠식 문제에 대한 산업계 전반의 구조적 전환이 진행 중임을 시사하며, 이 흐름의 최전선에 선 인프라 사업자로서의 지위가 강화되고 있음을 보여줍니다.
$8억 Series C를 기반으로 Together AI는 다음 단계의 성장에 진입합니다. AI 시스템이 데모용 도구에서 코드를 작성하고 고객 문의를 처리하며 전체 워크플로를 자동화하는 핵심 프로덕션 인프라로 전환되는 가운데, 추론 수요는 구조적으로 계속 확대될 전망입니다. Prakash와 창업팀이 진단한 폐쇄형 모델의 경제적 한계 — 비례 이상으로 증가하는 추론 비용, 지능 사용의 배급(rationing) 압력 — 는 여전히 산업 전반의 해결 과제로 남아 있습니다. “지능은 풍부해야 한다, 비싸서는 안 된다”는 창립 신념은 이제 NVIDIA·Aramco·Schneider Electric·Salesforce가 모두 동의한 AI 인프라 표준화 프로젝트로 확장되고 있습니다.