AI 모델 전쟁의 승자는 누구인가: 20VC

Factory CEO Matan Grinberg는 AI가 GDP와 생산성을 크게 올릴 것이라고 봄. 다만 기업이 새 도구에 맞춰 사람, 돈, token을 다시 배분하는 데 시간이 걸린다는 입장
핵심 질문은 “AI를 많이 쓰나”가 아니라 “어떤 문제에 어떤 수준의 지능을 배정하나”임. 모든 업무를 최고 frontier model에 맡기면 비용이 터지고, 모든 업무를 싼 모델에 맡기면 중요한 판단을 놓칠 수 있음
그는 앞으로 80~~90%의 작업은 open model로 충분할 수 있지만, 나머지 10~~20%의 planning token이 가장 비싼 의사결정이 될 수 있다고 봄
모델 회사, 앱 회사, 인프라 회사는 서로를 상품화하려고 싸우는 구조임. Factory 같은 앱 레이어는 여러 모델을 task별로 라우팅해 고객이 한 모델에 묶이지 않게 하려 함
20VC 인터뷰. Harry Stebbings가 Factory 공동창업자 Matan Grinberg에게 OpenAI, Anthropic, open source, token spend, enterprise AI adoption, AI 코딩 시장을 물은 대담

AI 시대의 핵심은 왜 자원 배분인가?

Matan은 기업을 “문제를 해결하기 위해 모인 조직”으로 봄. AI가 생기면 같은 사람으로 더 많은 문제를 풀거나, 같은 문제를 더 적은 사람으로 풀 수 있음
그래서 앞으로 24개월 동안 경영진이 가장 많이 고민할 것은 token, 돈, 사람을 어디에 둘지임
예전에는 엔지니어링 조직이 “이번 분기에 기능 3개를 ship했나” 같은 중간 지표로 평가받았음
이제는 그 기능이 매출, 고객 만족, 시장 점유율 같은 실제 business outcome을 움직였는지 봐야 함
예를 들어 물류 회사의 핵심 역량은 소프트웨어 개발 자체가 아닐 수 있음. 소프트웨어는 물류 성과를 높이는 수단임
그래서 좋은 질문은 “엔지니어를 더 뽑을까”가 아니라 “이 지출이 핵심 지표를 더 크게 움직이나”가 됨

AI spending hangover는 무엇인가?

Matan은 기업의 AI 도입을 3단계로 설명함
1단계는 이사회가 CEO에게 AI 전략을 묻는 시기임. CEO는 CTO에게 “AI를 도입하라”고 압박함
2단계는 AI at all costs임. token maxing, 사용량 독려, 성과 평가에 AI 사용량을 넣는 방식이 나옴
3단계는 hangover임. 청구서를 보고 “왜 이렇게 많이 쓰고, 실제 ROI는 뭔가”를 묻는 단계
실제로 어떤 CIO는 직원들이 비싼 Opus급 모델에 “오늘 기분 어때” 같은 질문을 던지며 매달 수십만 달러를 쓰는 걸 봤다고 함
그래서 기업은 점점 팀별 limit, 작업별 budget, model routing을 도입하게 됨

업무 유형	적합한 모델	이유
간단한 질문, 반복 작업	작은 open model	싸고 빠르며 충분함
구현, 문서화, 테스트 보조	open model 또는 중간 모델	정답 확인이 비교적 쉬움
큰 설계, planning, 위험 판단	frontier model	의사결정 token의 가치가 큼
보안, 권한, 민감 데이터	통제된 배포 모델	비용보다 안전과 governance가 중요함

앱 레이어는 모델 전쟁에서 어떻게 살아남나?

Matan은 모델, 앱, 인프라가 서로를 상품화하려 한다고 설명함
모델 회사는 “앱은 쉽게 만들 수 있고 진짜 제품은 모델”이라고 말하고 싶어 함
앱 회사는 반대로 모델을 교체 가능한 부품으로 만들고 싶어 함. OpenAI, Anthropic, Google, open model이 서로 가격과 성능으로 경쟁하게 만드는 것
Factory의 주장은 model agnostic임. 고객은 하나의 개발 도구를 쓰지만, 내부에서는 task별로 가장 적합한 모델을 고르는 구조
그는 한 모델 제공자가 압도적으로 앞서가면 Factory의 약한 시나리오가 된다고 말함. 하지만 최근에는 최소 4개 정도의 모델이 비슷한 수준에서 경쟁할 가능성이 커졌다고 봄
이건 고객에게 좋은 일임. 클라우드처럼 한 vendor에 묶이면 나중에 가격이 올라가도 옮기기 어렵기 때문

엔지니어의 역할은 어떻게 바뀌나?

Matan은 미래의 좋은 엔지니어를 단순히 코드를 빨리 쓰는 사람이 아니라, end-to-end outcome을 소유하는 사람으로 봄
Factory에서는 엔지니어와 sales, marketing이 분리된 계급처럼 있지 않고 한 팀처럼 움직인다고 함
이유는 제품이 소프트웨어 화면만이 아니기 때문임. 고객이 처음 이름을 듣는 순간부터 10번째 renewal까지의 전체 여정이 제품이라는 관점
그래서 미래 엔지니어는 기능을 ship하는 사람을 넘어, 고객 행동, sales enablement, product metric, marketing copy까지 이해하는 GM에 가까워질 수 있음
그는 “polymath의 시대가 돌아왔다”고도 말함. AI 덕분에 여러 분야의 frontier에 더 빨리 접근할 수 있고, 한 사람이 시스템, 고객, 코드, 시장을 같이 다룰 수 있기 때문
반대로 문법 암기, 코딩 대회식 속도, release note 작성 같은 일은 점점 가치가 줄어들 수 있음

AI 비용은 개발자 연봉의 몇 퍼센트가 될까요?

Matan은 평균적으로는 몇 년 안에 개발자 연봉과 비슷한 규모까지 갈 수 있다고 봄. 다만 모두에게 같은 비율을 적용하면 안 된다고 말함. 어떤 사람은 token 사용이 거의 필요 없고, 어떤 사람은 수십 개 agent를 돌리며 연봉보다 훨씬 큰 token budget을 써야 할 수 있음.

open source 모델이 frontier model을 대체하나요?

대부분의 반복 작업은 open model로 내려갈 수 있음. 하지만 planning, 설계, 중요한 의사결정처럼 실패 비용이 큰 순간에는 frontier model을 쓰는 게 맞을 수 있음. 핵심은 하나를 고르는 게 아니라 작업별로 나누는 것임.

AI 코딩 시대에 보안은 더 중요해지나요?

그렇다고 봄. 생성되는 코드량은 폭발적으로 늘고 있는데, 보안 검토와 운영 기준은 같은 속도로 늘지 않기 때문임. Matan은 앞으로 몇 년 안에 AI가 만든 코드와 관련된 큰 보안 사고가 나올 가능성이 있다고 봄.

1인기업 관점

이 인터뷰는 token maxing 이후에 오는 현실적인 운영 문제를 잘 보여주는 듯함. 1인기업도 처음에는 frontier model로 빠르게 밀어붙이는 게 맞지만, 반복 workflow가 보이면 바로 싼 모델, 비싼 모델, 사람 판단을 나누는 routing을 설계해야 할 것 같음. 결국 중요한 건 “AI를 많이 쓴다”가 아니라 내 시간과 token을 어디에 쓰면 고객 outcome이 가장 크게 움직이는지 아는 것임.

AI 모델 전쟁의 승자는 누구인가: 20VC (youtube.com) ↗