Semi Doped 이 회차는 메모리 값 폭등으로 열어 빅테크 자본지출로 닫는다. 진행은 둘, Austin Lyons(이하 진행자A)는 Chipstrat을, Vik Sekar(이하 진행자V)는 Vik's Newsletter를 쓴다. 게스트는 없다. 두 화제는 따로 놓인 소식이 아니라 같은 돈의 앞뒤이고, 그 연결은 회차 안에서 직접 말해진다.
진행자V가 실적발표를 묶어 전한 수는 이렇다. 메타·구글·아마존·마이크로소프트 네 회사의 2026년 자본지출 계획이 평균 70% 늘었고 몇몇은 두 배가 됐다. 구글은 1,200억 달러쯤 쓸 것으로 여겨졌는데 1,800억 달러를 발표해 예상보다 50% 높았고, 아마존은 2,000억 달러를 내놨다. 넷을 합치면 6,000억 달러가 넘는다.
발표된 금액이 수요표로 내려오는 순서
진행자A는 그 돈이 무엇으로 바뀌는지를 먼저 나열했다. 데이터센터 부지, 전력, 연산, 메모리, 네트워킹, 스토리지다. 실적발표에서 계획으로 발표된 금액은 곧바로 부품 주문서가 되고, 몇 분기 뒤 웨이퍼와 D램과 낸드의 실제 수요표로 내려온다. 회차 끝에서 진행자V가 쓴 비유가 그것이다. 이 붐은 "반도체라는 배를 전부 들어 올리는 밀물"이다.
다만 진행자A는 가속에 한도를 달았다. 한 해에 2,000억 달러를 버는 회사가 한 해에 2,000억 달러를 쓰겠다고 약속하는 상황이라 잉여현금흐름이 결국 버티지 못한다는 것이다. 그래도 지출이 0으로 꺼지지는 않고 증가 속도만 느려질 것이라고 봤다. 2027년 추측으로 진행자V는 약 7,500억 달러, 진행자A는 약 8,000억 달러를 댔고, 근거는 지난해 4,000억대에서 올해 6,000억대로 뛴 기울기다. 둘 다 그 자리에서 던진 어림이고, 2028년에 1조 달러를 넘는지까지만 보고 "그 뒤로는 더 예측하지 않겠다"고 했다.
회차는 이 한 문장으로 연다. "메모리가 너무 비싸져서 저가 장비나 기기를 아예 못 만들 지경이다". 설명은 진행자V가 맡았다. HBM(고대역폭 메모리 — D램 칩을 여러 장 쌓아 만든 고성능 D램)은 만들기가 어려워 SK하이닉스·삼성·마이크론 세 곳만 만들 수 있고, 이들이 웨이퍼 생산 능력을 HBM으로 돌리면 소비자용 메모리에 남는 물량이 없다.
같은 웨이퍼를 어디로 돌리나
Nvidia 쪽 유인도 같다. 진행자A가 인용한 메모로 게이밍 GPU는 Nvidia 매출의 8%이고, 2022년에는 35%였다. 영업이익률은 AI 칩이 65%쯤, 게이밍이 40%쯤이다. 여기서 진행자V가 전한 소문이 2026년에 신형 게이밍 세대가 아예 발표되지 않을 수도 있다는 이야기인데, 본인이 "사실인지 확신은 없어서 루머일 수도 있다는 걸 미리 말해 둔다"고 단서를 달았다. 30년 동안 해마다 GPU 신제품을 내놓던 회사라 공백 자체가 이례적이라고 짚었다.
HBM 수요가 꺾일 거라는 뉴스는 대화 맥락을 값싼 낸드에 저장하는 방식이 나왔을 때를 비롯해 주기적으로 있었다. 진행자V의 판단은 단호하다. 가중치를 얹고 추론을 돌리는 대목로는 HBM이 여전히 제일 좋은 목이라 통째로 걷어낼 방법은 없다. 새로 나오는 칩일수록 HBM 탑재량이 줄기는커녕 늘어 한 대에 테라바이트급이 들어간다. 광학과 D램을 엮어 메모리를 모아 쓰는 방식에도 "괜찮은 생각이긴 한데 HBM 성능은 여전히 못 이긴다"고 선을 그었다.
메모리를 사는 값은 두 갈래로 정해진다. ① 스팟은 그때그때 공개 시장에서 붙는 가격이라 수요와 공급에 따라 날마다 크게 흔들린다. ② 계약가는 HP나 델처럼 노트북에 D램을 넣는 대량 구매처가 연간 물량을 미리 밝히고 메모리 회사가 그 물량에 맞춰 정해 주는 가격이다. 약속을 미리 해 두는 쪽인데도 진행자V가 전한 TrendForce 추정으로는 "D램 계약가가 한 분기 만에 두 배가 됐다".
이 시차를 진행자A가 애플로 풀었다. 최근 분기 실적이 좋았고 마진도 아직 안 깎인 이유는 예전에 낮게 잠가 둔 계약을 쓰고 있어서다. 진짜 부담은 재협상 시점에 뒤늦게 온다. 진행자V는 애플이 키옥시아와 남들보다 일찍 낮은 가격에 계약을 맺어 몇 분기를 벌었다면서도 "어떻게 미리 알았는지 모르겠다"고 덧붙였고, 결론은 잘랐다. "메모리한테서 도망칠 수 있는 회사는 없다".
원가 쪽 숫자가 그 압박을 보여준다. GDDR7 가격은 1년 사이 4배가 됐고, GPU 코어 칩 자체의 제조원가는 300달러쯤으로 잡히는데 그 둘레의 메모리가 그보다 더 비싸다. "비디오램이 이제 게이밍 GPU 부품원가의 80%"라는 말에 진행자A는 "그럼 카드 팔아서 어떻게 돈을 버느냐"고 되물었다. 반대편에서는 HBM을 안 만드는 대만 업체 한 곳(자막은 "나 테크"로 받았다)이 표준 DDR4 중심으로 전년 대비 600% 매출 성장을 냈다. DDR5는 그 회사 매출의 10%쯤에 지나지 않는데도 그렇다.
그래서 진행자V가 든 비유가 "표준 DDR4를 100달러짜리 콩 통조림처럼 판다"는 것이다. 그리고 진행자A가 곧바로 순환을 짚었다. 전년 대비 600%는 가격을 그만큼 올렸거나 같은 값에 그만큼 더 팔았거나 그 섞임인데, 어느 쪽이든 모두가 증설에 뛰어들 유인이 되고 새 생산 능력이 한꺼번에 켜지면 더는 가격을 못 올린다. 여윳돈이 있으면 메모리 팹을 차리자는 농담이 나온 것이 지금 국면의 온도다.
루빈 하나가 가져가는 낸드
낸드 쪽 숫자가 가장 크다. 진행자V가 전한 사양으로 Vera Rubin 스토리지 랙 한 대에 낸드 1,152테라바이트가 들어가고, Morgan Stanley 추정으로 2027년에 랙당 1,000테라바이트짜리 루빈 랙 7만 대가 출하된다. 같은 추정으로 루빈 하나가 전 세계 낸드 공급의 13%를 가져간다.
이 흐름이 계속될지를 두고 두 사람은 반대쪽에서 같은 결론에 닿았다. 진행자V는 자기 뉴스레터에 대화 맥락을 싸게 저장하면 결국 추론 비용이 내려간다고 썼지만 "지금 당장은 그렇게 안 보인다"고 인정했다. 오퍼스 계열 모델이 빠른 모드에서 토큰과 사람 계좌 잔고를 동시에 태우고 있고, 캐시 적중률이 좋아지는 것은 장기 흐름이지 "아직 거기까지는 못 갔다"는 것이 붙인 단서다. 진행자A는 KV 캐시(이미 계산해 둔 중간 결과를 쥐고 있다가 재계산을 피하는 저장물)를 잘 놓아 적중률을 올리면 GPU 활용률이 오르고 토큰 요금이 내려가겠지만, 그만큼 사람들이 프롬프트에 더 많은 맥락을 밀어 넣을 것이라며 제번스의 역설을 들었다. 지금도 실적발표 PDF를 여러 개 물리면 "너무 크다"는 벽에 부딪힌다. 이것이 풀려야 여러 분기 자료를 여러 에이전트에 한꺼번에 맡기는 일이 1,000달러가 아니라 10달러쯤의 API 비용이 된다.
수요가 번지는 경로도 구체적이다. 진행자V는 채팅창에 치고 답을 받는 방식이 지속 가능하지 않아 에이전틱 방식이 추론의 주류가 될 것이라고 봤는데, 그렇게 움직이는 에이전트를 돌리려면 CPU가 필요하고 그 CPU는 다시 D램을 필요로 한다. 진행자A가 층을 세어 준 대로 GPU는 HBM과 SRAM을, CPU는 D램을, 연산이 옮겨 가는 네트워크의 DPU도 메모리를 더 달라고 한다. Vera Rubin 플랫폼이 D램을 납땜이 아니라 꽂는 방식으로 1~1.5테라바이트까지 받는 것도 같은 변화다. 이 흐름의 방증으로 진행자A가 든 것이 Western Digital의 장기 공급계약이다. 2028~2029년까지, 일부는 2030년까지 이미 잡혀 있다. 거의 5년 앞의 스토리지 물량에 지금 서명한다는 뜻이다.
버블처럼 보인다는 점은 두 사람 다 인정했다. 다만 진행자A는 20분 계획을 세우고 나머지를 기계에 맡기는 경험이 "예전으로는 못 돌아갈 만큼" 자기 작업을 바꿔 놓았다고 했다. 그러고는 둘 다 판단을 미뤄 뒀다. 이 대화가 "와인처럼 익을지 우유처럼 쉴지" 1~2년 뒤 다시 열어 보자는 것이다.
빌려줄 때의 이익률과 본업의 이익률
같은 6천억 달러라도 회수 경로의 길이는 회사마다 다르고, 이 회차에서 회사를 나누는 잣대가 그것이다. 진행자A가 구글을 먼저 뜯었다. 구글은 본질적으로 광고 회사이고 그 사업의 마진이 70%쯤이다. 여기서 Nvidia GPU를 사면 대부분 클라우드 고객에게 빌려주니 "투자금을 회수하는 경로가 더 짧다". 대신 마진은 낮다. 네오클라우드급이 10~20%, 구글·마이크로소프트급이 30%쯤이고, 중간에 칩을 파는 업체가 없는 자체 TPU는 40~50%로 빌려줄 수 있다.
진짜 돈은 그다음이다. 생성형 AI가 키워드 맞추기를 넘어 사용자 의도를 알아듣고, 광고 문구를 그 자리에서 다시 써 주고, 디자이너가 없는 작은 사업자도 광고와 영상을 만들어 낸다. 비용이 더 드는 것 아니냐는 물음에 진행자A가 내놓은 근거는 조심스럽다. 최근 여러 분기 실적발표에서 매출 성장 속도가 비용 성장 속도와 비슷하게 나왔다며 "단정할 수는 없지만" 새로 쓴 만큼 새로 벌고 있다는 신호라고 했다. 내부 워크로드는 자체 실리콘으로 옮겨 가도 클라우드는 계속 Nvidia와 AMD를 산다. 임대업자가 한 종류의 상가만 갖고 있을 수는 없다는 비유다.
마이크로소프트는 아래 두 층이 구글과 거의 같은데 위에서 갈린다. 자체 실리콘을 만들고(구글이 10년쯤 앞선다) 자체 모델도 학습하지만 OpenAI 의존이 더 크다. 문제는 응용 층이다. 애저와 마이크로소프트 파운드리로 기업을 설득하거나 엑셀·워드·아웃룩에 심어 파는 길밖에 없는데, 기업 영업 주기와 조직 변화는 오래 걸린다. 메타의 지출 발표에는 주가가 올랐고 마이크로소프트는 내린 이유가 거기 있다. 진행자V는 반대쪽을 댔다. 회의 요약과 실행 항목 자동 배정은 이미 여러 회사에서 당연한 기능이 됐고 사람들이 실제로 믿고 쓴다. 진행자A도 유통력의 힘은 인정했다. "팀즈가 슬랙보다 나은 제품이라서가 아니다. 대부분 슬랙이 낫다는 데 동의할 것이다. 그냥 마이크로소프트의 유통력 때문이다". 그리고 아직 덜 쓰인 자산으로 깃허브를 꼽았다. 요구사항만 말하면 작성·버전관리·테스트·배포·버그 처리까지 그 안에서 끝나는 그림이다.
메타는 마이크로소프트보다 구글에 가깝다. 매출이 거의 다 광고에서 나오고, 피드에 맞는 콘텐츠와 그 옆에 붙일 광고를 고르는 일이 10년째 기계학습으로 돌아간다. 규모는 일간 활성 사용자 35억 명, 1인당 연간 광고 매출이 200달러쯤이다. 진행자A가 든 근거는 지난해 11월경 나온 광고 추천 논문인데, 학습 연산을 늘릴수록 순위가 좋아지는 관계를 이 영역에서 처음 보였다는 것이다. 논문 이름은 본인이 정확히 기억나지 않는다고 밝혔다.
그래서 이른바 초지능 팀의 인재 영입도 프런티어 모델을 팔려는 일이 아니라고 봤다. 35억 명에게 서비스할 때는 1조 파라미터 모델을 랙에 잔뜩 올리지 않는다. 큰 모델을 교사로 삼아 작은 학생 모델을 증류해 내는 구조이고, 프런티어 모델이 그 교사로 필요하다. 진행자A 는 메타의 광고 추천 논문을 들면서 그 이름은 기억이 확실치 않다고 스스로 달았다. 그런데도 메타가 "투기적 지출이 아니라 핵심 사업 투자"라고 계속 설명해야 하는 이유는 리얼리티랩스 때 투자자들이 받은 충격이 남아 있어서다.
아마존이 가장 많이 쓰겠다고 했는데 반응은 가장 나빴다. 예상은 1,250억 달러였고 발표는 2,000억 달러였다. 진행자A의 풀이는 핵심 사업의 성격이다. 전자상거래와 소매는 물리적 사업이라 소프트웨어와도 광고와도 다르고, 자본지출 일부는 배송을 빠르게 하는 물류로, 대부분은 AWS로 간다. AWS가 가장 크고 가장 좋은 클라우드라고 평가하면서도 AI 매출 성장률은 24%로 구글 48%·마이크로소프트 39%보다 낮게 보인다. 이미 몸집이 커서 성장률이 낮게 나온다는 것은 회사 측 설명이고 진행자A가 그대로 전한 것이다. 남는 약점은 마진이다. 트레이니움과 Nvidia GPU를 둘 다 빌려줄 수 있어도, 소매 마진은 클라우드 마진보다 낮다.
가장 크게 비어 있는 것은 회계다. 6,000억 달러가 언제 비용으로 잡히는지, 서버와 가속기의 내용연수를 몇 년으로 두는지, 감가상각이 어느 분기부터 손익에 붙는지는 이 회차에 한 번도 안 나온다. 돈의 한계를 재는 잣대로 쓴 것은 잉여현금흐름 하나뿐이다. 그래서 이 글이 따라간 순서도 발표된 계획에서 부품 주문을 거쳐 회수 경로까지이고, 그 뒤 장부에서 벌어지는 일은 이 재료로는 말할 수 없다.
공급 쪽도 비어 있다. 증설 계획의 실제 숫자가 없고, 순환이 꺾이는 시점은 "생산 능력이 한꺼번에 켜지면"이라는 말로만 놓였다. 2027년 숫자 둘은 그 자리에서 던진 추측이라 1년 뒤 맞춰 보기로 했다. 다음 회차 예고로 남긴 것은 랙 안의 구리를 광학으로 바꾸는 이야기와 구리가 계속 살아남을지의 물음이다.
무엇이 나오면 이 글의 판단이 바뀌는지는 셋이다. ① 낮게 잠가 둔 계약이 끝난 뒤 애플과 PC 업체의 마진이 실제로 어떻게 되는지가 3절의 시차 이야기를 확정하거나 뒤집는다. ② 메모리 3사의 증설 발표가 나오면 순환의 꺾임을 처음으로 날짜로 셀 수 있게 된다. ③ 마이크로소프트가 깃허브를 통해 회수 경로를 실제로 짧게 만들면, 5절에서 나눈 짧은 쪽과 긴 쪽의 경계가 옮겨 간다.