이번 Semi Doped 회차는 실적 발표가 몰린 한 주를 훑는다. Austin Lyons(이하 진행자A)와 Vik Sekar(이하 진행자V)가 고른 출발점은 하이퍼스케일러가 아니라 메모리·저장장치 회사들이었다. 두 사람이 붙든 물음은 하나다. 설비투자가 또 올랐는데, 그 늘어난 돈이 연산을 더 사는가 아니면 비싸진 부품값을 메우고 마는가. 이 글은 종목 이야기는 걷어 내고 그 대화에서 업계에 보이는 것을 읽는다.
지난 몇 년 동안 설비투자를 올리는 이유는 늘 같았다. 연산이 더 필요하다, 지능이 더 필요하다. 진행자A는 이번 분기에 이유가 하나 더 붙었다고 봤다. 메모리가 비싸졌고 저장장치가 비싸졌고 광섬유와 광부품까지 비싸졌으니, 이미 약속해 둔 물량을 그대로 받으려면 돈을 더 얹어야 한다는 설명이다. 하이퍼스케일러 넷의 2026년 설비투자 약속은 7천억 달러에 가깝고, 2025년에는 5천억 달러였다.
설비투자 1,900억 달러 안의 250억
가장 또렷한 숫자는 마이크로소프트에서 나왔다. 2026년 설비투자 1,900억 달러 가운데 250억 달러가 부품값 상승분이라고 최고재무책임자 에이미 후드가 밝혔다. 진행자A는 여기에 시간을 얹었다. 몇 년 전만 해도 마이크로소프트가 한 분기에 쓰는 설비투자 전체가 250억 달러였다. 이제는 그 한 분기치가 부품값 인상분 하나로 사라진다. 메타도 설비투자를 올렸고, 마크 저커버그는 늘린 부분 대부분이 부품값 때문이며 그중에서도 메모리 가격 때문이라고 실적 발표에서 말했다. 구글은 이 대목을 길게 말하지 않았고, 클라우드 매출이 63% 늘었으며 수요를 다 받아 냈다면 더 높았을 거라는 말만 했다.
설비투자가 돌아오는 고리 — 닫히는 쪽과 안 닫히는 쪽
진행자A는 연산을 더 사는 설비투자라면 얼마든지 늘어도 좋다고 했다. 챗봇이 한도에 걸려 멈추는 일을 자기도 겪는데, 그때마다 가속기가 더 필요하다는 것이 눈에 보인다. 문제는 연산을 한 대도 더 사지 않으면서 메모리 값만 더 내야 할 때다. 진행자A는 그 상황에서 최고재무책임자를 어디까지 설득할 수 있겠냐고 물었다. 진행자V는 순환을 걱정했다. 돈이 연산으로 가면 사용자가 더 나은 도구를 쓰고 그것이 매출과 경제 활동으로 돌아와 고리가 닫힌다. 지금처럼 돈이 메모리 회사로 흘러 나가면 그 고리가 닫히지 않는다. 진행자A가 그 자리에서 이름을 붙였다. "하이퍼스케일러한테는 추가 수익이 없다. 투하자본이익률이 없다. 그냥 세금이다. 메모리세다".
삼성 HBM 점유율 — 전과 후
삼성전자 실적에서 진행자A가 뽑은 수치는 메모리 매출 전년 대비 101% 증가다. 회사 전체 분기 매출과 영업이익이 사상 최고였고, HBM 매출은 2026년에 세 배가 될 것으로 봤으며, 3분기까지 HBM4가 HBM 매출의 절반을 넘길 것으로 전망했다. HBM 시장은 SK하이닉스·삼성·마이크론 셋이 나눠 갖는데, 삼성의 점유율은 여섯 분기쯤 전 40% 수준에서 2025년 13~20%대로 떨어졌다. 새 규격이 나올 때가 잃은 자리를 되찾을 기회이고, 삼성은 그 자리를 잡으려 했다.
메모리 영업 담당 부사장 김재준은 "2월에 세계 최초로 HBM4 상업 출하를 시작한 뒤"라는 말을 지나가듯 넣고는 성능을 내세웠다. "HBM4의 차별화된 성능에 수요가 몰렸고, 양산 준비를 마친 생산능력은 전부 예약이 차서 매진됐습니다. 뛰어난 성능이 실제 가격 프리미엄으로 이어지고 있습니다". 진행자A가 읽어 낸 속뜻은 이렇다. 메모리를 두고는 늘 「비트는 비트」라는 물음이 따라다녔는데, 삼성은 여기서 자기 물건이 더 빠르고 그래서 더 비싸게 팔린다고 말하고 있다.
핀당 속도 — 규격과 실제
진행자V는 그 주장이 실제로 서는 이유를 규격 바깥에서 찾았다. HBM4의 JEDEC 규격은 핀 하나당 초당 8기가비트인데, 추론 성능과 와트당·달러당 토큰을 놓고 다투는 통에 공급사들이 10, 11, 12까지 밀어 올리고 있다. 규격을 한참 넘어선 이 경쟁이 지금 판매를 만들고 고착을 만든다. 마이크론은 베이스 다이를 메모리 공정으로 만들고 삼성과 SK하이닉스는 로직 공정을 쓴다는 이야기도 있었다고 그는 전했다. 고착은 인증에서 온다. HBM3 시절 삼성은 수율 문제로 엔비디아 인증을 오래 받지 못했다. 한 번 인증을 통과하면 내일 당장 삼성을 빼고 마이크론을 꽂을 수 없다. 회사가 셋뿐인데도 서로 대체되지 않는다.
여기에 수요 충족률 이야기가 붙는다. "수요 충족률이 사상 최저입니다. 공급 부족을 걱정하는 고객들은 벌써 2027년 물량을 앞당겨 요청하고 있습니다". 고객이 원하는 양을 절반도 못 주는 상황에서, 고객은 내후년 물량까지 미리 끌어당긴다.
샌디스크 매출총이익률 — 전과 후
샌디스크의 이번 분기 매출은 60억 달러에 조금 못 미쳤다. 전 분기 대비 97%, 전년 대비 251% 늘었다. 매출총이익률은 78.4%로, 진행자A는 소프트웨어 회사 수준이라고 했다. 앞 분기 수치는 51.1%였고, 시장이 기대한 48억 달러보다 10억 달러를 더 냈다. 다음 분기 가이던스는 80% 위다. 엔비디아가 75% 안팎이라는 말이 그 자리에서 나왔다.
이 숫자가 어디서 왔는지를 진행자V가 잘라 말했다. 비트를 그만큼 더 실어 보낸 것이 아니다. 분기 하나 만에 그만한 생산능력을 붙일 수 없고, 웨이퍼 생산은 분기 단위로 움직이지 않는다. 전부 가격 인상이다.
샌디스크의 설명은 다르다. 샌디스크는 낸드 사업이 현물 거래 중심의 순환 사업에서 벗어나고 있다고 말했다. 근거로 든 것이 장기 공급 계약이다. 여러 해짜리 공급 파트너십 다섯 건을 맺었고, 이번 분기에 새로 늘어난 세 건이 남은 이행 의무 420억 달러에 해당한다고 처음 공개했다. 이미 맺은 약속이 2027 회계연도 비트의 3분의 1을 덮고 있으며, 재무 보증이 붙어 있다. 최고경영자 데이비드 괴클러는 장기 계약 비중을 비트 기준 50% 위로 올리겠다고 했고, 가장 긴 계약은 5년이다. 그가 읽은 대목은 이렇다. "고객의 약속은 확정된 재무 보증으로 뒷받침됩니다. 이 파트너십들은 훨씬 예측 가능하고 덜 순환적인 사업에서 구조적으로 높아진 이익을 지탱합니다".
진행자A는 여기서 한 걸음 물러섰다. 지금까지 나온 말은 사람들이 길게 계약하고 미리 내고 있다는 것까지다. 왜 이 사업이 더는 순환하지 않는지에 대한 논거는 아직 없었다고 그는 봤다. 수요가 폭발해 다들 서명하는 것일 수도 있다. 삼성 대목에서 나왔던 물음이 그대로 돌아온다. 성능으로 다투는 사업인가, 아니면 물량이 없어 줄을 선 것인가.
괴클러의 두 번째 인용이 그 논거 자리를 메우려 한다. "AI 모델이 수십억에서 수조 파라미터로 커지고, 배치가 단순 추론에서 깊은 추론과 점점 더 에이전트적인 시스템으로 나아가면서, 낸드는 그 아래 인프라의 핵심 부품이 됐습니다. KV 캐시 같은 추론 최적화와 RAG 같은 작업은 실시간 응답과 사용자 경험 품질을 내기 위해 고성능·저지연 플래시를 많이 요구합니다". 이어서 그는 낸드가 그 용량과 성능을 낼 유일하게 경제적인 방법이라고 했다.
진행자V는 이 주장에 실제 근거가 붙었다며 딥시크 v4를 꺼냈다. v4는 이전 버전보다 KV 캐시를 크게 압축했는데, 그렇다고 낸드가 덜 필요해지지는 않는다. 에이전트를 수백 개 돌리고 각각이 긴 맥락과 여러 차례 대화를 쥐고 있으면, 그 키-값 쌍은 HBM에도 DRAM에도 들어가지 않는다. 그래서 v4는 KV 캐시를 거의 전부 SSD에 두는 추론 시스템으로 짜여 있다. 젠슨 황이 GTC 이후 내놓은 맥락 저장 시스템도 같은 방향이다. 랙 하나에 SSD를 채우고 고대역폭 패브릭으로 GPU에 이어 붙여, KV 캐시 행렬을 그쪽으로 내려놓는 구조다.
왜 이것이 돈 문제인지는 API 가격표에 나타난다. 입력 토큰과 출력 토큰의 가격이 따로 있고 출력이 대체로 네댓 배 비싼데, 그 사이에 캐시 적중과 미적중이라는 항목이 하나 더 있다. 캐시를 다시 쓸 수 있으면 추론 비용이 크게 떨어지므로, 사람들은 시스템 지시문을 앞에 몰아 두고 뒤에만 덧붙이는 식으로 캐시 계층을 지킨다. 딥시크는 에이전트 작업에서 캐시 적중률을 95%까지, 드물게는 99%까지 올릴 수 있다는 수치를 내놨고, v4 프로의 백만 토큰당 가격은 1센트에 못 미치는 수준까지 내려왔다. DRAM은 SSD보다 단위 용량당 값이 자릿수 하나만큼 비싸므로, 용량 문제는 SSD로 가면 풀린다. 남는 것은 대역폭이다. 진행자V가 아직 못 읽었다는 딥시크 팀의 새 논문 제목이 그 지점을 가리킨다. 「Dual Path: Breaking the Storage Bandwidth Bottleneck in LLM Inference」.
진행자A가 던진 물음은 시장 크기가 아니었다. SSD 시장이 커지는 것과 샌디스크의 비트가 남의 비트보다 나은 것은 다른 이야기다. 진행자V의 답은 짧다. 비트는 비트다. 낸드는 이미 자리 잡은 기술이다. 컨트롤러에 차이가 있기는 하다. 삼중 레벨 셀에서 사중 레벨 셀로 가면 셀 하나가 구분해야 하는 상태 수가 아홉에서 열여섯으로 늘고, 비트를 하나 더 넣을 때마다 컨트롤러가 훨씬 어려워진다. 그래도 그는 그것이 차별화 요인은 아니고 컨트롤러는 그저 잘 돌아가면 된다고 정리했다. "내가 아는 한 비트는 비트다". 다만 지연 시간의 상당 부분이 셀 상태를 읽으려고 전압을 조금씩 맞춰 가는 데서 나오니, 그 과정을 빨리 끝내는 알고리즘이 있다면 그것은 차별화 요인일 수 있겠다고 여지를 남겼다.
메모리 부족이 만든 두 번째 효과는 진행자A가 앤디 재시의 발언에서 찾았다. 메모리 제약이 아마존에 부담이냐는 질문에, 재시는 그것이 오히려 클라우드 성장을 밀고 있다고 답했다. "메모리 같은 것들의 가격과 공급이 바뀌면서 지금 저희가 보는 흥미로운 점 하나는, 그것이 그동안 온프레미스 인프라를 쓰던 회사들을 클라우드로 미는 또 하나의 힘이 되고 있다는 겁니다. 메모리 공급사들이 가장 큰 고객인 하이퍼스케일러와 클라우드 사업자를 우선하다 보니, 온프레미스 장비를 구하지 못하는 기업이 여럿 생겼고 그래서 클라우드로 옮기는 속도가 빨라지고 있습니다". 진행자A는 남은 온프레미스 사용자가 금융이나 의료처럼 데이터를 밖에 두기 어려운 곳일 텐데 그들조차 끌려간다고 봤다.
같은 부족이 자체 칩 이야기와도 이어진다. 구글은 실적 발표에서 TPU를 처음으로 외부에 판매하겠다고 했고 규모를 기가와트 단위로 말했는데, 분기 보고서에는 그렇게 하려면 CoWoS와 HBM 물량을 확보해야 한다는 위험 문구가 새로 붙었다. 아마존은 트레이니엄이 연 환산 200억 달러 규모이고 세 자릿수로 성장 중이며, 2세대는 대부분 팔렸고 3세대도 거의 다 예약됐다고 밝혔다. 재시는 자체 가속기로 해마다 수백억 달러의 설비투자를 아끼고, 그것이 영업이익률에서 수백 베이시스포인트의 이점이 된다고 했다. 진행자A의 반응은 감탄이 아니었다. "아, 그러면 메모리 값을 낼 수 있겠네". 진행자V가 받았다. "우리 칩을 직접 만들어서 메모리 회사들한테 내는 거지". 메타도 브로드컴과 함께 1기가와트 규모의 자체 가속기를 준비하며 2년에 칩 네 개짜리 로드맵을 내보였다.
세 흐름을 이으면 고리가 된다
세 흐름을 나란히 놓으면 설비투자가 어디로 흘러 어디로 돌아오는지 보인다. ① 하이퍼스케일러는 부품값 인상분을 설비투자에 얹어 메모리·저장장치 회사로 넘긴다. ② 그 부족 때문에 기업 고객이 온프레미스를 포기하고 클라우드로 들어와 하이퍼스케일러의 매출이 는다. ③ 하이퍼스케일러는 자체 가속기로 아낀 돈을 다시 메모리 값에 쓴다. 진행자V는 이 고리를 우스운 순환이라 부르며 어디로 가는지는 모르겠다고 했다. 메모리세라는 이름을 붙인 진행자A도 이 고리가 언제 끊어지는지는 말하지 않았다.
말하지 않은 것은 넷이다. ① 메모리세의 크기. 마이크로소프트의 250억 달러 말고 나머지 셋의 부품값 상승분은 수치로 나오지 않았고, 저커버그의 발언은 「대부분」에 그친다. ② 순환의 끝. 진행자V는 이 정도면 끝이겠다 싶을 때마다 틀렸다고 했을 뿐이다. ③ 재시가 말한 온프레미스 이탈이 총량으로 얼마나 되는지는 진행자A도 모른다고 했다. ④ SSD 중심 추론이 정말 대역폭 병목을 넘는지. 진행자V는 그 답이 있을 논문을 아직 읽지 못한 상태였다.
판단이 바뀌는 조건은 셋이다. ① 규격 바깥 속도 경쟁이 멈추면 2절이 무너진다. 셋이 모두 핀당 12기가비트에 닿아 버리면 다시 갈아 끼울 수 있는 물건이 되고, 프리미엄 가격의 근거가 사라진다. ② 샌디스크의 장기 계약이 가격이 꺾인 뒤에도 지켜지는지가 3절의 「덜 순환적」이라는 주장을 판정한다. 지금은 값이 오르는 국면에서 고객이 물량을 확보하려고 서명한 단계다. 값이 내릴 때도 그 가격에 사 가면 그때 순환이 끊겼다고 말할 수 있다. ③ 추론에서 SSD가 차지하는 비중이 실제로 얼마나 되는지가 4절의 낸드 수요를 정한다. 딥시크 하나가 그 방향으로 갔을 뿐이고, 서방 대형 모델들이 KV 캐시를 어디에 두는지는 이 회차에 나오지 않았다.