Semi Doped는 평소 칩 설계와 벤치마크를 다루는 채널인데, 이번 회차는 처음부터 끝까지 돈 이야기다. 진행은 Vik's Newsletter를 쓰는 Vik Sekar(이하 진행자V)가 혼자 맡았고, 게스트는 GPU 컴퓨트를 표준 상품처럼 거래하는 거래소 Ornn의 최고기술책임자 Wayne Nelms다. 이 글은 그 대화에서 한 회사의 상품 소개가 아니라 업계에 보이는 것을 읽는다.
같은 칩인데 요금이 세 층
진행자V는 숫자부터 물었다. 시간당 100달러냐 10달러냐. Wayne이 H100 SXM 기준으로 댄 요금은 세 층이다. ① 마켓플레이스가 시간당 1.70~1.80달러 ② CoreWeave·Lambda·Crusoe·Nebius 같은 뉴클라우드가 3~4달러 ③ AWS·GCP 같은 하이퍼스케일러가 5~7달러. 같은 칩을 빌리는데 위아래가 세 배 넘게 벌어진다. Wayne은 그 차이를 서비스 수준과 품질, 가동률이 제각각이라 표준화가 어려운 대목으로 봤다.
Ornn이 인덱스로 삼는 것은 셋 중 마켓플레이스뿐이다. 나머지가 잘 안 움직이기 때문이다. 하이퍼스케일러는 분기에 한두 번 요금을 고칠 뿐이라 하루하루 시장이 어디로 가는지를 못 담는다고 Wayne은 봤다. 파는 사람도 사는 사람도 많아 매일 흔들리는 시장이 마켓플레이스라서, 수요에 바로 반응하는 진짜 현물 시장에 가깝다고 판단했다.
지역 차이도 같은 방식으로 다룬다. 전기 시장에는 「허브」가 있어서 같은 전기라도 지역마다 다른 가격이 붙는데, GPU를 돌리는 데 전기가 큰 원가라면 그 지역차가 컴퓨트 요금에도 따라온다고 Wayne은 봤다. 그래서 미국 전체를 하나로 묶는 대신 특정 지역의 특정 컴퓨트만 추적한다. 헤지를 자기 사업에 딱 맞게 만들려는 선택이다.
여기서 업계에 보이는 것은 「GPU 시간당 요금」이라는 한 낱말이 실은 세 개의 다른 시장이라는 사실이다. 뉴클라우드가 3~4달러를 받는 근거와 하이퍼스케일러가 5~7달러를 받는 근거는 칩이 아니라 그 위에 얹힌 서비스다. 그래서 상품화가 실제로 닿는 구간은 셋 중 맨 아래층이고, 지수가 대표하는 것도 거기까지다.
선물 한 장에서 돈이 오가는 순서
금융 상품은 돈이 언제 나가고 언제 들어오는지를 따라가면 가장 빨리 잡힌다. Wayne이 든 예시는 이렇다. ① 오늘, 2026년 2월물 선물(先物 — 나중에 살 것을 지금 가격으로 미리 정해 두는 계약)을 2달러에 산다. ② 2월이 되면 실제로 쓸 컴퓨트는 그때그때 스팟 시장에서 따로 산다. 선물에서 GPU 시간이 나오지는 않는다. ③ 2월 한 달 동안 지수가 21달러, 22달러, 25달러 언저리로 오르내렸다면 그 차액이 현금으로 정산돼 들어온다. 스팟에서 더 낸 만큼을 선물에서 돌려받으니, 결과적으로 지불액에 상한이 씌워진다.
두 가지를 그대로 옮겨 둔다. ① 2달러와 21~25달러라는 숫자는 Wayne이 「예를 들어」로 시작한 가정이고, 그 스스로 컴퓨트 요금이 10달러나 20달러까지 가는 일은 「이상적으로는 결코 일어나지 않겠지만」이라고 단서를 달았다. ② 이 선물은 전액 현금결제라 실물 GPU 시간이 오가지 않는다. 컴퓨트를 확보하는 계약이 아니라 현금흐름의 위험만 떼어 내는 계약이다.
파는 쪽은 방향이 반대다. 데이터센터가 선물을 팔면 판매 요금에 하한이 생긴다. 사는 쪽의 상한과 파는 쪽의 하한을 함께 걸어 두는 구조를 금융에서 칼라(collar — 위아래를 동시에 묶는 꼴)라 부른다고 Wayne은 설명했고, 석유·가스·전기에서 이미 쓰는 구조라고 했다.
가격을 정하는 요인을 묻자 그는 「순전히 수요와 공급」이라고만 답했다. 2월에 H100 시간을 내놓는 사람이 몇이고 연구·훈련·추론 수요가 얼마냐가 전부라는 뜻이다. 그러면서 공급이 제약된 자원에는 역사적으로 금융시장이 바짝 뒤따라 붙었다며, 컴퓨트도 그 차례라고 봤다.
Ornn 이 최근 넓힌 것은 메모리다. DRAM과 DDR5·DDR4, SRAM 제품의 선물을 Architect 의 Brett Harrison 과 함께 내놨다. 메모리 가격이 치솟는 국면이라 앞날의 수요에 대한 생각을 지금 거래할 수 있게 해 주는 상품이라고 Wayne은 설명했고, 메모리가 「우리 누구도 예상하지 못했을 수준보다 훨씬 높게」 거래되고 있다고 했다.
Architect와 붙기 전 Ornn 자체 플랫폼에서는 스왑(swap — 두 당사자가 서로 반대 포지션을 하나씩 맞물리는 계약)만 다뤘다. 큰 매도자가 나오면 그만큼 큰 매수자 하나를 찾아 붙여야 했다. Architect의 퍼페추얼(perpetual — 만기 없이 매일 가격에 노출되는) 거래소에서는 주식을 사듯 매일 손익이 잡히고, 큰 매도자 하나를 작은 매수자 여럿에게 나눠 붙일 수 있다. 다대다로 맞물려야 시장이 시장답게 돌아간다고 Wayne은 봤다.
반대로 가격을 안 붙이는 자리도 분명하다. 스위치와 네트워킹 장비는 빼고 GPU와 HPC 하드웨어 본체만 다룬다. 전력도 뺀다. 입지마다 다르기 때문이다. 다만 Wayne은 시장이 추론 쪽으로 옮겨 갈수록 토큰당 비용이 전기 요금에 크게 좌우된다는 점은 인정하면서, 「어쩌면 나로서는 다행스럽게도, 그건 내가 고민해야 할 문제가 아니다」라고 했다. 업계가 풀어야 할 대목로 남겨 둔 셈이다.
진행자V가 GPU 감가상각 기간 논쟁과 Michael Burry의 서브스택 글을 꺼내자, Wayne은 낱말을 둘로 나눴다. ① 전성기 수명 ② 유효수명. 유효수명을 5년이라고 말하면 5년이 지난 GPU가 곧장 고철이 되는 것처럼 들리는데, A100에서 본 바로는 전혀 그렇지 않았다고 했다. 그 하드웨어를 필요로 하는 데가 늘 있으니 잔존가치도 늘 남는다.
감가상각을 직선으로 그리면
숫자로는 이렇다. H100이나 B200, 루빈의 전성기 수명이 통념대로 5년이라 해도 그럴듯하긴 하다고 먼저 여지를 두고, 자신은 2~3년에 더 가깝다고 봤다. 유효수명은 칩이 데이터센터에 실제로 얼마나 오래 놓여 있느냐의 문제이고, 5~6년에서 10년까지 시장에서 쓸모가 이어질 수 있다고 했다.
정작 날이 선 대목은 기간이 아니라 곡선의 모양이다. 데이터센터 수익성 모델이 흔히 쓰는 정액법(장부에서 해마다 같은 금액씩 깎는 방식)을 Wayne은 「매우 순진한 가정」이라 했고, 그것이 오늘날 사람들이 저지르는 가장 큰 실수라고 했다. 실제로는 처음 3년에 가치의 대부분이 빠지고 남은 5~7년은 꽤 평평하게 간다는 것이 그의 트레이딩 감각이다. 그러면서도 「정액법이 정확히 맞다고 생각하는 사람은 아무도 없을 것이라고 거의 확신한다」며 자기 주장을 크게 세우지는 않았다. 진행자V가 이를 쇼룸을 나서는 순간 값이 급락하지만 0으로는 가지 않는 슈퍼카에 견주자, Wayne은 「대체로 맞다」고 동의했다.
이 구분이 업계에 뜻하는 것은 논쟁의 축이 옮겨 간다는 점이다. 2년이냐 5년이냐를 두고 다투는 동안 실제로 틀리는 것은 기간이 아니라 모양이다. 처음 3년에 쏠린 곡선을 직선으로 펴 놓으면 초기 몇 해의 장부가는 실제보다 높게 잡히고 뒤쪽 몇 해는 낮게 잡힌다. 대출의 담보 가치가 그 장부가에 기대 있다면 어긋남은 숫자 하나로 끝나지 않는다.
Wayne이 이 회차에서 처음 꺼낸 준비 중인 상품은 GPU 잔존가치 상품이다. 돈이 움직이는 순서로 보면 이렇다. ① 뉴클라우드가 B300 클러스터를 72랙 규모로 지어 특정 고객에게 설치하고, 세입자와 4년 테이크오어페이(쓰든 안 쓰든 약정한 금액을 낸다) 계약을 맺는다. ② 4년이 지나면 루빈이 양산 중이거나 더 효율 좋은 칩이 나와 있을 가능성이 높아, 세입자가 재계약하지 않을 수 있다. ③ 그러면 그 하드웨어를 남에게 넘겨 빈 곳을 비우고 다른 GPU를 들여야 한다. Ornn은 그 4년 뒤 가격을 오늘 정해 준다.
여기서 금리로 이어지는 고리가 나온다. 데이터센터는 대출 기관에 세입자가 재계약을 안 해도 4년 뒤 이 하드웨어를 남에게 팔 수 있다고 말할 수 있게 된다. Wayne의 말은 이렇다. 「파이낸싱 비용은 정말 비싸요. 그게 상위권 뉴클라우드들의 이익률을 작게 만드는 이유죠, 해마다 칩 한 개당 어마어마한 금융 비용을 내고 있으니까요. 그러니까 4년 뒤에 이 하드웨어를 사 줄 사람이 있다고 말할 수 있다는 건 확실성이에요. 확실성이 있으면 위험이 줄고, 위험이 줄면 금리를 덜 물게 되죠」.
칩 한 개에서 덮는 구간
보장 범위는 전부가 아니다. Ornn이 보통 감당하는 구간은 잔존가치의 15~30%이고, 칩 한 개를 3만 달러에 샀다면 8천~1만 달러어치를 지켜 주는 식이다. Wayne은 이것을 시장의 꼬리(tail — 확률은 낮지만 손실이 큰 끝부분)를 덮는 일이라고 했다. 클러스터 전체에 보험이 걸리는 그림이 아니다.
업계에서 보면 이 상품은 뉴클라우드의 원가 구조 중 가장 큰 덩어리를 건드린다. 상위권 뉴클라우드의 이익률이 얇은 이유로 Wayne이 지목한 것은 해마다 칩 한 개당 나가는 금융 비용이다. 게스트가 자기 회사 상품을 설명한다는 점은 감안해야 한다. 그래도 원가에서 금융이 차지하는 무게를 이만큼 앞에 놓고 말한 대목은 드물다.
진행자V는 하드웨어가 통째로 쓸모없어질 위험을 물었다. SRAM 기반 추론이나 Nvidia의 컨텍스트 메모리 스토리지처럼 긴 문맥에 강한 것이 나오면, 훈련에 쓰던 구세대 GPU가 추론에도 못 쓰이게 되는 것 아니냐. Wayne은 「확실히 가능성 있는 일」이라고 인정했다. 그 노후화 위험을 가격에 넣되 꼬리 구간만 덮기 때문에, 추론 수요에서 보면 칩당 가격이 여전히 매력적이라고 봤다.
그러고는 한 발 더 갔다. 「다만 이 칩들이 추론에도 아예 안 쓰이고 신흥시장에서 훈련용으로만 돌아갈 가능성이 크다는 데는 저도 동의합니다」. 앞으로의 수요 상당 부분이 거기서 나올 것으로 본다고 덧붙였다. 4년 뒤 H100이 남미나 동유럽, 아프리카 어디쯤 가 있을지를 자신도 관심 있게 본다고 했고, 2028·2029·2030년의 중고 시장을 다 같이 봐야 한다고 했다.
진행자V는 반대 방향의 해석을 붙였다. 상시로 도는 에이전트형 추론이 늘면 추론이 훈련보다 더 좋은 하드웨어를 더 많이 요구하는 상황이 올 수 있다고 봤다. 그러면 좋은 칩으로 훈련을 돌리다 수명이 다하면 추론으로 내려보낸다는 순서 자체가 뒤집힌다. Wayne은 「바로 그렇다」고 받으면서도 어느 쪽이 될지는 「시간만이 알려 줄 것」이라고 했다.
투명한 가격의 수혜자를 묻자 Wayne이 지목한 쪽도 이 대목과 이어진다. 규모가 작은 매수자들이다. 취미로 컴퓨트를 쓰는 사람들처럼 필요보다 높은 성능에 시간당 8달러 같은 요금을 내고 있을 수 있다. 지수가 보이면 자기가 무엇에 얼마를 더 내고 있는지가 드러난다.
말하지 않은 것이 셋이다. ① 거래량이다. Ornn에서 실제로 얼마가 오갔는지, 사려는 사람과 팔려는 사람이 얼마나 두꺼운지는 회차 어디에도 안 나온다. 헤지가 성립하려면 반대편에 사람이 있어야 하는데 그 두께를 말해 주는 숫자가 없다. ② 잔존가치를 보장하는 쪽의 손실 위험이다. 15~30% 구간을 덮는다는 말은 있어도 그 위험을 어디서 받아 주는지는 다루지 않았다. ③ 지수를 만드는 방법이다. 어느 마켓플레이스를 몇 개나 보는지, 가중은 어떻게 하는지가 없다. 소수의 호가에 휘둘리지 않는지는 그 설계에 달려 있다.
무엇이 나오면 이 글의 판단이 바뀌는지도 셋이다. ① A100 시간당 요금이 최근 몇 달 안정적이거나 오히려 올랐다는 관측은 1년 반치 추적에 기댄 것이다. Wayne 스스로 H100 요금이 시간이 갈수록 내려간다는 데 「대체로 동의한다」고만 받았으니, 구세대 추론 수요가 꺾이면 4절의 곡선 모양도 다시 봐야 한다. ② 잔존가치 상품의 첫 계약에서 금리가 실제로 얼마나 내려갔는지가 나오면, 5절의 고리가 논리인지 실적인지 갈린다. ③ 신흥시장에서 구세대 칩으로 훈련을 돌리는 사례가 실제로 나오면 6절의 두 갈래 중 하나가 닫힌다.