2024년 3월에 주당 36달러로 상장한 회사가 이번 6월에는 499달러가 되어 나스닥100에 들어갔다. 전년 대비 93% 성장에 매출총이익률은 76%였다. 이 회사가 만드는 것은 GPU도 메모리도 광학 부품도 아니다. 서버 보드 위에서 반쯤 죽은 고속 신호를 중간에 붙잡아 깨끗하게 다시 내보내는 칩이다. Semi Doped 진행자 둘, Austin Lyons(이하 진행자A)와 Vik Sekar(이하 진행자V)가 이번 회차에서 다룬 것은 아스테라 랩스 한 회사의 이야기다. 그런데 그 안에 업계 전체에 걸리는 규칙이 몇 개 들어 있다.
진행자V가 먼저 잡은 것은 다들 안 보던 구간이다. 트레이 밖의 연결은 스케일업·스케일아웃으로 늘 다뤘지만, 트레이 안에서 GPU가 CPU나 NIC(네트워크 인터페이스 카드)와 어떻게 붙는지는 다룬 적이 없다는 것이다. 거리 자체는 짧다. 트레이가 폭 2피트, 깊이 4피트쯤이다. 그런데도 문제가 되는 이유는 그 짧은 거리를 PCB(인쇄회로기판) 위의 구리 배선이 잇기 때문이다. 구리는 고속 신호를 잘 나르지 못한다.
PCIe 세대와 초당 전송 수
얼마나 빠른지부터 잡아야 한다. PCIe Gen5는 배선 하나로 1초에 320억 번 신호를 보낸다. 이것을 초당 32기가전송이라 적는다. 신호 한 번이 지나는 시간이 31.25피코초, 곧 1조분의 1초를 다시 서른둘로 나눈 길이다. Gen6는 그 두 배인 64기가전송으로 가면서 PAM4(전압을 두 단계가 아니라 네 단계로 나눠 신호 한 번에 두 비트를 싣는 방식)를 쓴다. 그다음 Gen7은 128기가전송이다.
실에 꿴 구슬이 무너지는 다섯 자리
진행자V는 이 신호를 실에 꿴 구슬로 그렸다. 구슬 하나가 0이나 1이고, 받는 쪽은 정해진 시각마다 실을 들여다보며 구슬을 하나씩 읽는다. 구리 배선 위에서 이 구슬 줄이 무너지는 방식이 다섯이다. ① 감쇠 — 가는 동안 구슬이 흐려진다 ② 반사 — 배선 끝에서 되튄다 ③ 크로스토크 — 옆 배선의 구슬이 끼어든다 ④ 심볼 간 간섭 — 구슬이 설탕처럼 서로 달라붙어 한 덩어리가 된다 ⑤ 지터 — 읽으려고 보는 그 시각에 구슬이 아직 안 왔거나 이미 지나갔다. 진행자V는 ④는 구리가 어떻게 번지는지 규칙이 있어 되돌릴 여지가 있고 ⑤는 무작위라 손쓸 데가 적다고 나눴다.
눈 다이어그램 — 열린 눈과 닫힌 눈
이 다섯이 한 그림으로 모이는 자리가 눈 다이어그램이다. 진행자V는 심볼 하나가 지나가는 시간 구간에 0으로 읽을 아래쪽과 1로 읽을 위쪽 사이의 빈 틈이 있어야 한다고 했고, 진행자A는 그 구간의 파형을 천 장쯤 겹쳐 그리면 그것이 눈 모양으로 보인다고 풀었다. 눈이 닫히면 무엇을 받았는지 알 수 없다. 그래서 트레이 안의 문제는 한 문장으로 줄어든다. "아스테라 랩스가 하는 일은 컴퓨트 트레이 안에서 눈을 열어 두는 거다".
속도가 오르면 왜 칩 자리가 생기나
업계에 보이는 규칙은 여기서 나온다. GPU가 NIC이나 CPU와 통신하는 실제 거리는 30센티미터쯤인데, 그리 멀지 않은데도 리타이밍이 필요하다. 진행자A는 속도가 오를수록 눈을 열어 둔 채 갈 수 있는 거리가 준다고 봤다. PAM4로 가면 전압 네 단계를 갈라 읽어야 해서 여유가 더 준다. 보드 크기는 그대로인데 신호가 버티는 거리만 줄어드니, 세대가 바뀔 때마다 원래 아무것도 없던 자리에 칩 하나가 들어가야 한다. 부품 수요가 GPU 수요와 따로 늘어나는 구조다.
고치는 방법은 크게 넷이다. ① 보내는 쪽에서 나중에 약해질 것을 미리 계산해 세게 보내는 등화 ② 받는 쪽에서 높은 전압을 더 크게 키워 눈을 벌리는 CTLE(연속시간선형등화기) ③ 앞 심볼이 얼마나 번졌는지 알아내 상쇄하는 DFE(결정귀환등화기) ④ 신호가 지나간 시점을 세어 심볼 주기를 다시 뽑아내는 CDR(클록·데이터 복원)이다. ②는 잡음까지 같이 키우는 한계가 있고, ③은 보드마다 제조 단계에서 맞춰 줘야 할 수 있다.
리드라이버와 리타이머 — 같은 네 손질 중 무엇을 하나
리드라이버는 ①②만 하고, 리타이머는 넷을 다 한다. 진행자V의 표현으로 "리드라이버는 그냥 아날로그 확성기다". 리타이머는 다시 뽑아낸 클록이 비트가 있어야 할 자리를 알려 주므로, 늦게 오거나 뭉개진 비트를 제자리에 다시 끼워 넣는다. 진행자A가 중간에 사람을 세워 되풀이하게 하는 것이냐고 묻자 진행자V는 아니라고 했다. 그건 중계 증폭기이고, 리타이머는 맥락을 아는 존재에 가깝다는 것이다. 리타이머 이야기를 하는 줄 아는 사람은 반쯤 뭉개진 낱말도 무슨 말인지 복원한다.
가격을 정하는 것은 이 차이다. 리드라이버는 전력이 적게 들고 단순하며 지연도 작지만, 빨라질수록 못 살린다. 그러니 세대가 오를 때마다 같은 구간의 부품이 싼 것에서 비싼 것으로 갈아 끼워진다. 실제로 블랙웰 세대에 들어간 것은 PAM4로 64기가전송을 처리하는 Gen6 제품 Aries 6이었을 것이라고 진행자V는 봤고, 이전보다 평균판매단가가 높다고 했다. 속도 세대는 수량만 늘리지 않는다. 같은 자리의 단가까지 올린다.
물음은 둘로 나뉘어 나왔다. 진행자A가 먼저 던진 것은 스타트업이 어떻게 그 소켓을 차지했느냐다. 진행자V가 자료를 뒤지다 스스로 물은 것은 PCIe가 오래된 규격인데 왜 브로드컴도 텍사스 인스트루먼츠도 아니었느냐다. Gen5 규격을 짜던 사람이면 32기가전송에서 문제가 생길 줄 알았을 것이라고 진행자A가 덧붙였다.
텍사스 인스트루먼츠의 고속 인터페이스 엔지니어들이 모여 2017년에 창업했다고 진행자V는 기억했다. 이들이 건 판단은 하나였다. 모든 서버 보드에 PCIe5가 필요해진다는 것이다. 이긴 이유로 진행자V가 든 것은 둘인데, 둘 다 그의 추정이다. ① PCIe5 시장에 가장 먼저 들어갔다 ② 코스모스라는 모니터링 플랫폼을 일찍 만들어 링크가 죽어 가는 것과 채널이 얼마나 상했는지를 다 잡아냈고, 하이퍼스케일러가 그것을 좋아했다.
진행자A는 여기서 큰 회사가 놓친 것을 정리했다. 텍사스 인스트루먼츠처럼 방대한 카탈로그를 가진 회사라면 리타이머를 카탈로그의 한 품목으로 봤을 것이다. 아스테라 랩스는 같은 물건을 보드 위의 검은 상자로 보지 않았다. 함대 전체의 링크 건강을 알려 주는 센서로 봤다. GPU 수만·수십만·수백만 개짜리 학습 클러스터에서 링크 하나하나가 자기 상태를 보고한다면, 그 값어치는 부품값과는 다른 자리에서 매겨진다. 같은 실리콘을 놓고 부품으로 파느냐 계측 시스템으로 파느냐가 갈렸다. 소켓은 아스테라 랩스가 가져갔다. 팹리스라 설계만 들어가면 위탁 생산으로 물량을 맞출 수 있다는 점도 진행자A가 덧붙였다.
엔비디아 H100 HGX 베이스보드는 GPU 여덟 개가 서로, 그리고 CPU·NIC와 통신해야 했다. 그 자리를 아스테라 랩스가 채웠다. 진행자V는 이 잠금의 성격을 이렇게 정리했다. "일단 설계에 반영되고 그게 작동하면, 그걸로 끝이다". 이유는 감정이 아니다. 절차다. 소켓을 바꾸면 엔비디아가 전부 재인증해야 하고 채널 링크 예산이 맞는지 다시 봐야 한다. 브로드컴이 2024년에 비슷한 Gen5 리타이머를 들고 2차 공급사로 들어왔지만, 기존 소켓은 그대로였다.
GPU 와 NIC 사이 — 계획과 실제
이 잠금이 깨질 뻔한 순간이 블랙웰 세대다. 엔비디아가 NIC과 GPU 거리가 너무 멀다며 둘을 붙여 놓겠다고 하자, 거리가 가까워지면 비싼 리타이머 대신 싼 리드라이버로 충분하지 않겠느냐는 걱정이 돌았다. 실제로는 그렇게 되지 않았다. 진행자V가 든 이유는 둘이다. ① 레퍼런스 설계를 그대로 쓴 곳이 적었고 커스터마이즈된 배치가 많아 거리가 다시 늘어났다 ② 트레이니엄 같은 커스텀 가속기가 나오면서 엔비디아에만 매이지 않게 됐다. 진행자A는 셋째 이유를 보탰다. 텔레메트리를 한번 쓴 고객은 필요 없다는 말을 들어도 그것을 잃기 싫어한다는 것이다.
여기서 읽을 것은 운이 아니다. 원청이 물리적 거리를 줄여 부품 하나를 없애려 해도, 실제 배치가 여럿으로 갈라지면 그 부품이 다시 필요해진다. 표준 설계에서만 사라지는 부품은 사라지지 않는다. 그리고 잠금이 한 고객에게 걸려 있는 동안 다른 고객이 늘어나면 잠금의 성격 자체가 바뀐다.
진행자A가 물었다. 리타이머 말고 다음이 있느냐. 진행자V의 답은 스코피오다. 신호를 다듬을 줄 아니 트레이 안에 머물지 말고 올라가 스위치를 만들자는 것이다. 스케일아웃용 스코피오 P는 최대 320레인짜리 고밀도 스위치로 브로드컴 토마호크를 겨누고, 스케일업용 스코피오 X는 엔비디아 NV스위치 자리를 노리는 머천트 실리콘이다. 아마존 트레이니엄 3가 스케일업 구간에 스코피오 X를 쓴다고 진행자V는 봤다. 2023년 매출은 1억1,500만 달러였다.
인접 확장이 쉬운 부분과 안 쉬운 부분이 갈린다. 진행자A가 스위치란 결국 레인마다 신호를 다듬고 거기에 경로 배정을 더한 것이냐고 묻자 진행자V는 앞 절반만 맞다고 했다. 신호를 다듬는 부분은 그대로 쓰지만, 패킷을 실제로 어디로 보낼지 정하는 일은 전혀 간단하지 않다는 것이다. 그리고 그 어려움이 곧 값이다. 기존 기술에 조금 더하는 수준을 넘어서기 때문에 평균판매단가가 높게 잡히고, 그래서 스코피오에 매출 기대가 크다.
한 기술을 세 자리에
나머지 제품군은 같은 기술을 다른 값에 파는 실험이다. 타우로스는 같은 신호 손질 칩을 케이블 안에 넣어 액티브 전기 케이블로 만드는 것인데, 회사가 매출총이익률이 내려갈 것을 알면서도 이미 가진 기술을 쓸 수 있으면 한다고 분명히 했다. 레오는 CXL(컴퓨트 익스프레스 링크 — 메모리를 여러 장치가 나눠 쓰게 하는 규격) 컨트롤러로 아직 초기지만 설계 수주가 몇 건 있다. 한 가지 회로 기술을 트레이 안·케이블 안·스위치 안으로 세 번 파는 구조이고, 값을 제대로 받는 곳은 그중 하나다.
이 회차에서 가장 넓게 걸리는 이야기는 아스테라 랩스가 아니다. 브로드컴 이야기다. AMD는 개방형 스케일업 규격인 UALink 스위치를 쓰고 싶었지만 시장에 그런 스위치가 없어 결국 브로드컴 토마호크로 갈 수밖에 없었다. 소켓을 확보한 브로드컴은 곧바로 UALink 컨소시엄에서 나가 이더넷 노선을 확정했다. 진행자V는 이것을 UALink를 하려던 다른 회사들에게 못을 박은 일로 봤다.
AMD 와 브로드컴 — 순서
읽을 것은 순서다. 규격이 좋아서 이기는 게 아니다. 그 규격으로 만든 스위치가 제때 있어야 이긴다. UALink는 GPU끼리 서로의 메모리에 접근하는 데 맞춰 만든 가볍고 부담 적은 규격이고, 이더넷 계열은 이전 시대에서 이어져 와 지금 AI가 필요로 하는 것에 최적화돼 있지 않다는 것이 진행자V의 정리다. 그런데도 물건이 없으면 진다. AMD 헬리오스가 지금 UALOE(이더넷 스위치 위에서 UALink 규격을 쓰는 과도기 방식)로 가는 것이 그 결과이고, 진행자A는 다음 세대에서 UALink로 넘어갈 계획으로 봤다.
그래서 2027년이 관전 지점이다. UALink를 넣은 스코피오가 그때쯤 나오고 마벨도 비슷한 것을 만든다. 진행자V가 던진 물음은 그 시점에 걸려 있다. 이미 이더넷으로 설계에 들어간 AMD와 다른 회사들이 그때 가서 UALink 쪽 스위치를 사겠느냐, 아니면 이미 들어갔으니 이더넷으로 가겠다고 하겠느냐는 것이다. 4절에서 본 잠금은 이번엔 아스테라 랩스 편이 아니다. 아스테라 랩스를 막는 이더넷 진영 편이다. 같은 규칙이 이번엔 반대 방향으로 작동한다.
확인 안 된 것이 셋이다. ① 아마존이 아스테라 랩스 지분을 워런트로 갖고 있는지를 진행자A가 꺼냈지만 본인이 찾아봐야 한다고 했다. 트레이니엄에 스코피오가 들어간 배경을 설명하는 데 쓰인 추정이라 확인 없이 인과로 읽으면 안 된다. ② 브로드컴이 밀어붙인 이더넷 진영의 이름이 전사에서 "Eson"으로 들리는데, 철자와 공식 명칭은 전사만으로 확정되지 않는다. ③ 2023년 매출 1억1,500만 달러를 비롯한 값들은 진행자가 구두로 말한 수치이고 공시와 대조되지 않았다.
빠진 것도 셋이다. ① 리타이머 한 대의 값과 GPU 한 대당 몇 개가 들어가는지가 안 나온다. 수량 이야기는 하다가 문장이 끊겼다. 이 수 없이는 세대 전환의 단가 상승이 매출에 얼마나 옮겨지는지 못 센다. ② 브로드컴이 2차 공급사로 들어온 뒤 실제로 얼마를 가져갔는지가 없다. 소켓이 유지됐다는 것과 물량이 안 나뉘었다는 것은 다른 말이다. ③ 스코피오가 언제 매출로 잡히는지가 없다. 트레이니엄 3에 들어간다는 말만 있고 규모도 시점도 안 나온다.
무엇이 나오면 이 글의 판단이 바뀌나. ① 엔비디아가 다음 세대 레퍼런스 설계에서 배치를 다시 표준화해 커스터마이즈 여지를 줄이면 4절이 흔들린다. 거리가 다시 늘어난 것은 배치가 갈라졌기 때문이지, 물리가 지켜 준 결과가 아니다. ② 브로드컴이 UALink 컨소시엄에 되돌아오면 6절의 순서가 뒤집힌다. 진행자V도 그 지점이 볼 만하다고 남겼다. ③ 스코피오가 실제 매출로 잡히면 5절의 「어려워서 비싸게 팔린다」가 검증된다. 반대로 안 잡히면 신호를 다듬는 기술이 스위치까지 이어진다는 전제 자체가 틀린 것이 된다.