Semi Doped 한 회차에 메타의 추론 칩과 텍사스의 작은 레이저 회사가 함께 들어왔다. 진행은 둘, Chipstrat 의 Austin Lyons(이하 진행자A)와 Vik's Newsletter 의 Vik Sekar(이하 진행자V)이고 게스트는 없다. 물음은 하나로 모인다. 어떤 회사가 오래 쌓아 온 것이 언제까지 강점으로 남는가.
진행자A 가 그 주에 쓴 글의 제목이 메타가 6개월마다 반도체를 낸다는 것이었다. 진행자V 가 먼저 놀란 대목은 물리적 시간이다. 팹과 패키징을 한 번 도는 데만 아무리 짧아도 두세 달이 걸린다. 그런데 2년 안에 칩 네 개를 낸다니 말이 안 될 지경이라고 했다.
세대가 바뀔 때 무엇이 다시 쓰이나
답은 칩렛(작은 다이 여러 개를 붙여 하나의 제품으로 만드는 방식)이다. 진행자A 는 레고 블록에 견줬다. 이번 세대에는 이 블록 둘에 저 블록 하나, 다음 세대에는 이 블록 둘에 저 블록 둘을 집는 식이다. IP 를 한 번 만들어 두면 다음 판은 조합을 바꾸는 일이 된다.
진행자V 가 전기공학 쪽에서 살을 붙였다. 이 속도로 내려면 밑바탕 실리콘 IP 가 모든 제품에 걸쳐 있어야 하고, 세대 간 차이는 다이와 다이를 잇는 인터페이스를 어디에 몇 개 두느냐 같은 작은 구조 변경에 그친다. 컴퓨트 칩 넷을 2×2 로 놓으면 다이 사이 연결이 최소 세 자리에 필요하지만, 둘만 붙이면 한 자리로 끝난다. 검증에는 "유사성에 의한 검증"이라는 방법이 있다. 바뀐 것이 아주 작으면 전체를 다시 돌리지 않고 증분 테스트만 거친다.
그러면서도 진행자V 는 설계가 겹친다고 일이 줄지는 않는다고 했다. 밑바탕 조각이 비슷하다고 해서 테스트와 검증, 양산을 건너뛸 수는 없고 그 일은 제품 수만큼 그대로 늘어난다. 메타에 이 일을 하는 사람이 그렇게 많은 이유가 거기 있다.
광고가 도는 세 단계
진행자A 는 메타를 소셜미디어 회사로 보기 쉽지만 본질은 광고라고 짚었다. 2011년쯤 알고리즘 피드가 붙으면서 무엇을 위에 올릴지와 어떤 광고를 보여줄지가 핵심 기술이 됐다. 지금 메타가 이야기하는 시스템은 셋이다. ① Andromeda 는 방대한 광고 더미에서 후보 수천 개를 골라내는 검색 단계다. 원래 Nvidia 의 Grace Hopper 와 함께 설계됐는데 지금은 Nvidia 와 AMD 와 자체 MTIA 에 걸쳐 돌아, 한 플랫폼에서 시작한 것이 벌써 여러 벤더로 옮겨 갔다. ② Lattice 는 그 후보의 순위를 정하는데 피드·스토리·릴스·메신저 신호를 하나로 묶은 단일 모델을 쓴다. 어느 하드웨어에서 도는지는 찾지 못했고 GPU 일 것으로 짐작한다고 밝혔다. ③ Gem 파운데이션 모델은 추천 쪽인데, 추천 시스템 중 처음으로 컴퓨트를 더 넣으면 결과가 좋아지는 양상을 보였다.
Gem 은 그대로 서비스에 못 쓴다. 35억 명에게 그 큰 모델을 물리기에는 너무 비싸서, 큰 것을 교사로 두고 작은 모델에 지식을 옮겨 담는 파이프라인을 항상 돌린다. MTIA 는 이 모양의 일을 하려고 나왔다. LLM 처럼 가중치 전체를 순서대로 훑는 대신 거대한 임베딩 테이블을 뒤진다. 아이오와에서 온 사용자면 그와 관련된 특성을 찾아 오고 다른 사람이면 표를 다르게 훑는다. 대역폭에 목이 막히는 일이 아니라 메모리 접근과 용량에 매인 일이다.
LLM 과 다른 모양의 일
MTIA300 이 800와트급이고 스케일아웃 대역폭이 초당 200기가바이트로 높은 이유가 여기 있다. 모델을 여러 칩에 쪼개 두고 조회를 주고받아야 한다. 반대로 이런 신경망은 LLM 만큼 크지 않아 연산량은 덜 든다. 메타 블로그를 인용해 이 칩이 이미 수십만 대 깔렸다고 했다. 진행자A 가 옮긴 메타의 태도가 이 절을 닫는다. "우리는 우리 워크로드를 아주, 아주 잘 알아요. 엄청난 규모로 돌리고 있고, 최대한 빠르면서 최대한 싸게 만들고 싶은 거예요".
한 가지가 비어 있다. 진행자V 는 네 칩이 모두 HBM 기반이고 SRAM 이야기가 없다고 짚었다. 저지연이 중요한 일인데도 그렇다. 진행자A 는 지연보다 처리량이 최적화 목표라는 뜻으로 읽었다. 진행자V 는 메타가 SRAM 기반 스타트업을 사서 초저지연 구간을 챙길 수도 있다며 "그럴지도, 잘 모르겠다"고 물러섰다. 진행자A 도 범용 회로를 걷어낸 덕에 가진 SRAM 만으로 충분할 수 있겠다고 추측하고는 메타가 알려줬으면 좋겠다고 끝냈다.
진행자V 는 세대를 정리했다. MTIA 100 과 200 은 몇 해 전부터 있던 것이고, 이번에 새로 발표된 것이 300·400·450·500 이다. MTIA300 은 컴퓨트 칩 하나와 네트워크 칩 둘, 그리고 다량의 HBM 으로 짜였다. MTIA500 은 컴퓨트 칩 넷을 2×2 로 놓고 HBM 을 400~500기가바이트까지 싣는다. 진행자V 는 이 라인업이 랭킹·추천만이 아니라 생성형 AI 도 함께 겨눈다고 봤다.
400·450·500 세대에서 바뀐 것
바뀐 항목이 방향을 그대로 드러낸다. 400·450·500 세대는 HBM 용량을 크게 늘리고 저정밀 연산을 많이 넣되, 스케일아웃 망은 오히려 줄이고 스케일업 도메인을 16노드에서 72노드로 키웠다. 진행자A 의 설명은 간단하다. 추론에서는 하나의 워크로드를 1만 칩까지 펼칠 이유가 없고 72개나 144개면 된다. 전문가 혼합 모델이면 어느 전문가로 보낼지 통신이 필요하지만 그것도 요즘은 스케일업 쪽이다. 학습용 대규모 확장은 우선순위에서 내려갔고, LLM 추론에 맞춘 결정이 사양에 남았다.
메타가 생성형 AI 를 쓰는 자리도 광고 안이다. 실적발표에서 든 사례가 다국어 더빙이다. 영어로 나눈 대화를 만다린으로 바꾸면 볼 사람이 늘고 광고 자리도 늘어난다. 광고 크리에이티브를 만드는 데도 쓴다. 진행자A 는 그래서 투자자들이 메타를 생성형 AI 서사로만 재는 것이 과도한 쏠림이라고 봤다. 라마가 OpenAI 나 Anthropic 만 못하다는 이야기가 오가지만, 돈이 나오는 곳과 칩이 겨누는 곳은 랭킹과 추천이다.
진행자V 가 중간에 끊고 물은 것은 누가 만드느냐였다. 답은 Broadcom 의 커스텀 ASIC 사업이다. Marvell 도 들어가느냐는 물음에 진행자A 는 모른다고 했다. 커스텀 ASIC 이야기에는 늘 Marvell 이나 MediaTek 을 두고 잡음이 돌아서 따로 찾아봐야 한다는 것이다.
The Information 이 메타가 학습용 칩 계획을 접었다고 보도했고, 며칠 뒤 Broadcom 실적발표에서 Hock Tan 은 메타가 좋은 고객이니 놀라지 말라는 취지로 말했다. 진행자A 는 이 칩들이 추론을 먼저 두고 설계됐다고 정리했다. 300 에서 학습을 일부 돌리고 이후 세대도 쓸 수 있다지만 설계 결정은 추론 쪽이다. 이 계약은 고객이 도구 일체를 쥐는 방식이 아니라 그대로 Broadcom 커스텀 ASIC 이고, 2년에 네 세대는 Broadcom 에 그만큼의 매출이다.
사람도 사 왔다. 메타는 MTIA 1·2세대 설계를 도왔던 회사를 인수했는데, 진행자V 는 그 이름을 확신하지 못했고 전사에도 "Rivers"로만 들린다. 진행자V 가 읽은 기사에 따르면 첫날 엔지니어 100명으로 출발해 애플 출신 인맥으로 50명을 더 뽑았고, 소송이 있었으며, Lip-Bu Tan 이 투자자로 있던 벤처투자사가 그 대목을 푸는 데 관여했다. 진행자A 가 붙인 한마디가 남는다. 스타트업 이야기를 읽을 때마다 Lip-Bu Tan 이 줄거리 안에 있다는 것이다.
Applied Optoelectronics(AAOI)는 텍사스 슈거랜드의 작은 레이저 회사다. 6개월 만에 주가가 700% 뛰어 10달러대에서 100달러대가 됐다. 자랑거리는 수직계열화다. 인듐인화물 기판과 그 위 증착부터 레이저 광원, 모듈레이터, 패키지, 커넥터까지 처음부터 끝까지 자기가 한다. 여기에 미국 안에서 만든다는 점이 붙는다. 관세를 걱정하지 않아도 되니 그것만으로 큰 문제 하나가 풀린 셈이라고 진행자V 는 말했다.
정정도 있었다. 잉곳부터 키운다고 했던 것은 Coherent 를 두고 한 착각이었다. 다시 확인해 보니 Coherent 는 실리콘카바이드 잉곳은 키우지만 인듐인화물 웨이퍼는 사 온다. AAOI 에 대해서는 진행자V 도 "내 생각엔 잉곳도 자기가 키운다"는 정도로 말했다. 잘 안 보이는 캐시카우도 있다. 원래 케이블TV 장비로 유명한 회사인데 DOCSIS 4 전환에 맞물려 그 사업이 전년 대비 3배 가까이 늘었고 여전히 매출의 절반이다. 코드커팅이 이 사업을 갉아먹었는지는 두 사람 모두 모른다고 인정했다.
호재는 겹쳐 있다. Amazon 이 10년, 40억 달러 규모의 구매계약을 워런트와 함께 맺자 주가가 45~50% 뛰었다. 진행자A 는 이런 워런트가 경고음이 아니라 관행이라며 Rivian 을 들었다. 광학 부품 자체의 위상도 달라졌다. "Nvidia 가 40억 달러를 들고 나타나고, 이번 달에 Lumentum 과 Coherent 가 S&P500 에 편입되죠. 레이저 회사가 S&P500 에 들어간다는 걸 상상해보세요".
그런데 진행자V 는 해자를 의심했다. 지금 Lumentum 이 대접받는 이유는 200기가 EML 변조 레이저가 최고여서이고, 경쟁사 Coherent 조차 EML 은 Lumentum 에서 사 간다. AAOI 가 충분히 좋은 EML 을 만드느냐는 물음에는 "아마 아닐 것"이라고 답했다. 그랬다면 다들 여기서 사 갔을 것이라는 논리다. 그런데 공동패키지광학(CPO)이 오면 변조가 실리콘포토닉스 칩으로 넘어가 EML 이 필요 없어진다. 남는 것은 "손전등"이다. 켜고 끌 것도 없이 300~400밀리와트로 계속 빛만 내면 된다. Lumentum 의 해자가 녹는 자리인데 같은 자리에서 AAOI 의 차별점도 사라진다. Coherent 도 CW 레이저를 만들 수 있고 회사가 더 크다. AAOI 는 6인치 라인이 없고 4인치에 머물러 있어 Coherent 가 6인치 수율을 뽑으면 원가에서 밀린다.
2017년과 지금이 겹치는 자리
역사가 여기 겹친다. 2017년에도 데이터센터가 40기가에서 100기가로 넘어가는 전환을 타고 이 회사 주가가 12달러에서 105달러까지 갔다. 가격대도 경영진도 수직계열화 서사도 지금과 같다. 상위 두 고객 집중도는 당시 75% 였는데 지금은 80% 대로 오히려 높고, 앵커 고객이 Amazon 이라는 것까지 같다. 그다음이 문제다. 한 분기 수요가 약해지자 100기가 판매단가가 무너졌고 자체 레이저의 신뢰성에도 문제가 생겼다. 남의 레이저면 그 회사 문제지만 자기 것이면 자기가 고쳐야 한다. 수직계열화의 이점이 그때 짐이 됐다. "1달러 48센트를 찍었어요. 원래는 100달러가 넘었었죠. 거의 99%를 다 잃은 거예요". 바닥은 2022년쯤이었고, 진행자V 는 투자 조언이 아니라는 점을 못박았다.
같은 진행자가 이번엔 다르다고도 했다. 2017년은 네트워크 속도 하나가 바뀌는 전환이었지만 지금의 AI 투자는 산업 전체에 걸친 구조적 확장이고, 10년짜리 Amazon 워런트도 그때는 없던 안전판이다. 그러면서 "역사는 각운을 맞춘다"는 말로 균형을 잡았다. 진행자A 의 처방은 실무적이다. 400기가부터 3.2테라까지 매 전환마다 빠짐없이 들어가 S커브를 이어 쌓아야 한다. 경쟁자가 늘면 단가는 내려가니 결국 물량 싸움이다. 그래서 회사가 미는 것이 증설이다. 2025년 매출 4억5,500만 달러에서 2026년 10억 달러 초과를 내다보고, 생산능력을 9만 대에서 2026년 말 50만 대로 늘린다. 진행자V 는 이 회사가 이미 정점을 찍었다고 본 Cetrini Research 의 글도 소개했다.
두 사람이 스스로 모른다고 표시한 대목이 다섯이다. ① Lattice 가 어느 하드웨어에서 도는지 ② 네 칩에 SRAM 이야기가 왜 없는지 ③ Marvell 이 이 커스텀 ASIC 에 들어가는지 ④ 코드커팅이 AAOI 의 케이블TV 를 갉아먹었는지 ⑤ AAOI 가 정말 잉곳부터 키우는지. 인수한 설계 회사의 이름도 확신하지 못한 채 지나갔다. 숫자가 안 붙은 자리도 있다. MTIA300 의 사양은 나왔지만 400·450·500 각각의 전력과 대역폭, 출시 시점, 그리고 GPU 와 견준 성능은 나오지 않았다.
판단이 바뀌는 지점은 셋이다. ① 2년에 네 칩이 일정대로 나오는지가 한 번의 성과와 반복 가능한 주기를 나눈다. 설계가 겹쳐도 검증과 양산은 제품 수만큼 늘어나니 막힌다면 그쪽일 것이다. ② CPO 가 실제로 언제 오느냐가 마지막 절을 흔든다. 진행자V 는 그 시점을 2028년인지 2029년인지 2030년인지 모르겠다고 스스로 열어 뒀는데, 당겨지면 Lumentum 의 EML 우위가 흔들리고 AAOI 의 차별점도 옅어진다. ③ Coherent 가 6인치에서 CW 레이저 수율을 온전히 뽑아내는 순간이 AAOI 의 원가 논거를 시험한다. 광학에서 가장 오래된 시험은 여전히 같은 자리에 있다. 수요가 한 분기 흔들릴 때 상위 두 고객에 80% 를 걸어 둔 회사가 무엇을 겪는지는 2017년에 이미 나왔다.