GTC와 OFC(광섬유 컨퍼런스)가 같은 주에 겹쳐 소식이 한꺼번에 쏟아진 회차다. Semi Doped를 함께 진행하는 Austin Lyons(Chipstrat)(이하 진행자A)와 Vik Sekar(Vik's Newsletter)(이하 진행자V)가 마이크론 실적과 광학 부품과 토큰 요금을 차례로 다뤘다. 화제는 흩어져 보이지만 셋 다 같은 물음을 다른 자리에서 되풀이한다. 막힌 데를 더 빠르게 밀어서 뚫을 것인가, 폭을 늘려 우회할 것인가.
스케일업은 같은 랙, 또는 아주 가까운 랙 안의 GPU들을 서로 전부 잇는 문제다. 전사에는 GPU를 모두-대-모두로 붙이다 보니 들어가는 케이블 수가 말 그대로 어마어마하다는 설명이 나온다. 그래서 이 자리가 광학 업계 전체가 기다려 온 시장이 된다. 다만 언제 오느냐를 두고 화자는 내년일 수도, 2년 뒤일 수도, 3년 뒤일 수도 있다며 말을 아꼈다.
구리가 멈추는 자리와 그다음
거리 수치가 이 논의를 밀어붙인다. 브로드컴 CEO Hock Tan이 말하는 레인당 400기가비트 구간에서 구리 케이블이 닿는 거리는 길어야 1미터에서 1.5미터다. 800기가로 올라가면 구리는 끝이라는 말이 이어진다. 랙 하나를 겨우 채우는 거리에서 신호가 멈춘다는 뜻이다.
그렇다고 광학이 바로 답이 되지는 않는다. 전사에는 광학이 무엇을 하든 전력을 많이 먹고 만드는 데도 비싸다는 지적이 나오고, 그래서 정말 갈 수밖에 없어지기 전까지 사람들은 계속 다른 해법을 찾는다고 정리된다. 업계에 보이는 것은 광학으로 넘어가는 시점이 아니라, 구리가 죽는 지점과 광학이 감당할 만해지는 지점 사이에 빈 구간이 생겼다는 사실이다. 지금 벌어지는 경쟁은 그 빈 구간을 누가 채우느냐다.
지금까지 광학의 기본값은 인듐인화물 레이저를 쓰는 EML(전계흡수변조레이저)이었다. 텔레콤이 수십 년 해 온 방식이고, 랙과 랙을 잇는 스케일아웃이나 데이터센터끼리 잇는 구간도 그렇게 해 왔다. 전사에는 스케일업의 거리가 10미터·1미터·10센티미터로 짧아지면 필요한 광원의 성격도 달라질 수 있는데 지금은 다들 같은 기술을 그냥 꽂으려 한다는 문제 제기가 나온다.
대안으로 나온 마이크로LED는 갈륨나이트라이드(GaN, 질화갈륨) 소자를 따로 만들어 회로가 얹힌 실리콘 웨이퍼 위에 붙이는 방식이다. 문제는 빛의 성질이다. 레이저처럼 한 점을 겨눠 나가지 않고 전구를 켠 것처럼 원뿔로 퍼져서, 소자마다 마이크로렌즈를 얹어 초점을 맞춰야 한다. 켜고 끄는 것으로 비트를 싣는 변조도 인듐인화물 레이저만큼 깔끔하게 되지 않는다.
채널 하나를 빠르게 대 다발을 넓게
숫자로 보면 차이가 크다. 인듐인화물 레이저는 배선 하나로 1초에 2천억 비트, 즉 채널당 200기가비트를 밀어 넣지만 마이크로LED는 2기가비트쯤이다. 전사에는 200기가비트는 물론 50기가비트도 못 밀 것 같다는 말이 나오는데, 거기에도 "모르겠다"가 붙는다. 백 배 차이를 메우는 방법이 이미징 파이버다. 내시경에 쓰는, 한 가닥처럼 보이는 케이블 안에 천 가닥쯤이 들어 있는 부품이다. 진행자V는 이것을 금문교 케이블에 견줬다. 다리를 지탱하는 것이 통짜 줄 하나가 아니라 안에 든 수많은 가닥이라는 것이다.
그래서 나온 표현이 느리지만 넓게다. 전사에 이 대비가 두 가지 그림으로 나온다. "차선이 100개짜리로 넓어지는데 시속 30마일로만 달리는 거예요. 넓으니까 느려도 지나가는 사람 수는 똑같은 거죠". 다른 하나는 더 짧다. "본질적으로 광학판 HBM인 셈이죠". 스택을 쌓아 폭으로 대역폭을 버는 메모리와 같은 셈법을 빛에 쓴다는 말이다.
같은 주에 나온 OCI-MSA(광학 컴퓨트 인터커넥트 다자간 협약)가 이 구도를 뒷받침한다. 메타·브로드컴·엔비디아·오픈AI를 비롯한 회사들이 모여 스케일업용 광학 부품의 규격을 함께 정하기로 했다. 전사에는 이것이 스케일업 광학이 중요해졌다는 공식 선언이면서, 여러 업체가 만들어 공급할 수 있는 개방된 판을 만드는 일이라는 설명이 나온다. 한 업체가 먼저 들어와 혼자 정하는 것과 반대되는 그림이다.
스케일업 자리를 놓고 선 후보 셋
후보는 둘 이상이다. ① 마이크로LED 쪽에서는 Avicena(전사 표기 "Avicenna")가 있다. 진행자V가 ISSCC에서 이 회사 발표를 봤다며 슬라이드 한 장을 기억해 냈다. "왜 장 보러 가는데 비행기를 타나요?". 인듐인화물 레이저로 스케일업을 하는 일을 그렇게 그렸다는 것이다. 이 진영의 주장은 구리에 가까운 비용 구조를 유지하면서 10미터, 최대 30미터까지 닿는다는 것이고, 랙 하나를 넘어 여러 랙을 묶기에 충분한 거리다. Credo도 마이크로LED 회사를 인수했다는데, 화자는 회사 이름을 확신하지 못한 채 말했다. ② VCSEL(수직공진표면발광레이저)은 라이다 같은 데 이미 수십억 개가 나간 성숙한 기술이고, Lumentum이 OFC에서 스케일업용 제품을 개발 중이라고 밝혔다. 이것도 느리고 넓은 접근이다.
판단 기준이 속도에서 다른 데로 옮겨 가는 대목이 여기서 나온다. 레이저는 뜨거워지면 수명이 급격히 떨어진다. 그런데 스케일업 구간은 케이블이 너무 많아서 고장 난 것을 뽑아 갈아 끼우는 일 자체를 피하고 싶은 자리다. 링크가 끊겼다 붙는 현상을 줄이는 신뢰성이 그래서 판매 논거가 될 수 있다는 말이 붙는다. Credo가 링크 상태를 들여다보는 텔레메트리를 제품에 넣었고 마벨도 같은 것을 넣고 있다는 소식이 함께 전해졌다. 구리 케이블 색이 보라에서 주황으로 바뀐 사진 한 장에 주가가 흔들렸던 그 회사가, 이제 링크가 죽기 전에 미리 내리는 기능으로 이야기되고 있다.
광학이 폭이라는 축을 하나 더 놓는 동안, 메모리에는 아직 축이 하나뿐이다. 전사에는 엔비디아가 AMD의 MI450에 앞서려고 JEDEC 규격의 핀당 속도를 계속 위로 밀어 왔고 HBM 공급사들에게 더 빠른 메모리를 요구해 왔다는 설명이 나온다. HBM4 규격은 핀당 8기가비트쯤이라고 언급되지만 화자 스스로 "맞게 말한 건지 모르겠다"고 했고, 단위도 틀렸을 수 있다고 덧붙였다. SK하이닉스는 실적발표에서 11기가비트를 말했다고 전해진다.
HBM 스택에서 의심을 산 자리
마이크론 배제론의 뿌리가 이 축에 있다. HBM 스택 아래에 깔리는 제어 회로층인 베이스 다이를 마이크론이 메모리 공정으로 만들었다는 대목이다. 메모리 공정은 1알파·1베타·1감마처럼 로직의 나노미터 표기와 아예 다른 체계로 세대를 센다. 이유가 구조에 있다. D램 셀은 트랜지스터 하나에 커패시터 하나를 얹은 꼴이고 그 키 큰 커패시터를 세우는 데 공정이 맞춰져 있어서, 밀도를 위해 최적화되고 가장 빠른 트랜지스터를 만드는 데는 맞춰져 있지 않다. 로직 칩이 3나노에서 2나노로 가며 속도를 얻어 온 길과 다르다.
그래서 나온 의심이 마이크론 베이스 다이가 엔비디아가 요구하는 속도를 못 맞춘다는 것이었고, 마이크론은 반복해서 부인해 왔다. 남은 물음은 속도에서 수율로 옮겨 간다. 전사에는 열 개 중 몇 개가 그 속도를 내느냐, 그러면 칩 원가가 얼마가 되느냐는 질문이 따라 나온다. 결국 마이크론은 보도자료로 HBM4가 베라 루빈에 설계로 들어갔다고 밝혔지만, 인증됐다고 말한 공급사는 아직 아무도 없다. 전사에는 "젠슨이 우리 것에 서명했고 당신도 봤다"는 데까지가 마이크론이 지금 공개적으로 할 수 있는 말의 끝이라는 풀이가 나온다.
유보가 세 번 붙는다. "솔직히 말하면 정확한 퍼센트는 저도 아직 모릅니다", 속도가 SK하이닉스와 다른지도 모르겠다, 그러니 전부 걸러 들으라. 그러면서도 점유율 0% 소문만 믿고 팔았다면 이후 60%쯤을 놓쳤을 것이라고 했는데, 그 60%에도 "모르겠다"를 붙였다.
마이크론은 2028년 가동을 목표로 새 생산능력을 늘리고 있다. 대만 D램 팹을 인수해 일정을 앞당기고, 싱가포르에 낸드 팹을 세우고, 아이다호와 뉴욕 팹도 키운다. 여기서 늘 붙는 걱정이 사이클이다. 이겼으니 다시 짓고, 그렇게 공급이 넘치면 가격이 무너진다는 순서를 업계는 여러 번 겪었다. 전사에는 메모리가 반도체 여러 갈래 중 가장 험한 곳이었고 피 흘린 이야기가 많다는 인정이 그대로 나온다.
낙관의 근거는 사진 한 장에서 나왔다. 베라 CPU 트레이를 봤더니 CPU 여덟 개 둘레가 검은 타일로 빼곡했고, 저게 전부 D램이라면 대단한 것이라는 반응이다. 여기에 붙은 논거가 단계 변화다. PC로, 클라우드로 넘어가던 때는 기기 수가 늘었을 뿐 기기 한 대가 요구하는 메모리는 크게 늘지 않았다. 지금은 가속기 수도 늘고 가속기 한 개가 요구하는 메모리도 자릿수 단위로 늘어난다. GPU를 받치는 CPU 트레이 같은 주변 인프라와 사용자 단말까지 함께 늘어난다는 말이 이어진다.
유보도 그대로 붙어 있다. "5년 뒤는 정말 모르겠다"고 했고, 5년 전에는 AI라는 것 자체가 없었으니 그때 물었으면 아무 말도 못 했을 것이라고 덧붙였다. 엣지 이야기도 좁혀 놓았다. 단말에서 모델 전체를 돌린다는 뜻은 아니라고 했다. 모델은 클라우드에 남더라도 추론과 에이전트 사용 자체가 메모리를 먹는다.
젠슨 황이 한 팟캐스트에서 했다는 말이 이 화제를 열었다. "연봉 50만 달러짜리 엔지니어라면, 토큰에 최소 25만 달러는 쓰길 기대합니다". 진행자A는 GTC 산업 애널리스트 질의응답에서 젠슨에게 직접 이 문제를 물었다고 밝혔다. 에이전틱 AI가 생성형 AI가 기다려 온 킬러 앱이라는 데는 동의한다면서도, 예산을 직원마다 정해 주면 인센티브가 어긋난다고 봤다. 월 1만 달러를 받은 사람이 일을 잘해서 일주일에 다 써 버리면 남은 3주는 못 쓴다.
그래서 던진 물음이 회사가 직원마다 토큰을 사 줄 것이냐, 토큰을 만들어 내는 기계 자체를 살 것이냐다. 예로 든 것이 사무실에 공랭으로 꽂을 수 있는 델 서버로, 대당 12만 달러쯤이고 메모리는 768기가바이트 정도인 것 같다고 진행자A가 스스로 단서를 달아 말했고, 전부 HBM 은 아니라는 말도 붙였다. 운영비로 나갈 것을 설비투자로 돌리는 이야기이고, 사람마다 20만 달러씩 더 쓰겠다는 말을 듣고 싶지 않은 재무 담당자를 겨눈다.
토큰을 얻는 두 길과 같은 끝
반론이 이 회차에서 가장 값이 크다. 사내에 놓아도 무제한이 되지는 않는다. 하드웨어 등급마다 초당 만들 수 있는 토큰 수가 정해져 있고 엔지니어는 여럿이니 결국 나눠 쓰게 된다. 전사에는 EDA 라이선스 스무 개를 받아 놓고 동료에게 안 쓰면 좀 비켜 달라고 부탁하던 경험이 나오고, 작업을 던져 넣으면 기계는 안 보이고 결과만 돌아오는 배치 클러스터에 빗댄 대목도 나온다. 여기에 하나가 더 얹힌다. 민감한 업종은 토큰을 회사 밖으로 내보내지 않으려 하고, 같은 데이터센터 옆 랙에서 경쟁사가 쓰는 GPU와 내 비트가 안 섞인다는 보장을 어떻게 하느냐는 물음이 남는다. 엔비디아가 최신 GPU에서 보안 보장을 부쩍 많이 말하고 있다는 관측이 뒤따른다.
젠슨의 답은 하이브리드였다고 전해진다. 가장 크고 좋은 모델은 클라우드에서 돌리고, 자기 데이터로 파인튠한 모델은 사내에 두는 구조다. 진행자V는 여기에 자극받아 집에 둔 서버에 그 도구를 올리고 Tailscale VPN 으로만 접근하게 해 뒀다고 밝혔다. 연산이 무제한이 되는 이야기로 시작해서 라이선스를 나눠 쓰던 옛 이야기로 돌아온다. 광학에서 폭을 늘려도 채널 하나하나는 여전히 느린 것과 같은 자리다.
빈칸이 넷이다. ① 마이크론이 베라 루빈 HBM4에서 실제로 몇 퍼센트를 가져가는지, 핀 속도가 SK하이닉스와 얼마나 벌어지는지, 그 속도를 내는 칩이 열 개 중 몇 개인지가 전부 미지다. 화자가 세 번에 걸쳐 모른다고 말한 자리다. ② 마이크로LED가 채널당 2기가비트로 200기가비트짜리 링크를 대신하려면 채널이 몇 개 필요하고 전력이 얼마나 드는지가 나오지 않는다. 비용도 업체들 주장이라는 단서가 붙은 채로만 언급됐다. ③ 스케일업 광학이 언제 실제로 들어오는지는 화자 스스로 답을 못 한다고 했다. ④ Lumentum 발표에 붙은 규격 표기는 전사에서 뜻이 불분명하게 남았다.
무엇이 나오면 이 글의 판단이 바뀌는지도 셋이다. ① 공급사 중 누구든 인증됐다고 공개하는 순간 4절의 수율 물음이 절반은 닫힌다. ② 마이크로LED 링크의 채널당 전력과 실제 채널 수가 공개되면 2절의 넓게 가는 길이 구리와 광학 사이 빈 구간에 실제로 들어맞는지가 정해진다. ③ OCI-MSA 규격이 특정 광원 하나를 전제로 쓰이면 3절의 개방된 판이라는 성격이 도로 좁아진다.
두 진행자도 여기서 멈췄다. 마이크로LED를 아직 접어 두지는 않겠다면서도, 더 파 보기 전에는 크게 단정하지 않겠다고 밝히며 회차를 닫았다. 한 사람은 자기를 확신이 낮은 사람이라고 부르며, 조사를 잔뜩 하고 나서야 겨우 낮음에서 중간 낮음으로 옮겨 간다고 했다.