오픈AI 코덱스(Codex) 팀 발표에 이어 게스트 피터 스타인버거가 자기 워크플로가 몇 달 새 어떻게 바뀌었는지 공개함. 터미널 10개 이상을 돌려 끝난 놈을 골라 쓰던 1월에서, 지금은 매니저 에이전트 하나에 일을 맡기고 서버사이드 컴팩션·조정·트리거 셋으로 루프를 완성한 이야기가 핵심임. GPT-5.6 계열이 입력 100만 토큰당 1달러·출력 6달러라는 값, 세레브라스에서 초당 750토큰을 내는 속도도 나옴.
한줄 코멘트. 발목을 잡는 것이 토큰에서 컴퓨트로, 컴퓨트에서 주의력으로 옮겨 갔다는 대목이 가장 오래 남을 이야기다. 앞의 둘은 더 사면 풀리는데 셋째는 더 살 수 없다. 발표자들도 아직 못 풀었다고 밝힌다. 모델이 그것을 감싸는 장치와 조직보다 빠르게 나아간다는 것이다.
코덱스를 만드는 쪽에서 두 사람이 나오고, 뒤이어 게스트 한 사람이 무대에 오른다. 앞의 둘은 이름만 말하고 소속과 직무는 밝히지 않는다. 세 번째 사람은 자기 이름을 말하지 않고 사회자가 불러 소개한다.
라이브 시연은 없다. 이번에는 좀 다르게 해 보고 싶었다고 밝힌다.
코드를 다루는 모델이 지나온 자리
| 걸음 | 무엇을 했나 |
|---|---|
| 완성 | 쓰던 것을 이어 준다 |
| 줄 안 예측 | 치는 자리에서 앞질러 낸다 |
| 시켜서 고치기 | 바꿔 달라고 하면 바꾼다. 시험은 안 한다 |
| 스스로 시험 | 고친 것이 도는지 자기가 확인한다 |
| 끝까지 간다 | 길고 어려운 목표를 다 될 때까지 붙든다 |
새 모델 값도 나온다. GPT 5.5 수준 지능을 절반 값에 낸다고 하고, 입력은 100만 토큰당 1달러, 출력은 6달러라고 한다. 세레브라스에서 돌린 것은 초당 750토큰을 낸다.
다만 이 대목의 모델 이름이 자막 안에서 뒤섞여 있다. 같은 5.6 계열을 두고 서로 다른 이름이 여럿 나와서 어느 값이 어느 판의 것인지 이 글에서는 구분하지 않았다.
아래에서 위로 연 층
| 층 | 무엇인가 |
|---|---|
| 모델과 API | 모델을 부르는 자리 |
| 코덱스 하니스 | 모델을 감싸는 장치. 오픈소스다 |
| 앱 서버 | 그 위에 올리는 자리. 오픈소스다 |
| 앱 층 | 브라우저와 플러그인처럼 남이 붙이는 것 |
맨 위를 연 이유를 밝힌다. 혁신이 자기들 아이디어에 막히지 않게 하려는 것이라고 한다.
짝짓기가 관리로 옮겨 간다
게스트가 자기 일하는 방식이 몇 달 새 어떻게 바뀌었는지 짚는다.
처음에는 에이전트 하나와 나란히 앉아 일했다. 그다음에는 터미널을 열 개 띄워 놓고 직속 부하 열 명을 다루듯 했다. 지금은 오래 도는 매니저 하나와 주로 이야기하고, 그 매니저가 팀에 다시 나눈다.
터미널 열 개를 굴리던 방식은 더 못 늘린다고 스스로 밝힌다.
이것을 가능하게 한 것으로 셋을 든다. 서버 쪽에서 도는 컴팩션이 오래 걸리는 일을 믿을 만하게 만들었고, 조율이 한 갈래에서 여러 갈래를 만들고 몰아갈 수 있게 했고, 자동화가 무슨 일이 생겼을 때 같은 매니저를 깨울 수 있게 했다. 지속되는 맥락과 위임과 방아쇠, 그 셋이 고리를 이룬다는 것이다.
이슈 하나가 처리되는 순서도 나온다. 매니저가 깨어나 이슈를 프로젝트의 목표에 대 보고 맞을지 판단한다. 맞으면 일꾼을 만들고, 일꾼이 조사하고 고치고 시험을 돌린다. 다른 에이전트가 결과를 검토한다. 사람이 필요할 때 매니저가 변경안과 원래 이슈와 필요하면 영상까지 들고 온다. 사람은 한 번 보고 승인하며, 검사를 통과하면 들어간다.
무엇이 발목을 잡나
이 발표에서 가장 값나가는 대목이다. 지난해에는 토큰이 모자랐고, 그다음에는 컴퓨트가 걸렸고, 지금은 주의력이 걸린다고 말한다.
앞의 둘과 셋째가 다르다. 토큰도 컴퓨트도 더 사면 되는데 주의력은 더 살 수 없다.
모델 이름이 자막 안에서 갈린다. 같은 5.6 계열을 두고 서로 다른 이름 여럿이 섞여 나온다. 값과 속도는 나오지만 어느 이름의 값인지는 이 자막만으로 가릴 수 없다.
매니저 방식이 얼마나 나은지 잰 값이 없다. 터미널 열 개보다 낫다는 것이 이야기의 뼈대인데, 무엇이 얼마나 빨라졌는지도 얼마나 덜 틀리는지도 나오지 않는다.
주의력이 한계라는 말을 받치는 측정도 없다. 한 사람이 몇 개까지 지켜볼 수 있는지, 어디서부터 놓치기 시작하는지가 없다.
발표자들이 스스로 밝히는 것 둘은 남길 만하다. 열 개를 굴리던 방식은 더 늘릴 수 없다고 말하고, 이 문제를 아직 못 풀었다고 말한다. 모델이 그것을 감싸는 장치와 조직보다 빠르게 나아가고 있다는 것이다.