같은 메시지를 웹소켓으로도 유닉스 소켓으로도, 심지어 메일로도 실어 날라 보이며 「어디로 나르느냐는 사소한 구현 세부」라고 못 박음. 쓰임마다 창구가 늘어 옮기는 데 몇 주씩 걸리던 상태에서 하나로 몰아넣은 과정, 옳은 길을 가장 쉽게 만들어 저절로 굴러떨어지게 한다는 설계 원칙, 그리고 청구 방식이 제각각인 제품 넷을 규격 안의 되묻기 기능으로 푸는 사례가 나옴.
한줄 코멘트. 어디로 나르느냐는 사소한 구현 세부라는 한 줄이 이 발표의 뼈대다. 값이 나가는 대목은 설계 원칙 쪽이다 — 규칙을 지키라고 말하는 대신 안 지키는 쪽이 더 번거롭게 만들어 저절로 굴러떨어지게 한다. 다만 이 발표에는 잰 값이 거의 없다.
앤스로픽에서 도구 호출과 연동을 맡는다는 사람이 발표한다. 큰 시스템을 스무 해 만들며 실수를 많이 했다고 밝힌다.
문제가 생긴 시점을 짚는다. 모델이 도구를 제대로 부르게 되면서 저마다의 쓰임마다 전용 창구가 늘어나기 시작했다. 여기저기서 도구를 부르는 자리와 맥락을 받아 오는 자리가 생겼다.
그러다 인증 같은 것이 더 필요하다는 것을 깨닫고 연동이 뒤엉켰다.
아픈 사례가 하나 나온다. 어느 서비스에서 잘 도는 연동을 다른 서비스로 옮기려는데, 새 창구에 맞춰 다시 쓰는 데 3주가 걸린다.
규격 쪽과 나르기 쪽
한 이름 아래 성격이 다른 두 겹
시간이 지나며 깨달은 것이 있다고 말한다. 그 창구들이 하나같이 비슷한 모양으로 수렴하더라는 것이다.
그러면서 규격을 두 겹으로 갈라 본다. 하나는 주고받는 모양을 정한 쪽이고, 다른 하나는 어떤 길로 보내고 어떻게 붙어 있을지를 정한 쪽이다. 앞의 것은 엔지니어에게 바로 값이 되고, 뒤의 것은 모두가 같은 말을 써야 해서 어렵다.
그래서 물었다고 한다. 이걸로 전부 다 할 수 있나. 답은 예였는데 단서를 붙인다 — 모델에게 맥락을 주는 일에 한해서다.
고르는 근거가 실용적이다.
이런 자리에서는 지루한 선택이 좋다고 말한다. 어느 서비스와 잘 통하게 만드는 재주는 남보다 앞서는 무기가 못 된다. 대신 배울 방식이 하나뿐이면 사람들이 빨라진다.
바깥 사정도 든다. 어차피 다들 하고 있으니 안 하고 배길 수가 없고, 큰 연구소들이 다 그 표준을 함께 만들고 있다는 것이다.
거저 얻는 것도 있다고 말한다. 아직 안 마주친 문제까지 미리 풀려 있다는 것이다. 든 예가 구체적이다 — 빨리 만드느라 청구 방식이 제각각인 제품이 넷인 상황이면, 규격 안에 이미 있는 되묻기 기능으로 연동이 *스트림 너머로 물어보고 반대쪽이 답하게 하면 된다.
성공의 웅덩이
여기서 문제가 커진다.
바깥에 원격으로 도는 것들이 생기기 시작했는데, 그것과 통하려면 바깥으로 나가는 길과 신원 확인이 필요해 복잡하다. 동시에 안쪽에서도 코드 검토 봇이며 메신저를 챙기는 것이며 에이전트가 불어났다.
그래서 걱정이 셋 붙는다. 그 서비스들이 죄다 사용자 자격에 손대는 것, 아무 데서나 바깥으로 나가는 길이 열리는 것, 그리고 무엇이 오갔는지 따져 보는 일이 아주 복잡해지는 것이다.
여기서 예전에 배웠다는 사고틀을 꺼낸다. 옳은 일을 가장 쉬운 일로 만들면 조직 전체가 그리로 굴러떨어진다.
그래서 만든 것이 안팎을 가리지 않는 가운데 창구다. 엔지니어에게는 부르는 줄 하나를 주고, 그것이 곧바로 쓸 수 있는 상태를 돌려준다.
가운데가 떠맡는 것
| 몫 | 무엇 |
|---|---|
| 길 잡기 | 주소만 보고 바깥이든 안이든 알아서 보낸다 |
| 자격 챙기기 | 회사 안에서 신원 확인을 다섯 번 만들지 않게 |
| 한도와 기록 | 조이는 자리와 들여다보는 자리를 한곳에 |
| 정책 | 못 믿을 서버를 막고, 오가는 것을 살펴본다 |
돌려주는 것이 규격에 맞춘 물건이라 규격에 새 기능이 붙으면 꾸러미만 올리면 된다고 말한다.
자격을 가운데서 다루니 딸려 오는 것도 있다. 창구 주소가 여럿이어도 돌아오는 자리를 가운데가 알아서 처리하고, 자격이 옮겨 다닐 수 있어 묶어 돌리는 작업에서 사용자가 다시 로그인할 일이 없다.
정책이 필요한 이유도 짚는다. 끼어드는 글로 모델을 꾀는 공격을 다룬 글들이 있고, 모델이 저장소에 닿아 전부 지워 버릴 위험이 일반적으로 있다는 것이다.
이 발표의 제목이 되는 대목이다.
안에서 쓰는 길로 웹소켓을 골랐다고 말한다. 그런데 곧바로 덧붙인다. 연결마다 구멍을 하나씩 열기 싫으면 다른 것으로 묶어도 되고, 같은 기계 안이면 또 다른 방식도 된다.
그러고 메일로 실어 나르는 것까지 만들어 보인다.
요점은 이것이다. 이건 그냥 흐르는 글 뭉치이고, 그것을 회사 안 어디로 흘려보내는지는 작은 구현 세부다. 스트림이 같은 프로세스 안을 지나든 다른 데이터센터를 지나든 회사 장비 더미를 지나든 상관없다.
닫는 말도 세다. 무엇이든 하나로 정하라. 이것이 좋아 보이면 이것으로, 아니면 다른 것으로라도 정하라는 것이다. 그리고 옳은 길을 가장 쉬운 길로 만들어 두라고 되풀이한다.
잰 값이 거의 없다. 가운데를 둔 뒤 무엇이 얼마나 빨라졌는지, 연동을 붙이는 데 걸리던 시간이 얼마로 줄었는지가 없다.
3주도 예시다. 옮기는 데 그만큼 걸린다는 말이 어느 사례에서 나온 것인지가 없다.
가운데가 멈추면 어떻게 되는지 없다. 전부 한 자리를 지나게 만들어 놓고 그 자리가 죽거나 느려질 때의 이야기가 안 나온다.
메일로 나르기는 재미로 보인 것이다. 실제로 쓰는지, 쓴다면 어디에 쓰는지가 없다.
정책이 실제로 무엇을 걸러 냈는지 없다. 막을 수 있다고만 하고 잡아낸 사례가 나오지 않는다.
자막이 규격과 제품 이름을 뭉갠다. 인증 규격 이름과 서비스 주소가 여러 군데 어긋나 있어 정확한 표기는 원문에서 갈린다.
용어