신용카드와 쇼핑 계정을 쥔 자율 에이전트에게 냉장고를 채워 두라고 시키면 집세 낼 돈이 모자란 사정은 모른 채 주문한다는 예로 왜 명시적인 결정 틀이 필요한지 보여줌. 대안과 장단점을 내는 에이전트와 실행 여부를 정하는 에이전트를 갈라 두고, 권한이 없으면 사람이나 더 높은 권한으로 올린다는 것이 핵심임. 무엇을 왜 골랐는지가 그래프에 쌓여 다음 에이전트의 선례가 됨.
한줄 코멘트. 대안을 내는 에이전트가 고르지 않게 자리를 나눈 것이 이 발표의 주장이다. 장단점을 붙여 대안을 내는 데까지가 한 에이전트의 몫이고, 무엇을 할지는 그 행동을 할 권한이 있는지 보는 다음 자리로 넘어간다. 다만 발표자 스스로 이것이 일반적인 뼈대일 뿐이고 걸음마다 알맹이는 분야마다 다르다고 밝힌다.
그래프 데이터베이스를 만드는 회사의 세션이다. 두 사람이 나와 *컨텍스트 그래프가 에이전트의 판단을 어떻게 돕는지 이야기한다. 자막에 자기를 소개하는 대목은 없다.
문제를 세우는 예가 하나 나온다. 자율 에이전트에게 신용카드와 쇼핑 계정을 쥐여 주고 냉장고에 늘 음료를 채워 두라고 시킨다. 에이전트는 시킨 대로 주문한다. 그런데 집세 낼 날이 다가오고 돈이 모자란다는 사정은 모른다.
시킨 일은 제대로 했는데 결과가 나쁜 자리다. 그래서 무엇을 할지 정하는 절차를 따로 세워야 한다는 것이 이 발표의 출발점이다.
제안하는 자리와 정하는 자리
결정을 두 자리로 나눈다
핵심은 역할을 나눈 것이다. 한 에이전트의 몫은 대안을 내고 장단점을 붙이는 데까지다. 고르는 일은 하지 않는다.
고르는 일은 다음 자리로 넘어간다. 그 자리가 하는 일은 그 행동을 할 권한이 있는지 보는 것이다. 권한이 있으면 하고, 없으면 사람이나 더 높은 권한을 가진 쪽으로 올린다.
판단이 도는 여섯 걸음
전체 순서는 이렇게 간다.
먼저 문제를 세운다. 어쩌다 여기까지 왔는지와 무엇을 노리는지, 어떤 환경에서 도는 일인지를 붙잡는다.
그 위에 규칙을 얹는다. 지난 행동과 함께 회사의 굳은 규칙과 무른 규칙이 여기 들어간다.
그다음이 따져 보는 자리다. 되돌릴 수 있는 일인지, 틀리면 얼마를 무는지, 무엇을 가장 크게 만들려는 것인지를 본다.
거기서 제안이 나오고, 권한을 보는 자리가 받고, 필요하면 사람이 들어온다.
마지막 걸음이 이 틀을 고리로 만든다. 무엇을 왜 골랐는지와 실제로 한 일이 그래프에 함께 쌓인다. 다음 에이전트가 그것을 선례로 본다.
바탕에 깔린 구조도 짧게 나온다. 사용자가 물으면 에이전트가 먼저 자기 지식에 있는지 본다. 없으면 *그래프 데이터베이스로 넘어간다.
거기에는 사람 말을 질의어로 바꿔 주는 도구가 있어서, 그것으로 그래프를 훑어 필요한 것을 찾아 돌려준다.
수치가 하나도 없다. 이 틀을 썼을 때 판단이 얼마나 나아지는지, 잘못된 결정이 얼마나 줄어드는지가 나오지 않는다.
견줄 대상도 없다. 틀 없이 그냥 시켰을 때와 견준 값이 없어서, 자리를 나눈 것이 실제로 무엇을 막는지는 앞의 음료 사례 하나로만 이야기된다.
권한을 어떻게 정하는지가 없다. 권한이 있으면 하고 없으면 올린다는 구조인데, 그 권한을 누가 어떤 기준으로 정하는지가 이 틀의 급소인데 나오지 않는다.
발표자가 스스로 밝히는 한계는 또렷하다. 이것을 일반화하기가 매우 어렵다고 말한다. 뼈대는 일반적이지만 걸음마다 알맹이는 분야마다 크게 다르다는 것이다.
용어