자유롭게 답하는 에이전트, 자유롭지 않은 규칙 안에서
문장은 모델이 씁니다. 어떤 소스를 읽어도 되는지, 어떤 액션을 실행해도 되는지, 어떤 조건에서 멈추고 사람에게 넘기는지는 고객의 설정이 결정합니다.
고객이 메시지를 보내면 실제로 일어나는 일
모든 턴은 같은 네 단계를 거치고, 각 단계가 기록됩니다. 이상한 답변은 다시 재현해야 하는 것이 아니라 열어서 확인할 수 있는 것이 됩니다.
메시지를 데이터로 읽습니다
고객이 쓴 문장과 검색으로 가져온 발췌는 신뢰하지 않는 부분으로 요청에 들어갑니다. 길이가 제한되고 들어오는 길에 민감한 값이 가려지며, 정책 지침이 놓이는 자리를 차지하는 일은 결코 없습니다.
승인한 소스에서 답합니다
검색은 해당 에이전트에 선택된 지식 소스만 대상으로 하고 소수의 발췌를 돌려줍니다. 쓸 만한 발췌가 없는 에이전트는 지어내지 않고 상담원에게 넘깁니다.
허용한 액션만 호출합니다
액션은 등록되어 있고, 이 에이전트에 허용되어 있으며, 인자가 닫힌 스키마와 일치할 때만 실행됩니다. 모든 부수 효과에는 멱등 키와 기한이 붙습니다.
알아낸 것을 기록합니다
프로필 값은 지정한 키에 대해서만 기록되고, 각 항목은 출처가 된 메시지와 턴을 함께 보관합니다. 그래서 저장된 값은 고객이 실제로 한 말까지 되짚을 수 있습니다.
저절로 색인되는 것은 없습니다
지식 소스란 에이전트가 답변의 근거로 삼아도 되는 입력 하나를 뜻합니다. 만드는 것도, 색인하는 것도, 어떤 에이전트가 쓰게 할지 정하는 것도 고객입니다.
- 다섯 가지 소스
- 이 봇의 지식 베이스 문서, 직접 운영하는 사이트의 페이지, 업로드한 문서, 직접 쓴 짧은 정책 지침, 또는 저장해 둔 사실 한 건입니다. 초안 상태의 문서는 검색 가능한 내용을 전혀 만들지 않습니다.
- 무엇을 찾아올지 미리 볼 수 있습니다
- 검색 테스트는 입력한 질문에 대해 에이전트가 받게 될 발췌를, 고객이 묻기 전에 보여 줍니다.
- 답변이 출처를 밝힙니다
- 모든 답변에는 근거로 삼은 소스가 함께 붙고, 분석 화면은 어떤 소스가 실제로 일하고 있는지 보여 줍니다. 아무도 찾지 않는 소스는 짐작이 아니라 눈에 보이는 사실이 됩니다.
무엇을 할 수 있고 어디서 멈추는가
이 둘은 한 결정의 양면이라 같은 화면에 둡니다. 여기 있는 것은 모델에게 얌전히 굴어 달라는 부탁이 아닙니다. 각 줄은 서버가 수행하는 검사입니다.
할 수 있는 일
- 고정된 액션 목록
- 한 에이전트는 최대 여덟 개의 액션을 가질 수 있고, 플랫폼이 등록한 것 중에서 고릅니다. 목록에 없는 이름은 요청을 구성하기도 전에 거부됩니다.
- 부수 효과에는 확인 절차
- 대화 밖에 쓰기를 하는 동작에는 명시적인 확인 설정이 붙고, 지정한 리소스로 범위를 더 좁힐 수 있습니다.
- 닫힌 인자 스키마
- 인자는 알 수 없는 필드를 금지하는 스키마와 일치해야 합니다. 봇, 고객, 주소, 자격 증명은 모델이 정하지 않고 서버 컨텍스트에서 옵니다.
멈추는 지점
- 낮은 확신도
- 설정한 확신도 기준을 밑돌면 에이전트는 스스로 답하지 않습니다. 대신 대화를 상담원에게 넘깁니다.
- 운영 시간 밖
- 설정한 일정에 따라 세 가지 동작 중 하나를 고릅니다. 평소처럼 답하거나, 상담원을 위한 초안을 준비하거나, 즉시 넘깁니다.
- 내용에 숨은 지시
- 고객이 쓴 문장이나 색인된 페이지의 문장은 데이터입니다. 모델 출력에서 권한을 흉내 낸 필드는 제거되고, 응답의 형태는 서버가 만들며 모델이 고르는 일은 없습니다.
모델은 설정이지 종속이 아닙니다
에이전트는 직접 설정한 OpenAI 호환 엔드포인트와 통신합니다. 공급자를 바꿔도 에이전트를 둘러싼 고객 여정 로직은 그대로입니다.
- 직접 준비한 공급자 키
- 기본 주소, 모델 이름, 본인 키로 AI 통합을 추가합니다. 키는 암호화되어 저장되고, 같은 통합이 지식 소스를 색인하는 임베딩도 만듭니다.
수정과 고객 사이의 네 단계
에이전트는 설정이고, 설정은 공개 전에 점검하고 실행 후에 들여다볼 수 있는 대상입니다.
검증
실행 점검은 설정이 올바르지 않거나, 채널이 이미 다른 활성 에이전트에 사용 중이거나, 소스나 상담원 그룹이 없거나, AI 통합이 없는 에이전트의 활성화를 거부합니다.
시뮬레이션
에이전트 점검은 안전한 실행을 한 번 수행합니다. 모델을 호출하지 않고, 메시지를 보내지 않으며, 액션을 실행하거나 예약을 만들지도 않습니다. 어떤 부수 효과를 억제했는지 보고합니다.
적용
활성화는 설정 전체를 하나의 버전으로 저장합니다. 활성 에이전트를 수정하면 다음 버전이 만들어지고, 이미 진행 중인 대화는 시작한 버전을 그대로 유지합니다.
재실행
실행은 단계별로 기록됩니다. 다시 열어 각 단계가 왜 일어났는지 읽고, 기록된 픽스처와 고정된 시계로 다시 돌려 두 실행을 동일하게 만들고, 회귀 테스트 사례로 저장하세요.
멈출 때 맥락도 함께 넘어갑니다
상담원 연결은 일반 지원 대화를 열고, 상담원 그룹을 지정하며, 사유와 수집한 사실, 인용한 소스를 담은 가림 처리된 요약을 덧붙입니다. 대화가 사람에게 넘어가 있는 동안 에이전트는 말하지 않고, 대화 쪽에서 요청할 때만 다시 시작합니다.
채널 하나에 에이전트 하나로 시작하세요
소스 몇 개를 연결하고, 액션 하나를 주고, 나머지는 모두 사람에게 넘기는 조건을 설정하세요. 실제로 도는 모습을 본 다음에 범위를 넓히면 됩니다.
첫 여정 만들기