전통적인 자동화는 고정된 지시를 따르고, 단순한 챗봇은 눈앞에 놓인 메시지에 반응합니다. 목표 기반 에이전트는 다르게 작동합니다. 원하는 결과에서 출발해 그 결과에 도달하는 데 필요한 행동을 계획합니다. 그런 다음 작업이 진행되면서 새로운 정보를 평가합니다. 이 글에서는 이 개념과 이를 뒷받침하는 아키텍처, 주요 활용 사례를 설명합니다. 또한 목표 기반 에이전트를 다른 AI 에이전트 유형과 비교하고, 목표 지향적 작업 실행을 실제로 경험할 수 있는 방법으로 Kimi Agent를 소개합니다.
목표 기반 에이전트란?
목표 기반 에이전트는 정의된 목표를 중심으로 의사결정을 내리고 행동을 취하는 AI 시스템입니다. 현재 상태를 평가하고, 가능한 다음 단계를 고려하며, 시스템을 원하는 결과에 더 가깝게 만드는 행동을 선택합니다. 에이전트는 도구를 사용하고, 진행 상황을 추적하며, 새로운 정보로 상황이 바뀌면 계획을 수정할 수 있습니다.
예를 들어, 고객 지원 에이전트는 하나의 질문에 답할 수 있습니다. 반면 목표 기반 에이전트는 고객 문제 전체를 해결하는 방향으로 움직일 수 있습니다. 계정 이력을 검토하고 승인된 지식 베이스를 참고할 수 있습니다. 그런 다음 문제를 진단하고, 해결책을 준비하거나, 근거가 불충분하면 사안을 상위 담당자에게 넘길 수 있습니다.
목표 기반 에이전트는 어떻게 작동하나요?
목표 기반 에이전트는 대체로 반복되는 루프를 따릅니다. 먼저 원하는 결과를 정의하고 현재 환경을 관찰합니다. 그런 다음 계획을 세우고, 행동을 선택하고, 결과를 평가합니다. 결과가 작업을 진전시키지 못하면 에이전트는 계획을 다시 세우거나 도움을 요청할 수 있습니다.
목표 정의
이 과정은 성공에 대한 정확한 정의에서 시작됩니다. 목표에는 여러 관련 조건이 포함될 수 있지만, 각 조건은 검증 가능해야 합니다. 마감일, 승인된 데이터 소스, 지출 한도, 필요한 승인, 금지된 행동 같은 제약 조건도 포함될 수 있습니다. 언어 모델은 모호한 요청을 구체적인 하위 목표로 바꿀 수 있지만, 최종 성공 기준은 워크플로 담당자에게 항상 보여야 합니다.
환경 및 상태 인식
에이전트는 사용자 요청, 외부 시스템, 파일, 데이터베이스, API 응답, 시스템 이벤트로부터 현재 상태에 대한 정보를 수집합니다. 로봇 환경에서는 센서가 주변 사물과 변화하는 조건에 대한 정보를 제공합니다. 상태에는 완료된 작업, 대기 중인 승인, 실패한 가정도 기록되어야 합니다. 명확한 오류 및 상태 값은 에이전트가 계속 진행할지, 재시도할지, 상위 담당자에게 넘길지 판단하는 데 도움이 됩니다.
계획 수립 및 작업 분해
계획 모듈은 목표를 실행 가능한 경로로 바꿉니다. 넓은 목표를 더 작은 작업으로 나누고 작업 간 의존 관계를 파악합니다. 직원 온보딩의 경우, 계획은 문서 수집과 검증에서 시작해 계정 요청을 준비하고 역할 기반 승인을 기다리는 순서로 진행될 수 있습니다. 안정적인 프로세스는 고정된 계획을 사용할 수 있는 반면, 변화가 많은 워크플로는 점진적으로 계획을 다시 세울 수 있는 의사결정 지점이 필요합니다.
행동 선택 및 실행
계획을 세운 후, 에이전트는 승인된 다음 행동을 선택합니다. 시스템에 질의하거나, 문서를 검색하거나, 레코드를 업데이트하거나, 누락된 정보를 사람에게 요청할 수 있습니다. 각 행동에는 명확한 입력값과 예상 결과가 있어야 합니다. 에이전트는 단계를 완료로 표시하기 전에 결과를 검증해야 하며, 영향력이 큰 행동은 사람의 승인을 위해 일시 중지되어야 합니다.
피드백 및 재계획
실행은 일방향 과정이 아닙니다. 에이전트는 최신 결과를 목표와 비교하고 계획이 여전히 타당한지 확인합니다. 새로운 근거는 현재 경로를 확인시켜 주거나, 장애물을 드러내거나, 더 안전한 대안을 만들어낼 수 있습니다.
이 루프는 다음과 같이 표현할 수 있습니다:
경로가 바뀌더라도 목표는 그대로 유지될 수 있습니다. 창고 로봇은 장애물을 감지한 후 다른 경로를 선택할 수 있습니다. 연구 에이전트는 첫 번째 출처가 질문에 답하지 못하면 다른 출처를 검색할 수 있습니다. 턴 수, 도구 호출 횟수, 재시도 횟수, 시간 등에 대한 실행 예산은 무한정 실행되는 것을 막고 성능을 측정하기 쉽게 만듭니다.
목표 기반 에이전트 아키텍처의 핵심 구성 요소
목표 기반 에이전트 아키텍처는 목표를 상태, 계획, 도구, 감독과 연결합니다. 구체적인 구현 방식은 다양하지만, 각 구성 요소는 명확한 역할을 가져야 합니다.
목표 및 성공 기준
목표 계층은 원하는 상태를 정의합니다. 에이전트가 무엇을 달성해야 하는지, 무엇이 완료로 간주되는지를 설명합니다. 실행 전반에 적용되는 실패 조건과 제약 조건도 함께 명시할 수 있습니다.
예를 들어, 문서 워크플로는 레코드를 제출하기 전에 필요한 모든 필드가 검증되도록 요구할 수 있습니다. 워크플로가 완전한 검증을 요구한다면, 미완성 레코드는 부분적인 성공으로 간주되지 않습니다. 명확한 기준은 에이전트가 적절한 시점에 멈추는 데 도움이 됩니다.
월드 모델과 지식 베이스
월드 모델은 에이전트에게 환경에 대한 작업용 표현을 제공합니다. 여기에는 현재 시스템 상태, 사용 가능한 리소스, 알려진 관계, 행동의 예상 결과 등이 포함될 수 있습니다. 지식 베이스는 에이전트가 의사결정을 내려야 할 때 근거 정보를 제공합니다.
월드 모델이 유용한 이유는 에이전트가 목표만으로는 계획을 세울 수 없기 때문입니다. 워크플로가 현재 어느 지점에 와 있는지 파악해야 합니다. 또한 일시적인 작업 맥락과 더 오래 유지되는 지식을 구분해야 합니다. 검색은 전체 데이터 집합을 활성 컨텍스트에 넣지 않으면서도 관련 정보를 제공해야 합니다.
잘 관리된 상태 기록은 완료된 단계, 대기 중인 의존 관계, 실패한 시도, 승인 상태를 보여줄 수 있습니다. 나중에 사용하기 위해 저장되는 모든 것은 접근 규칙과 데이터 출처 관리를 따라야 합니다.
계획 모듈
계획 모듈은 목표를 향한 경로를 만들고 갱신합니다. 일련의 행동 순서를 생성하거나, 여러 전문 요소에 작업을 분배하거나, 다음 단계를 동적으로 선택할 수 있습니다.
좋은 계획은 의존 관계와 불확실성을 고려합니다. 모든 도구가 예상한 결과를 반환할 것이라고 가정하지 않습니다. 대체 경로, 검증 단계, 상위 담당자 이관 조건을 포함할 수 있습니다. 새로운 근거가 최선의 다음 행동을 바꿀 수 있다면, 계획은 잠정적인 상태를 유지해야 합니다.
도구 및 액션 계층
도구는 에이전트가 모델 외부의 시스템과 상호작용할 수 있게 해줍니다. 대표적인 예로 검색, 데이터베이스 조회, 파일 처리, 브라우저 동작, 비즈니스 API, 레코드 업데이트 등이 있습니다.
모든 도구에는 명확한 계약(contract)이 필요합니다. 이 계약은 유효한 입력, 예상되는 출력, 권한, 오류, 부작용을 정의해야 합니다. 가능하다면 읽기 작업과 쓰기 작업을 분리해야 합니다. 민감한 작업에는 더 엄격한 검증 및 승인 규칙을 적용해야 합니다.
실행, 평가, 가드레일
실행 계층은 선택된 액션을 수행합니다. 평가 계층은 계획 및 성공 기준에 따라 결과를 점검합니다. 가드레일은 에이전트가 무엇을 할 수 있는지, 그리고 언제 멈춰야 하는지를 정의합니다.
프로덕션 워크플로우는 결정, 도구 호출, 관찰 결과, 상태 변화를 기록해야 합니다. 이 기록은 디버깅과 사람의 검토를 지원합니다. 되돌릴 수 없는 작업, 외부 커뮤니케이션, 금전적 변경, 프로덕션 업데이트 전에는 승인 게이트가 특히 중요합니다.
목표 기반 에이전트와 다른 유형의 AI 에이전트
목표 기반 에이전트는 더 넓은 AI 에이전트 설계 유형 중 하나입니다. 이 범주들은 서로 겹칠 수 있지만, 각각 의사결정 방식의 다른 측면을 보여줍니다.
| 에이전트 유형 | 의사결정 방식 | 계획 능력 | 적합한 상황 |
|---|---|---|---|
| 단순 반사 에이전트 | 현재 입력에 반응함 | 거의 없거나 전혀 없음 | 고정된 규칙과 즉각적인 반응 |
| 모델 기반 반사 에이전트 | 내부 상태 모델을 사용함 | 제한적 | 기본적인 기억이 필요한 환경 |
| 목표 기반 에이전트 | 정의된 목표를 향해 나아가는 행동을 선택함 | 가능 | 경로는 바뀌지만 목표는 명확한 경우 |
| 효용 기반 에이전트 | 가장 가치 있는 결과를 선택함 | 고급 트레이드오프 분석 | 여러 개의 경쟁하는 목표 |
| 학습 에이전트 | 경험이나 피드백을 통해 개선됨 | 시간이 지나며 발전할 수 있음 | 적응이 도움이 되는 작업 |
반응형 에이전트는 지금 보고 있는 것에 반응합니다. 목표 기반 에이전트는 한 행동이 미래 상태에 어떤 영향을 미치는지를 고려합니다. 이러한 미래 지향적 특성 때문에 목표는 고정되어 있지만 경로는 정해져 있지 않은 상황에서는 목표 기반 시스템이 더 적합합니다.
효용 기반 에이전트는 다른 종류의 의사결정 문제를 해결합니다. 가능한 결과들을 비교하고 각각에 값을 부여합니다. 예를 들어 고객 서비스 시스템은 응답을 선택할 때 해결 속도, 환불 비용, 고객 만족도 사이의 균형을 고려할 수 있습니다. 목표 기반 에이전트는 대개 목표 조건에 도달했는지 여부에 초점을 맞춥니다. 워크플로우가 필요로 한다면 목표 기반 시스템에도 학습이나 효용 기반 구성 요소를 포함할 수 있습니다.
목표 기반 에이전트와 작업 기반 에이전트
작업 기반 에이전트와 목표 기반 에이전트는 모두 유용한 작업을 자동화할 수 있습니다. 차이는 시스템이 지시를 받는 수준과 성공을 측정하는 수준에 있습니다.
| 구분 기준 | 작업 기반 에이전트 | 목표 기반 에이전트 |
|---|---|---|
| 시작점 | 구체적인 지시 | 원하는 결과 |
| 범위 | 정의된 하나의 작업 | 연결된 워크플로 |
| 다음 행동 | 일반적으로 사용자나 워크플로가 지정 | 에이전트가 선택 |
| 성공 기준 | 작업 완료 | 목표 달성 |
| 적응 | 대개 제한적 | 조건이 바뀌면 계획을 다시 세울 수 있음 |
| 사람의 개입 | 단계마다 필요할 수 있음 | 경계 상황이나 예외 상황에서 주로 필요 |
작업 기반 에이전트는 수행할 행동이 이미 정해져 있을 때 유용합니다. 목표 기반 에이전트는 결과는 명확하지만 경로가 달라질 수 있을 때 유용합니다. 작업 기반 시스템은 문서에서 특정 필드를 추출할 수 있습니다. 목표 기반 시스템은 그 추출 작업을 정보를 검증하고 예외를 처리하는 더 큰 프로세스의 한 단계로 활용할 수 있습니다.
이 구분은 에이전트 수가 아니라 워크플로우 책임의 수준에 관한 것입니다. 단일 에이전트가 광범위한 목표를 추구할 수도 있습니다. 여러 에이전트가 더 큰 계획을 공유하지 않고 각자 별개의 작업을 수행할 수도 있습니다.
목표 기반 에이전트의 활용 사례
목표 기반 에이전트는 목적지는 명확하지만 작업이 끝나기 전에 조건이 바뀔 수 있는 환경에 적합합니다.
로봇공학 및 창고 자동화
창고 로봇은 패키지를 배송 구역으로 옮기라는 목표를 받을 수 있습니다. 이 로봇은 패키지를 식별하고, 경로를 계획하고, 장애물을 피하고, 자신의 위치를 모니터링해야 합니다. 다른 로봇이 계획된 경로를 막으면 에이전트는 대체 경로를 평가할 수 있습니다.
목표는 그대로 유지됩니다. 행동 순서는 환경에 따라 달라집니다. 이는 로봇공학이 가장 가까운 장애물에만 반응하는 것이 아니라 미래 상태를 향해 계획을 세우는 명확한 예시임을 보여줍니다.
고객 지원 및 문제 해결
지원 워크플로우는 정확하고 승인된 응답으로 고객 문제를 해결하는 것을 성공으로 정의할 수 있습니다. 에이전트는 대화를 읽고, 계정 정보를 조회하고, 지식 베이스를 참고하고, 에스컬레이션이 필요한지 판단할 수 있습니다.
시스템은 답변을 작성했다고 해서 성공했다고 판단해서는 안 됩니다. 응답이 문제를 실제로 해결했는지, 그리고 필요한 조치가 완료되었는지를 확인해야 합니다. 민감한 변경은 사람의 승인 단계를 거쳐야 합니다.
직원 온보딩
직원 온보딩은 역할, 위치, 입사일, 승인 상태에 따라 달라지는 서로 연결된 작업들로 이루어집니다. 목표 기반 에이전트는 각 요청을 개별 행동으로 다루는 대신 더 큰 결과를 추적할 수 있습니다.
에이전트는 문서를 수집하고, 정보를 검증하고, 계정 요청을 준비하고, 관리자의 승인을 기다릴 수 있습니다. 필수 항목이 누락된 경우 에이전트는 작업을 멈추거나 누락된 정보를 요청할 수 있습니다. 계획을 계속 진행하기 위해 권한 규칙을 무시해서는 안 됩니다.
연구 및 콘텐츠 워크플로우
연구 워크플로우는 신뢰할 수 있는 근거를 바탕으로 구조화된 보고서를 작성한다는 목표에서 시작할 수 있습니다. 에이전트는 질문을 하위 주제로 나누고, 승인된 출처를 검색하고, 결과를 정리하고, 부족한 부분을 찾아낼 수 있습니다.
출처가 어떤 주장을 뒷받침하지 못하면 에이전트는 연구 계획을 수정할 수 있습니다. 검토 단계에서는 최종 보고서가 원래 질문에 답하고 있는지 확인할 수 있습니다. 보고서가 중요한 의사결정에 영향을 미칠 때는 사람의 검토가 여전히 중요합니다.
인시던트 대응 및 운영
인시던트 대응 에이전트는 서비스 문제의 원인을 파악하는 방향으로 작업할 수 있습니다. 로그를 확인하고, 최근 배포 내역을 검토하고, 종속성을 점검하고, 시스템 간 근거를 비교할 수 있습니다.
새로운 신호가 나타나면 워크플로가 바뀔 수 있습니다. 에이전트는 롤백이나 설정 변경을 권고할 수 있지만, 프로덕션에 영향을 주는 작업은 승인을 거쳐야 합니다. 목표 기반 루프는 조사 과정을 체계화하는 데 도움을 주지만, 이것이 권고를 통제되지 않은 실행으로 바꾸어서는 안 됩니다.
목표 기반 에이전트의 이점
다단계 작업을 더 잘 처리
목표 기반 에이전트는 최종 결과를 중심으로 연결된 작업들을 조직할 수 있습니다. 워크플로에 명확한 경계가 있다면 위험도가 낮은 모든 단계를 일일이 지시할 필요가 없습니다.
규칙 기반 자동화보다 유연함
고정된 규칙은 안정적인 조건에서 잘 작동합니다. 목표 기반 시스템은 입력이 바뀌거나 예상된 작업이 실패했을 때 승인된 다른 경로를 선택할 수 있습니다.
더 명확한 성공 기준
정의된 목표가 있으면 평가가 더 의미 있어집니다. 시스템은 응답의 길이나 유창함으로 성공 여부를 판단하는 대신, 의도한 결과에 도달했는지 확인할 수 있습니다.
더 나은 워크플로 연속성
에이전트는 작업 상태를 보존하고 아직 끝나지 않은 부분을 파악할 수 있습니다. 이는 워크플로가 승인 대기로 멈추거나 다른 시스템의 정보를 기다려야 할 때 중요합니다.
더 유용한 인간의 위임
사람은 결과, 제약 조건, 승인 지점을 정할 수 있습니다. 그러면 에이전트는 그 운영 경계 안에서 일상적인 결정을 관리하고, 사람은 예외 상황과 영향력이 큰 선택을 처리합니다.
신뢰할 수 있는 목표 기반 에이전트를 설계하는 방법
신뢰할 수 있는 설계는 모델이 아니라 워크플로에서 시작합니다. 작업을 안전하게 완료할 수 있는 가장 작은 아키텍처를 사용하세요.
하나의 측정 가능한 목표 정의하기: 평가자가 검증할 수 있는 완료 조건을 작성합니다.
성공 및 실패 조건 설정하기: 에이전트가 언제 계속 진행하고, 중단하고, 상위로 넘겨야 하는지 명시합니다.
목표를 하위 작업으로 나누기: 각 하위 작업에 명확한 출력과 의존 관계를 부여합니다.
도구 접근 제한하기: 현재 역할에 필요한 도구만 제공합니다.
읽기 권한과 쓰기 권한 분리하기: 정보 조회와 상태 변경 작업을 다르게 취급합니다.
승인 게이트 추가하기: 민감하거나 되돌릴 수 없는 작업 전에는 확인을 요구합니다.
실행 기록 남기기: 계획, 도구 호출, 결과, 상태 변경을 기록합니다.
실행 한도 설정하기: 시간, 턴 수, 재시도, 비용 한계를 사용합니다.
전체 워크플로 테스트하기: 개별 모델 응답뿐 아니라 결과를 평가합니다.
점진적으로 확장하기: 에이전트 하나로 시작하고, 측정 가능한 필요가 생긴 후에만 조율 체계를 추가합니다.
실용적인 원칙은 간단합니다. 워크플로를 안정적으로 완료할 수 있는 가장 낮은 복잡도의 아키텍처를 사용하는 것입니다. 자율성을 더 높이는 것은 특정한 운영상의 문제를 해결할 때만 의미가 있습니다.
지금 바로 사용할 수 있는 목표 기반 에이전트, Kimi Agent
이 가이드에서 다룬 계획 루프는 단순한 이론이 아닙니다. 이는 Kimi Agent가 실제 작업을 수행하는 방식 그대로입니다. 결과를 한 문장으로 설명하면 Kimi가 이를 하위 작업으로 분해하고, 내장된 도구로 각 단계를 실행합니다. 그런 다음 완성된 결과물을 전달하기 전에 결과를 평가합니다. 별도의 오케스트레이션 계층을 구축하거나 워크플로 코드를 유지 관리할 필요가 없습니다.
목표를 말하면 결과물을 얻습니다
Kimi Agent는 목표 기반 에이전트가 작동해야 하는 방식대로 작동합니다. 절차가 아니라 목표를 알려주세요. 스스로 경로를 계획하고 바로 사용할 수 있는 결과물을 만들어냅니다.
Kimi 심층 연구를 통해 출처가 인용된 리서치 보고서
짧은 설명만으로 완성되는 멀티페이지 웹사이트
바로 수정 가능한 PPT 프레젠테이션, 문서, 또는 스프레드시트
한 번에 최대 50개의 파일을 소스 자료로 업로드할 수 있어, 기존 PDF, 슬라이드, 이미지가 모두 작업 컨텍스트의 일부가 됩니다.
긴 작업도 스스로 끝까지 처리
목표 기반 에이전트는 한 단계 이상이 필요한 작업에서 진가를 발휘합니다. Kimi 심층 연구는 보통 작업당 10~25분 동안 실행되며 백그라운드에서 계속 진행되므로, 페이지를 떠났다가 돌아오면 완성된 보고서를 받을 수 있습니다. 에이전트는 매 단계마다 사용자의 지시를 기다리지 않고 스스로 진행 상황을 추적합니다.
하나의 목표를 수백 개의 병렬 작업으로 확장
작업 규모가 하나의 에이전트로 처리하기 부족할 때, Kimi Agent Swarm은 목표를 100개 이상의 서브 에이전트로 나누고 최대 1,500개의 병렬 도구 호출을 지원합니다. 대규모 검색, 장문 작성, 배치 처리를 위해 설계되었으며, 동일한 목표 기반 루프를 여러 배로 확장한 것입니다.
경계는 여전히 사용자가 설정합니다
목표 기반 설계는 결과에 대한 주도권을 사람에게 남겨두며, Kimi도 같은 방식으로 작동합니다. 사용자가 목표와 제약 조건을 정의하고, 이후 계획과 결과물을 검토합니다. 중요한 사실과 결과가 큰 결정은 여전히 사람의 검토를 거칩니다. 자율성은 경로를 처리하지만, 판단은 사용자에게 남아 있습니다.
한계와 과제
목표 기반 에이전트는 고정된 자동화보다 더 큰 유연성을 제공하지만, 새로운 실패 유형도 함께 발생시킵니다. 목표가 모호하면 에이전트가 잘못된 결과로 향할 수 있고, 결정 공간이 크면 계획 수립 비용이 커질 수 있습니다. 환경이 변화하면 계획이 낡아질 수도 있습니다. 우선순위가 충돌하는 경우에는 단순한 완료 판정 대신 효용 기반 추론이나 사람의 판단이 필요할 수 있습니다. 도구 오류와 오래된 데이터는 추가적인 위험을 만들며, 특히 에이전트가 외부 시스템을 변경할 수 있는 경우 더욱 그렇습니다. 따라서 안정적인 배포를 위해서는 검증된 도구 결과, 통제된 재계획, 제한된 권한, 가시적인 로그, 영향이 큰 작업에 대한 사람의 승인이 필요합니다.
결론
목표 기반 에이전트는 최신 입력에만 반응하는 것이 아니라, 정해진 결과를 향해 작업합니다. 계획과 행동을 연결하는 루프를 사용하고, 관찰된 결과를 평가한 뒤 다음에 할 일을 선택합니다. 이 방식은 목적지는 분명하지만 경로가 바뀔 수 있는 워크플로에 적합합니다. 명확한 성공 기준과 제한된 권한으로 시작하세요. 워크플로에 필요할 때만 복잡성을 추가하세요. Kimi Agent는 에이전트 아키텍처를 처음부터 직접 구축하지 않고도 목표 지향적 작업 실행을 실질적으로 탐색할 수 있는 방법을 제공합니다.