LLM 에이전트란 무엇인가?
LLM 에이전트는 거대 언어 모델을 핵심 추론 엔진으로 사용하고, 여기에 계획, 메모리, 도구, 실행 로직을 결합해 작업을 완료하는 AI 시스템입니다. 텍스트 응답을 생성하는 것 외에도 LLM 에이전트는 목표를 이해하고, 필요한 단계를 결정하고, 외부 도구를 사용하고, 결과를 관찰하며, 쓸모 있는 결과에 도달할 때까지 작업을 계속할 수 있습니다.
LLM 에이전트와 챗봇, 무엇이 다를까?
기본적인 챗봇은 대화를 위해 설계됩니다. 사용자 메시지를 받아 답변을 생성하죠. 한 번의 응답으로 답할 수 있는 질문에는 이 방식이 잘 맞습니다.
LLM 에이전트는 작업 완료를 위해 설계됩니다. 일련의 행동을 계획할 수 있죠. 예를 들어 챗봇은 프레젠테이션을 만드는 방법을 설명할 수 있는 반면, LLM 에이전트는 정보를 수집하고, 스토리를 구성하고, 슬라이드를 생성하고, 문구를 다듬어 더 완성도 높은 결과물을 만들어낼 수 있습니다.
Kimi Agent 같은 제품이 자연스럽게 활용되는 지점이 바로 여기입니다. Kimi Agent는 정보 조사, 문서 처리, PPT 콘텐츠 생성, 스프레드시트 분석은 물론, 단일 답변만으로는 끝나지 않는 여러 단계의 작업까지 지원할 수 있습니다.
LLM 에이전트 아키텍처
일반적인 LLM 에이전트 아키텍처는 여러 연결된 구성 요소로 이루어집니다. LLM은 추론의 핵심 역할을 하지만, 그 자체가 시스템 전부는 아닙니다. 실제 작업을 완수하려면 에이전트에는 계획 수립, 메모리, 도구, 관찰, 안전 제어 기능도 필요합니다.
단순화한 LLM 에이전트 아키텍처는 다음과 같습니다:
각 구성 요소는 서로 다른 역할을 맡습니다. 에이전트 코어는 무엇을 할지 결정하고, 계획 수립은 작업을 단계별로 나누며, 메모리는 맥락을 계속 파악하고, 도구는 에이전트가 외부 시스템과 상호작용할 수 있게 해줍니다.
에이전트 코어: 두뇌 역할을 하는 LLM
에이전트 코어는 대개 대형 언어 모델입니다. 이는 사용자의 요청을 해석하고, 목표를 파악하며, 어떤 정보가 필요한지 판단하고, 다음 행동을 결정합니다.
LLM을 에이전트의 두뇌라고 생각하면 됩니다. 이는 작업 흐름을 조율하지만, 실제로 유용한 일을 하려면 여전히 나머지 시스템이 필요합니다. 도구가 없으면 텍스트만 생성할 수 있습니다. 메모리가 없으면 작업의 맥락을 놓칠 수 있습니다. 계획 수립이 없으면 길거나 복잡한 작업 흐름에서 어려움을 겪을 수 있습니다. 안전 경계가 없으면 검증이 필요한 행동을 그대로 실행해버릴 수 있습니다.
잘 설계된 에이전트에서는 LLM이 혼자 작동하지 않습니다. LLM은 자신의 역할, 사용 가능한 도구, 작업 경계, 그리고 언제 멈추거나 확인을 요청해야 하는지에 대한 규칙을 정의한 시스템 안에서 작동합니다.
계획 수립: 에이전트가 복잡한 작업을 나누는 방법
계획 수립을 통해 LLM 에이전트는 큰 요청을 더 작고 관리하기 쉬운 단계로 바꿀 수 있습니다. 단 한 번의 응답만으로는 답을 찾을 수 없는 경우 특히 중요합니다.
일부 에이전트는 처음에 계획을 세우고 그 단계를 그대로 따릅니다. 다른 에이전트는 더 유연한 반복 방식을 사용합니다. 한 가지 행동을 취하고, 결과를 관찰한 다음, 계획을 다시 수정하는 식입니다. ReAct나 Reflexion 같은 기법이 이런 맥락에서 자주 언급되는데, 이는 추론, 행동, 피드백, 조정을 결합하기 때문입니다.
계획 수립은 에이전트가 '프롬프트에 답하는' 수준에서 '작업 흐름을 관리하는' 수준으로 나아가도록 돕는 요소입니다.
메모리: 에이전트가 맥락을 유지하는 방법
메모리는 에이전트가 지금까지 일어난 일과 앞으로 해야 할 일을 계속 파악할 수 있게 도와줍니다.
단기 메모리는 현재 작업 중에 사용됩니다. 여기에는 사용자의 요청, 최근 도구 결과, 중간 메모, 현재 계획 등이 포함될 수 있습니다. 이는 에이전트가 여러 단계로 이루어진 작업을 수행하는 동안 일관성을 유지하는 데 도움이 됩니다.
장기 메모리는 여러 상호작용에 걸친 정보를 저장합니다. 여기에는 사용자 선호도, 이전 결정, 프로젝트 이력, 이전 작업에서 얻은 유용한 사실 등이 포함될 수 있습니다. 장기 메모리는 에이전트가 향후 작업을 개인화하거나 프로젝트를 시간에 걸쳐 이어가야 할 때 특히 유용합니다.
메모리가 있다고 해서 에이전트가 사람처럼 모든 것을 '이해'한다는 뜻은 아닙니다. 이는 시스템이 의사 결정을 내릴 때 관련 맥락을 저장하고, 불러오고, 활용할 방법을 갖추고 있다는 의미입니다.
도구: LLM 에이전트가 행동하는 방법
도구는 LLM 에이전트가 모델 자체를 넘어 실제로 행동할 수 있게 해주는 요소입니다. 여기에는 검색 엔진, 데이터베이스, 코드 인터프리터, 파일 시스템, 브라우저, API, 계산기, 기업용 소프트웨어, 그 밖의 전문 시스템이 포함될 수 있습니다.
예를 들어, 에이전트는 다음과 같은 것을 사용할 수 있습니다:
최신 정보를 수집하는 검색 도구
비즈니스 데이터를 조회하는 데이터베이스 커넥터
계산을 실행하는 코드 인터프리터
문서를 읽고 편집하는 파일 도구
데이터를 정리하고 분석하는 스프레드시트 도구
작업 흐름을 업데이트하거나 특정 동작을 트리거하는 API
도구는 챗봇과 에이전트를 가르는 가장 큰 차이점 중 하나입니다. 챗봇은 무엇을 해야 하는지 알려줄 수 있습니다. 도구를 갖춘 에이전트는 실제로 그 일을 하는 데 도움을 줄 수 있습니다.
LLM 에이전트 프레임워크
LLM 에이전트 프레임워크는 개발자가 에이전트 시스템을 구축, 연결, 관리하는 데 도움을 줍니다. 프롬프트, 도구, 메모리, 계획 로직, 작업 흐름 상태, 로그, 평가 단계를 일일이 수작업으로 연결하는 대신, 개발자는 프레임워크를 이용해 재사용 가능한 에이전트 워크플로를 만들 수 있습니다.
많은 에이전트 프레임워크는 오케스트레이션, 검색, 다중 에이전트 협업, 프로덕션 배포를 중심으로 설계됩니다. LangGraph는 장기 실행되는 상태 기반 에이전트 오케스트레이션에 초점을 맞춥니다. LlamaIndex는 데이터와 연결된 에이전트, 특히 애플리케이션에 검색, 문서 파싱, 색인, 쿼리 워크플로가 필요한 경우에 주로 사용됩니다. Haystack은 검색, 서치, 문서 처리, 에이전트 워크플로를 포함한 프로덕션 수준의 LLM 애플리케이션을 지원합니다. CrewAI는 서로 다른 에이전트가 각기 다른 역할을 맡아 공유된 프로세스를 통해 조율하는 다중 에이전트 워크플로를 위해 설계되었습니다.
이러한 프레임워크 자체는 에이전트가 아닙니다. 이들은 에이전트를 둘러싼 인프라, 즉 에이전트가 어떻게 맥락을 받아들이고, 도구를 호출하고, 정보를 기억하고, 단계를 조율하고, 실패로부터 회복하고, 검토하거나 개선할 수 있는 결과물을 만들어내는지를 뒷받침합니다. 실제로는 대상 워크플로에 따라 적합한 프레임워크가 달라집니다. 리서치나 문서 작업용 에이전트는 검색과 인용 지원이 필요할 수 있습니다. 코딩 에이전트는 파일 접근, 터미널 실행, 테스트 피드백이 필요할 수 있습니다. 업무 자동화 에이전트는 워크플로 상태, 승인 절차, 관찰 가능성, 내부 시스템과의 통합이 필요할 수 있습니다.
LLM 에이전트로 무엇을 할 수 있을까요?
LLM 에이전트는 여러 산업과 직무에서 중요한 도구가 되었습니다. 다음 섹션에서는 Kimi를 예로 들어 LLM 에이전트가 다양한 상황에서 어떻게 활용될 수 있는지 보여줍니다.
리서치와 정보 종합
리서치는 검색, 읽기, 비교, 추출, 요약, 정리 과정을 대체로 필요로 하기 때문에 LLM 에이전트가 가장 분명하게 활용되는 사례 중 하나입니다. 에이전트 방식의 워크플로는 여러 출처를 검토해 더 체계적인 결과물을 만들어낼 수 있습니다. Kimi에서는 더 긴 리서치 워크플로를 위해 Kimi 심층 연구를 사용할 수 있으며, 이는 더 깊이 있는 브리핑, 주제 분석, 시장 조사, 출처 기반 보고서 작성에 적합합니다.
예시 프롬프트:
작성, 요약, 콘텐츠 기획
LLM 에이전트는 정리되지 않은 입력을 체계적인 결과물로 바꿔주는 방식으로 글쓰기를 지원할 수 있습니다. 긴 자료를 요약하고, 개요를 작성하고, 문단 초안을 작성하고, 어조를 조정하고, 피드백에 따라 수정할 수 있습니다. Kimi LLM 에이전트는 작성과 긴 맥락 대화에 활용할 수 있으며, 이는 출처 노트, 긴 문서, 여러 단계의 콘텐츠 작업을 다룰 때 유용합니다.
데이터 분석과 스프레드시트 작업
많은 업무는 스프레드시트에서 이루어집니다. LLM 에이전트는 데이터를 정리하고, 패턴을 파악하고, 수식을 생성하고, 표를 설명하고, 차트나 피벗 형태의 요약을 만드는 데 도움을 줄 수 있습니다. Kimi Sheets를 사용하면 스프레드시트를 만들고, 수식을 생성하고, 피벗 테이블과 차트를 구성하고, 파일 형식을 변환하고, 지저분한 데이터를 정리할 수 있습니다.
가능한 스프레드시트 워크플로에는 다음이 포함됩니다:
일관되지 않은 이름, 카테고리, 날짜 형식 정리
수식 설명 및 새 수식 생성
설문 결과나 매출 데이터 요약
보고서용 차트 생성
비정형 데이터를 표로 변환
사람의 검토는 여전히 중요합니다. 에이전트는 지저분한 데이터를 잘못 해석하거나 잘못된 분석 방법을 선택할 수 있지만, 반복적인 스프레드시트 작업에서는 수작업을 줄이고 사용자가 더 빠르게 작업하도록 도울 수 있습니다.
코딩, 테스트, 워크플로 자동화
코딩은 본질적으로 여러 단계를 거치는 작업이기 때문에 LLM 에이전트는 소프트웨어 개발에서 점점 더 유용하게 쓰이고 있습니다. 개발자는 요구 사항을 이해하고, 기존 로직을 살펴보고, 코드를 생성하고, 결과를 테스트하고, 오류를 읽고, 구현을 수정해야 할 수 있습니다. Kimi에서는 코드 생성, 코드 설명, 디버깅 아이디어, 소규모 스크립트, 워크플로 자동화 계획을 요청할 수 있습니다.
문서, 슬라이드, 웹사이트, 업무 운영
LLM 에이전트는 최종 결과물이 단순한 텍스트가 아닐 때도 유용합니다. 많은 업무 결과물은 문서, 프레젠테이션, 스프레드시트, 웹사이트, 보고서, 운영 계획과 같은 체계화된 산출물입니다. Kimi는 웹사이트 생성, PPT 작성, 심층 연구, 문서나 시트 처리와 같은 작업을 계획하고 완료할 수 있습니다.
규모가 큰 작업을 위한 다중 에이전트 워크플로
일부 작업은 하나의 선형적인 워크플로로 처리하기에는 너무 광범위합니다. 경쟁사 리서치, 장문 작성, 대규모 검색, 배치 분석, 다중 출처 종합 같은 작업은 여러 에이전트가 병렬로 작동할 때 도움이 될 수 있습니다. Kimi Agent Swarm은 더 큰 규모의 에이전트 작업을 위한 제품 영역입니다. 최대 4,000개의 병렬 도구 호출을 지원하며, 대규모 검색, 장문 작성, 배치 작업과 같은 사용 사례를 위해 300개 이상의 서브 에이전트를 조율할 수 있습니다. 장점은 속도와 처리 범위입니다.
LLM 에이전트의 장점
LLM 에이전트는 한 번의 응답으로 끝나지 않는 작업을 처리할 수 있기 때문에 유용합니다.
첫째, 여러 단계로 이루어진 워크플로를 관리할 수 있습니다. 리서치 보고서, 코드 수정, 스프레드시트 분석, 프레젠테이션은 한 단계로 끝나는 경우가 거의 없습니다. 에이전트는 이러한 작업을 세분화해 체계적으로 처리할 수 있습니다.
둘째, 도구와 외부 시스템에 연결됩니다. 이를 통해 웹을 검색하고, 문서를 읽고, 코드를 실행하고, 데이터를 분석하거나, 업무용 소프트웨어와 상호작용할 수 있습니다.
셋째, 맥락을 유지할 수 있습니다. 메모리 덕분에 에이전트는 이미 수행한 작업과 앞으로 완료해야 할 작업을 추적할 수 있습니다.
넷째, 도구 간 수동 전환을 줄여줍니다. 에이전트가 프로세스를 대신 처리하기 때문에 사용자는 더 이상 도구 사이를 수동으로 오갈 필요가 없습니다.
다섯째, 더 개인화된 결과를 만들어낼 수 있습니다. 에이전트가 관련 맥락을 가지고 있으면 사용자의 작업, 문서, 데이터, 선호하는 형식에 맞게 출력을 조정할 수 있습니다.
결론
LLM 에이전트는 언어 모델과 에이전트 기능을 결합해 단일 응답을 넘어서는 작업을 수행합니다. 연구, 데이터 분석, 코딩, 콘텐츠 제작 등에서 여러 단계로 이루어진 워크플로를 관리하며, 새로운 정보에 따라 행동을 조정할 수 있습니다. 이러한 역량이 커질수록 명확한 목표 설정과 사람의 검토는 신뢰할 수 있는 결과를 얻는 데 여전히 필수적입니다.