Apa Itu LLM agent?
LLM agent adalah sistem AI yang menggunakan large language model sebagai mesin penalaran utamanya, lalu menggabungkannya dengan perencanaan, memory, tools, dan logika eksekusi untuk menyelesaikan tugas. Selain menghasilkan respons teks, LLM agent juga dapat memahami sebuah tujuan, memutuskan langkah apa yang diperlukan, menggunakan tools eksternal, mengamati hasilnya, dan terus bekerja hingga mencapai hasil yang bermanfaat.
LLM agent vs. chatbot: Apa bedanya?
Chatbot dasar dirancang untuk percakapan. Ia menerima pesan pengguna dan menghasilkan balasan. Ini bekerja dengan baik untuk pertanyaan yang bisa dijawab dalam satu respons.
LLM agent dirancang untuk menyelesaikan tugas. Ia dapat merencanakan serangkaian tindakan. Misalnya, chatbot dapat menjelaskan cara membuat presentasi. LLM agent dapat membantu mengumpulkan informasi, menyusun cerita, menghasilkan slide, menyempurnakan kata-kata, dan menghasilkan hasil kerja yang lebih lengkap.
Di sinilah produk seperti Kimi Agent berperan secara alami. Kimi Agent dapat mendukung workflow seperti meneliti informasi, memproses dokumen, menghasilkan konten PPT, menganalisis spreadsheet, dan menangani tugas multi-langkah yang membutuhkan lebih dari satu jawaban tunggal.
Arsitektur LLM agent
Arsitektur LLM agent yang umum terdiri dari beberapa bagian yang saling terhubung. LLM berperan sebagai inti penalaran, tetapi bukan seluruh sistem. Untuk menyelesaikan tugas nyata, agent juga membutuhkan perencanaan, memory, tools, observasi, dan kontrol keamanan.
Arsitektur LLM agent yang disederhanakan terlihat seperti ini:
Setiap komponen memiliki peran yang berbeda. Agent core memutuskan apa yang harus dilakukan, perencanaan memecah pekerjaan menjadi langkah-langkah, memory melacak konteks, dan tools memungkinkan agent berinteraksi dengan sistem eksternal.
Agent core: LLM sebagai otak
Agent core biasanya berupa large language model. Ia menafsirkan permintaan pengguna, memahami tujuan, memutuskan informasi apa yang diperlukan, dan memilih tindakan selanjutnya.
Anda dapat menganggap LLM sebagai otak agent. Ia mengoordinasikan workflow, tetapi tetap membutuhkan sisa sistem untuk melakukan pekerjaan yang bermanfaat. Tanpa tools, ia hanya bisa menghasilkan teks. Tanpa memory, ia bisa kehilangan jejak tugas. Tanpa perencanaan, ia bisa kesulitan menghadapi workflow yang panjang atau kompleks. Tanpa batasan keamanan, ia bisa mengambil tindakan yang seharusnya memerlukan verifikasi.
Dalam agent yang dirancang dengan baik, LLM tidak bertindak sendirian. Ia beroperasi di dalam sebuah sistem yang mendefinisikan perannya, tools yang tersedia, batasan tugas, dan aturan tentang kapan harus berhenti atau meminta konfirmasi.
Perencanaan: Bagaimana agent memecah tugas yang kompleks
Planning memungkinkan agen LLM mengubah permintaan besar menjadi langkah-langkah kecil yang lebih mudah dikelola. Ini sangat penting ketika jawabannya tidak bisa didapat hanya dengan satu respons.
Beberapa agent membuat rencana di awal lalu mengikutinya langkah demi langkah. Yang lain menggunakan loop yang lebih fleksibel: mereka mengambil satu tindakan, mengamati hasilnya, lalu merevisi rencana. Teknik seperti ReAct dan Reflexion sering dibahas dalam konteks ini karena menggabungkan reasoning, tindakan, feedback, dan penyesuaian.
Planning adalah yang membantu agent beralih dari sekadar “menjawab prompt” menjadi “mengelola workflow.”
Memory: Bagaimana agent menjaga konteks
Memory membantu agent melacak apa yang sudah terjadi dan apa yang masih perlu dilakukan.
Memori jangka pendek digunakan selama tugas yang sedang berjalan. Ini bisa mencakup permintaan pengguna, hasil tool terbaru, catatan sementara, dan rencana saat ini. Ini membantu agent tetap koheren saat menyelesaikan workflow multi-langkah.
Memori jangka panjang menyimpan informasi lintas interaksi. Ini bisa mencakup preferensi pengguna, keputusan sebelumnya, riwayat proyek, atau fakta berguna dari tugas-tugas sebelumnya. Memori jangka panjang sangat bermanfaat ketika agent perlu mempersonalisasi pekerjaan di masa depan atau melanjutkan proyek dari waktu ke waktu.
Memory bukan berarti agent “memahami” segalanya seperti manusia. Ini berarti sistem memiliki cara untuk menyimpan, mengambil, dan menggunakan konteks yang relevan saat membuat keputusan.
Tools: Bagaimana agen LLM mengambil tindakan
Tools adalah apa yang memungkinkan agen LLM bertindak di luar model itu sendiri. Ini bisa termasuk mesin pencari, database, code interpreter, sistem file, browser, API, kalkulator, perangkat lunak enterprise, atau sistem khusus lainnya.
Misalnya, agent bisa menggunakan:
Alat pencarian untuk mengumpulkan informasi terkini
Konektor database untuk mengambil data bisnis
Code interpreter untuk menjalankan kalkulasi
Alat file untuk membaca dan mengedit dokumen
Alat spreadsheet untuk membersihkan dan menganalisis data
API untuk memperbarui workflow atau memicu suatu tindakan
Tools adalah salah satu perbedaan terbesar antara chatbot dan agent. Chatbot bisa memberi tahu Anda apa yang harus dilakukan. Agent dengan tools bisa membantu melakukannya.
Framework agen LLM
Framework agen LLM membantu developer membangun, menghubungkan, dan mengelola sistem agentic. Daripada merangkai prompt, tools, memory, logika planning, status workflow, log, dan langkah evaluasi secara manual, developer bisa menggunakan framework untuk membuat workflow agent yang dapat digunakan kembali.
Banyak framework agent dibangun di sekitar orkestrasi, retrieval, kolaborasi multi-agent, dan deployment produksi. LangGraph berfokus pada orkestrasi agent yang stateful dan berjalan lama. LlamaIndex sering digunakan untuk agent yang terhubung dengan data, terutama ketika aplikasi membutuhkan retrieval, parsing dokumen, indexing, dan workflow query. Haystack mendukung aplikasi LLM yang siap produksi, termasuk retrieval, pencarian, pemrosesan dokumen, dan workflow agent. CrewAI dirancang untuk workflow multi-agent di mana agent yang berbeda dapat mengambil peran berbeda dan berkoordinasi melalui proses bersama.
Framework-framework ini bukan agent itu sendiri. Mereka menyediakan infrastruktur di sekitar agent: bagaimana agent menerima konteks, memanggil tools, mengingat informasi, mengoordinasikan langkah, memulihkan diri dari kegagalan, dan menghasilkan output yang dapat diperiksa atau ditingkatkan. Dalam praktiknya, framework yang tepat bergantung pada workflow yang dituju. Agent riset atau dokumen mungkin memerlukan dukungan retrieval dan sitasi. Agent coding mungkin memerlukan akses file, eksekusi terminal, dan feedback pengujian. Agent otomasi bisnis mungkin memerlukan status workflow, checkpoint persetujuan, observability, dan integrasi dengan sistem internal.
Apa yang bisa dilakukan agen LLM?
Agen LLM telah menjadi alat penting di berbagai industri dan peran pekerjaan. Bagian berikut menggunakan Kimi sebagai contoh untuk menunjukkan bagaimana agen LLM dapat diterapkan dalam berbagai skenario.
Riset dan sintesis informasi
Riset adalah salah satu use case paling jelas untuk agen LLM karena biasanya membutuhkan pencarian, membaca, membandingkan, mengekstrak, meringkas, dan mengorganisasi informasi. Workflow agentic dapat menelusuri sumber-sumber dan menghasilkan hasil yang lebih terstruktur. Di Kimi, pengguna dapat menggunakan Kimi Riset Mendalam untuk workflow riset yang lebih panjang, cocok untuk brief yang lebih dalam, analisis topik, pemindaian pasar, dan laporan yang didukung sumber.
Contoh prompt:
Penulisan, peringkasan, dan perencanaan konten
Agen LLM dapat mendukung penulisan dengan mengubah input yang berantakan menjadi output yang terstruktur: mereka dapat meringkas materi panjang, membuat outline, menulis draf bagian, menyesuaikan nada tulisan, dan merevisi berdasarkan feedback. Agen LLM Kimi dapat digunakan untuk penulisan dan percakapan dengan konteks panjang, yang membantu saat bekerja dengan catatan sumber, dokumen panjang, atau tugas konten multi-langkah.
Analisis data dan pekerjaan spreadsheet
Banyak tugas bisnis terjadi di spreadsheet. Agen LLM dapat membantu membersihkan data, mengidentifikasi pola, membuat formula, menjelaskan tabel, dan membuat chart atau ringkasan bergaya pivot. Dengan Kimi Sheets, Anda dapat membuat spreadsheet, membuat formula, membangun pivot table dan chart, mengonversi format file, dan membersihkan data yang berantakan.
Kemungkinan workflow spreadsheet meliputi:
Membersihkan nama, kategori, atau format tanggal yang tidak konsisten
Menjelaskan formula dan membuat formula baru
Meringkas hasil survei atau data penjualan
Membuat chart untuk laporan
Mengonversi data yang tidak terstruktur menjadi tabel
Tinjauan manusia tetap penting. Agent bisa salah membaca data yang berantakan atau memilih metode analisis yang salah, tetapi untuk pekerjaan spreadsheet yang berulang, mereka dapat mengurangi upaya manual dan membantu pengguna bergerak lebih cepat.
Coding, pengujian, dan otomasi workflow
Agen LLM semakin bermanfaat dalam pengembangan perangkat lunak karena coding secara alami bersifat multi-langkah. Seorang developer mungkin perlu memahami requirement, memeriksa logika yang ada, membuat kode, menguji hasilnya, membaca error, dan merevisi implementasi. Di Kimi, pengguna dapat meminta pembuatan kode, penjelasan kode, ide debugging, skrip kecil, dan rencana otomasi workflow.
Dokumen, slide, situs web, dan operasional bisnis
Agent LLM berguna ketika hasil akhir yang dibutuhkan bukan sekadar teks. Banyak hasil kerja berupa dokumen terstruktur: dokumen, presentasi, spreadsheet, situs web, laporan, dan rencana operasional. Kimi mampu merencanakan dan menyelesaikan tugas seperti pembuatan situs web, pembuatan PPT, Riset Mendalam, serta pengolahan dokumen atau sheet.
Alur kerja multi-agent untuk tugas yang lebih besar
Beberapa tugas terlalu luas untuk dikerjakan dalam satu alur kerja linear. Riset kompetitif, penulisan konten panjang, pencarian skala besar, analisis batch, dan sintesis dari banyak sumber bisa lebih efektif jika dikerjakan oleh beberapa agent secara paralel. Kimi Agent Swarm adalah produk yang dirancang untuk pekerjaan agentic skala besar. Produk ini mendukung hingga 4.000 pemanggilan tool secara paralel dan dapat mengatur lebih dari 300 sub-agent untuk kasus penggunaan seperti pencarian skala besar, penulisan konten panjang, dan tugas batch. Keunggulannya terletak pada kecepatan dan cakupan.
Manfaat agent LLM
Agent LLM berguna karena mampu menangani tugas yang membutuhkan lebih dari satu respons.
Pertama, mereka dapat mengelola alur kerja multi-langkah. Laporan riset, perbaikan kode, analisis spreadsheet, atau presentasi jarang selesai hanya dalam satu langkah. Agent dapat memecah tugas-tugas ini dan menyelesaikannya secara sistematis.
Kedua, mereka terhubung ke tool dan sistem eksternal. Ini memungkinkan mereka mencari di web, membaca dokumen, menjalankan kode, menganalisis data, atau berinteraksi dengan perangkat lunak bisnis.
Ketiga, mereka dapat mempertahankan konteks. Memori memungkinkan agent melacak apa yang sudah dikerjakan dan apa yang masih perlu diselesaikan.
Keempat, mereka mengurangi perpindahan manual antar tool. Pengguna tidak perlu lagi berpindah tool secara manual, karena agent yang menangani prosesnya.
Kelima, mereka dapat menghasilkan output yang lebih personal. Ketika agent memiliki konteks yang relevan, ia dapat menyesuaikan outputnya dengan tugas, dokumen, data, atau format yang disukai pengguna.
Kesimpulan
Agent LLM menggabungkan model bahasa dengan kemampuan agent untuk menyelesaikan tugas yang lebih dari sekadar satu respons. Mereka dapat mengelola alur kerja multi-langkah di berbagai bidang seperti riset, analisis data, coding, dan pembuatan konten, sambil menyesuaikan tindakannya berdasarkan informasi baru. Seiring berkembangnya kemampuan mereka, tujuan yang jelas dan peninjauan oleh manusia tetap penting untuk menghasilkan hasil yang andal.