Dalam dunia kecerdasan buatan (AI) yang terus berkembang, efisiensi menjadi kunci, terutama dalam pengelolaan sumber daya komputasi yang dikenal sebagai ‘token’. Kini, sebuah inovasi baru hadir untuk membuat agen AI bekerja lebih cerdas dan hemat.
Baca Juga: Kerentanan ChatGPhish Ubah Ringkasan Web ChatGPT Jadi Celah Phishing
Dilansir dari ithome.com, Nous Research baru-baru ini mengumumkan penambahan fitur Tool Search pada Hermes Agent, sebuah agen AI sumber terbuka. Fitur ini dirancang untuk mengatasi masalah umum yang dikenal sebagai ‘pajak alat MCP’ (Model Context Protocol), di mana definisi alat yang terlalu banyak dapat membanjiri jendela konteks model AI, menyebabkan pemborosan token.
Masalah utama yang dihadapi agen AI saat berinteraksi dengan banyak alat adalah konsumsi token yang sangat tinggi. Sebuah laporan dari Anthropic pada November 2025 (yang disebutkan dalam sumber) menunjukkan bahwa dalam implementasi Hermes dengan lima server MCP dan 34 alat, ukuran prompt rata-rata per putaran mencapai 45.000 token.
Baca Juga: ICE Perluas Penggunaan Pemindai Biometrik, Termasuk Pemindaian Iris Mata Senilai $25 Juta
Mengejutkannya, sekitar 22.000 token, atau hampir 50% dari total, hanya digunakan untuk overhead mode alat.
Lebih lanjut, sebuah makalah yang diterbitkan Anthropic pada April tahun ini menyoroti ‘Tool Attention’ sebagai metrik penting untuk mengukur konsumsi ‘pajak alat MCP’. Sebelum optimasi, definisi alat dapat menghabiskan hingga 134.000 token, dengan konsumsi per putaran antara 15.000 hingga 60.000 token.
Konsumsi token yang masif ini menimbulkan dua masalah krusial:
Untuk mengatasi tantangan ini, Hermes Agent memperkenalkan fitur Tool Search. Ini adalah lapisan pengungkapan progresif opsional yang memungkinkan model untuk tidak memuat semua arsitektur alat secara bersamaan.
Sebaliknya, model akan memuat konten yang diperlukan secara bertahap, sesuai permintaan, dalam setiap putaran interaksi.
Dengan Tool Search diaktifkan, alat MCP dan plugin yang terlihat oleh model digantikan oleh tiga alat penghubung (bridge tools) utama:
Proses interaksinya menjadi lebih terstruktur: model pertama-tama mencari alat yang relevan, kemudian memuat deskripsi lengkapnya, dan akhirnya memanggil alat target dengan parameter yang sesuai. Pendekatan ini memastikan bahwa model hanya memproses informasi yang benar-benar dibutuhkan pada saat itu.
Penerapan Tool Search terbukti sangat efektif dalam meningkatkan akurasi agen AI. Evaluasi internal MCP Anthropic menunjukkan bahwa Claude Opus 4, setelah mengaktifkan Tool Search, mengalami peningkatan akurasi dari 49% menjadi 74%.
Bahkan Claude Opus 4.5 juga menunjukkan peningkatan dari 79,5% menjadi 88,1%. Peningkatan ini terjadi karena berkurangnya alat yang tidak relevan, yang pada gilirannya menurunkan probabilitas kesalahan dalam pengambilan keputusan model.
Di balik layar, lapisan pengambilan data (retrieval layer) menggunakan algoritma pencarian teks klasik BM25 untuk mencocokkan nama alat, deskripsi, dan nama parameter. Jika BM25 tidak memberikan hasil yang positif, sistem akan beralih ke pencocokan substring literal dari nama alat, memastikan tidak ada alat yang terlewatkan.
Baca Juga: Awas! Tautan ChatGPT Disalahgunakan untuk Sebar Malware Berkedok Aplikasi Desktop
Dengan efisiensi token yang lebih baik dan peningkatan akurasi, Tool Search pada Hermes Agent menandai langkah maju yang penting dalam pengembangan agen AI yang lebih cerdas, hemat biaya, dan dapat diandalkan untuk berbagai aplikasi.
Leave a Comment