Teknologi

Couchbase Luncurkan Pembaruan AI Data Plane, Klaim Penghematan Token Hingga 45%

Couchbase telah memperbarui platform AI Data Plane untuk memudahkan perusahaan dalam mengelola agen kecerdasan buatan dengan infrastruktur yang lebih efisien. Pembaruan ini diklaim dapat mengurangi pe...

T
Theresia Agatha Lestari
23 October 2026 60 pembaca
Couchbase Perbarui Platform Agen AI, Klaim Hemat Token hingga 45% Foto: Couchbase
Couchbase Perbarui Platform Agen AI, Klaim Hemat Token hingga 45% Foto: Couchbase

Jakarta - Couchbase mengumumkan pembaruan pada AI Data Plane yang bertujuan untuk membantu perusahaan dalam mengelola agen kecerdasan buatan (AI) dengan cara yang lebih sederhana. Pembaruan yang dirilis pada 21 Oktober 2026 ini mencakup integrasi dengan Amazon Bedrock, layanan memori untuk agen AI, server MCP terkelola di AWS, serta fitur pencarian berbasis kemiripan makna.

Couchbase menggabungkan berbagai kemampuan ini agar perusahaan tidak perlu lagi mengelola banyak sistem terpisah untuk menyimpan memori, mengakses data operasional, melakukan pencarian, dan menjalankan analitik.

Integrasi dan Pengurangan Penggunaan Token

Barry Morris, Chief Product and Strategy Officer Couchbase, menyatakan, "Pelanggan yang membangun agen AI untuk beroperasi dalam skala besar membutuhkan lapisan data yang terintegrasi." Menurutnya, banyak perusahaan masih menggunakan tiga atau empat sistem yang berbeda, masing-masing dengan mekanisme sinkronisasi, pengamanan, dan risiko kegagalan yang berbeda.

Di antara pembaruan yang dilakukan adalah integrasi langsung dengan Amazon Bedrock melalui fitur semantic caching. Fitur ini memungkinkan aplikasi untuk menggunakan kembali hasil pemrosesan pertanyaan yang memiliki makna serupa. Dengan cara ini, agen AI tidak perlu mengajukan permintaan berulang kali kepada model bahasa besar atau LLM untuk memproses pertanyaan yang serupa. Couchbase mengklaim bahwa pendekatan ini dapat mengurangi pemanggilan model hingga 40-60%.

Selain itu, terdapat layanan Managed Agent Memory yang memungkinkan penyimpanan profil pengguna, riwayat percakapan, dan informasi penting lintas sesi. Agen AI dapat memanfaatkan konteks ini tanpa harus memulai setiap interaksi dari awal. Berdasarkan pengujian yang dilakukan Couchbase dengan tolok ukur LoCoMo, Agent Memory mampu mengurangi konsumsi token antara 33-45%. Token sendiri merupakan unit pemrosesan teks yang mempengaruhi biaya penggunaan berbagai layanan model AI.

Memori dan Akses Data Terintegrasi

Couchbase juga menyampaikan bahwa pengambilan konteks berbasis vektor dapat menghasilkan prompt yang hingga 70% lebih ringkas dibandingkan jika seluruh konteks dimasukkan. Angka-angka ini mengukur aspek yang berbeda dan bukan merupakan persentase penghematan total biaya operasional.

Layanan Managed Agent Memory dan Managed MCP Server kini telah tersedia sebagai layanan cloud yang sepenuhnya dikelola di AWS. Server MCP memberikan akses data Couchbase bagi agen AI melalui standar terbuka, sehingga pengembang tidak perlu membangun dan mengelola server mereka sendiri. Layanan ini mendukung berbagai kerangka pengembangan seperti LangGraph, CrewAI, dan LlamaIndex.

Sementara itu, Couchbase Operational Insights menggabungkan pencarian vektor dengan analisis data terstruktur dalam satu kueri SQL. Hal ini memungkinkan perusahaan untuk menganalisis pendapatan per wilayah sekaligus mencari kelompok pelanggan yang menyampaikan kekecewaan. "Pendekatan ini membantu pelanggan Couchbase menekan biaya, meningkatkan produktivitas, dan memperoleh hasil investasi yang lebih cepat dari inisiatif AI mereka," ujar Morris.

Seluruh kemampuan yang diumumkan oleh Couchbase sudah tersedia untuk umum, dan informasi mengenai harga serta paket layanan dapat diakses melalui situs resmi perusahaan.

Artikel Terkait