Cara Kerja Prompt Caching AI: Trik Pangkas Biaya Token API Hingga 90% di n8n & AI Agent

Node AI Agent n8n tidak punya pengaturan cache_control — jadi caching harus lewat HTTP Request node ke Claude Messages API. Ini susunan node, contoh JSON, dan cara membaca cache_read_input_tokens supaya tagihan bot CS-mu benar-benar turun.

Prompt Caching di n8n — Hemat Token Hingga 90%
Cara Kerja Prompt Caching AI: Trik Pangkas Biaya Token API Hingga 90% di n8n & AI Agent

Di Artikel Ini

TL;DR: Di n8n, prompt caching baru hemat kalau prefix yang kamu kirim benar-benar sama di setiap eksekusi: system prompt, definisi tools, dan dokumen RAG di depan, pertanyaan user di belakang, dan satu breakpoint cache_control di blok statis terakhir. Node AI Agent bawaan n8n tidak menyediakan cache_control, jadi jalur yang paling bisa kamu kontrol adalah HTTP Request node langsung ke Claude Messages API. Dengan prefix 8.000 token di Claude Sonnet 5.5, bot CS 1.000 chat sehari bisa turun dari $750 jadi $294,58 per bulan — tapi kalau kamu menaruh {{ $now }} di awal prompt, cache tidak pernah kena.

💡 Key Takeaway

  • Cache itu soal prefix, bukan soal node. Satu karakter berubah di awal, seluruh prefix sesudahnya ikut miss.
  • Node AI Agent n8n tidak mengekspos cache_control. Pakai HTTP Request node ke https://api.anthropic.com/v1/messages, atau proxy yang menyuntikkan breakpoint.
  • Angka di artikel ini reuse dari 19 November 2026: baca cache Claude Sonnet 5.5 $0,10 per juta token, tulis 5 menit $2,50, tulis 1 jam $4, minimum 512 token. Gemini 4 Argon naik dari $2 jadi $4 per 1 Desember 2026 — baca cache-nya ikut naik dari $0,10 jadi $0,20, tapi tetap 5% dari harga input.
  • Bukti caching jalan cuma satu: angka di respons. cache_read_input_tokens di Claude, cached_tokens di OpenAI, total_cached_tokens di Gemini. Kalau angkanya nol terus, workflow-mu belum meng-cache apa pun.

Artikel ini bukan ulangan artikel dasar — ini versi n8n-nya

Kalau kamu belum paham dasar prompt caching — apa itu prefix, kenapa baca cache cuma sepersepuluh harga input — baca artikel itu dulu. Di sana sudah ada tabel harga lengkap per 19 November 2026, hitung-hitungan bot CS $750 jadi $294,58, dan tujuh kesalahan umum. Artikel ini tidak mengulang semuanya: yang dibahas di sini cuma bagaimana caching diterapkan di dalam workflow n8n, tempat prompt dirakit ulang oleh node demi node di setiap eksekusi.

Di sinilah banyak orang kecele. Di kode Python, system prompt-mu adalah string yang sama di setiap request. Di n8n, prompt dirakit dari hasil node sebelumnya — Set node, ekspresi {{ $json }}, data Sheets, timestamp, ID eksekusi — dan semua itu bisa menyelinap ke awal prompt tanpa kamu sadari. Setiap kali itu terjadi, cache miss.

Cara kerja caching di dalam workflow n8n

Bayangin workflow bot CS WhatsApp kamu. Setiap panggilan ke Claude mengirim prompt yang sama di bagian depan: instruksi, aturan refund, daftar produk, contoh percakapan, ringkasan kebijakan — sekitar 8.000 token. Baru di paling akhir ada yang berubah: pesan pelanggan yang baru masuk. Bagian depan yang tidak berubah itu namanya prefix.

Provider memproses prefix sekali, menyimpan hasil pemrosesannya (KV state), dan pada request berikutnya dengan awalan yang persis sama, ia tidak menghitung ulang — kamu cuma bayar harga baca cache. Di Claude Sonnet 5.5, harga baca itu $0,10 per juta token, lawan $2 untuk input normal. Tulis cache pertama $2,50 per juta token untuk TTL 5 menit, atau $4 untuk TTL 1 jam — angka reuse dari artikel dasar, dicek 19 November 2026.

Tiga aturan prefix menentukan apakah workflow n8n-mu hemat atau boncos. Pertama, urutannya tetap: tools, lalu system, lalu messages. Breakpoint di blok system terakhir ikut meng-cache definisi tools. Kedua, kecocokan harus byte per byte. Satu spasi, satu urutan tool yang tertukar, satu timestamp — semuanya merusak kecocokan. Ketiga, cache punya masa hidup: TTL default Claude 5 menit, dan setiap hit memperpanjangnya gratis. Workflow yang cuma jalan sekali sejam akan membayar tulis 1,25x tanpa pernah mendapat baca.

Di n8n, aturan kedua inilah yang paling sering dilanggar. Set node yang menaruh {{ $now }} di system prompt, nama pelanggan di awal instruksi, atau tools yang urutannya berubah — semuanya kelihatan tidak berbahaya di editor, tapi masing-masing adalah cache miss yang dijamin terjadi. Prinsipnya: yang statis di depan, yang dinamis di belakang, dan jangan pernah ada ekspresi dinamis di blok yang di-cache.

Angka yang dipakai di artikel ini — reuse dari 19 November 2026

Semua angka di bawah sudah terverifikasi di artikel dasar pada 19 November 2026, dan saya cek ulang perubahan yang dijadwalkan — tidak ada perubahan harga Claude atau OpenAI sejak tanggal itu; satu-satunya perubahan yang sudah dekat adalah Gemini Argon.

Item Angka (19 Nov 2026) Catatan
Claude Sonnet 5.5 — input normal $2 / juta token Model yang dipakai di semua contoh n8n di artikel ini
Claude Sonnet 5.5 — tulis cache 5 menit $2,50 / juta token (1,25x) Balik modal di request kedua
Claude Sonnet 5.5 — tulis cache 1 jam $4 / juta token (2x) Balik modal di request ketiga
Claude Sonnet 5.5 — baca cache $0,10 / juta token (0,05x) Diskon 95% untuk token yang di-cache
Claude — minimum prefix 512 token (model 5.x terbaru) Di bawah ini, marker diabaikan diam-diam
Claude — maksimum breakpoint 4 per request Umumnya kamu cuma butuh satu
Gemini 4 Argon — input s.d. 30 Nov 2026 $2 / juta token, baca $0,10 Implicit caching, minimum 4.096 token
Gemini 4 Argon — mulai 1 Des 2026 $4 / juta token, baca $0,20 Harga naik 2x, tapi baca tetap 5% dari input
OpenAI GPT-5.6+ — tulis cache 1,25x (30 menit) / 2,5x (12 jam) Baca 0,1x, minimum 1.024 token

Perhatikan baris Gemini Argon. Kenaikan $2 ke $4 per 1 Desember 2026 sudah dijadwalkan, bukan rumor — dikonfirmasi ulang lewat pemberitaan yang merujuk ke halaman pricing Google. Karena diskon cache Argon dinyatakan sebagai persentase (95% off), baca cache ikut naik dari $0,10 jadi $0,20, tapi tetap 5% dari harga input. Setiap token yang berhasil di-cache menghemat $3,80 per juta token di tarif Desember, lawan $1,90 di tarif November.

Pengingat dari artikel dasar: output tidak kena diskon di provider mana pun. Bot CS contoh kita menjawab 800 token per chat dengan harga output Sonnet 5.5 $10 per juta token — $240 dari total $750 itu output, dan caching tidak menyentuhnya. Itu sebabnya hemat totalnya “cuma” 60,7%, walau hemat inputnya 89,3%.

Pilih jalur dulu: HTTP Request node atau AI Agent node?

Ini keputusan pertama dan paling penting di n8n, dan jawabannya mungkin mengecewakan: node AI Agent bawaan n8n tidak menyediakan pengaturan cache_control. Node Anthropic Chat Model di bawah AI Agent node tidak mengekspos cache_control di Advanced Options-nya. Komunitas n8n sudah menanyakan ini sejak pertengahan 2026, dan jawaban yang berulang adalah: tidak ada cara native untuk menandai system prompt atau definisi tools sebagai cacheable di integrasi LangChain bawaan n8n. Ada pull request yang diajukan dan ditutup tanpa di-merge pada Mei 2026.

Itu bukan berarti AI Agent node tidak pernah mendapat manfaat caching sama sekali — Anthropic punya mode caching otomatis untuk percakapan yang menumpuk. Tapi kamu tidak bisa mengandalkannya, tidak bisa menaruh breakpoint di tempat yang kamu mau, dan n8n tidak menampilkan cache_read_input_tokens secara native. Untuk workflow yang tagihannya kamu tanggung sendiri, “mungkin ter-cache” bukan jawaban yang cukup.

Jadi ada tiga jalur, dari yang paling terkontrol sampai yang paling nyaman:

Jalur 1 — HTTP Request node langsung ke Messages API. Kalau kamu belum pernah memanggil Claude dari n8n sama sekali, ikuti dulu cara menghubungkan ChatGPT dan Claude ke n8n — setelah koneksi dasarnya jalan, baru ganti node-nya ke HTTP Request dengan breakpoint seperti di artikel ini. Kamu membangun body JSON sendiri, menaruh cache_control persis di blok yang kamu mau, dan membaca field usage dari respons untuk membuktikan cache hit. Kekurangannya: kamu harus menangani tool loop sendiri. Untuk agent single-shot seperti klasifikasi dokumen atau bot CS satu giliran, ini jalur terbaik.

Jalur 2 — Proxy yang menyuntikkan breakpoint. Trik yang dipakai banyak pengguna n8n Cloud: Cloudflare Worker kecil yang menerima request dari n8n, menyuntikkan cache_control: {"type": "ephemeral"} ke blok system dan definisi tools, lalu meneruskannya ke api.anthropic.com. Di n8n, kamu cukup mengarahkan Base URL di kredensial Anthropic ke URL Worker itu. Syaratnya sama: prefix harus statis, dan jangan menaruh cache_control di pesan yang dibuat selama loop. Satu laporan komunitas yang jujur: untuk agent single-shot, jalur ini memangkas sekitar 75% biaya input prompt; tapi untuk agent dengan 4–10 giliran tool dan extended thinking menyala, hasilnya justru bisa lebih mahal — plus 21% di TTL 1 jam — karena Anthropic ikut meng-cache riwayat yang terus membesar tanpa pernah membacanya kembali.

Jalur 3 — Community node dengan dukungan caching. Ada community node seperti Claude Refine yang menyediakan prompt caching per blok dan menampilkan cache_read_input_tokens di metadata usage. Paling nyaman kalau kamu self-hosted dan boleh memasang community node — tapi cek dulu pembuatnya dan kapan terakhir diperbarui sebelum dipakai di workflow produksi.

Rekomendasi praktis: mulai dari Jalur 1 untuk satu workflow yang tagihannya paling besar — biasanya bot CS atau klasifikasi dokumen. Buktikan hit rate-nya dengan angka. Kalau agent-mu memang butuh tool loop bawaan AI Agent node, baru pertimbangkan Jalur 2, dan ukur sebelum dan sesudahnya.

Praktik: bot CS WhatsApp di n8n dengan caching yang benar

Skenarionya sama dengan artikel dasar supaya angkanya bisa dibandingkan: bot customer service Toko Kopi Senja, 1.000 chat sehari, prefix 8.000 token, pertanyaan 500 token, jawaban 800 token.

Susunan node-nya: 1. WhatsApp Trigger → 2. Set node (pisahkan statis dan dinamis) → 3. HTTP Request node (Claude) → 4. Code node (baca usage, hitung hit rate) → 5. Google Sheets node (log) → 6. WhatsApp node (balas pelanggan).

1. WhatsApp Trigger → 2. Set node (pisahkan statis dan dinamis) → 3. HTTP Request node (Claude) → 4. Code node (baca usage, hitung hit rate) → 5. Google Sheets node (log) → 6. WhatsApp node (balas pelanggan).

Langkah yang paling menentukan adalah nomor 2: Set node harus membuat dua variabel terpisah — systemPrompt yang statis, dan userMessage yang dinamis. System prompt harus berupa teks tetap yang kamu tulis langsung di node itu. User message-lah yang berisi ekspresi {{ $json.pesan_pelanggan }}, nomor pesanan, dan nama pelanggan. Kalau kamu mencampur keduanya, cache-mu sudah rusak sebelum request pertama dikirim.

Ini contoh body JSON di HTTP Request node. Perhatikan di mana breakpoint-nya, dan di mana ekspresi n8n boleh muncul:

{
  "model": "claude-sonnet-5-5",
  "max_tokens": 1024,
  "system": [
    {
      "type": "text",
      "text": "Kamu adalah asisten customer service Toko Kopi Senja. Jawab sopan dalam Bahasa Indonesia. Jangan janjikan refund di atas Rp500 ribu tanpa persetujuan supervisor. Kebijakan pengiriman, daftar produk, dan contoh percakapan ada di bawah ini. [ISI LENGKAP KEBIJAKAN DAN CONTOH — SEKITAR 8.000 TOKEN]",
      "cache_control": {"type": "ephemeral"}
    }
  ],
  "messages": [
    {
      "role": "user",
      "content": "{{ $json.pesan_pelanggan }}"
    }
  ]
}

Beberapa hal yang perlu diperhatikan. Header: x-api-key dari kredensial n8n (Header Auth), bukan ditempel mentah; anthropic-version: 2023-06-01. Breakpoint cuma satu, di blok system terakhir — marker di system ikut meng-cache definisi tools. Satu-satunya ekspresi dinamis ada di array messages, setelah breakpoint.

Kalau workflow-mu butuh tools, tambahkan array tools di body yang sama, dan pastikan definisi tools itu juga statis: nama, deskripsi, dan skema JSON-nya sama persis di setiap eksekusi, dan urutannya diurutkan berdasarkan nama. Tool yang urutannya tertukar sama saja dengan prefix yang berubah: cache miss.

Di mana menaruh dokumen RAG? Taruh dokumen itu di dalam blok system, sebelum breakpoint, sebagai teks statis. Jangan mengambil dokumen dari database lalu menempelkannya dengan ekspresi di tengah system prompt, karena isi dan urutannya bisa berubah antar eksekusi. Pola yang aman: dokumen dibaca sekali, disimpan sebagai teks tetap di Set node, dan hanya diganti saat dokumennya sendiri berubah.

Membaca usage: satu-satunya bukti caching-mu jalan

Setelah HTTP Request node mengembalikan respons, jangan langsung membalas pelanggan. Respons Claude membawa field usage: input_tokens, cache_creation_input_tokens (ditulis di request ini), dan cache_read_input_tokens (dibaca dari cache di request ini). Inilah yang harus kamu log.

Tambahkan Code node setelah HTTP Request node yang mengambil tiga angka itu dari {{ $json.usage }}, menghitung hit rate sederhana, lalu mengirimkannya ke Google Sheets lewat Sheets node, satu baris per eksekusi. Caching adalah soal pola, bukan satu request: yang membuktikan adalah 100 request berturut-turut dengan hit rate di atas 80%.

Ini cara membaca tiga pola yang paling umum di log-mu. Pola sehat: request pertama pagi hari menulis cache (cache_creation 8.000, cache_read 0), lalu ratusan request berikutnya membaca (cache_creation 0, cache_read 8.000). Pola prefix rusak: setiap request menulis cache baru dan tidak pernah membaca — cari yang berubah di awal prompt. Pola traffic sepi: cache kadang hit, kadang miss — biasanya jeda antar request lebih dari 5 menit.

Kalau kamu memakai Langfuse, angka usage ini juga bisa dikirim ke sana sebagai metadata trace — jadi kamu melihat hit rate per workflow dan per model dalam satu dashboard. Itu sebabnya cara melacak log, latensi, dan debugging AI agent di produksi relevan di sini: caching tanpa observability itu seperti diskon yang tidak pernah kamu cek struknya.

Hitung-hitungan di n8n: bot CS yang sama, tagihan yang sama

Karena skenarionya sama dengan artikel dasar, angkanya juga sama — dan itu disengaja, supaya kamu bisa membandingkan apel dengan apel.

Komponen Tanpa caching Dengan caching di n8n
Input prefix (8.000 × 30.000 request) 240 juta token × $2 = $480 Tulis: 30 × 8.000 × $2,50 = $0,60; Baca: 29.970 × 8.000 × $0,10 = $23,98
Input baru (500 × 30.000) 15 juta token × $2 = $30 15 juta token × $2 = $30
Output (800 × 30.000) 24 juta token × $10 = $240 24 juta token × $10 = $240
Total per bulan $750 $294,58

Hemat $455,42 atau 60,7% dari total tagihan; dari biaya input saja, hematnya 89,3%. Dengan kurs Rp17.893 per dolar yang dipakai di artikel dasar: dari sekitar Rp13,42 juta jadi sekitar Rp5,27 juta per bulan. Angka ini mengasumsikan traffic tersebar di jam kerja sehingga cache 5 menit tetap hangat, dan cuma ada satu tulis dingin tiap pagi.

Kapan caching di n8n tidak ngaruh — dan kapan malah bikin boncos

Tabel ini adalah versi n8n dari tabel di artikel dasar.

Skenario n8n Putusan Kenapa
Bot CS ramai, webhook tiap puluhan detik, prefix statis Hemat besar Prefix 8.000 token dibaca ratusan kali per jam
Klasifikasi / ekstraksi ribuan item, instruksi sama Hemat besar Prefix sama, item beda di akhir (messages)
Workflow cron sekali sejam, TTL 5 menit Malah lebih mahal Cache kedaluwarsa sebelum dipakai ulang; tiap jalan bayar tulis 1,25x
System prompt dirakit dari {{ $now }} atau ID eksekusi Malah lebih mahal Cache miss di setiap eksekusi, tulis terus tanpa baca
Prefix di bawah 512 token (Claude) / 4.096 (Gemini implicit) Tidak hemat sama sekali Marker diabaikan diam-diam, tanpa error
Agent tool-heavy, riwayat menumpuk, extended thinking menyala Bisa lebih mahal Riwayat ikut ter-cache tiap iterasi tanpa dibaca kembali; satu laporan komunitas: +21% di TTL 1 jam
Dokumen RAG diambil dari database dengan urutan berubah Tidak hemat Urutan dokumen yang berubah = prefix yang berubah
Jawaban panjang, input pendek Hemat kecil Output tidak kena diskon

Dua baris yang paling sering menipu pengguna n8n adalah baris cron dan baris tool-heavy. Workflow cron sekali sejam kelihatan seperti kandidat caching yang bagus, padahal justru paling rugi, karena TTL 5 menit sudah lama kedaluwarsa. Untuk agent tool-heavy, setiap giliran tool menambahkan pesan baru ke riwayat, dan kalau breakpoint-mu ikut menandai riwayat itu, Anthropic akan menulis cache baru yang makin besar di setiap iterasi tanpa pernah ada request lain yang memakainya. Solusinya: breakpoint cuma di system prompt dan definisi tools, jangan pernah di messages yang dibuat selama loop.

Lima kesalahan khas n8n yang merusak cache — cek workflow-mu sekarang

1. Menaruh {{ $now }} di system prompt. Setiap eksekusi punya prefix berbeda. Pindahkan tanggal ke user message, di akhir prompt: model tetap tahu tanggalnya, prefix-mu tetap sama.

2. Menyisipkan nama atau ID pelanggan di awal prompt. Satu kalimat itu merusak seluruh prefix sesudahnya. Data per pelanggan, nomor pesanan, ID akun: semuanya ke user message, setelah breakpoint.

3. Membangun system prompt dari hasil node dinamis. Isi Sheets bisa berubah urutan barisnya tanpa kamu sadari. Ambil kebijakan sekali, simpan sebagai teks tetap, dan anggap perubahan isinya sebagai pergantian versi prompt.

4. Tidak mengurutkan definisi tools. Tools yang sama dengan urutan berbeda sudah cukup untuk cache miss. Urutkan berdasarkan nama sebelum dikirim, di setiap eksekusi.

5. Menganggap AI Agent node sudah meng-cache karena tagihan turun sedikit. Tagihan bisa turun karena banyak hal. Satu-satunya bukti caching adalah cache_read_input_tokens yang bukan nol — dan node AI Agent bawaan tidak menampilkannya.

Checklist sebelum kamu menyalakan caching di workflow produksi

Jangan ubah sepuluh workflow sekaligus. Ambil satu workflow yang tagihannya paling besar, lalu: ukur dulu tagihan dan input per eksekusi selama seminggu sebagai baseline; hitung panjang prefix-mu (di bawah 512 token untuk Claude Sonnet 5.5, caching tidak jalan); pisahkan statis dan dinamis di Set node dan review setiap ekspresi {{ }} di body HTTP Request node; nyalakan TTL 5 menit dulu — baru pertimbangkan 1 jam kalau hit rate sudah di atas 80%; log usage ke Sheets selama seminggu dan hitung rata-rata hit rate-nya; dan siapkan rencana untuk 1 Desember kalau ada workflow Gemini Argon, yang harga inputnya naik dari $2 jadi $4.

Pertanyaan yang sering ditanya soal prompt caching di n8n

Apakah AI Agent node n8n mendukung prompt caching?

Tidak secara native, sejauh laporan komunitas sampai Juni 2026: node Anthropic Chat Model di bawah AI Agent node tidak mengekspos cache_control, dan pull request untuk fitur ini ditutup tanpa di-merge pada Mei 2026. Jalur yang bisa kamu kontrol adalah HTTP Request node, proxy Cloudflare Worker, atau community node dengan caching per blok.

Kenapa cache_read_input_tokens saya selalu nol di n8n?

Urutkan kemungkinan ini: prefix di bawah 512 token (Claude), ada yang berubah di awal prompt (timestamp, ID user, urutan tools), jeda antar eksekusi lebih dari TTL, atau kamu memakai AI Agent node yang memang tidak mengirim breakpoint.

Penutup: di n8n, caching adalah disiplin menyusun prompt — bukan pengaturan yang dinyalakan sekali

Kalau ada satu kalimat yang perlu kamu bawa pulang: di n8n, prompt caching bukan fitur yang kamu aktifkan, melainkan struktur yang kamu jaga. Satu ekspresi {{ $now }} yang ceroboh — dan diskon 90% itu hilang tanpa pesan error. Tapi kalau strukturnya benar, imbalannya terukur: tagihan bot CS turun dari $750 jadi $294,58. Mulai dari satu workflow, satu breakpoint, TTL 5 menit, dan satu minggu log — dan kalau kamu memakai Gemini Argon, lakukan sebelum 1 Desember.

Tapi kalau strukturnya sudah benar, imbalannya nyata dan terukur: prefix 8.000 token yang dibaca 30.000 kali sebulan, tagihan yang turun dari $750 jadi $294,58, dan angka cache_read_input_tokens di log Sheets-mu yang membuktikan semuanya. Mulai dari satu workflow, satu breakpoint, TTL 5 menit, dan satu minggu log. Kalau hit rate-nya di atas 80%, barulah sebarkan pola yang sama ke workflow lain — dan kalau kamu memakai Gemini Argon, lakukan sebelum 1 Desember, saat harga inputnya naik dua kali lipat.

Diskon 90% itu nyata, tapi cuma untuk bagian tagihan yang memang bisa didiskon — dan di n8n, bagian itu cuma sebesar prefix yang berhasil kamu jaga tetap sama.

Sumber dan bacaan lanjutan

Avatar Priyo Harjiyono

Workshop · Batch 12

2 jam bikin AI Agent pertamamu

Minggu, 18 Okt 2026 · 20.00 WIB

Rp399.000 Rp1.800.000

Modul Gratis

Modul intro Karyawan AI

Tiga bab video + worksheet + grup Telegram. Gratis.

Tinggalkan Balasan

Alamat email Anda tidak akan dipublikasikan. Ruas yang wajib ditandai *