{"id":3195,"date":"2026-11-20T07:53:19","date_gmt":"2026-11-20T00:53:19","guid":{"rendered":"https:\/\/komunitech.com\/blog\/?p=3195"},"modified":"2026-11-20T07:53:19","modified_gmt":"2026-11-20T00:53:19","slug":"tagihan-api-bocor-padahal-sudah-pakai-cache","status":"publish","type":"post","link":"https:\/\/komunitech.com\/blog\/tutorial\/tagihan-api-bocor-padahal-sudah-pakai-cache\/","title":{"rendered":"Kenapa Tagihan API AI Kamu Masih Bocor Padahal Sudah Pakai Cache? Ini 4 Penyebabnya"},"content":{"rendered":"<p><strong>TL;DR:<\/strong> Kalau kamu sudah pasang prompt caching tapi tagihan API tetap tinggi, cache-mu kemungkinan tidak pernah hit \u2014 bukan karena fiturnya rusak, tapi karena salah satu dari empat hal ini: prefix berubah tiap request, cache keburu kedaluwarsa, prompt di bawah minimum token sehingga diam-diam tidak di-cache, atau <code>cache_control<\/code>-mu tidak pernah sampai ke provider karena node n8n tidak meneruskannya. Buktinya ada di angka usage: kalau <code>cache_read_input_tokens<\/code> selalu nol, cache-mu tidak jalan.<\/p>\n<blockquote>\n<p><strong>\ud83d\udca1 Key Takeaway<\/strong><\/p>\n<ul>\n<li><strong>Cache miss itu diam-diam.<\/strong> Tidak ada error, tidak ada peringatan. Satu-satunya bukti ada di field usage: <code>cache_read_input_tokens<\/code> (Claude), <code>cached_tokens<\/code> (OpenAI), dan <code>cachedContentTokenCount<\/code> \/ <code>total_cached_tokens<\/code> (Gemini). Kalau angkanya selalu nol, kamu membayar harga penuh.<\/li>\n<li><strong>Empat penyebabnya:<\/strong> (1) prefix tidak stabil \u2014 timestamp atau ID user di awal prompt; (2) TTL habis duluan \u2014 Claude 5 menit, OpenAI 30 menit, Gemini explicit 1 jam; (3) prompt di bawah minimum (512 Claude \/ 1.024 OpenAI \/ 4.096 Gemini) atau output yang mendominasi tagihan; (4) cache tidak sampai ke provider \u2014 node n8n tidak meneruskan <code>cache_control<\/code>.<\/li>\n<li><strong>Hit rate di bawah 50% berarti ada yang rusak<\/strong> di struktur prompt atau pola traffic-mu, bukan di providernya.<\/li>\n<li><strong>Angka harga dan TTL di sini memakai ulang angka terverifikasi 19 November 2026<\/strong> \u2014 dicek ulang 20 November 2026, tidak ada perubahan.<\/li>\n<\/ul>\n<\/blockquote>\n<h2>Kamu sudah pasang caching. Kenapa tagihannya tidak turun?<\/h2>\n<p>Kamu baca artikel soal prompt caching \u2014 mungkin <a href=\"https:\/\/komunitech.com\/blog\/tutorial\/prompt-caching-cara-hemat-biaya-api\/\">artikel prompt caching kami yang menjelaskan cara hemat biaya API sampai 90%<\/a> \u2014 lalu kamu pasang <code>cache_control<\/code>, atau memakai model yang caching-nya otomatis, lalu menunggu tagihan turun. Sebulan kemudian tagihannya tetap segitu. Reaksi pertamanya biasanya: &#8220;caching itu cuma gimmick&#8221;, atau &#8220;provider-nya yang menipu&#8221;. Keduanya keliru. Yang benar, di sebagian besar kasus: cache-mu tidak pernah hit. Dan karena cache miss tidak pernah menimbulkan error, kamu bisa berbulan-bulan membayar harga penuh sambil mengira semuanya sudah benar.<\/p>\n<p>Artikel ini bukan ulangan dari artikel sebelumnya. Artikel lama menjelaskan cara kerja caching, harga per provider, dan tujuh kesalahan umum. Artikel ini adalah audit: empat penyebab tagihan tetap bocor padahal cache sudah &#8220;dipasang&#8221;, lengkap dengan gejala, cara mendeteksi dari angka usage, dan cara memperbaikinya.<\/p>\n<p>Contoh angka di sini memakai skenario yang sama seperti artikel lama: bot customer service di Claude Sonnet 5.5, prefix 8.000 token, 1.000 chat sehari. Tanpa caching, $750 per bulan. Dengan caching yang benar-benar hit, $294,58 \u2014 hemat 60,7%. Kalau tagihanmu masih di dekat $750, salah satu dari empat penyebab di bawah ini sedang terjadi.<\/p>\n<h2>Langkah nol: baca bukti dulu, sebelum menebak penyebabnya<\/h2>\n<p>Sebelum menyentuh satu baris kode pun, log angka usage dari 20 sampai 50 request terakhir, lalu hitung hit rate-nya. Ketiga provider memberi angka cache di setiap respons, tapi namanya beda-beda \u2014 dan cara menghitung totalnya juga beda:<\/p>\n<table>\n<tbody>\n<tr>\n<th><strong>Provider<\/strong><\/th>\n<th><strong>Field baca (hit)<\/strong><\/th>\n<th><strong>Field tulis<\/strong><\/th>\n<th><strong>Total input<\/strong><\/th>\n<\/tr>\n<tr>\n<td>Claude<\/td>\n<td><code>cache_read_input_tokens<\/code><\/td>\n<td><code>cache_creation_input_tokens<\/code><\/td>\n<td>baca + tulis + <code>input_tokens<\/code><\/td>\n<\/tr>\n<tr>\n<td>OpenAI (Responses)<\/td>\n<td><code>input_tokens_details.cached_tokens<\/code><\/td>\n<td><code>input_tokens_details.cache_write_tokens<\/code><\/td>\n<td><code>input_tokens<\/code> (sudah inklusif)<\/td>\n<\/tr>\n<tr>\n<td>OpenAI (Chat Completions)<\/td>\n<td><code>prompt_tokens_details.cached_tokens<\/code><\/td>\n<td><code>prompt_tokens_details.cache_write_tokens<\/code><\/td>\n<td><code>prompt_tokens<\/code> (sudah inklusif)<\/td>\n<\/tr>\n<tr>\n<td>Gemini (generateContent)<\/td>\n<td><code>usageMetadata.cachedContentTokenCount<\/code><\/td>\n<td>\u2014<\/td>\n<td><code>promptTokenCount<\/code> (sudah inklusif)<\/td>\n<\/tr>\n<tr>\n<td>Gemini (Interactions)<\/td>\n<td><code>usage.total_cached_tokens<\/code><\/td>\n<td>\u2014<\/td>\n<td><code>total_input_tokens<\/code> (sudah inklusif)<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<p>Rumus hit rate yang benar untuk Claude: <code>cache_read \/ (cache_read + cache_creation + input_tokens)<\/code>. Untuk OpenAI dan Gemini, karena totalnya sudah inklusif: <code>cached \/ total_input<\/code>. Salah rumus bisa menghasilkan hit rate di atas 100%.<\/p>\n<p>Di OpenAI ada alat bantu tambahan: Prompt Caching Dashboard yang menunjukkan tren cache hit, plus alat diagnostik yang menjelaskan kenapa sebuah request miss. Di GPT-5.6 ke atas, ada juga <code>prompt_cache_options.comparison_response_id<\/code> untuk membandingkan request dengan respons sebelumnya.<\/p>\n<p>Satu jebakan khusus Gemini: di generateContent API, field <code>cachedContentTokenCount<\/code> tidak muncul sama sekali kalau nol token dibaca dari cache. Jadi &#8220;field-nya tidak ada&#8221; artinya nol. Saat me-log, simpan field yang hilang sebagai nol.<\/p>\n<p>Empat pola yang akan kamu temukan di angka-angka itu:<\/p>\n<table>\n<tbody>\n<tr>\n<th><strong>Pola di angka usage<\/strong><\/th>\n<th><strong>Tersangka utama<\/strong><\/th>\n<\/tr>\n<tr>\n<td><code>cache_read<\/code> nol, <code>cache_creation<\/code> bukan nol di hampir setiap request<\/td>\n<td>Penyebab 1 \u2014 prefix berubah terus<\/td>\n<\/tr>\n<tr>\n<td><code>cache_read<\/code> nol, <code>cache_creation<\/code> muncul sekali lalu hilang, jeda antar request panjang<\/td>\n<td>Penyebab 2 \u2014 TTL habis duluan<\/td>\n<\/tr>\n<tr>\n<td><code>cache_read<\/code> dan <code>cache_creation<\/code> dua-duanya nol, padahal request berulang<\/td>\n<td>Penyebab 3 \u2014 di bawah minimum, atau cache tidak relevan<\/td>\n<\/tr>\n<tr>\n<td><code>cache_read<\/code> nol di semua request, tapi prompt panjang, stabil, dan traffic ramai<\/td>\n<td>Penyebab 4 \u2014 cache tidak sampai ke provider<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<h2>Penyebab 1: prefix tidak stabil \u2014 satu byte berubah, seluruh cache hangus<\/h2>\n<p>Ini penyebab paling umum, dan pelakunya sering terlihat tidak bersalah: satu baris timestamp di atas system prompt.<\/p>\n<h3>Gejalanya<\/h3>\n<p>Di angka usage, polanya khas: <code>cache_creation_input_tokens<\/code> bukan nol di hampir setiap request, sementara <code>cache_read_input_tokens<\/code> selalu nol. Provider menulis cache baru setiap kali \u2014 lalu tidak pernah memakainya, karena request berikutnya membawa prefix yang berbeda.<\/p>\n<p>Di tagihan, polanya juga khas: tagihanmu bukan cuma tidak turun, tapi sedikit naik. Tiap request membayar biaya tulis 1,25x tanpa pernah mendapat harga baca 0,1x. Di skenario bot CS tadi, kalau setiap request menulis ulang prefix 8.000 token, kamu membayar 240 juta token \u00d7 $2,50 = $600 sebulan hanya untuk prefix \u2014 lebih mahal dari $480 tanpa caching. Caching yang miss terus itu bukan netral, itu lebih mahal.<\/p>\n<h3>Kenapa bisa terjadi<\/h3>\n<p>Cache mencocokkan prefix dari token pertama ke depan, byte per byte. Satu karakter berbeda di awal, seluruh prefix sesudahnya ikut tidak cocok. Urutan yang dihitung Claude adalah tools, lalu system, lalu messages. Ubah definisi tools, maka tools + system + messages ikut batal. Ubah system prompt, maka system + messages ikut batal.<\/p>\n<p>Pelaku yang paling sering ditemukan: <strong>timestamp di awal system prompt<\/strong> (<code>Current time: 2026-11-20T07:00:00Z<\/code> berarti setiap detik prefix-mu berbeda); <strong>ID user atau nomor pesanan di awal prompt<\/strong> \u2014 data per request, tempatnya di akhir; <strong>urutan tools yang berubah<\/strong>; dan <strong>riwayat percakapan yang ditulis ulang<\/strong> tiap giliran \u2014 kalau percakapan tumbuh lebih dari 20 blok melewati breakpoint terakhir, request berikutnya tidak menemukan entri cache sebelumnya.<\/p>\n<h3>Cara mendeteksi dan memperbaiki<\/h3>\n<p>Hitung hash dari prefix yang kamu kirim dan bandingkan antar request:<\/p>\n<pre><code>import hashlib\r\ncache_key = hashlib.sha256(prefix.encode()).hexdigest()[:16]\r\nprint(f\"Cache key: {cache_key}\")\r\n<h1>Kalau ini berubah antar request, prefix-mu tidak stabil.<\/code><\/pre>\n<\/h1>\n<p>Lalu lakukan <em>bisect<\/em>: kirim request paling minimal \u2014 hanya system prompt dan tools \u2014 dan lihat apakah <code>cache_read<\/code> muncul. Kalau muncul, tambahkan potongan prompt kembali satu per satu sampai hit rate jatuh.<\/p>\n<p>Aturan perbaikannya satu kalimat: <strong>apa pun yang berubah per request, taruh setelah breakpoint terakhir.<\/strong> Pindahkan timestamp dan ID user ke akhir prompt, buat daftar tools deterministik (urutkan berdasarkan nama), letakkan breakpoint di akhir blok statis terakhir, dan untuk percakapan multi-turn pakai mode caching otomatis Claude. Setelah perbaikan, <code>cache_creation<\/code> seharusnya hanya muncul di request pertama setelah cold start.<\/p>\n<h2>Penyebab 2: cache kedaluwarsa \u2014 traffic-mu lebih jarang dari TTL-nya<\/h2>\n<p>Penyebab kedua ini tidak ada hubungannya dengan isi prompt. Prompt-mu sudah sempurna, stabil, panjang. Masalahnya: tidak ada yang memakainya sebelum masa hidupnya habis.<\/p>\n<h3>Gejalanya<\/h3>\n<p>Di angka usage: <code>cache_creation<\/code> muncul sesekali \u2014 sekali di pagi hari, sekali setelah makan siang \u2014 dan <code>cache_read<\/code> nyaris nol di antaranya. Bedanya dengan penyebab 1: <code>cache_creation<\/code> hanya muncul setelah jeda panjang, bukan di setiap request.<\/p>\n<h3>Kenapa bisa terjadi<\/h3>\n<p>Cache itu sementara, dan TTL-nya pendek. Angka dari artikel 19 November 2026, dicek ulang 20 November tanpa perubahan: TTL default Claude 5 menit, OpenAI GPT-5.6 ke atas 30 menit (atau 12 jam kalau kamu memilih masa hidup lebih panjang), Gemini explicit 1 jam. Setiap kali cache dipakai, masa hidupnya diperpanjang gratis. Kalau tidak, dia kedaluwarsa \u2014 dan request berikutnya menulis ulang dari nol, lengkap dengan biaya tulisnya. Balik modalnya: TTL 5 menit di Claude \u2014 satu tulis (1,25x) plus satu baca (0,1x) = 1,35x, lebih murah dari dua request tanpa cache (2x), jadi request kedua sudah untung. TTL 1 jam (tulis 2x): request ketiga baru untung.<\/p>\n<p>Contohnya: agent internal yang dipakai beberapa kali sehari dengan jeda berjam-jam, atau bot toko kecil yang ramai jam 10 pagi lalu sepi sampai sore. Cache 5 menit sudah lama mati sebelum request berikutnya datang. Catatan: Gemini implicit bersifat best effort \u2014 entri bisa di-evict saat server padat.<\/p>\n<h3>Cara mendeteksi dan memperbaiki<\/h3>\n<p>Plot jeda antar request dan hit rate per jam. Kalau hit rate tinggi di jam sibuk dan nol di jam sepi, penyebabnya TTL, bukan prompt. Perbaikannya: <strong>naikkan TTL kalau traffic-mu berjarak belasan menit<\/strong> \u2014 Claude 1 jam (tulis 2x) balik modal di request ketiga dalam satu jam, tapi tidak cocok untuk satu request per jam. Di OpenAI, pilih masa hidup 12 jam (tulis 2,5x) hanya kalau ada cukup banyak request dalam 12 jam itu. <strong>Pemanasan cache hanya kalau hematnya terukur:<\/strong> satu request pemanas tiap 4 menit menjaga cache Claude tetap hidup, tapi request itu sendiri membayar harga penuh. <strong>Kalau traffic-mu memang sepi, jangan pakai caching sebagai tuas utama<\/strong> \u2014 pakai model yang lebih kecil, prompt yang lebih ramping, atau Batch API (diskon 50%). Untuk Gemini explicit, perhitungkan biaya simpan: cache 100 ribu token di 3.8 Flash biayanya $0,05 per jam dan sekali dibaca menghemat $0,0675 \u2014 satu baca per jam sudah impas. Di model Pro, simpan cache yang sama $0,45 per jam sementara satu baca cuma menghemat $0,18 \u2014 butuh sekitar 2,5 baca per jam cuma buat impas.<\/p>\n<h2>Penyebab 3: prompt di bawah minimum \u2014 atau output yang mendominasi tagihan<\/h2>\n<p>Penyebab ketiga ini sebenarnya dua masalah yang gejalanya mirip \u2014 tagihan tidak turun \u2014 tapi obatnya berlawanan. Bedakan dulu yang mana yang kamu alami.<\/p>\n<h3>Gejala A: dua-duanya nol<\/h3>\n<p><code>cache_read<\/code> nol, <code>cache_creation<\/code> juga nol, padahal request-mu berulang dengan prompt yang sama. Ini provider yang diam-diam tidak meng-cache sama sekali \u2014 karena prompt-mu di bawah minimum token: <strong>512 token di model Claude 5.x terbaru, 1.024 token di OpenAI GPT-5.6 ke atas, dan 4.096 token di Gemini 3\/4<\/strong> (2.048 token untuk Gemini 2.5). Di bawah angka itu, request tetap berhasil tanpa error atau peringatan.<\/p>\n<p>Contoh umum: agent dengan system prompt 300 token plus 10 tool pendek \u2014 total prefix mungkin 600 token, lolos di Claude tapi tidak di Gemini. Atau chatbot dengan instruksi 200 token di OpenAI: tidak akan pernah di-cache. Perbaikannya: ukur panjang prefix yang sebenarnya dikirim ke API (log <code>input_tokens<\/code>). Kalau di bawah minimum, gabungkan instruksi, contoh, dan dokumen yang selalu dipakai menjadi satu prefix yang lebih panjang; atau terima bahwa workload ini bukan kandidat caching. Minimum explicit Gemini jauh lebih tinggi: 32.768 token.<\/p>\n<h3>Gejala B: cache hit, tapi tagihan tetap tinggi<\/h3>\n<p>Ini kebalikannya: <code>cache_read<\/code> besar, hit rate di atas 80%, tapi tagihan tetap bikin kaget. Caching-mu tidak rusak \u2014 cuma tidak relevan dengan bagian tagihan yang paling besar. <strong>Caching tidak menyentuh token output.<\/strong> Di skenario bot CS artikel lama, output adalah $240 dari total $750 \u2014 32% tagihan tidak bisa didiskon caching. Kalau agent-mu menjawab panjang, output bisa 70\u201380% dari tagihan. Kalau output 80% dan input yang di-cache cuma 20%, caching yang sempurna sekalipun hanya memangkas sekitar 18% dari total.<\/p>\n<p>Cara mendeteksinya: pecah tagihanmu per komponen \u2014 input baru, input dari cache, dan output (<code>output_tokens<\/code> di Claude, <code>completion_tokens<\/code> di OpenAI, <code>candidates_token_count<\/code> di Gemini). Kalau output mendominasi, berhenti mengutak-atik cache dan pindah ke tuas yang menyentuh output: model yang output-nya lebih murah, jawaban yang lebih ringkas, atau pisahkan tugas \u2014 klasifikasi pakai model murah, penulisan panjang baru pakai model besar.<\/p>\n<h2>Penyebab 4: cache tidak sampai ke provider \u2014 node dan framework yang menelan cache_control<\/h2>\n<p>Ini penyebab yang paling membuat frustrasi, karena semua yang kamu lihat di layar terlihat benar: prompt-mu panjang, stabil, traffic ramai, <code>cache_control<\/code> sudah kamu tulis di kode. Tapi angka usage tetap nol di semua request. Kemungkinan besar, yang kamu tulis tidak pernah sampai ke provider.<\/p>\n<h3>Gejalanya<\/h3>\n<p><code>cache_read<\/code> nol di semua request \u2014 bukan sesekali, tapi selalu \u2014 padahal prompt panjang (di atas minimum), stabil (hash tidak berubah), dan traffic ramai (jeda antar request di bawah TTL). Kalau tiga penyebab sebelumnya sudah kamu coret, yang tersisa adalah jalur pengiriman: ada lapisan di antara kodemu dan API provider yang membuang atau salah menaruh marker cache-mu.<\/p>\n<h3>Kenapa bisa terjadi \u2014 kasus n8n<\/h3>\n<p>Di n8n, ini keluhan yang terdokumentasi di forum komunitas. Node standar Anthropic Chat Model \/ AI Agent di n8n, yang dibangun di atas integrasi LangChain, <strong>tidak menyediakan opsi <code>cache_control<\/code><\/strong> \u2014 tidak ada toggle, tidak ada field di Advanced Options. Usulan penambahannya (PR #22318) ditutup tanpa di-merge pada Mei 2026.<\/p>\n<p>Hal yang sama bisa terjadi di framework lain yang membangun ulang payload request. Kasus khusus OpenAI GPT-5.6 ke atas: di mode implicit, prefix dari konten dinamis tidak otomatis menjadi prefix pendek yang bisa dipakai ulang \u2014 solusinya breakpoint eksplisit setelah konten statis. Di GPT-6.2, instruksi di field <code>instructions<\/code> selalu ditagih harga penuh \u2014 taruh di pesan <code>developer<\/code> pertama. Di Gemini, explicit caching tidak didukung di Interactions API dan tidak ada di Gemini 4 ke atas.<\/p>\n<h3>Cara mendeteksi dan memperbaiki<\/h3>\n<p>Cara mendeteksinya: <strong>lihat payload yang benar-benar dikirim<\/strong> \u2014 bukan kodemu, tapi body request yang keluar dari mesinmu. Kalau kunci <code>cache_control<\/code> tidak ada di sana, kamu sudah menemukan penyebabnya. Lalu <strong>uji dengan panggilan SDK langsung<\/strong>: kirim prefix yang sama lewat SDK resmi dua kali. Kalau <code>cache_read<\/code> muncul di panggilan langsung tapi nol di workflow-mu, lapisannya adalah workflow-mu.<\/p>\n<p>Tiga jalur perbaikan. <strong>A \u2014 HTTP Request node (n8n):<\/strong> ganti node model bawaan dengan HTTP Request node yang memanggil Messages API Anthropic secara langsung, dengan <code>cache_control<\/code> di blok statis terakhir. Kekurangannya: kamu membangun ulang tool loop sendiri di Code node \u2014 pakai untuk agent dengan spend tertinggi dulu. <strong>B \u2014 proxy penyuntik:<\/strong> arahkan Base URL kredensial Anthropic di n8n ke proxy ringan (misalnya Cloudflare Worker) yang menyuntikkan <code>cache_control: {\"type\": \"ephemeral\"}<\/code> ke <code>system<\/code> dan tiap entri <code>tools<\/code> sebelum meneruskan ke <code>api.anthropic.com<\/code>. Marker hanya ke blok yang statis, jangan pernah ke pesan yang dibuat selama loop. Uji di satu agent dulu: log <code>cache_read_input_tokens<\/code> selama tiga run. <strong>C \u2014 perbaiki di framework:<\/strong> cek apakah versimu meneruskan parameter caching; kalau tidak, panggil SDK provider langsung untuk panggilan termahal. Kalau memakai gateway pihak ketiga, cek apakah gateway itu mengubah urutan tools atau memindahkan routing antar region \u2014 cache tidak bisa dipakai lintas region di OpenAI. Setelah perbaikan apa pun, jangan percaya pada &#8220;sudah saya pasang&#8221;. Percaya pada angka: log <code>cache_read<\/code> selama seminggu penuh.<\/p>\n<h2>Ringkasan: empat penyebab, satu tabel<\/h2>\n<table>\n<tbody>\n<tr>\n<th><strong>Penyebab<\/strong><\/th>\n<th><strong>Gejala di usage<\/strong><\/th>\n<th><strong>Cek 1 menit<\/strong><\/th>\n<th><strong>Perbaikan utama<\/strong><\/th>\n<\/tr>\n<tr>\n<td>1. Prefix tidak stabil<\/td>\n<td><code>cache_creation<\/code> bukan nol di hampir tiap request, <code>cache_read<\/code> nol<\/td>\n<td>Hash prefix antar request \u2014 berubah?<\/td>\n<td>Pindahkan timestamp\/ID user ke akhir prompt; buat urutan tools deterministik<\/td>\n<\/tr>\n<tr>\n<td>2. TTL habis duluan<\/td>\n<td><code>cache_creation<\/code> hanya setelah jeda panjang, <code>cache_read<\/code> nyaris nol<\/td>\n<td>Jeda antar request vs TTL (5 mnt Claude \/ 30 mnt OpenAI \/ 1 jam Gemini)<\/td>\n<td>Naikkan TTL, atau akui traffic sepi dan pakai tuas lain<\/td>\n<\/tr>\n<tr>\n<td>3. Di bawah minimum \/ output dominan<\/td>\n<td>Kedua angka nol, atau hit rate bagus tapi tagihan tetap tinggi<\/td>\n<td>Panjang prefix vs minimum; porsi output di tagihan<\/td>\n<td>Panjangkan prefix, atau pangkas output dan ganti model<\/td>\n<\/tr>\n<tr>\n<td>4. Cache tidak sampai ke provider<\/td>\n<td><code>cache_read<\/code> nol selalu, padahal prompt panjang, stabil, ramai<\/td>\n<td>Cek payload yang benar-benar dikirim \u2014 ada <code>cache_control<\/code>?<\/td>\n<td>HTTP Request node atau proxy penyuntik; uji dengan SDK langsung<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<h2>Checklist audit 5 menit \u2014 sebelum kamu menyimpulkan &#8220;caching tidak bekerja&#8221;<\/h2>\n<ol>\n<li><strong>Log usage 20 request terakhir<\/strong> \u2014 <code>cache_read<\/code>, <code>cache_creation<\/code>, total input, model, waktu, versi prompt.<\/li>\n<li><strong>Hitung hit rate dengan rumus yang benar.<\/strong> Claude: baca \/ (baca + tulis + input). OpenAI\/Gemini: cached \/ total input. Di bawah 50% = ada yang rusak.<\/li>\n<li><strong>Hash prefix-mu.<\/strong> Kalau hash berubah antar request yang seharusnya sama, penyebabnya prefix, bukan provider.<\/li>\n<li><strong>Bandingkan jeda antar request dengan TTL.<\/strong> Claude 5 menit, OpenAI 30 menit, Gemini explicit 1 jam.<\/li>\n<li><strong>Ukur panjang prefix dan porsi output.<\/strong> Di bawah 512 \/ 1.024 \/ 4.096 token = tidak di-cache. Output di atas 70% tagihan = caching bukan tuas yang tepat.<\/li>\n<li><strong>Periksa payload yang benar-benar dikirim.<\/strong> Ada <code>cache_control<\/code> di sana? Di n8n AI Agent node bawaan, kemungkinan besar tidak.<\/li>\n<li><strong>Uji satu perbaikan, ukur seminggu.<\/strong> Jangan ubah lima hal sekaligus.<\/li>\n<\/ol>\n<p>Kalau setelah audit ini hit rate-mu naik tapi tagihan tetap terasa tinggi, ingat: <a href=\"https:\/\/komunitech.com\/blog\/riset\/takut-biaya-ai-agent-bengkak-ini-cara-pakai-ai-agent-tanpa-boncos-token-2026\/\">takut biaya AI agent membengkak itu wajar, dan caching hanya satu tuas<\/a>. Model yang salah pilih bisa 40 kali lebih mahal dari model yang tepat. Dan kalau kamu belum memasang observability, <a href=\"https:\/\/komunitech.com\/blog\/ai-agent\/panduan-ai-agent-observability-langfuse\/\">panduan observability dengan Langfuse<\/a> menunjukkan cara merekam token dan biaya per request.<\/p>\n<h2>Pertanyaan yang sering ditanya soal tagihan caching yang bocor<\/h2>\n<h3>Cache_read saya nol di semua request. Apa yang paling mungkin?<\/h3>\n<p>Urutkan pemeriksaannya: prompt di bawah minimum token? Ada yang berubah di awal prompt (timestamp, ID user)? Apakah <code>cache_control<\/code> benar-benar terkirim (khususnya di n8n)? Apakah jeda antar request melewati TTL? Empat pertanyaan ini menutup hampir semua kasus.<\/p>\n<h3>Kenapa cache_creation muncul di setiap request padahal prompt saya sama?<\/h3>\n<p>Karena prompt-mu tidak sama \u2014 setidaknya menurut hash provider. Satu byte berbeda di awal sudah cukup. Hitung hash prefix antar request dan cari apa yang berubah: timestamp, urutan tools, atau ID dinamis.<\/p>\n<h3>Hit rate saya 90% tapi tagihan cuma turun 20%. Apakah caching saya rusak?<\/h3>\n<p>Tidak. Itu artinya porsi output di tagihanmu besar. Caching hanya mendiskon input yang di-cache \u2014 kalau output 80% dari total, hasil 20% itu sudah benar.<\/p>\n<h3>Di n8n, apakah ada cara resmi untuk mengaktifkan prompt caching di AI Agent node?<\/h3>\n<p>Sampai pertengahan 2026, tidak \u2014 node standar tidak menyediakan opsi <code>cache_control<\/code>, dan usulan penambahannya ditutup tanpa di-merge pada Mei 2026. Jalur yang dipakai komunitas adalah HTTP Request node atau proxy yang menyuntikkan <code>cache_control<\/code>. Keduanya perlu diuji dengan angka usage, bukan sekadar dipasang.<\/p>\n<h3>Apakah harga dan TTL di artikel ini masih berlaku?<\/h3>\n<p>Semua angka harga, TTL, dan minimum token di artikel ini memakai ulang angka yang diverifikasi 19 November 2026 di artikel prompt caching sebelumnya, dan dicek ulang 20 November 2026 \u2014 tidak ada perubahan yang ditemukan. Yang perlu kamu waspadai adalah tanggal yang sudah diumumkan sebelumnya: Gemini 4 Argon naik dari $2 ke $4 per 1 Desember 2026, dan Gemini 3.8 Flash naik dari $0,75 ke $1,50 per 1 Januari 2027.<\/p>\n<h2>Penutup: caching itu seperti kartu member \u2014 cuma jalan kalau kamu datang cukup sering, dengan pesanan yang sama<\/h2>\n<p>Kalau tiap datang kamu pesan menu yang berbeda (prefix berubah), kartunya tidak kepakai. Kalau kamu datang sebulan sekali (TTL habis), kartunya kedaluwarsa. Kalau pesananmu terlalu kecil (di bawah minimum), tidak ada diskon yang berlaku. Dan kalau pelayan tidak pernah mencatat nomor member-mu (cache_control tidak sampai ke provider), diskon itu tidak pernah diberikan \u2014 seberapa pun sering kamu datang.<\/p>\n<p>Tidak satu pun dari empat hal itu berarti kartunya palsu \u2014 semuanya bisa ditemukan dalam lima menit dari angka usage. Jadi sebelum mematikan caching, lakukan audit lima menit di atas: catat hit rate-mu minggu ini, perbaiki satu penyebab, dan ukur lagi minggu depan.<\/p>\n<h2>Sumber dan bacaan lanjutan<\/h2>\n<ul>\n<li>Dokumentasi Anthropic \u2014 Prompt caching: <em><a href=\"https:\/\/platform.claude.com\/docs\/en\/build-with-claude\/prompt-caching\" target=\"_blank\" rel=\"noopener\">https:\/\/platform.claude.com\/docs\/en\/build-with-claude\/prompt-caching<\/a><\/em><\/li>\n<li>Halaman pricing Claude Platform: <em><a href=\"https:\/\/platform.claude.com\/docs\/en\/about-claude\/pricing\" target=\"_blank\" rel=\"noopener\">https:\/\/platform.claude.com\/docs\/en\/about-claude\/pricing<\/a><\/em><\/li>\n<li>Dokumentasi Google \u2014 Context caching di Gemini API: <em><a href=\"https:\/\/ai.google.dev\/gemini-api\/docs\/caching\/\" target=\"_blank\" rel=\"noopener\">https:\/\/ai.google.dev\/gemini-api\/docs\/caching\/<\/a><\/em><\/li>\n<li>Halaman pricing Gemini API: <em><a href=\"https:\/\/ai.google.dev\/gemini-api\/docs\/pricing\" target=\"_blank\" rel=\"noopener\">https:\/\/ai.google.dev\/gemini-api\/docs\/pricing<\/a><\/em><\/li>\n<li>Dokumentasi OpenAI \u2014 Prompt caching: <em><a href=\"https:\/\/developers.openai.com\/api\/docs\/guides\/prompt-caching\" target=\"_blank\" rel=\"noopener\">https:\/\/developers.openai.com\/api\/docs\/guides\/prompt-caching<\/a><\/em><\/li>\n<li>OpenAI Cookbook \u2014 Prompt Caching 101: <em><a href=\"https:\/\/developers.openai.com\/cookbook\/examples\/prompt_caching101\" target=\"_blank\" rel=\"noopener\">https:\/\/developers.openai.com\/cookbook\/examples\/prompt_caching101<\/a><\/em><\/li>\n<li>Artikel Komunitech \u2014 Prompt Caching: Cara Hemat Biaya API sampai 90% (angka harga\/TTL\/minimum dipakai ulang, verifikasi 19 Nov 2026, dicek ulang 20 Nov 2026): <em><a href=\"https:\/\/komunitech.com\/blog\/tutorial\/prompt-caching-cara-hemat-biaya-api\/\">https:\/\/komunitech.com\/blog\/tutorial\/prompt-caching-cara-hemat-biaya-api\/<\/a><\/em><\/li>\n<li>Dev.to \u2014 Anthropic Prompt Caching Saves 90% (field usage, rumus hit rate, batas 20 blok): <em><a href=\"https:\/\/dev.to\/gabrielanhaia\/anthropic-prompt-caching-saves-90-heres-the-one-caveat-nobody-mentions-258k\" target=\"_blank\" rel=\"noopener\">https:\/\/dev.to\/gabrielanhaia\/anthropic-prompt-caching-saves-90-heres-the-one-caveat-nobody-mentions-258k<\/a><\/em><\/li>\n<li>CtxWire \u2014 How to Fix Prompt Cache Misses in OpenAI and Anthropic (diagnostik, field OpenAI, rumus hit rate): <em><a href=\"https:\/\/www.ctxwire.com\/articles\/fix-prompt-cache-misses\/\" target=\"_blank\" rel=\"noopener\">https:\/\/www.ctxwire.com\/articles\/fix-prompt-cache-misses\/<\/a><\/em><\/li>\n<li>ModelOperator \u2014 Prompt Caching Not Working? A Prefix Diagnostic (protokol diagnostik, implicit vs explicit GPT-5.6+): <em><a href=\"https:\/\/www.modeloperator.io\/blog\/prompt-caching-not-working-prefix-check\" target=\"_blank\" rel=\"noopener\">https:\/\/www.modeloperator.io\/blog\/prompt-caching-not-working-prefix-check<\/a><\/em><\/li>\n<li>DataStudios \u2014 Gemini API implicit caching returns 0 cached tokens (field <code>cachedContentTokenCount<\/code> hilang saat nol, verifikasi 14 Nov 2026): <em><a href=\"https:\/\/www.datastudios.org\/post\/gemini-api-implicit-caching-0-cached-tokens-causes-fixes\" target=\"_blank\" rel=\"noopener\">https:\/\/www.datastudios.org\/post\/gemini-api-implicit-caching-0-cached-tokens-causes-fixes<\/a><\/em><\/li>\n<li>OpenAI \u2014 Introducing GPT-6 Sol and Luna (Prompt Caching Dashboard, alat diagnostik): <em><a href=\"https:\/\/openai.com\/index\/introducing-gpt-6-sol-and-luna\/\" target=\"_blank\" rel=\"noopener\">https:\/\/openai.com\/index\/introducing-gpt-6-sol-and-luna\/<\/a><\/em><\/li>\n<li>Forum komunitas n8n \u2014 Anthropic Prompt Caching for Tool-Heavy Agents in n8n (node standar tidak mengekspos cache-control, PR #22318 ditutup Mei 2026): <em><a href=\"https:\/\/community.n8n.io\/t\/anthropic-prompt-caching-for-tool-heavy-agents-in-n8n\/299640\" target=\"_blank\" rel=\"noopener\">https:\/\/community.n8n.io\/t\/anthropic-prompt-caching-for-tool-heavy-agents-in-n8n\/299640<\/a><\/em><\/li>\n<li>Forum komunitas n8n \u2014 Does n8n support Anthropic Prompt Caching in the AI Agent Node?: <em><a href=\"https:\/\/community.n8n.io\/t\/does-n8n-support-anthropic-prompt-caching-in-the-ai-agent-node\/301467\" target=\"_blank\" rel=\"noopener\">https:\/\/community.n8n.io\/t\/does-n8n-support-anthropic-prompt-caching-in-the-ai-agent-node\/301467<\/a><\/em><\/li>\n<\/ul>\n","protected":false},"excerpt":{"rendered":"<p>Tagihan API tetap bocor padahal sudah pakai cache? Ini 4 penyebabnya \u2014 prefix tidak stabil, TTL habis, di bawah minimum, dan cache_control yang tak sampai ke provider.<\/p>\n","protected":false},"author":1,"featured_media":3201,"comment_status":"open","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"footnotes":""},"categories":[75],"tags":[],"class_list":["post-3195","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-tutorial"],"acf":[],"_links":{"self":[{"href":"https:\/\/komunitech.com\/blog\/wp-json\/wp\/v2\/posts\/3195","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/komunitech.com\/blog\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/komunitech.com\/blog\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/komunitech.com\/blog\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/komunitech.com\/blog\/wp-json\/wp\/v2\/comments?post=3195"}],"version-history":[{"count":3,"href":"https:\/\/komunitech.com\/blog\/wp-json\/wp\/v2\/posts\/3195\/revisions"}],"predecessor-version":[{"id":3203,"href":"https:\/\/komunitech.com\/blog\/wp-json\/wp\/v2\/posts\/3195\/revisions\/3203"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/komunitech.com\/blog\/wp-json\/wp\/v2\/media\/3201"}],"wp:attachment":[{"href":"https:\/\/komunitech.com\/blog\/wp-json\/wp\/v2\/media?parent=3195"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/komunitech.com\/blog\/wp-json\/wp\/v2\/categories?post=3195"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/komunitech.com\/blog\/wp-json\/wp\/v2\/tags?post=3195"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}