{"id":3174,"date":"2026-11-19T08:19:49","date_gmt":"2026-11-19T01:19:49","guid":{"rendered":"https:\/\/komunitech.com\/blog\/?p=3174"},"modified":"2026-11-19T08:19:49","modified_gmt":"2026-11-19T01:19:49","slug":"prompt-caching-cara-hemat-biaya-api","status":"publish","type":"post","link":"https:\/\/komunitech.com\/blog\/tutorial\/prompt-caching-cara-hemat-biaya-api\/","title":{"rendered":"Prompt Caching: Cara Hemat Biaya API sampai 90% (dan Kapan Nggak Ngaruh)"},"content":{"rendered":"<p><strong>TL;DR:<\/strong> Prompt caching bikin provider AI tidak menagih penuh setiap kali kamu mengirim prompt yang sama. Bagian yang tidak berubah \u2014 instruksi sistem, definisi tools, contoh, dokumen \u2014 diproses sekali, disimpan, lalu dipakai ulang dengan harga baca sekitar sepersepuluh harga input normal: $0,10 per juta token di Claude Sonnet 5.5 dan Gemini 4 Argon (dari $2). Tapi diskon 90% itu berlaku untuk token yang di-cache, bukan seluruh tagihan \u2014 dan cache ada biaya tulis, masa hidup, dan batas minimum token.<\/p>\n<blockquote>\n<p><strong>\ud83d\udca1 Key Takeaway<\/strong><\/p>\n<ul>\n<li><strong>Baca cache sekitar 0,1x harga input normal<\/strong> di ketiga provider besar. Tulis cache biayanya 1,25x untuk TTL pendek dan 2x sampai 2,5x untuk TTL panjang.<\/li>\n<li><strong>Balik modalnya cepat kalau prefix dipakai berulang:<\/strong> TTL 5 menit di Claude untung di request kedua, TTL 1 jam di request ketiga. Kalau cuma dipakai sekali, kamu malah bayar 25% lebih mahal.<\/li>\n<li><strong>Prompt pendek tidak di-cache sama sekali \u2014 dan API tidak memberi error.<\/strong> Minimumnya 512 token di model Claude terbaru, 1.024 token di OpenAI GPT-5.6 ke atas, dan 4.096 token di Gemini 3\/4.<\/li>\n<li><strong>Susun prompt dari yang paling stabil ke yang paling berubah:<\/strong> instruksi sistem, tools, dan dokumen di awal; pertanyaan user di akhir. Caching tidak menyentuh token output \u2014 ini trik biaya, bukan trik kualitas.<\/li>\n<\/ul>\n<\/blockquote>\n<h2>Tagihan API kamu mahal bukan karena modelnya \u2014 tapi karena kamu bayar ulang hal yang sama<\/h2>\n<p>Bayangin bot customer service-mu: tiap chat masuk, bot mengirim instruksi sistem yang sama \u2014 cara menjawab, aturan refund, daftar produk, contoh percakapan \u2014 sekitar 8.000 token, plus 500 token pertanyaan. Dengan 1.000 chat sehari, kamu membayar 8 juta token yang isinya persis sama, ditambah 500 ribu token yang benar-benar baru.<\/p>\n<p>Itu seperti membayar penerjemah membaca ulang buku panduan 200 halaman setiap kali ada satu pertanyaan baru \u2014 bukunya tidak berubah, tapi tagihannya jalan terus seolah dibaca dari nol.<\/p>\n<p>Di sinilah prompt caching masuk: provider menyimpan hasil pemrosesan bagian prompt yang tidak berubah, lalu memakainya ulang dengan harga sekitar sepersepuluh dari harga normal. Kalau kamu pernah <a href=\"https:\/\/komunitech.com\/blog\/riset\/takut-biaya-ai-agent-bengkak-ini-cara-pakai-ai-agent-tanpa-boncos-token-2026\/\">takut biaya AI agent membengkak<\/a>, ini salah satu tuas paling besar \u2014 tanpa ganti model, tanpa turunkan kualitas. Angka &#8220;sampai 90%&#8221; itu benar, tapi ada syaratnya.<\/p>\n<h2>Cara kerja prompt caching, tanpa jargon<\/h2>\n<p>Model mengubah prompt jadi &#8220;catatan kerja&#8221; internal (KV state) sebelum menjawab \u2014 dan menghitung catatan ini adalah bagian mahal dari tiap request. Prompt caching menyimpan catatan itu di sisi provider, jadi request berikutnya dengan awalan yang persis sama tidak perlu menghitung ulang.<\/p>\n<p>Tiga hal yang perlu kamu pahami. <strong>Pertama, yang di-cache itu prefix \u2014 awal prompt.<\/strong> Provider mencocokkan prompt dari token pertama ke depan. Kalau token ke-100 berubah, semua yang sesudahnya ikut tidak cocok. Karena itu urutan prompt penting: yang stabil di depan, yang berubah-ubah di belakang.<\/p>\n<p><strong>Kedua, kecocokannya harus persis sama, byte per byte.<\/strong> Satu karakter berbeda, satu tool yang urutannya tertukar, satu timestamp di awal \u2014 semuanya bikin cache miss. <strong>Ketiga, cache itu sementara:<\/strong> TTL-nya 5 menit di Claude, 30 menit di OpenAI GPT-5.6 ke atas, 1 jam di Gemini explicit. Tiap kali dipakai, masa hidupnya diperpanjang gratis; kalau tidak, cache kedaluwarsa dan request berikutnya menulis ulang dari nol, lengkap dengan biaya tulisnya.<\/p>\n<h2>Harganya per provider \u2014 tabel yang bisa kamu pegang<\/h2>\n<p>Semua harga di bawah ini dicek pada 19 November 2026 dari dokumentasi resmi masing-masing provider. Harga API berubah berkala \u2014 Gemini 4 Argon misalnya naik dua kali lipat pada 1 Desember 2026 \u2014 jadi anggap tabel ini foto per November 2026.<\/p>\n<h3>Claude (Anthropic): paling eksplisit, paling terkontrol<\/h3>\n<p>Claude memakai sistem opt-in: kamu menandai sendiri bagian mana yang di-cache dengan <code>cache_control<\/code>. Ada juga mode otomatis yang memindahkan breakpoint mengikuti percakapan. Harga per juta token, dari dokumentasi Anthropic:<\/p>\n<table>\n<tbody>\n<tr>\n<th><strong>Model<\/strong><\/th>\n<th><strong>Input normal<\/strong><\/th>\n<th><strong>Tulis 5 menit<\/strong><\/th>\n<th><strong>Tulis 1 jam<\/strong><\/th>\n<th><strong>Baca cache<\/strong><\/th>\n<\/tr>\n<tr>\n<td>Claude Sonnet 5.5<\/td>\n<td>$2<\/td>\n<td>$2,50<\/td>\n<td>$4<\/td>\n<td>$0,10<\/td>\n<\/tr>\n<tr>\n<td>Claude Opus 5.5<\/td>\n<td>$4<\/td>\n<td>$5<\/td>\n<td>$8<\/td>\n<td>$0,20<\/td>\n<\/tr>\n<tr>\n<td>Claude Haiku 5.5 (prompt \u2264100 ribu token)<\/td>\n<td>$0,10<\/td>\n<td>$0,125<\/td>\n<td>$0,20<\/td>\n<td>$0,01<\/td>\n<\/tr>\n<tr>\n<td>Claude Sonnet 5<\/td>\n<td>$2<\/td>\n<td>$2,50<\/td>\n<td>$4<\/td>\n<td>$0,20<\/td>\n<\/tr>\n<tr>\n<td>Claude Fable 5.2<\/td>\n<td>$8<\/td>\n<td>$10<\/td>\n<td>$16<\/td>\n<td>$0,20<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<p>Baca cache di model terbaru lebih murah dari 0,1x \u2014 Sonnet 5.5 dan Opus 5.5 cuma 0,05x, Fable 5.2 cuma 0,025x; model lama masih 0,1x. Prefix dihitung dengan urutan tools, system, messages; maksimal 4 breakpoint; minimum 512 token untuk model 5.x terbaru, 1.024\u20134.096 untuk model lama; TTL default 5 menit.<\/p>\n<h3>Gemini (Google): dua mode, satu otomatis, satu manual<\/h3>\n<p>Gemini membagi caching jadi dua. <strong>Implicit caching<\/strong> aktif otomatis di semua model Gemini 2.5+ \u2014 tanpa pengaturan dan tanpa biaya simpan. <strong>Explicit caching<\/strong> berarti kamu membuat objek cache sendiri lewat API <code>generateContent<\/code>, dengan biaya simpan per jam. Explicit tidak didukung di Interactions API dan tidak ada di Gemini 4 ke atas.<\/p>\n<table>\n<tbody>\n<tr>\n<th><strong>Model<\/strong><\/th>\n<th><strong>Input normal<\/strong><\/th>\n<th><strong>Baca cache<\/strong><\/th>\n<th><strong>Minimum implicit<\/strong><\/th>\n<th><strong>Simpan explicit \/ jam<\/strong><\/th>\n<\/tr>\n<tr>\n<td>Gemini 4 Argon (s.d. 30 Nov 2026)<\/td>\n<td>$2<\/td>\n<td>$0,10 (5%)<\/td>\n<td>4.096 token<\/td>\n<td>Tidak ada explicit<\/td>\n<\/tr>\n<tr>\n<td>Gemini 4 Argon (mulai 1 Des 2026)<\/td>\n<td>$4<\/td>\n<td>$0,20 (5%)<\/td>\n<td>4.096 token<\/td>\n<td>Tidak ada explicit<\/td>\n<\/tr>\n<tr>\n<td>Gemini 3.8 Flash (s.d. 31 Des 2026)<\/td>\n<td>$0,75<\/td>\n<td>$0,075 (10%)<\/td>\n<td>4.096 token<\/td>\n<td>$0,50 \/ juta token<\/td>\n<\/tr>\n<tr>\n<td>Gemini 3.1 Pro Preview<\/td>\n<td>$2<\/td>\n<td>$0,20 (10%)<\/td>\n<td>4.096 token<\/td>\n<td>$4,50 \/ juta token<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<p>Harga Gemini dari halaman pricing Google per Oktober 2026 (dikutip sumber sekunder yang merujuk langsung ke halaman itu). Catat dua tanggal: Argon $2 ke $4 per 1 Desember 2026, 3.8 Flash $0,75 ke $1,50 per 1 Januari 2027.<\/p>\n<p>Untuk explicit, dua angka menentukan untung-rugi: minimum 32.768 token dan biaya simpan per jam. Cache 100 ribu token di 3.8 Flash biayanya $0,05 per jam dan sekali dibaca menghemat $0,0675 \u2014 satu baca per jam sudah impas. Di model Pro, simpan cache yang sama $0,45 per jam sementara satu baca cuma menghemat $0,18 \u2014 butuh sekitar 2,5 baca per jam.<\/p>\n<h3>OpenAI: otomatis, tapi aturan mainnya berubah di GPT-5.6<\/h3>\n<p>OpenAI mengambil jalan yang berlawanan dengan Anthropic: caching aktif otomatis, tanpa kode tambahan. Bedanya, sejak GPT-5.6, OpenAI mulai menagih biaya tulis cache \u2014 sebelumnya gratis.<\/p>\n<table>\n<tbody>\n<tr>\n<th><strong>Model<\/strong><\/th>\n<th><strong>Input normal<\/strong><\/th>\n<th><strong>Tulis cache<\/strong><\/th>\n<th><strong>Baca cache<\/strong><\/th>\n<th><strong>Minimum<\/strong><\/th>\n<\/tr>\n<tr>\n<td>GPT-5.6 ke atas<\/td>\n<td>Tergantung model<\/td>\n<td>1,25x (30 menit) \/ 2,5x (12 jam)<\/td>\n<td>0,1x (0,05x di GPT-6.1 Sol\/Terra, GPT-6.2 Astra\/Sol)<\/td>\n<td>1.024 token<\/td>\n<\/tr>\n<tr>\n<td>GPT-5.5<\/td>\n<td>$5<\/td>\n<td>Gratis<\/td>\n<td>$0,50 (0,1x)<\/td>\n<td>Bervariasi<\/td>\n<\/tr>\n<tr>\n<td>GPT-4o<\/td>\n<td>$2<\/td>\n<td>Gratis<\/td>\n<td>$0,40 (80% off)<\/td>\n<td>Bervariasi<\/td>\n<\/tr>\n<tr>\n<td>GPT-4o-mini<\/td>\n<td>$0,15<\/td>\n<td>Gratis<\/td>\n<td>$0,075 (50% off)<\/td>\n<td>Bervariasi<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<p>Di model lama, diskon baca tidak seragam \u2014 GPT-4o 80% off, GPT-4o-mini cuma 50% off. Angka GPT-5.5 dan GPT-4o dari halaman pricing OpenAI (sumber sekunder, Agustus\u2013November 2026); cek ulang sebelum dipakai. Cache tidak dibagikan antar organisasi dan tidak bisa dipakai lintas region; di GPT-6.2, instruksi di field <code>instructions<\/code> selalu ditagih harga penuh walau cache hit \u2014 taruh instruksi yang bisa dipakai ulang di pesan <code>developer<\/code> pertama.<\/p>\n<h2>Hitung-hitungan nyata: bot CS 1.000 chat sehari<\/h2>\n<p>Skenario umum: bot customer service di Claude Sonnet 5.5. Setiap chat mengirim instruksi sistem + tools + contoh sepanjang 8.000 token (prefix yang sama), ditambah 500 token pertanyaan, dan bot menjawab 800 token. Volume 1.000 chat per hari \u00d7 30 hari = 30.000 request. Traffic tersebar di jam kerja, jadi cache 5 menit tetap hangat; tiap pagi ada satu tulis dingin. Harga Sonnet 5.5 per November 2026: input $2, output $10, tulis 5 menit $2,50, baca $0,10 per juta token.<\/p>\n<table>\n<tbody>\n<tr>\n<th><strong>Komponen<\/strong><\/th>\n<th><strong>Tanpa caching<\/strong><\/th>\n<th><strong>Dengan caching<\/strong><\/th>\n<\/tr>\n<tr>\n<td>Input prefix (8.000 token \u00d7 30.000 request)<\/td>\n<td>240 juta token \u00d7 $2 = $480<\/td>\n<td>Tulis: 30 \u00d7 8.000 \u00d7 $2,50 = $0,60; Baca: 29.970 \u00d7 8.000 \u00d7 $0,10 = $23,98<\/td>\n<\/tr>\n<tr>\n<td>Input baru (500 token \u00d7 30.000 request)<\/td>\n<td>15 juta token \u00d7 $2 = $30<\/td>\n<td>15 juta token \u00d7 $2 = $30<\/td>\n<\/tr>\n<tr>\n<td>Output (800 token \u00d7 30.000 request)<\/td>\n<td>24 juta token \u00d7 $10 = $240<\/td>\n<td>24 juta token \u00d7 $10 = $240<\/td>\n<\/tr>\n<tr>\n<td><strong>Total per bulan<\/strong><\/td>\n<td><strong>$750<\/strong><\/td>\n<td><strong>$294,58<\/strong><\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<p>Hasilnya: tagihan turun dari $750 jadi $294,58 \u2014 hemat $455,42 atau sekitar 60,7% dari total tagihan. Dari biaya input saja, hematnya 89,3% (dari $510 jadi $54,58). Dengan kurs Rp17.893 per dolar (artikel API key Komunitech, 12 Oktober 2026): dari sekitar Rp13,42 juta jadi sekitar Rp5,27 juta per bulan.<\/p>\n<p>Kenapa &#8220;cuma&#8221; 60,7% padahal baca cache diskon 90%? Karena output tidak kena diskon, dan output di sini $240 dari $750. Kalau agent-mu banyak membaca tapi jawabannya pendek \u2014 klasifikasi, ekstraksi \u2014 hematnya mendekati 90%.<\/p>\n<p>Balik modalnya: TTL 5 menit \u2014 satu tulis (1,25x) plus satu baca (0,1x) = 1,35x, lebih murah dari dua request tanpa cache (2x), jadi request kedua sudah untung. TTL 1 jam (tulis 2x): satu baca masih rugi (2,1x lawan 2x), tapi request ketiga sudah untung (2,2x lawan 3x). Aturan praktis: TTL 5 menit buat traffic ramai, TTL 1 jam cuma buat traffic tiap belasan menit.<\/p>\n<h2>Kapan caching hemat, kapan tidak<\/h2>\n<table>\n<tbody>\n<tr>\n<th><strong>Skenario<\/strong><\/th>\n<th><strong>Putusan<\/strong><\/th>\n<th><strong>Kenapa<\/strong><\/th>\n<\/tr>\n<tr>\n<td>Bot CS ramai, instruksi sama, request tiap puluhan detik<\/td>\n<td>Hemat besar<\/td>\n<td>Prefix 8.000 token dibaca ratusan kali per jam<\/td>\n<\/tr>\n<tr>\n<td>Agent multi-turn yang percakapannya makin panjang<\/td>\n<td>Hemat besar<\/td>\n<td>Riwayat yang menumpuk ikut ter-cache otomatis<\/td>\n<\/tr>\n<tr>\n<td>Klasifikasi \/ ekstraksi ribuan dokumen, instruksi sama<\/td>\n<td>Hemat besar<\/td>\n<td>Prefix sama, dokumen beda di akhir<\/td>\n<\/tr>\n<tr>\n<td>Prompt pendek di bawah minimum (misalnya 300 token)<\/td>\n<td>Tidak hemat sama sekali<\/td>\n<td>Di bawah ambang, provider diam-diam tidak meng-cache<\/td>\n<\/tr>\n<tr>\n<td>Prefix berubah tiap request (timestamp, ID user di awal)<\/td>\n<td>Malah lebih mahal<\/td>\n<td>Cache miss terus; tiap request membayar tulis 1,25x<\/td>\n<\/tr>\n<tr>\n<td>Traffic jarang \u2014 satu request per jam, TTL 5 menit<\/td>\n<td>Malah lebih mahal<\/td>\n<td>Cache kedaluwarsa sebelum dipakai ulang<\/td>\n<\/tr>\n<tr>\n<td>Jawaban panjang, input pendek<\/td>\n<td>Hemat kecil<\/td>\n<td>Output tidak kena diskon; kalau output 80% tagihan, caching cuma menyentuh 20%<\/td>\n<\/tr>\n<tr>\n<td>Dokumen besar di Gemini explicit tapi jarang dibaca<\/td>\n<td>Bisa rugi<\/td>\n<td>Biaya simpan per jam jalan terus; di Pro butuh ~2,5 baca per jam cuma buat impas<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<p>Dua baris yang paling sering bikin kecewa: prompt pendek dan prefix yang berubah. cache_control di instruksi 300 token tidak pernah masuk cache (minimum 512 token di Claude), dan API tidak memberi error \u2014 satu-satunya tanda adalah cache_read_input_tokens yang selalu nol. Timestamp atau ID user di awal prompt sebelum breakpoint: sekali token awal berubah, seluruh prefix sesudahnya tidak cocok. Pindahkan informasi itu ke akhir prompt.<\/p>\n<h2>Cara mengaktifkan: tiga provider, tiga gaya<\/h2>\n<h3>Claude: tandai sendiri, atau serahkan ke mode otomatis<\/h3>\n<p>Kalau kamu belum punya key, ikuti dulu <a href=\"https:\/\/komunitech.com\/blog\/tutorial\/claude-api-key-cara-daftar-bikin-pakai-ai-agent-2026\/\">cara bikin Claude API key<\/a> \u2014 key-nya berawalan <code>sk-ant-<\/code> dan cuma tampil sekali. Setelah itu, cara eksplisitnya begini:<\/p>\n<pre><code>import anthropic\r\n\r\nclient = anthropic.Anthropic()\r\n\r\nresponse = client.messages.create(\r\n    model=\"claude-sonnet-5-5\",\r\n    max_tokens=1024,\r\n    system=[\r\n        {\r\n            \"type\": \"text\",\r\n            \"text\": \"Kamu adalah asisten customer service Toko Kopi Senja. Jawab sopan dalam Bahasa Indonesia. Jangan janjikan refund di atas Rp500 ribu tanpa persetujuan supervisor.\",\r\n            \"cache_control\": {\"type\": \"ephemeral\"},  # TTL 5 menit\r\n        }\r\n    ],\r\n    messages=[{\"role\": \"user\", \"content\": \"Status pesanan #12345?\"}],\r\n)\r\n\r\nprint(response.usage.cache_read_input_tokens, \"token dibaca dari cache\")<\/code><\/pre>\n<p>Marker di blok terakhir berarti: cache semua yang ada sampai dan termasuk blok itu \u2014 dan karena urutan prefix adalah tools, system, messages, marker di system ikut meng-cache definisi tools. TTL 1 jam: tambahkan <code>\"ttl\": \"1h\"<\/code>. Buat multi-turn, pakai mode otomatis: satu field <code>cache_control<\/code> di level teratas, breakpoint berpindah sendiri.<\/p>\n<p>Cek respons: <code>usage.cache_creation_input_tokens<\/code> (ditulis) dan <code>usage.cache_read_input_tokens<\/code> (dibaca). Kalau angka baca selalu nol: prefix di bawah 512 token, ada yang berubah di awal prompt, atau jeda antar request lewat 5 menit.<\/p>\n<h3>Gemini: implicit jalan sendiri, explicit butuh kode<\/h3>\n<p>Untuk implicit, kamu tidak perlu melakukan apa pun \u2014 cukup susun prompt dengan benar: konten besar dan umum di awal, request dengan awalan serupa dalam waktu berdekatan. Cek <code>usage.total_cached_tokens<\/code> di respons buat memastikan cache kena. Ini salah satu dari <a href=\"https:\/\/komunitech.com\/blog\/tutorial\/7-fitur-gemini-api-yang-jarang-dipakai-tapi-bikin-agent-lebih-murah-2026\/\">tujuh fitur Gemini API yang jarang dipakai tapi bikin agent lebih murah<\/a>. Explicit baru relevan kalau kamu butuh jaminan hit dan kontrol TTL:<\/p>\n<pre><code>from google import genai\r\nfrom google.genai import types\r\n\r\nclient = genai.Client()\r\ndokumen = open(\"laporan-tahunan.txt\").read()\r\n\r\ncache = client.caches.create(\r\n    model=\"gemini-3.8-flash\",\r\n    config=types.CreateCachedContentConfig(\r\n        contents=[dokumen],\r\n        ttl=\"3600s\",  # 1 jam\r\n    ),\r\n)\r\n\r\nresponse = client.models.generate_content(\r\n    model=\"gemini-3.8-flash\",\r\n    contents=\"Ringkas dokumen ini dalam 3 poin.\",\r\n    config=types.GenerateContentConfig(cached_content=cache.name),\r\n)\r\nprint(response.usage_metadata)  # cek token yang ter-cache di sini<\/code><\/pre>\n<p>Batasannya: explicit butuh minimum 32.768 token, cuma jalan di generateContent (bukan Interactions API), tidak ada di Gemini 4, dan ada biaya simpan per jam. Dokumen 5.000 token? Jangan paksakan explicit \u2014 implicit sudah cukup.<\/p>\n<h3>OpenAI: tidak usah diaktifkan \u2014 tapi perlu diawasi<\/h3>\n<p>Di GPT-5.5 ke bawah, caching otomatis dan tulisnya gratis: tidak perlu mengubah satu baris kode pun. Prefix di atas 1.024 token yang sama dengan request sebelumnya otomatis didiskon \u2014 cukup periksa <code>cached_tokens<\/code> di field usage respons.<\/p>\n<pre><code>from openai import OpenAI\r\n\r\nclient = OpenAI()\r\nresponse = client.responses.create(\r\n    model=\"gpt-5.6\",\r\n    input=[\r\n        {\"role\": \"developer\", \"content\": \"Kamu adalah asisten customer service Toko Kopi Senja. Jawab sopan dalam Bahasa Indonesia.\"},\r\n        {\"role\": \"user\", \"content\": \"Status pesanan #12345?\"},\r\n    ],\r\n)\r\nprint(response.usage.input_tokens_details.cached_tokens, \"token dari cache\")<\/code><\/pre>\n<p>Di GPT-5.6 ke atas, default tetap implicit, tapi kamu bisa memilih explicit lewat <code>prompt_cache_options.mode<\/code> dan menandai breakpoint dengan <code>prompt_cache_breakpoint<\/code>. Tulis cache di model ini sudah berbayar (1,25x untuk 30 menit, 2,5x untuk 12 jam). OpenAI menyediakan Prompt Caching Dashboard dan alat diagnostik \u2014 pakai itu kalau hit rate-mu rendah.<\/p>\n<h2>Jangan berhenti di caching: gabungkan dengan trik hemat lain<\/h2>\n<p>Caching itu satu tuas. Tagihan API punya beberapa tuas lain, dan yang paling besar sering bukan caching.<\/p>\n<p><strong>Pilih model sesuai beban.<\/strong> Selisih harga antar model jauh lebih besar dari diskon cache: di Claude, Haiku 5.5 ($0,10 input) lawan Opus 5.5 ($4 input) itu 40 kali lipat. Untuk pertanyaan berulang seperti jam buka atau status pesanan, model kecil biasanya cukup. Caching tidak menyelamatkanmu kalau modelnya salah pilih.<\/p>\n<p><strong>Pangkas token yang tidak perlu.<\/strong> Contoh yang sudah tidak relevan, riwayat chat yang dibawa utuh padahal cuma 3 giliran terakhir yang dipakai, dokumen yang ditempel lengkap padahal cuma satu bab yang ditanya \u2014 semuanya menambah token input yang harus dibayar, cached atau tidak.<\/p>\n<p><strong>Batch API untuk kerja yang tidak buru-buru.<\/strong> Ketiga provider memberi diskon 50% untuk pekerjaan yang hasilnya tidak harus keluar detik itu juga \u2014 klasifikasi ribuan baris, evaluasi, ringkasan arsip. Caching dan batch bisa ditumpuk: prefix yang di-cache di dalam job batch ikut mendapat harga baca cache dari tarif batch.<\/p>\n<h2>7 kesalahan yang paling sering terjadi<\/h2>\n<p><strong>1. Breakpoint di blok yang berubah tiap request.<\/strong> cache_control ditaruh di blok berisi timestamp \u2014 hasilnya tiap request menulis cache baru tanpa pernah mendapat hit. Pindahkan breakpoint ke akhir blok statis.<\/p>\n<p><strong>2. Prefix di bawah minimum token.<\/strong> 300 token di Claude, 900 token di OpenAI, 3.000 token di Gemini \u2014 semuanya diam-diam tidak di-cache. Kalau tagihanmu tidak turun, cek dulu panjang prefix-mu.<\/p>\n<p><strong>3. Menganggap cache hit itu pasti.<\/strong> Cache bisa kedaluwarsa, di-evict saat server padat, atau miss karena routing. Ukur hit rate dari field usage di respons \u2014 di bawah 50%, ada yang salah di struktur prompt atau pola traffic-mu.<\/p>\n<p><strong>4. Memakai TTL 1 jam untuk traffic yang jarang.<\/strong> TTL panjang mahal di depan (2x tulis) dan cuma balik modal kalau ada cukup banyak request dalam satu jam. Satu request per jam tetap membayar tulis 2x tanpa pernah membaca.<\/p>\n<p><strong>5. Menaruh data per-user di awal prompt.<\/strong> Nama pelanggan, ID akun, nomor pesanan \u2014 semua yang beda per request harus di akhir prompt, setelah breakpoint. Satu ID di awal merusak seluruh prefix sesudahnya.<\/p>\n<p><strong>6. Lupa bahwa output tidak kena diskon.<\/strong> &#8220;Hemat 90%&#8221; itu dari biaya input \u2014 kalau output dominan di tagihanmu, pilih model yang output-nya lebih murah.<\/p>\n<p><strong>7. Tidak memonitor usage.<\/strong> Ketiga provider memberi angka cache di setiap respons \u2014 cache_read_input_tokens (Claude), total_cached_tokens (Gemini), cached_tokens (OpenAI). Kalau kamu tidak pernah melihat angka ini, kamu tidak tahu apakah caching-mu jalan.<\/p>\n<h2>Pertanyaan yang sering ditanya soal prompt caching<\/h2>\n<h3>Apakah prompt caching mengubah jawaban model?<\/h3>\n<p>Tidak. Cache menyimpan hasil pemrosesan prefix (KV state), bukan jawaban yang sudah jadi. Model tetap menghasilkan jawaban dari nol di setiap request \u2014 yang berubah cuma tagihan, dan biasanya sedikit lebih cepat.<\/p>\n<h3>Apakah caching bisa dipakai di Claude Code atau OpenClaw?<\/h3>\n<p>Ya, secara otomatis \u2014 Claude Code memanfaatkan prompt caching untuk konteks percakapan yang panjang tanpa kamu perlu mengatur apa pun. Manfaat yang dibahas di artikel ini paling terasa waktu kamu membangun agent sendiri lewat API.<\/p>\n<h3>Berapa minimum token supaya caching jalan?<\/h3>\n<p>Claude: 512 token untuk model 5.x terbaru, 1.024\u20134.096 untuk model lama. OpenAI GPT-5.6 ke atas: 1.024 token. Gemini implicit: 4.096 token untuk model 3 dan 4, 2.048 untuk Gemini 2.5; explicit: 32.768 token. Di bawah angka itu, request tetap berhasil \u2014 cuma tidak di-cache, tanpa peringatan.<\/p>\n<h3>Apakah data yang di-cache aman? Dipakai buat training tidak?<\/h3>\n<p>Yang disimpan adalah KV tensor \u2014 hasil pemrosesan, bukan teks prompt mentah \u2014 dan cache tidak dibagikan antar organisasi. OpenAI menyatakan prompt caching kompatibel dengan Zero Data Retention (ZDR), dan cache disimpan terenkripsi maksimal 24 jam. Praktik amannya: jangan taruh rahasia ke dalam prefix.<\/p>\n<h3>Kenapa tagihan saya tidak turun padahal sudah pasang cache_control?<\/h3>\n<p>Pertama, lihat cache_read_input_tokens \u2014 kalau nol, cache tidak pernah hit. Kedua, hitung panjang prefix-mu. Ketiga, cari yang berubah di awal prompt: timestamp, ID user, urutan tools. Keempat, cek jeda antar request \u2014 lebih dari 5 menit (Claude) atau 30 menit (OpenAI GPT-5.6+), cache sudah kedaluwarsa.<\/p>\n<h3>Apakah caching cocok untuk chatbot yang dipakai sekali-sekali?<\/h3>\n<p>Tidak. Caching butuh pengulangan prefix yang sama dalam masa hidup cache. Kalau tiap pengguna bertanya sekali lalu pergi, dan jeda antar pengguna lebih dari 5 menit, kamu membayar biaya tulis tanpa pernah mendapat baca \u2014 25% lebih mahal dari tanpa caching. Untuk traffic sepi, pilih model yang lebih murah atau pakai Batch API.<\/p>\n<h2>Penutup: caching itu diskon, bukan sulap<\/h2>\n<p>Prompt caching adalah salah satu dari sedikit trik hemat biaya yang tidak meminta kamu mengorbankan apa pun: modelnya sama, jawabannya sama, kodenya hampir tidak berubah. Yang dia minta cuma disiplin menyusun prompt dan sedikit hitung-hitungan di depan: berapa panjang prefix-mu, seberapa sering dipakai ulang, dan berapa porsi output di tagihanmu.<\/p>\n<p>Kalau tiga angka itu sudah kamu tahu, keputusannya jelas sendiri. Prefix panjang yang dipakai berulang: nyalakan caching, dan ukur hit rate-nya minggu ini. Prefix pendek atau traffic sepi: pakai tuas lain \u2014 model yang lebih kecil, prompt yang lebih ramping, atau Batch API. Diskon 90% itu nyata, tapi cuma untuk bagian tagihan yang memang bisa didiskon.<\/p>\n<h2>Sumber dan bacaan lanjutan<\/h2>\n<ul>\n<li>Dokumentasi Anthropic \u2014 Prompt caching: <em><a href=\"https:\/\/platform.claude.com\/docs\/en\/build-with-claude\/prompt-caching\" target=\"_blank\" rel=\"noopener\">https:\/\/platform.claude.com\/docs\/en\/build-with-claude\/prompt-caching<\/a><\/em><\/li>\n<li>Halaman pricing Claude Platform: <em><a href=\"https:\/\/platform.claude.com\/docs\/en\/about-claude\/pricing\" target=\"_blank\" rel=\"noopener\">https:\/\/platform.claude.com\/docs\/en\/about-claude\/pricing<\/a><\/em><\/li>\n<li>Dokumentasi Google \u2014 Context caching di Gemini API: <em><a href=\"https:\/\/ai.google.dev\/gemini-api\/docs\/caching\/\" target=\"_blank\" rel=\"noopener\">https:\/\/ai.google.dev\/gemini-api\/docs\/caching\/<\/a><\/em><\/li>\n<li>Halaman pricing Gemini API: <em><a href=\"https:\/\/ai.google.dev\/gemini-api\/docs\/pricing\" target=\"_blank\" rel=\"noopener\">https:\/\/ai.google.dev\/gemini-api\/docs\/pricing<\/a><\/em><\/li>\n<li>Dokumentasi OpenAI \u2014 Prompt caching: <em><a href=\"https:\/\/developers.openai.com\/api\/docs\/guides\/prompt-caching\" target=\"_blank\" rel=\"noopener\">https:\/\/developers.openai.com\/api\/docs\/guides\/prompt-caching<\/a><\/em><\/li>\n<li>OpenAI Cookbook \u2014 Prompt Caching 101: <em><a href=\"https:\/\/developers.openai.com\/cookbook\/examples\/prompt_caching101\" target=\"_blank\" rel=\"noopener\">https:\/\/developers.openai.com\/cookbook\/examples\/prompt_caching101<\/a><\/em><\/li>\n<li>LLM Track \u2014 Prompt Caching: The 90% Discount Most LLM Apps Aren&#8217;t Using (dicek 17 November 2026): <em><a href=\"https:\/\/llm-track.com\/blog\/prompt-caching-reduce-llm-cost\" target=\"_blank\" rel=\"noopener\">https:\/\/llm-track.com\/blog\/prompt-caching-reduce-llm-cost<\/a><\/em><\/li>\n<li>Ayetab \u2014 Prompt caching on the Claude API, priced and explained (dicek 4 November 2026): <em><a href=\"https:\/\/www.ayetab.com\/blog\/other\/prompt-caching-claude-api-cost-explained\/\" target=\"_blank\" rel=\"noopener\">https:\/\/www.ayetab.com\/blog\/other\/prompt-caching-claude-api-cost-explained\/<\/a><\/em><\/li>\n<li>Laozhang \u2014 Gemini Context Caching: Implicit vs Explicit, Pricing, Hit Rates (dicek 30 Oktober 2026): <em><a href=\"https:\/\/blog.laozhang.ai\/en\/posts\/gemini-context-caching\" target=\"_blank\" rel=\"noopener\">https:\/\/blog.laozhang.ai\/en\/posts\/gemini-context-caching<\/a><\/em><\/li>\n<\/ul>\n","protected":false},"excerpt":{"rendered":"<p>Prompt caching bisa memangkas tagihan API sampai 60% \u2014 tapi diskon 90%-nya cuma berlaku untuk token yang di-cache, bukan seluruh tagihan. Artikel ini menjelaskan cara kerjanya, harga per provider per November 2026, dan kapan caching justru bikin tagihanmu naik.<\/p>\n","protected":false},"author":1,"featured_media":3180,"comment_status":"open","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"footnotes":""},"categories":[75],"tags":[],"class_list":["post-3174","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-tutorial"],"acf":[],"_links":{"self":[{"href":"https:\/\/komunitech.com\/blog\/wp-json\/wp\/v2\/posts\/3174","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/komunitech.com\/blog\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/komunitech.com\/blog\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/komunitech.com\/blog\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/komunitech.com\/blog\/wp-json\/wp\/v2\/comments?post=3174"}],"version-history":[{"count":3,"href":"https:\/\/komunitech.com\/blog\/wp-json\/wp\/v2\/posts\/3174\/revisions"}],"predecessor-version":[{"id":3183,"href":"https:\/\/komunitech.com\/blog\/wp-json\/wp\/v2\/posts\/3174\/revisions\/3183"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/komunitech.com\/blog\/wp-json\/wp\/v2\/media\/3180"}],"wp:attachment":[{"href":"https:\/\/komunitech.com\/blog\/wp-json\/wp\/v2\/media?parent=3174"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/komunitech.com\/blog\/wp-json\/wp\/v2\/categories?post=3174"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/komunitech.com\/blog\/wp-json\/wp\/v2\/tags?post=3174"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}