Tips Prompting Hemat Token AI: Token ≠ Kata (2026)

tl;dr: Token bukan kata. Satu kata bisa jadi beberapa token, dan satu token bisa cuma potongan kata — tergantung tokenizer tiap model. Jadi “hemat token” bukan soal bikin prompt sependek-pendeknya, tapi buang token yang nggak menambah nilai. Output token harganya jauh lebih mahal dari input (di GPT-5: $10 vs $1.25 per 1 juta token), dan input yang di-cache bisa 90% lebih murah. Soal ucapan “please” dan “terima kasih” yang viral gara-gara komentar Sam Altman: itu bukan sumber pemborosan utama kamu — struktur prompt yang berantakan jauh lebih mahal.

Kamu mungkin pernah baca tips yang bunyinya: “biar hemat token, tulis prompt sesingkat mungkin.” Kedengarannya masuk akal. Masalahnya, saran itu setengah benar — dan setengah yang salahnya justru bikin hasil AI kamu jadi jelek sambil tetap boros.

Artikel ini bahas cara hemat token yang benar secara teknis: apa itu token sebenarnya, kenapa memotong kata bukan strategi kompresi, biaya token yang nyata berdasarkan dokumentasi resmi, dan framework praktis buat mutusin bagian prompt mana yang boleh dibuang dan mana yang haram disentuh.

Token Bukan Kata — Ini Bedanya

Ini kesalahpahaman paling sering, dan sayangnya banyak artikel tips prompting ikut menyebarkannya. Kalimat “setiap kata yang kamu kirim ke AI menghabiskan satu token” itu tidak akurat.

Model bahasa tidak membaca teks per kata. Teks kamu dipecah dulu oleh komponen bernama tokenizer menjadi unit-unit kecil yang disebut token. Satu token bisa berupa:

satu kata utuh yang umum (the, dan, ini)
potongan kata (meng + optimal + kan)
tanda baca, spasi, bahkan emoji (emoji sering makan beberapa token sekaligus)

Konsekuensinya penting buat kamu yang menulis prompt dalam Bahasa Indonesia: teks Bahasa Indonesia biasanya menghabiskan lebih banyak token dibanding teks Bahasa Inggris dengan makna yang sama. Alasannya, sebagian besar tokenizer model populer dilatih dominan di korpus Bahasa Inggris, jadi kata Inggris yang umum sering jadi satu token, sementara kata Indonesia dengan imbuhan panjang seperti “mempertimbangkan” bisa pecah jadi beberapa token.

Jumlah token yang sama persis juga tidak berlaku lintas model. Tokenizer GPT, Claude, dan Gemini berbeda, jadi prompt yang sama bisa menghasilkan hitungan token yang berbeda di tiap model. Kalau kamu belum familiar dengan karakter tiap model, kami sudah bahas perbandingannya di artikel perbedaan model LLM Claude, GPT, dan Gemini — dan perbedaan tokenizer adalah salah satu alasan biaya antar model tidak bisa dibandingkan hanya dari harga per token.

Eksperimen: 10 Prompt Bahasa Indonesia vs Inggris di 3 Tokenizer

Daripada cuma bilang “Bahasa Indonesia lebih boros token”, kami uji langsung. Kami susun 10 pasang prompt dengan makna setara (Bahasa Indonesia vs Bahasa Inggris), lalu hitung jumlah tokennya di tiga tokenizer berbeda: tokenizer keluarga GPT (o200k/gpt-4o), tokenizer Claude, dan tokenizer Gemma (proxy open-source terdekat untuk keluarga Gemini, karena tokenizer Gemini resmi tidak open-source).

Tokenizer	Total token (10 prompt ID)	Total token (10 prompt EN)	Selisih
GPT (gpt-4o family)	138	103	+34%
Claude	211	105	+101%
Gemma (proxy Gemini)	130	113	+15%

Hasilnya menegaskan sekaligus meluruskan klaim di atas: ya, Bahasa Indonesia konsisten lebih boros token di ketiga tokenizer — tapi besar selisihnya jauh dari seragam. Di tokenizer Claude, prompt Bahasa Indonesia butuh dua kali lipat token dibanding versi Inggrisnya. Di tokenizer Gemma, selisihnya cuma 15%, hampir tidak terasa. Jadi kalau ada yang bilang “Bahasa Indonesia X kali lebih boros dari Inggris” tanpa menyebut tokenizer/model yang dipakai, angka itu tidak bisa dipercaya begitu saja — rasio pemborosannya sangat tergantung model yang kamu pakai.

Contoh satu kata yang menunjukkan kenapa variasinya bisa sebesar itu — kata “mempertimbangkan” vs “consider”:

Kata	GPT	Claude	Gemma
mempertimbangkan	4 token	6 token	4 token
consider	1 token	1 token	2 token

Tiap tokenizer dilatih dengan komposisi data berbeda, jadi “kosakata” token yang dianggap satu unit juga berbeda. Ini kenapa kami tidak menyarankan kamu menghafal angka rasio tertentu — hitung langsung dengan tokenizer model yang benar-benar kamu pakai kalau butuh angka presisi untuk estimasi biaya. Metodologi lengkap: 10 prompt disusun manual dengan makna setara (bukan terjemahan mesin literal), dihitung pakai library tokenizers open-source dengan tokenizer publik masing-masing model (Agustus 2026). Catatan jujur: tokenizer Gemma dipakai sebagai proxy karena tokenizer Gemini resmi belum open-source saat artikel ini ditulis — hasilnya indikatif, bukan angka pasti dari model Gemini asli.

Definisi yang lebih tepat: token adalah unit terkecil teks yang diproses model, dan jumlahnya bergantung pada teks serta tokenizer yang dipakai — bukan pada jumlah kata.

Kenapa ini bukan sekadar rewel soal istilah? Karena kalau kamu mengira token = kata, kamu akan mengoptimasi hal yang salah. Kamu sibuk menghapus kata sambungan, padahal yang bikin tagihan membengkak biasanya konteks berulang dan output yang kepanjangan.

Biaya Token yang Sebenarnya: Input, Output, dan Cache

Kalau mau serius hemat, kamu perlu tahu bahwa token tidak dihargai sama rata. Ada tiga jenis dengan harga berbeda jauh. Berikut data dari halaman harga resmi OpenAI (per Agustus 2026, model GPT-5, satuan per 1 juta token):

Jenis token	Harga per 1 juta token	Catatan
Input (prompt kamu)	$1.25	Harga dasar
Cached input	$0.125	90% lebih murah dari input biasa
Output (jawaban AI)	$10.00	8x harga input di pricing ini

Baca ulang baris terakhir. Pada pricing GPT-5 yang dirujuk di artikel ini, output sekitar 8× harga input. Rasio ini bukan aturan universal semua LLM — tiap penyedia dan tiap model punya rasio sendiri, dan angkanya berubah dari waktu ke waktu. Tapi polanya konsisten di hampir semua penyedia besar: output selalu lebih mahal daripada input. Itu yang mengubah strategi penghematan kamu.

Artinya, memangkas 50 token dari prompt kamu jauh lebih kecil dampaknya dibanding mencegah AI menjawab 400 token yang nggak kamu butuhkan. Kalau kamu cuma butuh tiga poin, minta tiga poin — jangan biarkan model menulis esai lengkap dengan pembuka, penutup, dan permintaan maaf.

Ini juga alasan kenapa instruksi pembatas output justru menambah beberapa token input tapi menghemat banyak token output. Menambahkan “Jawab maksimal 5 poin, tanpa pengantar” mungkin memakan 10 token input tambahan (setara $0.0000125), tapi bisa memotong 300 token output (setara $0.003). Selisihnya ratusan kali lipat.

Pelajaran praktisnya: menambah instruksi yang mengontrol output sering lebih hemat daripada memangkas kata di prompt. Ini kebalikan dari saran “bikin prompt sependek mungkin” yang beredar di banyak tips prompting.

Prompt Pendek Tidak Selalu Lebih Baik

Sekarang bagian yang paling sering salah kaprah. Banyak contoh “kompresi prompt” yang beredar sebenarnya bukan kompresi — itu penyederhanaan yang menghilangkan informasi.

Contoh yang sering dipakai:

Sebelum: “Tolong buatkan artikel yang sangat lengkap dan detail tentang AI untuk pemula dengan bahasa yang mudah dipahami dan tidak terlalu teknis.”

Sesudah: “Buat artikel AI untuk pemula, bahasa sederhana, non-teknis.”

Versi “sesudah” memang lebih pendek. Tapi perhatikan: instruksi “sangat lengkap dan detail” hilang. Kalau kamu memang butuh artikel yang mendalam, kamu baru saja menghapus salah satu syarat utama outputmu. Model akan menjawab lebih singkat, kamu nggak puas, lalu kamu kirim prompt susulan — dan token yang “dihemat” tadi terbayar lunas dengan bunga.

Yang seperti itu namanya simplifikasi, bukan kompresi. Bedanya jelas:

Kompresi = jumlah token turun, informasi yang dibutuhkan model tetap utuh.
Simplifikasi = jumlah token turun karena informasi ikut dibuang.

Versi kompresi yang benar untuk contoh di atas:

“Tulis panduan AI untuk pemula, mendalam, bahasa sederhana, minim jargon.”

Lebih pendek dari aslinya, tapi keempat syaratnya (topik, kedalaman, gaya bahasa, tingkat teknis) masih lengkap.

Prinsip yang dipakai di sini namanya minimum sufficient context — konteks paling minimal yang masih cukup untuk model menyelesaikan tugas dengan benar. Bukan “sependek mungkin”, tapi “seperlunya saja”.

Kalau kamu potong terlalu agresif, yang biasanya jadi korban duluan adalah: format output yang diinginkan, batasan/larangan, contoh yang jadi acuan gaya, dan kriteria kapan hasilnya dianggap benar. Empat hal itu justru yang paling menentukan kualitas jawaban.

Soal “Please” dan “Terima Kasih” — Ini Kata Sam Altman Sebenarnya

Ada klaim yang sempat viral: menulis “please” dan “thank you” ke ChatGPT membuang uang OpenAI jutaan dolar. Sumbernya beneran ada, tapi konteksnya sering dipotong.

Ceritanya bermula dari cuitan di X (dulu Twitter) yang bertanya berapa banyak biaya listrik yang “terbuang” gara-gara orang sopan ke chatbot. CEO OpenAI Sam Altman menjawab santai, bilang itu “tens of millions of dollars well spent” alias puluhan juta dolar yang dikeluarkan dengan pantas. Bukan keluhan — lebih ke candaan sambil ngasih pembenaran budaya.

Yang sering salah dipahami: orang mengira ini artinya kesopanan bikin token boros secara teknis. Padahal secara token, kata “please” atau “tolong” cuma nambah 1-2 token doang — nyaris tidak signifikan dibanding total token satu prompt lengkap. Kalau kamu ngirim prompt 200 token, nambah “tolong” di depan itu 1% dari total, dan sama sekali bukan penyebab tagihan kamu bengkak.

Yang membuat biaya AI benar-benar boros itu bukan soal sopan atau tidak — tapi tiga hal ini:

Riwayat percakapan yang terus menumpuk. Tiap kali kamu chat lanjutan, model biasanya perlu “membaca ulang” percakapan sebelumnya sebagai konteks. Makin panjang obrolan, makin banyak token input yang diproses ulang — bukan cuma pesan terbaru kamu.
Output yang lebih panjang dari kebutuhan. Ingat, di pricing yang kita bahas tadi output berkali lipat lebih mahal daripada input. Model yang dibiarkan menjawab bebas tanpa batasan panjang cenderung menulis lebih dari yang kamu perlukan.
Instruksi yang diulang-ulang atau ambigu yang memaksa kamu mengirim beberapa kali prompt susulan buat mengoreksi jawaban yang salah arah.

Soal ada tidaknya manfaat menulis sopan ke AI, itu sendiri masih ranah yang berbeda dari isu token — beberapa praktisi desain AI menyebut instruksi dengan nada sopan dan jelas cenderung menghasilkan output yang lebih terstruktur, meski ini bukan soal token, melainkan soal bagaimana model “membaca” nada instruksi. Yang jelas secara token: dua kata tambahan bukan sumber pemborosan. Baca detail komentar Altman di Futurism.

Jadi kalau kamu cari cara hemat token, jangan buang waktu menghapus kata “tolong”. Fokus ke tiga hal di atas — itu yang benar-benar bikin tagihan kamu naik turun.

Framework: Keep, Compress, Remove

Daripada mikirin “gimana caranya prompt jadi pendek”, pakai kerangka yang lebih presisi. Tiap bagian prompt kamu masuk ke salah satu dari tiga kategori ini:

Kategori	Isinya apa	Contoh
Keep (pertahankan)	Tujuan, konteks yang benar-benar dipakai model, batasan/constraint, format output, contoh yang jadi acuan gaya	“Jawab dalam 5 poin”, “gunakan data tabel di bawah”, “format markdown”
Compress (padatkan)	Kalimat bertele-tele yang bisa diringkas tanpa kehilangan makna, instruksi yang diulang	“Tolong dengan sangat detail dan lengkap jelaskan” → “Jelaskan detail:”
Remove (buang)	Informasi tidak relevan, riwayat percakapan lama yang sudah tidak dipakai, basa-basi pembuka/penutup	“Halo, semoga harimu menyenangkan, saya mau tanya…” → langsung ke pertanyaan

Cara pakainya: baca ulang prompt kamu baris per baris, tandai tiap bagian masuk kategori mana. Bagian Keep jangan disentuh sama sekali — itu yang menjaga kualitas output. Bagian Compress dipadatkan. Bagian Remove dihapus total.

Contoh Before-After dengan Token Count Nyata

Berikut contoh nyata, dihitung pakai tokenizer resmi o200k_base (dipakai keluarga model GPT-5) — kami hitung langsung pakai library tiktoken, bukan estimasi:

Before (56 token): “Halo, apa kabar? Saya ingin bertanya, tolong dengan sangat detail dan selengkap-lengkapnya jelaskan kepada saya mengenai apa itu strategi pemasaran digital untuk bisnis kecil, dan mohon dijelaskan dengan bahasa yang mudah dipahami ya, terima kasih banyak sebelumnya.”

After (15 token): “Jelaskan strategi pemasaran digital untuk bisnis kecil. Detail, bahasa sederhana.”

Turun dari 56 ke 15 token — hemat 73%, dan semua instruksi inti (topik, target audiens, kedalaman, gaya bahasa) tetap utuh. Bandingkan dengan contoh “kompresi” yang salah di bagian sebelumnya: itu memangkas token dengan cara membuang instruksi, bukan membuang kata yang tidak perlu.

Catatan buat yang menulis prompt dalam Bahasa Indonesia: kata berimbuhan seperti “mempertimbangkan” butuh 4 token di tokenizer ini, sementara padanan Inggrisnya “consider” cuma 1 token. Ini bukan alasan buat nulis prompt dalam Bahasa Inggris kalau kamu lebih nyaman pakai Bahasa Indonesia — akurasi instruksi lebih penting daripada selisih token segitu. Tapi ini menjelaskan kenapa prompt Bahasa Indonesia yang panjang bisa terasa lebih “boros” dibanding prompt Inggris yang maknanya setara.

Kalau prompt ini dikirim 1.000 kali sebulan (skenario realistis buat bisnis yang pakai AI agent buat otomasi konten atau customer service), selisih 41 token per prompt itu setara 41.000 token input per bulan. Dengan harga GPT-5 ($1.25/1 juta token input), itu memang cuma sekitar $0.05 — kelihatan kecil. Tapi kalau prompt-nya panjang dan dipanggil ribuan kali sehari lewat automasi, akumulasinya baru terasa signifikan, apalagi kalau prompt itu adalah system prompt yang dikirim ulang di SETIAP request tanpa caching.

Prompt Caching: Trik yang Paling Sering Dilewatkan

Ini bagian yang hampir tidak pernah dibahas di artikel tips prompting biasa, padahal dampaknya jauh lebih besar daripada memangkas kata.

Kalau kamu memakai AI lewat API (bukan lewat chat biasa), sejumlah penyedia model menyediakan fitur prompt caching — ketersediaan, mekanisme, dan besar diskonnya berbeda-beda, jadi cek dokumentasi penyedia yang kamu pakai. Prinsipnya: bagian prompt yang isinya selalu sama di setiap request — misalnya system prompt, panduan gaya bahasa, atau dokumen referensi — disimpan sementara di sisi penyedia, jadi tidak perlu diproses ulang dari nol setiap kali.

Lihat lagi tabel harga di atas: cached input GPT-5 dihargai $0.125 per 1 juta token, sementara input biasa $1.25. Selisihnya 90%.

Artinya, kalau kamu punya system prompt 2.000 token yang dikirim ulang 10.000 kali sebulan:

Tanpa caching: 20 juta token input × $1.25 = $25/bulan
Dengan caching: 20 juta token × $0.125 = $2,5/bulan

Hemat $22,5 tanpa menghapus satu kata pun dari prompt kamu. Bandingkan dengan usaha memangkas prompt 40 token tadi yang cuma hemat sekitar $0.05. Ini alasan kenapa “hemat token” untuk pemakaian serius bukan soal gaya menulis — tapi soal arsitektur.

Syarat supaya caching bekerja: bagian prompt yang statis harus ditaruh di AWAL dan isinya persis sama tiap request. Kalau kamu menaruh timestamp atau nama user di paling depan system prompt, cache-nya meleset dan kamu bayar harga penuh. Susun urutannya: instruksi statis dulu, baru konteks dinamis, baru pertanyaan user.

Detail implementasi (berapa lama cache bertahan, minimum panjang prompt supaya bisa di-cache) berbeda antar penyedia, jadi cek dokumentasi resmi model yang kamu pakai — jangan asumsikan sama semua.

Kalau Prompt-nya Dipakai AI Agent yang Jalan Terus

Semua di atas masih relevan buat kamu yang cuma pakai ChatGPT harian. Tapi perhitungannya berubah total begitu prompt itu dipakai AI agent yang jalan otomatis 24/7.

Bedanya: kamu tidak lagi mengirim prompt manual sepuluh kali sehari. Agent yang menangani chat customer atau memproses laporan bisa memanggil model ratusan sampai ribuan kali sehari, dengan system prompt yang sama dikirim berulang, plus konteks percakapan yang menumpuk tiap interaksi.

Di skala itu, tiga hal jadi penentu biaya operasional bulanan kamu:

Manajemen konteks — seberapa banyak riwayat yang benar-benar perlu dibawa tiap request. Ini masalah arsitektur, bukan gaya menulis prompt. Kami bahas lebih dalam di artikel Context OS: kenapa AI agent kamu gampang lupa — karena masalah “agent lupa” dan “agent boros token” itu dua sisi dari koin yang sama.
Pemilihan model per tugas — tidak semua tugas butuh model termahal. Klasifikasi pesan masuk bisa pakai model kecil, penyusunan jawaban kompleks baru pakai model besar.
Caching dan batching — dua fitur infrastruktur yang menghemat jauh lebih banyak daripada optimasi kalimat.

Yang menarik, di praktik nyata angka biaya API sering jauh lebih kecil daripada yang orang bayangkan. Salah satu klien kami, CEO sebuah produsen minuman bubuk, menjalankan AI agent yang menggantikan sebagian pekerjaan tiga peran sekaligus (analis data, content creator, dan SEO) dengan biaya AI di kisaran ratusan ribu rupiah per bulan — bukan puluhan juta. Rincian perbandingannya kami tulis di artikel biaya Karyawan AI vs karyawan manusia.

Poinnya bukan “AI itu murah”, tapi: biaya AI ditentukan oleh cara kamu merancang alurnya, bukan oleh seberapa singkat kamu menulis prompt. Prompt hemat token itu bonus. Arsitektur yang benar itu yang menentukan.

Kalau kamu lagi menyusun agent untuk bisnis dan bingung menentukan struktur prompt, model, serta pengelolaan konteksnya, ini yang kami bahas hands-on di workshop Komunitech — peserta membangun Karyawan AI pertamanya dalam 2 jam, dari nol sampai jalan, tanpa perlu bisa coding, dan dapat sertifikat sebagai peserta workshop.

Ringkasan Tips Prompting Hemat Token

Berhenti menghitung kata. Token bukan kata, dan jumlahnya beda tiap model.
Prioritaskan mengontrol panjang output — di hampir semua penyedia, output lebih mahal daripada input (di pricing GPT-5 yang dirujuk artikel ini, sekitar 8×).
Pakai prinsip minimum sufficient context, bukan “sependek mungkin”.
Bedakan kompresi (token turun, informasi utuh) dari simplifikasi (token turun karena informasi hilang).
Jangan buang waktu menghapus kata “tolong” — hemat 1-2 token, bukan itu masalahnya.
Buang riwayat percakapan yang sudah tidak relevan — ini penyumbang token terbesar di sesi panjang.
Kalau pakai API: taruh bagian statis di awal prompt supaya kena caching. Hemat sampai 90% di sisi input.

Pertanyaan yang Sering Ditanya

Apakah prompt yang lebih pendek selalu lebih hemat token?

Untuk satu request, ya — input token-nya lebih sedikit. Tapi tidak selalu lebih hemat secara total. Prompt yang terlalu pendek sering menghilangkan konteks atau batasan yang dibutuhkan model, sehingga jawabannya melenceng dan kamu harus mengirim prompt susulan. Dua atau tiga percobaan tambahan biasanya jauh lebih mahal daripada token yang kamu hemat di awal.

Berapa jumlah token untuk satu kata?

Tidak ada angka tetap. Satu kata bisa jadi satu token, bisa juga terpecah jadi beberapa token, tergantung kata dan tokenizer model. Sebagai gambaran, di tokenizer o200k_base, kata “mempertimbangkan” butuh 4 token sementara “consider” cuma 1 token. Perkiraan kasar yang beredar (misalnya 1 token ≈ 4 karakter untuk Bahasa Inggris) berguna untuk estimasi awal, tapi jangan dijadikan dasar perhitungan biaya yang presisi — hitung langsung dengan tokenizer model yang kamu pakai.

Apakah bilang “tolong” dan “terima kasih” ke AI bikin boros token?

Secara token, tambahannya sangat kecil — sekitar 1-2 token per kata. Komentar Sam Altman soal “tens of millions of dollars” itu bicara di skala agregat ratusan juta pengguna OpenAI, bukan soal tagihan pribadi kamu. Untuk pemakaian individu maupun bisnis, penyebab pemborosan yang sebenarnya adalah riwayat percakapan yang menumpuk, output yang tidak dibatasi panjangnya, dan prompt ambigu yang memaksa pengulangan.

Apakah menulis prompt dalam Bahasa Inggris lebih hemat token?

Umumnya iya, karena tokenizer model populer dilatih dominan pada teks Bahasa Inggris. Tapi selisihnya biasanya tidak sebanding dengan risiko instruksi jadi kurang presisi kalau kamu tidak nyaman menulis dalam Bahasa Inggris. Prompt yang salah dipahami model jauh lebih mahal daripada selisih beberapa token. Pakai bahasa yang bikin instruksi kamu paling jelas.

Apa bedanya kompresi prompt dan menyederhanakan prompt?

Kompresi mengurangi jumlah token tanpa menghilangkan informasi yang dibutuhkan model — misalnya mengganti kalimat bertele-tele dengan frasa padat. Simplifikasi mengurangi token dengan cara membuang sebagian instruksi, sehingga hasilnya bisa berubah. Banyak contoh “kompresi prompt” yang beredar sebenarnya simplifikasi.

Bagaimana cara menghitung token prompt saya?

Untuk model keluarga GPT, kamu bisa memakai library tiktoken dengan encoding yang sesuai model (misalnya o200k_base untuk model generasi terbaru). Penyedia model lain umumnya menyediakan endpoint atau utilitas penghitung token sendiri. Karena tokenizer tiap keluarga model berbeda, hitung dengan tokenizer model yang benar-benar kamu pakai — hasil dari model lain hanya perkiraan.

Penutup

Hemat token bukan lomba menulis prompt sependek mungkin. Yang kamu kejar adalah membuang token yang tidak memberi nilai, sambil mempertahankan semua yang dibutuhkan model untuk menjawab dengan benar sejak percobaan pertama.

Kalau pemakaian kamu masih sebatas chat harian, fokus di dua hal saja: batasi panjang output dan mulai sesi baru kalau topiknya sudah ganti. Kalau kamu membangun sistem yang jalan otomatis, optimasinya pindah ke ranah arsitektur — caching, pemilihan model, dan manajemen konteks.

Disclaimer: harga token dan detail fitur caching yang dikutip di artikel ini berlaku per Agustus 2026 dan bisa berubah sewaktu-waktu. Selalu cek halaman harga resmi penyedia model sebelum menghitung anggaran. Lakukan riset mandiri (DYOR) sebelum mengambil keputusan teknis maupun bisnis.