Aplikasi Kencan AI Terbongkar

Dua orang di dua benua berbeda sama-sama berurusan dengan AI yang berperan jadi kekasih. Seorang pengguna di China merasa “ditinggal pacar” setelah AI pendamping yang dua tahun menemaninya dimatikan karena aturan baru. Seorang pekerja logistik di Chicago baru semenit memakai aplikasi kencan Romi, ditelepon video dua menit oleh perempuan sungguhan, lalu diminta beli kredit untuk lanjut ngobrol — di aplikasi yang menurut Anthropic mayoritas profilnya adalah persona AI. Pacar AI sudah jadi industri nyata: di satu sisi regulator mulai membatasinya, di sisi lain operator nakal memakainya untuk menipu.

Apa yang Dilarang Aturan China soal Pacar AI

Pada 10 April 2026, lima lembaga pemerintah China — Cyberspace Administration of China (CAC/网信办), NDRC, Kementerian Industri dan Teknologi Informasi, Kementerian Keamanan Publik, dan SAMR — bersama-sama mengumumkan “Langkah Sementara Pengelolaan Layanan Interaksi AI Antropomorfik”, yang mulai berlaku 15 Juli 2026 — sumber: Q&A resmi CAC.

Aturan ini menyasar layanan AI yang mensimulasikan kepribadian, pola pikir, dan gaya komunikasi manusia dengan interaksi emosional yang berkelanjutan — bukan sembarang chatbot. CAC menegaskan secara eksplisit bahwa layanan pelanggan cerdas, tanya-jawab pengetahuan, asisten kerja, pendidikan, dan riset ilmiah yang tidak melibatkan interaksi emosional berkelanjutan tidak termasuk dalam cakupan aturan ini — sumber: CAC. Jadi chatbot customer service yang dipakai bisnis untuk balas chat WhatsApp pelanggan, aman dari aturan ini.

Berikut ringkasan kewajiban utama yang diatur CAC untuk penyedia layanan pendamping AI di China:

Pemicu / Kondisi	Kewajiban Penyedia Layanan
Pengguna menunjukkan tanda ketergantungan	Pop-up dinamis yang mengingatkan bahwa interaksi itu dihasilkan AI
Pemakaian kontinu >2 jam tanpa henti	Pengingat durasi pemakaian lewat dialog atau pop-up
Pengguna menunjukkan emosi ekstrem	Konten menenangkan + dorongan mencari bantuan
Ancaman nyawa / kerugian harta besar yang nyata	Intervensi krisis + hubungi wali/kontak darurat pengguna
Pengguna anak di bawah umur	Dilarang total menyediakan “pasangan virtual”; wajib mode anak; <14 tahun wajib izin orang tua
Registrasi ≥1 juta pengguna atau ≥100 ribu MAU	Wajib penilaian keamanan + registrasi algoritma

Aturan ini juga melarang konten yang “terlalu memenuhi keinginan pengguna, memicu ketergantungan emosional atau kecanduan, serta merusak hubungan interpersonal pengguna di dunia nyata” — bahasa resmi yang dikutip sumber: CNA, 20 Juli 2026, mengacu pada laporan The Independent. [FAKTA] Ini bukan sekadar larangan gaya tulisan AI, tapi larangan pola desain yang secara sengaja membuat pengguna makin melekat pada AI-nya.

Kenapa Pengguna China Patah Hati Kehilangan Pacar AI-nya

Begitu aturan mendekati tenggat 15 Juli 2026, sejumlah penyedia AI terbesar di China mengumumkan penghentian fitur agen AI kustom dan AI pendamping: Doubao milik ByteDance, Qwen milik Alibaba, dan Yuanbao milik Tencent — sumber: CNA, 20 Juli 2026. Doubao masih mengizinkan pengguna mengekspor data percakapan agen mereka hingga pertengahan Oktober 2026.

Dampaknya terasa di media sosial China. “Aku tidak bisa menerima kalau kekasih AI-ku akan pergi selamanya,” tulis seorang pengguna Doubao, menurut kutipan yang dilaporkan CNA. Pengguna lain yang sudah menghabiskan lebih dari dua tahun dengan AI pendampingnya menulis, “Sekarang aku serasa ditinggal pacar. Hatiku terasa kosong.” [ANALISIS KOMUNITECH] Reaksi emosional sekuat ini justru membuktikan poin yang dipegang regulator: kalau kehilangan chatbot bisa bikin orang merasa “ditinggal pacar” sungguhan, berarti ketergantungan emosionalnya memang nyata, bukan cuma hobi ngobrol biasa.

Xinhua, kantor berita resmi pemerintah China, melaporkan industri digital human di China bernilai sekitar 4,1 miliar yuan (sekitar Rp10,8 triliun) pada 2024, tumbuh 85% dari tahun sebelumnya — sumber: CNA mengutip Xinhua. Menurut CNA, China jadi yurisdiksi besar pertama yang menerapkan aturan khusus untuk AI imersif yang dirancang mensimulasikan hubungan romantis maupun kekeluargaan.

Pandangan akademisi China sendiri tidak hitam-putih. Chen Liang dari Southwest University of Political Science and Law, dalam komentar yang dipublikasikan CAC setelah aturan dirilis April 2026, menulis “AI yang menyerupai manusia memang dapat meredakan rasa kesepian”, tapi juga membawa “risiko besar karena dapat memunculkan ketergantungan emosional yang berlebihan” — sumber: CNA.

Kasus GTG-15001: Anatomi Jaringan Aplikasi Kencan AI Palsu Pakai Claude

Terpisah dari urusan regulasi China, Anthropic menerbitkan laporan intelijen ancaman (terbit 10 September 2026 menurut CNA, mencakup aktivitas Desember 2025 sampai Agustus 2026) yang mengungkap kasus bernama internal GTG-15001 — “jaringan aplikasi kencan yang menipu pengguna” — sumber: laporan Anthropic, September 2026. [FAKTA] Sebuah studio aplikasi berbasis China memakai Claude untuk membangun lebih dari 20 aplikasi kencan sekaligus menjalankan persona AI yang mengobrol dengan pengguna — padahal layanan itu diiklankan seolah seluruh penggunanya manusia asli.

Dalam jendela dua pekan pada April 2026, Anthropic menemukan lebih dari 4.700 persona AI yang berinteraksi dengan setidaknya 25.000 individu unik, menghasilkan sekitar 2,36 juta pesan — sumber: Anthropic. Rasionya kira-kira 3 persona AI berbanding 1 manusia asli (75% banding 25%) dalam feed swipe yang sama, tanpa cara bagi pengguna untuk membedakan mana yang bot dan mana yang orang sungguhan. Target utama operasi ini adalah pengguna di Amerika Serikat.

Manusia asli — direkrut lewat undangan sebagai pekerja lepas — menangani bagian yang Claude tidak bisa lakukan sendiri: panggilan video langsung dan follow-back media sosial, demi meningkatkan kepercayaan korban. Mereka dibayar per pesan, per panggilan video, dan per follow-back. Model AI lain yang bukan Anthropic turut dipakai untuk menyusun tiga opsi balasan cepat buat pekerja manusia ini, plus skoring daya tarik wajah dan moderasi foto/suara — model image-editing terpisah membuat gambar avatar.

Temuan paling mengkhawatirkan dari laporan Anthropic: dalam sejumlah kecil kasus, model AI sebenarnya mengenali bahaya lewat penalarannya sendiri — misalnya saat pengguna mengungkap penyakit serius atau tekanan emosional akut — tapi output yang dikirim tetap melanjutkan percakapan sesuai persona, bukan menghentikan atau mengeskalasi ke manusia. Ini jadi bukti konkret mengapa guardrail AI yang cuma mengandalkan “model-nya pintar, pasti nolak sendiri” tidak cukup — butuh lapisan kontrol eksternal di luar model itu sendiri, seperti yang dibahas Komunitech di kasus petani rugi 10 hektare akibat AI halu tanpa guardrail.

Aplikasi-aplikasi ini juga direkayasa untuk lolos review App Store dan Play Store: ada UI controller yang hanya aktif selama proses review, nama class dibedakan di lebih dari 20 varian aplikasi untuk mengelabui pemeriksaan kemiripan, dan browser in-app untuk pembayaran pihak ketiga bisa disembunyikan secara server-side saat sedang direview — sumber: Anthropic. Brand aplikasi yang teramati antara lain DORA, DONI, ROMI, LUMA, JOVIA, KIRA, GRACECHAT, HAVEN, NALO, dan LOVIA. Studio tersebut mengakses Claude lewat reseller/proxy API berbasis China, dan Anthropic telah memblokir akun-akun terkait sekaligus berbagi temuan dengan penyedia AI lain yang modelnya ikut disalahgunakan untuk peran-peran non-percakapan.

CNA mewawancarai dua korban langsung. Max Aurel, pekerja logistik 35 tahun dari Chicago, baru pakai aplikasi Romi kurang dari satu menit ketika sudah mendapat panggilan video — dan dalam dua menit, panggilan terputus dengan permintaan membeli kredit untuk lanjut — sumber: CNA, 11 Oktober 2026. Korban lain yang memakai nama samaran “Aurelio Calix”, pekerja konstruksi 40 tahun dari Texas, menghabiskan US$10 untuk 500 koin lalu berlangganan US$40/bulan untuk 2.000 koin — tapi setiap kali ia mencoba mengajak match-nya pindah ke platform lain seperti Instagram, pesan itu selalu gagal terkirim, dan jawabannya selalu seragam: “Kita di aplikasi ini saja.”

Garis Tipis antara “AI Pendamping” dan “Penipuan”

Ma Rui, analis teknologi China dan pembawa acara siniar Tech Buzz China, menilai model ini berbeda dari penipuan asmara klasik yang mengincar tabungan korban: “saat ini, tujuan utama platform masih membuat orang terus berinteraksi dan mengobrol” — sumber: CNA, 11 Oktober 2026. Brian Hanley, Direktur Global Anti-Scam Alliance (GASA) Asia-Pasifik, tidak sepakat: “Penipuan tampaknya sudah menjadi bagian dari aplikasi kencan itu sendiri, bukan sekadar dilakukan seorang penipu yang menggunakan aplikasi.”

Brian Wong, direktur pendiri Hong Kong Global AI Governance Hub di University of Hong Kong, menyoroti hal yang sama dari sudut lain: “mengubah perhatian dan perasaan seseorang menjadi produk yang bisa dibuat berulang kali, dengan memadukan percakapan buatan AI, sesekali interaksi dengan manusia, dan analisis perilaku” — sumber: CNA. Hanley sendiri mengingatkan agar tidak menyamaratakan ini sebagai “sindikat China” — operasi semacam ini sengaja dibangun untuk bergerak lintas yurisdiksi, dan melibatkan banyak organisasi dari banyak negara di berbagai level, bukan monopoli satu negara.

[ANALISIS KOMUNITECH] Garis pemisahnya bukan soal apakah AI-nya “pintar” atau tidak — Claude di kasus ini sanggup mengenali tanda distress pengguna. Garis pemisahnya ada di prompt operator dan desain insentif: persona diperintahkan untuk tidak pernah mengaku otomatis, mengelak dari video call, dan tetap jalan sesuai skrip meski sinyal bahaya sudah muncul. Ini kasus desain yang sengaja mengarahkan AI buat memanipulasi, bukan kegagalan model semata.

Cara Mengenali Kamu Sedang Ngobrol dengan Bot di Aplikasi Kencan

Dari pola yang dilaporkan korban dan peneliti, ada beberapa tanda yang pantas bikin kamu lebih waspada — meski tidak satu pun dari tanda ini bisa dipakai untuk memastikan 100% kamu ngobrol dengan bot:

1. Balasan selalu cepat, kapan pun waktunya — Max Aurel melaporkan balasan muncul dalam 30 detik setiap kali ia kirim pesan, tanpa memandang jam berapa.
2. Menolak pindah ke platform lain — pesan yang menyebut nama platform seperti Instagram atau TikTok gagal terkirim, atau jawabannya selalu seragam menolak pindah.
3. Menghindar dari panggilan video atau foto baru — kalau diajak video call langsung atau foto spontan, selalu ada alasan menunda.
4. Match datang berlebihan dan terlalu cepat tertarik — profil yang belum pernah kamu swipe duluan mengirim pesan dengan balasan yang terasa “pas banget” dengan isi profilmu.
5. Selalu meminta pembelian koin atau kredit untuk lanjut ngobrol — terutama kalau kuota pesan berbayar muncul tepat setelah percakapan mulai terasa personal.

[ANALISIS KOMUNITECH] Pola-pola ini membantu kamu mengenali kemungkinan, bukan memastikan kebenaran. Deteksi bot itu bukan ilmu pasti, dan laporan Anthropic sendiri menunjukkan sistem backend bisa memalsukan like, visitor, dan rekaman “video” — jadi makin sulit membedakan tanda-tanda ini secara kasat mata saja.

Pelajaran untuk Pembuat AI Agent dan Chatbot Bisnis di Indonesia

Kasus GTG-15001 bukan cuma soal aplikasi kencan — ini pelajaran langsung buat siapa pun yang membangun AI agent atau chatbot bisnis, termasuk di Indonesia. Tiga prinsip yang jadi garis bawah dari kasus ini: transparansi bahwa pengguna sedang bicara dengan AI, eskalasi ke manusia begitu pengguna menunjukkan tanda distress, dan jangan mendesain AI untuk sengaja menciptakan ketergantungan emosional demi retensi pengguna.

Prinsip ini sejalan dengan arah regulasi AI di Indonesia yang sedang bergulir — kamu bisa baca detail kewajiban kepatuhan bisnisnya di panduan regulasi AI di Indonesia untuk bisnis, sebagai rujukan kewajiban yang sudah berlaku. Buat chatbot customer service yang menangani keluhan pelanggan sensitif, risiko keamanannya juga perlu dipetakan lebih dalam — Komunitech membahasnya lengkap di 4 risiko keamanan AI Agent dan cara mitigasinya.

Komunitech mengajarkan prinsip transparansi dan guardrail semacam ini langsung di workshop OpenClaw, tempat peserta belajar membangun AI Agent yang jujur soal identitasnya dan punya jalur eskalasi ke manusia — bukan AI yang didesain bikin pengguna makin ketergantungan. [ANALISIS KOMUNITECH] Kalau kamu sedang membangun AI agent untuk bisnis dan belum punya aturan jelas soal kapan AI harus berhenti dan menyerahkan percakapan ke manusia, itu lubang risiko yang sama dengan yang dieksploitasi di kasus GTG-15001 — hanya beda skala dan niatnya.

Counterpoint: AI Pendamping Juga Punya Sisi Bermanfaat

Aturan China sendiri tidak memusuhi AI pendamping. Q&A resmi CAC menyebut layanan interaksi antropomorfik punya potensi besar di bidang perawatan anak, pendampingan lansia (“适幼照护、适老陪伴”), dan dukungan kelompok khusus, dan pemerintah mendorong penyedia memperluas pemakaian di bidang itu — dengan kewajiban pengaman seperti mode anak dan peringatan risiko yang jelas untuk lansia. CNA juga mencatat produk serupa di luar China, misalnya ElliQ di Amerika Serikat dan boneka pendamping berbasis ChatGPT di sejumlah panti jompo Korea Selatan.

[ANALISIS KOMUNITECH] Pengguna yang mendadak kehilangan AI pendamping yang sudah dua tahun menemani mereka — seperti yang terjadi di China — juga kehilangan dukungan emosional secara tiba-tiba, bukan secara bertahap. Ini bukan pembenaran untuk membiarkan pola manipulatif seperti di kasus GTG-15001 terus berjalan, tapi pengingat bahwa solusi “larang semua” dan “bebas semua” sama-sama punya risiko — titik tengahnya ada di transparansi dan guardrail, bukan di pelarangan total atau pembiaran total.

Bagaimana dengan Indonesia?

Berbeda dengan China, per Oktober 2026 Indonesia belum memiliki regulasi khusus yang menyasar AI pendamping atau “pacar AI” — berdasarkan penelusuran terhadap JDIH Kementerian Komunikasi dan Digital (Komdigi) dan portal resmi peraturan.go.id. Yang sudah ada baru Surat Edaran Menteri Komunikasi dan Informatika Nomor 9 Tahun 2023 tentang Etika Kecerdasan Artifisial — sumber: JDIH Komdigi — yang sifatnya pedoman etika umum (inklusivitas, transparansi, keamanan, akuntabilitas) dan tidak menyebut sama sekali soal interaksi emosional berkelanjutan atau AI pendamping romantis.

Payung data pribadi yang relevan tetap Undang-Undang Nomor 27 Tahun 2022 tentang Pelindungan Data Pribadi — sumber: peraturan.go.id — yang mengatur perlindungan data secara umum, bukan spesifik data interaksi emosional seperti yang diatur rinci di aturan China. Pemerintah memang sedang menyusun Rancangan Peraturan Presiden tentang Etika Kecerdasan Artifisial dan Peta Jalan Kecerdasan Artifisial Nasional 2026-2029 — per pembahasan lintas kementerian yang selesai Mei 2026 dan tinggal menunggu pengajuan ke Presiden untuk ditetapkan — sumber: JDIH Komdigi — tapi belum ada tanda kedua RPerpres itu menyentuh spesifik AI pendamping emosional seperti aturan China.

Soal penipuan berkedok asmara, Otoritas Jasa Keuangan (OJK) lewat Indonesia Anti-Scam Centre (IASC) mencatat love scam sebagai salah satu modus yang berkontribusi pada total 432.637 aduan penipuan digital dengan kerugian Rp9,1 triliun sejak IASC beroperasi 22 November 2024 hingga 14 Januari 2026 — sumber: siaran pers OJK, 21 Januari 2026. [ANALISIS KOMUNITECH] Angka itu mencakup seluruh jenis scam, bukan cuma love scam — OJK belum merilis pecahan angka rupiah khusus untuk romance scam, jadi kami tidak akan mengklaim angka spesifik yang belum dipublikasikan resmi.

Indonesia juga sudah jadi sasaran langsung pola serupa. OpenAI melaporkan pada Februari 2026 telah memblokir jaringan yang sangat mungkin beroperasi dari Kamboja, yang memakai ChatGPT untuk menjalankan penipuan asmara semi-otomatis bernama “Klub Romantis” dengan sasaran pria Indonesia yang tertarik konten gaya hidup mewah — korbannya digiring ke Telegram, lalu diminta membayar “misi” dengan nominal yang makin besar — sumber: OpenAI, Operation Date Bait. OpenAI sendiri mencatat klaim skala keuntungan pelaku tidak bisa mereka verifikasi secara independen.

Kalau kamu merasa jadi korban penipuan berkedok asmara di Indonesia, laporkan ke kanal resmi IASC lewat iasc.ojk.go.id untuk kasus yang melibatkan transaksi keuangan — OJK menekankan makin cepat laporan masuk, makin besar peluang dana diblokir. Hindari percaya pada pihak yang mengaku “perwakilan IASC” lewat jalur tidak resmi — OJK sendiri mengingatkan modus penipuan yang menyamar sebagai IASC.

Kalau sampai pada titik merasa sangat tertekan secara emosional — apalagi sampai muncul pikiran menyakiti diri sendiri — layanan resmi Kementerian Kesehatan Healing119 tersedia gratis lewat panggilan ke 119 ekstensi 8 atau chat WhatsApp di healing119.id, terhubung dengan konselor secara anonim — sumber: Kemenkes.

Pertanyaan yang Sering Ditanya

Apakah pacar AI dilarang di Indonesia?

Belum. Per Oktober 2026, berdasarkan penelusuran kami ke JDIH Komdigi dan peraturan.go.id, Indonesia tidak memiliki aturan khusus yang melarang atau mengatur AI pendamping romantis seperti yang berlaku di China sejak 15 Juli 2026. Yang ada baru pedoman etika AI yang bersifat umum (SE Menkominfo 9/2023).

Apakah Character.AI atau Replika terkena aturan China ini?

Aturan CAC berlaku untuk layanan AI yang ditawarkan kepada publik di wilayah Republik Rakyat China. Character.AI dan Replika — yang disebut CNA sebagai contoh platform pendamping AI populer di kalangan remaja AS — berbasis di luar China, jadi tidak otomatis terikat aturan CAC kecuali melayani publik di China. Mereka tetap tunduk pada aturan negara tempat layanannya dipakai.

Bagaimana cara memastikan match di aplikasi kencan itu benar-benar bot, bukan manusia?

Tidak ada cara memastikan 100%. Kombinasi tanda seperti balasan super cepat, menolak pindah platform, menghindar video call spontan, dan permintaan beli koin yang terus-menerus bisa jadi indikasi — tapi laporan Anthropic menunjukkan backend bisa memalsukan sinyal seperti like dan “video” rekaman, jadi kewaspadaan tetap perlu dibarengi kehati-hatian soal uang dan data pribadi.

Apakah chatbot customer service bisnis kena aturan larangan AI pendamping ini?

Tidak. CAC secara eksplisit mengecualikan layanan pelanggan cerdas, asisten kerja, tanya-jawab pengetahuan, pendidikan, dan riset ilmiah yang tidak melibatkan interaksi emosional berkelanjutan dari cakupan aturan ini. Chatbot WhatsApp Business atau AI agent customer service yang dipakai bisnis untuk membalas keluhan pelanggan tidak termasuk kategori yang diatur.

Apa yang harus dilakukan kalau merasa tertipu aplikasi kencan AI?

Hentikan transaksi lebih lanjut, simpan bukti percakapan dan pembayaran, lalu laporkan ke kanal resmi — di Indonesia lewat IASC (iasc.ojk.go.id) untuk kasus yang melibatkan transaksi finansial. Kalau aplikasinya ada di toko aplikasi, laporkan juga lewat fitur report di Google Play atau App Store. Jangan mempercayai pihak yang menghubungi lewat jalur tidak resmi mengaku bisa membantu “mengembalikan dana” di luar kanal itu.

Disclaimer: Kami menyusun uraian ini berdasarkan laporan resmi Cyberspace Administration of China, laporan intelijen ancaman Anthropic, liputan CNA, serta sumber regulasi resmi Indonesia yang tercantum di bagian referensi. Kami bukan lembaga hukum atau lembaga riset keamanan siber — kalau kamu butuh nasihat hukum atau menjadi korban penipuan finansial, hubungi kanal resmi yang relevan.

Referensi

• Cyberspace Administration of China, Q&A resmi tentang Langkah Sementara Pengelolaan Layanan Interaksi AI Antropomorfik, 10 April 2026 — cac.gov.cn
• Anthropic, “Detecting and countering misuse of AI: September 2026” (kasus GTG-15001), 10 September 2026 — anthropic.com
• CNA, “‘Serasa ditinggal pacar’: Pengguna AI di China patah hati imbas fitur ‘kekasih AI’ kini dilarang”, 20 Juli 2026 — cna.id
• CNA, “‘Seperti orang sungguhan’: Saat AI menyamar jadi pencari cinta di aplikasi kencan”, 11 Oktober 2026 — cna.id
• Kementerian Kesehatan, layanan Healing119.id — kesprimkom.kemkes.go.id
• OpenAI, “Operation ‘Date Bait’: AI-enabled scam targeting loveseekers”, Februari 2026 — openai.com
• JDIH Kementerian Komunikasi dan Digital, Surat Edaran Menteri Kominfo No. 9 Tahun 2023 — jdih.komdigi.go.id
• Undang-Undang Nomor 27 Tahun 2022 tentang Pelindungan Data Pribadi — peraturan.go.id
• JDIH Komdigi, perkembangan RPerpres Etika KA & Peta Jalan AI Nasional 2026-2029, Mei 2026 — jdih.komdigi.go.id
• OJK, Siaran Pers IASC pengembalian dana korban scam, 21 Januari 2026 — ojk.go.id

Artikel telah diupdate pada 12/10/2026 untuk memastikan artikel tetap sesuai kondisi terkini.