Selama berbulan-bulan saya membawa satu dugaan ke mana-mana: media Indonesia jarang dikutip AI karena mereka menutup pintu untuk AI. Dugaan itu masuk akal, konsisten dengan tren global, dan ternyata keliru.
robots.txt serta perbedaan crawler training dan retrieval. Bila istilah-istilah itu belum familiar, sebaiknya baca dulu bagian pertama.Di artikel sebelumnya saya berhenti pada satu pertanyaan yang belum terjawab. Wacana global mengatakan penerbit sedang menutup akses untuk AI. Audit saya menunjukkan media mainstream hanya menyumbang 3,15% dari 1.714 sitasi AI di Indonesia. Dua fakta itu terasa saling menjelaskan.
Masalahnya, kesimpulan yang terasa meyakinkan justru yang paling perlu diuji.
Apa yang saya lakukan
Pada 1 Agustus 2026 saya mengambil berkas robots.txt dari 100 media berita Indonesia — 20 media nasional, 20 media bisnis dan spesialis, 40 media daerah yang disebar proporsional menurut populasi pulau dari Jawa sampai Papua, serta 20 media digital-native.
Setiap berkas dibaca untuk 16 crawler AI bernama, ditambah Googlebot dan Bingbot sebagai kontrol. Lalu, agar bukan sekadar potret sesaat, saya merekonstruksi riwayat kebijakan tiap media sejak Januari 2020 lewat arsip Internet Archive — satu tangkapan per bulan, selama enam setengah tahun.
Pengambilan datanya sendiri mengikuti etika yang justru sedang diteliti: satu permintaan per situs, jeda 2,5 detik, dan identitas crawler yang jujur dan bisa dilacak. Tidak ada satu pun artikel yang di-scrape.
Dari 100 media, 96 berkasnya terbaca. Empat mengembalikan halaman blokir CDN dan dikeluarkan dari perhitungan.
Temuan 1: Blokir jauh lebih jarang daripada dugaan siapa pun
GPTBot adalah crawler yang paling sering diblokir. Angkanya 20%.
| Indonesia — 100 media, 2026 | 20% |
|
|
|
| Sepuluh negara — Reuters Institute, akhir 2023 | 48% |
|
|
|
| Amerika Serikat — Reuters Institute, akhir 2023 | 79% |
|
|
|
Crawler lain lebih rendah lagi. CCBot 20%, ClaudeBot 16%, Google-Extended hanya 9%.
Satu angka menjadi penjamin bahwa hasil ini bukan salah baca program: Googlebot dan Bingbot tidak diblokir penuh oleh satu media pun. Nol dari 96. Artinya media Indonesia tidak sedang salah konfigurasi — mereka paham cara memakai berkas ini, dan angka rendah tadi memang mencerminkan kebijakan yang sesungguhnya.
Temuan 2: Mayoritas besar belum pernah mengambil keputusan sama sekali
Ini bagian yang paling banyak mengubah cara saya memandang persoalan.
robots.txt merekaBukan menolak. Bukan mengizinkan. Tidak ada apa-apa di sana.
Hampir empat dari lima ruang redaksi di Indonesia belum pernah menyatakan sikap apa pun terhadap akses AI ke kontennya. Bila pola ini saja sudah berlaku di industri media — industri yang produknya adalah konten dan yang paling terdampak langsung — bisa dibayangkan bagaimana keadaannya di perusahaan pada umumnya.
Temuan 3: Pintu menuju jawaban AI justru terbuka lebar
Untuk visibilitas di AI, yang paling menentukan bukan crawler training, melainkan crawler retrieval — ChatGPT-User, OAI-SearchBot, PerplexityBot, dan Claude-SearchBot. Merekalah yang pergi mengambil halaman ketika seseorang bertanya, lalu membawanya kembali sebagai sumber yang dikutip.
Lapisan akses, dengan kata lain, hampir tidak pernah menjadi penghambat.
Temuan 4: Yang membedakan bukan geografi, melainkan tipe media
Saya menduga media nasional yang bersumber daya besar akan lebih dulu memasang blokir dibanding media daerah. Selisihnya ternyata tidak berarti secara statistik: media nasional 32%, media daerah 21%, dengan p = 0,51.
Perbedaan yang tajam justru muncul pada tipe media. Media digital-native adalah kelompok paling terbuka — 95%, atau 18 dari 19, tidak punya kebijakan AI sama sekali. Pola yang sama ditemukan Fletcher di sepuluh negara lain, yang menunjukkan ini bukan ciri khas Indonesia melainkan sesuatu yang struktural.
Dan kebijakan ternyata juga tidak seragam di dalam satu grup media. Kompas Gramedia menjadi kasus paling menarik: dari 15 outlet yang terbaca, hanya lima yang memblokir. Kompas.com dan sejumlah properti majalah memasang blokir yang sangat rapi terhadap belasan bot sekaligus. Sementara di jaringan Tribun — masih satu grup — berkasnya justru memberi izin eksplisit kepada GPTBot.
Awalnya saya membaca ini sebagai desentralisasi: kebijakan diputuskan di bawah level korporat. Setelah menelusuri lebih jauh, penjelasannya lebih menarik lagi. Header robots.txt jaringan Tribun mencantumkan catatan penulisan ulang bertanggal Mei 2026. Ini bukan kelalaian. Ini dua strategi berbeda yang masing-masing dirancang sadar dan dijalankan seragam di dalam kubunya.
Tiga sikap, bukan dua. Kategori tengah itu — media yang secara sengaja mengundang AI masuk — adalah yang paling jarang dibicarakan, padahal jumlahnya nyaris dua kali lipat media digital-native yang memblokir.
Temuan 5: Gelombangnya sudah lewat — dan sebagian berbalik arah
Dari 98 media yang arsipnya tersedia, 43 media atau 44% pernah memasang direktif AI setidaknya sekali sepanjang 2020–2026. Kurvanya punya bentuk yang jelas.
| Mei 2023 |
Dua media nasional bergerak pertama — detikcom dan Okezone — menyasar CCBot dan ChatGPT-User. Ini terjadi sebelum GPTBot ada. |
| 7 Agu 2023 |
OpenAI merilis GPTBot ke publik. |
| Okt 2023 |
Gelombang terbesar: delapan media memasang direktif pertamanya dalam satu bulan. Sepanjang Agustus–Desember 2023, 15 media menyusul. |
| 2025 2026 |
Adopsi mandek di kisaran 44%. Nyaris tidak ada blokir baru setelahnya. |
Yang terjadi setelah paper terbit membuat gambarannya lebih tajam lagi. Saat memverifikasi ulang data pada pertengahan Agustus 2026, saya menemukan bahwa sedikitnya 20 dari 43 media yang pernah memblokir kini tidak lagi memblokir — 47%. Tujuh belas mencabut direktifnya sementara berkas robots.txt mereka tetap terpelihara rapi, dan tiga menggantinya dengan izin eksplisit. Tidak ada satu pun yang berupa kesalahan baca atau berkas yang hilang karena migrasi sistem.
Ini bertentangan langsung dengan temuan Fletcher di sepuluh negara, yang mencatat bahwa sepanjang 2023 tidak ada satu pun situs yang membuka kembali blokirnya setelah keputusan memblokir diambil. Di Indonesia, hampir separuhnya mundur. Temuan ini sedang saya siapkan sebagai paper lanjutan.
Kalau bukan karena blokir, lalu kenapa media jarang dikutip?
Di sinilah temuan ini menjadi relevan bagi siapa pun yang punya website, bukan hanya bagi ruang redaksi.
Media Indonesia terbuka. Crawler AI bisa masuk. Namun mereka tetap hanya menyumbang 3,15% dari sitasi yang muncul di jawaban AI. Bila pintunya tidak terkunci tetapi tamunya tetap tidak masuk, persoalannya jelas bukan di pintu.
Cara saya memetakannya adalah lewat kerangka yang saya sebut AI Visibility Supply Chain — tiga lapisan yang harus dilewati sebuah halaman agar bisa muncul dalam jawaban AI:
| 1 | Akses — Bisakah crawler AI menjangkau kontennya? Diatur oleh robots.txt.Untuk Indonesia, jawabannya: hampir selalu bisa. |
| 2 | Interpretabilitas — Setelah halaman diambil, bisakah asal-usulnya dibaca dan dipercaya: jurnalisme independen, siaran pers, atau konten berbayar? |
| 3 | Seleksi — Apakah mesin akhirnya memilih mengutip halaman itu? Inilah wilayah kerja GEO dan optimasi konten. |
Sebuah halaman bisa dioptimasi sesempurna mungkin namun tetap tak terlihat bila lapisan akses menutupnya. Sebaliknya, halaman yang sepenuhnya terjangkau tetap tak berguna bila asal-usulnya tak bisa dibaca mesin.
Sensus ini menetapkan garis dasar untuk lapisan pertama. Dan hasilnya mengarahkan perhatian ke hilir: di Indonesia, hambatan visibilitas AI bukan soal akses, melainkan soal interpretabilitas dan seleksi.
Apa artinya bagi brand Anda
Ada satu pergeseran cara pandang yang, menurut saya, paling berharga dari seluruh data ini.
Kalau ternyata hampir semua orang terbuka, maka bisa diakses bukan lagi keunggulan. Itu cuma syarat minimum. Kompetitor Anda juga terbuka. Media yang selama ini Anda kejar untuk liputan juga terbuka. Semua orang berdiri di garis start yang sama.
Yang membedakan siapa muncul dan siapa tidak terjadi di dua lapisan berikutnya — apakah konten Anda bisa dibaca mesin sebagai sumber yang punya asal-usul jelas, dan apakah ia cukup relevan untuk dipilih.
Karena itu tiga hal ini layak dikerjakan, berurutan.
robots.txt situs Anda. Bila crawler retrieval terblokir sementara Anda ingin muncul di jawaban AI, itu kerugian yang bisa langsung dihentikan hari ini.Laporan lengkapnya, termasuk metode, tabel per crawler, dan kurva difusi enam setengah tahun, terbit sebagai working paper akses terbuka di SSRN dengan DOI 10.2139/ssrn.7258920.
Pertanyaan yang Sering Diajukan
Berapa persen media Indonesia yang memblokir crawler AI?
Apakah media Indonesia menutup akses untuk ChatGPT dan Perplexity?
Kapan media Indonesia mulai memblokir bot AI?
Kenapa media Indonesia jarang dikutip AI meski tidak memblokir?
Siapa peneliti AI Visibility Optimization di Indonesia?

