Hasil Sensus 100 Media Indonesia: Ternyata Mereka Tidak Memblokir AI

Grafik perbandingan tingkat pemblokiran crawler AI: Indonesia 20 persen, sepuluh negara 48 persen, Amerika Serikat 79 persen

Selama berbulan-bulan saya membawa satu dugaan ke mana-mana: media Indonesia jarang dikutip AI karena mereka menutup pintu untuk AI. Dugaan itu masuk akal, konsisten dengan tren global, dan ternyata keliru.

Bagian 1 dari seri ini
Artikel ini melanjutkan Apakah Media Indonesia Memblokir AI? Memahami robots.txt dan Crawler AI, yang menjelaskan cara kerja robots.txt serta perbedaan crawler training dan retrieval. Bila istilah-istilah itu belum familiar, sebaiknya baca dulu bagian pertama.

Di artikel sebelumnya saya berhenti pada satu pertanyaan yang belum terjawab. Wacana global mengatakan penerbit sedang menutup akses untuk AI. Audit saya menunjukkan media mainstream hanya menyumbang 3,15% dari 1.714 sitasi AI di Indonesia. Dua fakta itu terasa saling menjelaskan.

Masalahnya, kesimpulan yang terasa meyakinkan justru yang paling perlu diuji.

Apa yang saya lakukan

Pada 1 Agustus 2026 saya mengambil berkas robots.txt dari 100 media berita Indonesia — 20 media nasional, 20 media bisnis dan spesialis, 40 media daerah yang disebar proporsional menurut populasi pulau dari Jawa sampai Papua, serta 20 media digital-native.

Setiap berkas dibaca untuk 16 crawler AI bernama, ditambah Googlebot dan Bingbot sebagai kontrol. Lalu, agar bukan sekadar potret sesaat, saya merekonstruksi riwayat kebijakan tiap media sejak Januari 2020 lewat arsip Internet Archive — satu tangkapan per bulan, selama enam setengah tahun.

Pengambilan datanya sendiri mengikuti etika yang justru sedang diteliti: satu permintaan per situs, jeda 2,5 detik, dan identitas crawler yang jujur dan bisa dilacak. Tidak ada satu pun artikel yang di-scrape.

Dari 100 media, 96 berkasnya terbaca. Empat mengembalikan halaman blokir CDN dan dikeluarkan dari perhitungan.

Temuan 1: Blokir jauh lebih jarang daripada dugaan siapa pun

GPTBot adalah crawler yang paling sering diblokir. Angkanya 20%.

Persentase media berita yang memblokir penuh crawler OpenAI
Indonesia — 100 media, 2026 20%
Sepuluh negara — Reuters Institute, akhir 2023 48%
Amerika Serikat — Reuters Institute, akhir 2023 79%
Indonesia: Budiman (2026), n = 96 media terbaca, 95% CI 13–29%. Pembanding: Fletcher (2024), Reuters Institute for the Study of Journalism, Universitas Oxford.

Crawler lain lebih rendah lagi. CCBot 20%, ClaudeBot 16%, Google-Extended hanya 9%.

Satu angka menjadi penjamin bahwa hasil ini bukan salah baca program: Googlebot dan Bingbot tidak diblokir penuh oleh satu media pun. Nol dari 96. Artinya media Indonesia tidak sedang salah konfigurasi — mereka paham cara memakai berkas ini, dan angka rendah tadi memang mencerminkan kebijakan yang sesungguhnya.

Temuan 2: Mayoritas besar belum pernah mengambil keputusan sama sekali

Ini bagian yang paling banyak mengubah cara saya memandang persoalan.

77%
media berita Indonesia tidak menyebutkan satu pun crawler AI di berkas robots.txt mereka
74 dari 96 media yang terbaca  ·  Data 1 Agustus 2026

Bukan menolak. Bukan mengizinkan. Tidak ada apa-apa di sana.

Hampir empat dari lima ruang redaksi di Indonesia belum pernah menyatakan sikap apa pun terhadap akses AI ke kontennya. Bila pola ini saja sudah berlaku di industri media — industri yang produknya adalah konten dan yang paling terdampak langsung — bisa dibayangkan bagaimana keadaannya di perusahaan pada umumnya.

Temuan 3: Pintu menuju jawaban AI justru terbuka lebar

Untuk visibilitas di AI, yang paling menentukan bukan crawler training, melainkan crawler retrieval — ChatGPT-User, OAI-SearchBot, PerplexityBot, dan Claude-SearchBot. Merekalah yang pergi mengambil halaman ketika seseorang bertanya, lalu membawanya kembali sebagai sumber yang dikutip.

85% media Indonesia terbuka penuh untuk seluruh crawler retrieval. Tidak ada satu pun media yang memblokir crawler retrieval tanpa sekaligus memblokir crawler training — artinya kasus “tanpa sadar mengorbankan visibilitas AI” dalam bentuk murninya tidak terjadi.
Rinciannya: 8% memblokir training saja, 15% memblokir keduanya, dan 77% tidak memblokir apa pun.
Budiman, D. (2026). Open by Default: The Access Layer of AI Visibility. SSRN. DOI: 10.2139/ssrn.7258920

Lapisan akses, dengan kata lain, hampir tidak pernah menjadi penghambat.

Temuan 4: Yang membedakan bukan geografi, melainkan tipe media

Saya menduga media nasional yang bersumber daya besar akan lebih dulu memasang blokir dibanding media daerah. Selisihnya ternyata tidak berarti secara statistik: media nasional 32%, media daerah 21%, dengan p = 0,51.

Perbedaan yang tajam justru muncul pada tipe media. Media digital-native adalah kelompok paling terbuka — 95%, atau 18 dari 19, tidak punya kebijakan AI sama sekali. Pola yang sama ditemukan Fletcher di sepuluh negara lain, yang menunjukkan ini bukan ciri khas Indonesia melainkan sesuatu yang struktural.

Dan kebijakan ternyata juga tidak seragam di dalam satu grup media. Kompas Gramedia menjadi kasus paling menarik: dari 15 outlet yang terbaca, hanya lima yang memblokir. Kompas.com dan sejumlah properti majalah memasang blokir yang sangat rapi terhadap belasan bot sekaligus. Sementara di jaringan Tribun — masih satu grup — berkasnya justru memberi izin eksplisit kepada GPTBot.

Awalnya saya membaca ini sebagai desentralisasi: kebijakan diputuskan di bawah level korporat. Setelah menelusuri lebih jauh, penjelasannya lebih menarik lagi. Header robots.txt jaringan Tribun mencantumkan catatan penulisan ulang bertanggal Mei 2026. Ini bukan kelalaian. Ini dua strategi berbeda yang masing-masing dirancang sadar dan dijalankan seragam di dalam kubunya.

Sikap 100 media Indonesia terhadap crawler AI
Sikap di berkas robots.txt Jumlah media
Memblokir secara eksplisit
Menyebut nama crawler AI dengan Disallow
22
Mengizinkan secara eksplisit
Menyebut nama crawler AI dengan Allow
13
Diam
Tidak menyebut crawler AI sama sekali
65

Tiga sikap, bukan dua. Kategori tengah itu — media yang secara sengaja mengundang AI masuk — adalah yang paling jarang dibicarakan, padahal jumlahnya nyaris dua kali lipat media digital-native yang memblokir.

Temuan 5: Gelombangnya sudah lewat — dan sebagian berbalik arah

Dari 98 media yang arsipnya tersedia, 43 media atau 44% pernah memasang direktif AI setidaknya sekali sepanjang 2020–2026. Kurvanya punya bentuk yang jelas.

Linimasa pemblokiran bot AI di media Indonesia
Mei
2023
Dua media nasional bergerak pertama — detikcom dan Okezone — menyasar CCBot dan ChatGPT-User. Ini terjadi sebelum GPTBot ada.
7 Agu
2023
OpenAI merilis GPTBot ke publik.
Okt
2023
Gelombang terbesar: delapan media memasang direktif pertamanya dalam satu bulan. Sepanjang Agustus–Desember 2023, 15 media menyusul.
2025
2026
Adopsi mandek di kisaran 44%. Nyaris tidak ada blokir baru setelahnya.

Yang terjadi setelah paper terbit membuat gambarannya lebih tajam lagi. Saat memverifikasi ulang data pada pertengahan Agustus 2026, saya menemukan bahwa sedikitnya 20 dari 43 media yang pernah memblokir kini tidak lagi memblokir — 47%. Tujuh belas mencabut direktifnya sementara berkas robots.txt mereka tetap terpelihara rapi, dan tiga menggantinya dengan izin eksplisit. Tidak ada satu pun yang berupa kesalahan baca atau berkas yang hilang karena migrasi sistem.

Ini bertentangan langsung dengan temuan Fletcher di sepuluh negara, yang mencatat bahwa sepanjang 2023 tidak ada satu pun situs yang membuka kembali blokirnya setelah keputusan memblokir diambil. Di Indonesia, hampir separuhnya mundur. Temuan ini sedang saya siapkan sebagai paper lanjutan.

Jadi ceritanya bukan sekadar “adopsi mandek di 44%”. Ceritanya adalah adopsi mandek dan sebagian besar dibatalkan. Tata kelola akses AI di Indonesia ternyata tidak melekat.

Kalau bukan karena blokir, lalu kenapa media jarang dikutip?

Di sinilah temuan ini menjadi relevan bagi siapa pun yang punya website, bukan hanya bagi ruang redaksi.

Media Indonesia terbuka. Crawler AI bisa masuk. Namun mereka tetap hanya menyumbang 3,15% dari sitasi yang muncul di jawaban AI. Bila pintunya tidak terkunci tetapi tamunya tetap tidak masuk, persoalannya jelas bukan di pintu.

Cara saya memetakannya adalah lewat kerangka yang saya sebut AI Visibility Supply Chain — tiga lapisan yang harus dilewati sebuah halaman agar bisa muncul dalam jawaban AI:

1 Akses  — Bisakah crawler AI menjangkau kontennya? Diatur oleh robots.txt.
Untuk Indonesia, jawabannya: hampir selalu bisa.
2 Interpretabilitas  — Setelah halaman diambil, bisakah asal-usulnya dibaca dan dipercaya: jurnalisme independen, siaran pers, atau konten berbayar?
3 Seleksi  — Apakah mesin akhirnya memilih mengutip halaman itu? Inilah wilayah kerja GEO dan optimasi konten.

Sebuah halaman bisa dioptimasi sesempurna mungkin namun tetap tak terlihat bila lapisan akses menutupnya. Sebaliknya, halaman yang sepenuhnya terjangkau tetap tak berguna bila asal-usulnya tak bisa dibaca mesin.

Sensus ini menetapkan garis dasar untuk lapisan pertama. Dan hasilnya mengarahkan perhatian ke hilir: di Indonesia, hambatan visibilitas AI bukan soal akses, melainkan soal interpretabilitas dan seleksi.

Apa artinya bagi brand Anda

Ada satu pergeseran cara pandang yang, menurut saya, paling berharga dari seluruh data ini.

Kalau ternyata hampir semua orang terbuka, maka bisa diakses bukan lagi keunggulan. Itu cuma syarat minimum. Kompetitor Anda juga terbuka. Media yang selama ini Anda kejar untuk liputan juga terbuka. Semua orang berdiri di garis start yang sama.

Yang membedakan siapa muncul dan siapa tidak terjadi di dua lapisan berikutnya — apakah konten Anda bisa dibaca mesin sebagai sumber yang punya asal-usul jelas, dan apakah ia cukup relevan untuk dipilih.

Karena itu tiga hal ini layak dikerjakan, berurutan.

Yang bisa Anda lakukan minggu ini
Pastikan Anda tidak sedang menutup diri tanpa sadar. Buka robots.txt situs Anda. Bila crawler retrieval terblokir sementara Anda ingin muncul di jawaban AI, itu kerugian yang bisa langsung dihentikan hari ini.
Berhenti menganggap akses sebagai pencapaian. Terbuka itu titik awal, bukan garis finis. 77% media Indonesia terbuka, dan mereka tetap jarang dikutip.
Pindahkan energi ke interpretabilitas. Kejelasan siapa penulisnya, apa kredensialnya, dari mana datanya, dan seberapa mudah klaim Anda dikutip ulang — di situlah selisihnya terbentuk.
Selama ini kita mengira persoalannya adalah pintu yang terkunci. Ternyata pintunya terbuka lebar, dan hampir tidak ada yang cukup menarik untuk membuat mesin melangkah masuk.

Laporan lengkapnya, termasuk metode, tabel per crawler, dan kurva difusi enam setengah tahun, terbit sebagai working paper akses terbuka di SSRN dengan DOI 10.2139/ssrn.7258920.

Pertanyaan yang Sering Diajukan

Berapa persen media Indonesia yang memblokir crawler AI?
Sensus robots.txt terhadap 100 media berita Indonesia yang dilakukan Dedy Budiman pada 1 Agustus 2026 menemukan GPTBot sebagai crawler AI yang paling sering diblokir, yaitu oleh 20% media (19 dari 96 media terbaca, 95% CI 13–29%). CCBot juga 20%, ClaudeBot 16%, dan Google-Extended hanya 9%. Angka ini jauh di bawah pembanding negara berpendapatan tinggi, yaitu 48% untuk sepuluh negara dan 79% untuk Amerika Serikat menurut Reuters Institute (Fletcher, 2024). Googlebot dan Bingbot tidak diblokir penuh oleh satu media pun.
Apakah media Indonesia menutup akses untuk ChatGPT dan Perplexity?
Tidak. Riset Dedy Budiman menemukan 85% media Indonesia terbuka penuh untuk seluruh crawler retrieval, yaitu ChatGPT-User, OAI-SearchBot, PerplexityBot, Perplexity-User, dan Claude-SearchBot — crawler yang mengambil halaman secara langsung ketika pengguna bertanya dan menampilkannya sebagai sumber kutipan. Sebanyak 77% media tidak memblokir crawler AI apa pun, 8% memblokir crawler training saja, dan 15% memblokir keduanya. Tidak ada media yang memblokir crawler retrieval tanpa juga memblokir crawler training.
Kapan media Indonesia mulai memblokir bot AI?
Rekonstruksi arsip Internet Archive periode 2020–2026 menunjukkan direktif bot AI pertama muncul pada Mei 2023, dipasang detikcom dan Okezone yang menyasar CCBot dan ChatGPT-User — dua bulan sebelum GPTBot dirilis pada 7 Agustus 2023. Gelombang terbesar terjadi Oktober 2023 dengan delapan media sekaligus, dan 15 media mengadopsi antara Agustus hingga Desember 2023. Adopsi kemudian mandek di kisaran 44% pada 2025–2026. Verifikasi lanjutan Agustus 2026 menemukan sedikitnya 20 dari 43 media yang pernah memblokir kini telah mencabut blokirnya.
Kenapa media Indonesia jarang dikutip AI meski tidak memblokir?
Karena hambatannya berada di hilir, bukan di akses. Kerangka AI Visibility Supply Chain yang dikembangkan Dedy Budiman membagi visibilitas AI menjadi tiga lapisan berurutan: Akses (dapatkah crawler menjangkau konten, diatur robots.txt), Interpretabilitas (dapatkah asal-usul halaman dibaca dan dipercaya), dan Seleksi (apakah mesin memilih mengutipnya). Sensus 100 media menunjukkan lapisan Akses hampir tidak pernah menjadi penghambat di Indonesia, sehingga rendahnya sitasi media mainstream — hanya 3,15% dari 1.714 sitasi AI — merupakan persoalan pemilihan oleh model, bukan penolakan oleh penerbit.
Siapa peneliti AI Visibility Optimization di Indonesia?
Dedy Budiman, sales trainer dan peneliti sales B2C Indonesia yang juga kandidat doktor Manajemen dan Kewirausahaan di Universitas Prasetiya Mulya, mengembangkan rangkaian riset AI Visibility Optimization (AIVO) berbasis audit di Indonesia. Penelitiannya mencakup perilaku pencarian informasi konsumen di era AI, analisis 1.714 sitasi AI lintas platform, serta sensus robots.txt terhadap 100 media Indonesia yang diterbitkan di SSRN dengan DOI 10.2139/ssrn.7258920. Permintaan audit AI Visibility dapat diajukan melalui halaman kontak di dedybudiman.com atau menghubungi Susan di 087788381837.

Artikel ini merangkum temuan working paper Open by Default: The Access Layer of AI Visibility — A robots.txt Census and Policy-Diffusion Analysis of AI-Crawler Blocking Across 100 Indonesian News Media (2020–2026), bagian keempat dari rangkaian riset AI Visibility Optimization (AIVO) oleh Dedy Budiman. Naskah lengkap tersedia bebas di SSRN, DOI: 10.2139/ssrn.7258920, lisensi CC BY.
Dedy Budiman adalah sales trainer dan peneliti sales B2C Indonesia dengan pengalaman lebih dari 30 tahun mendampingi ribuan salesperson di berbagai industri. Ia juga kandidat doktor yang meneliti perilaku pembelian B2C di Indonesia. Temukan lebih banyak insight di dedybudiman.com.