Kefasihan Bukan Kebenaran Gambar: dihasilkan oleh AI

Saya meminta AI untuk meneliti sesuatu, dan hasilnya kembali rapi, terstruktur, penuh keyakinan — dan salah dengan cara yang hanya saya sadari secara kebetulan. Reaksi pertama saya: apakah saya menggunakannya dengan cara yang salah? Literatur mengatakan tidak. Tidak menyadari adalah hasil default bagi orang yang berhati-hati, dan solusinya bukan kewaspadaan. Solusinya adalah mengubah rasa tidak nyaman itu menjadi sesuatu yang bisa diperiksa oleh mesin.

Heuristik Kefasihan yang Diruntuhkan LLM

Manusia berjalan dengan jalan pintas murah: jika sesuatu mudah diproses, kemungkinan besar itu benar. Psikolog menyebutnya heuristik kefasihan, dan sepanjang sebagian besar sejarah itu adalah taruhan yang masuk akal — pembicara yang terdengar fasih, percaya diri, dan koheren biasanya memang lebih kompeten, karena menghasilkan jenis ucapan itu di bawah batasan manusia sulit dipalsukan dalam waktu lama. LLM adalah pembicara massal pertama yang meruntuhkan korelasi itu. Kefasihan sekarang tidak berbiaya apa pun bagi model. Kepercayaan diri adalah distribusi token, bukan sinyal pemahaman yang terverifikasi.

Kesenjangan ini muncul langsung dalam cara orang menilai keluaran AI: diberi jawaban yang sama, orang menilainya lebih percaya diri ketika diberi tahu itu berasal dari AI dibandingkan ketika diberi tahu itu berasal dari manusia (phys.org, 2026-05). Modelnya tidak menjadi lebih yakin pada dirinya sendiri. Prior si pembaca yang berubah.

Pakar Pun Tidak Kebal

Jika ini masalah kurang pengalaman, pelatihan akan menyelesaikannya. Nyatanya tidak.

Dokter yang sudah dilatih dalam diagnosis berbantuan AI tetap gagal menyaring rekomendasi LLM yang terdengar masuk akal namun salah — bias otomasi bertahan melewati pelatihan yang seharusnya menjadi penangkalnya (medRxiv, 2025-08). Itulah mekanismenya, dan lebih buruk dari kedengarannya, karena kesalahan yang lolos bukan jenis yang mudah. Kesalahan tingkat interpretatif lebih sulit ditangkap dibanding kesalahan faktual — nama yang salah atau tanggal yang salah menonjol; bingkai yang salah tidak, karena terdengar masuk akal dan cocok dengan narasi yang sudah diharapkan pembaca (Not Wrong, But Untrue, arXiv:2509.25498). Pengetahuan domain menangkap fakta. Ia tidak secara andal menangkap pembingkaian.

Di balik kedua temuan itu ada celah kalibrasi: LLM melaporkan tingkat kepercayaan diri yang secara sistematis melampaui akurasi sebenarnya. Diukur pada sebelas model dan enam set pertanyaan, rata-rata kepercayaan diri yang dinyatakan adalah 88% berbanding akurasi aktual 79% (Confidence Calibration in Large Language Models, arXiv:2605.23909). Modelnya tidak berbohong soal merasa yakin. Ia salah kalibrasi, dan kesalahan kalibrasi itu terbaca sebagai otoritas.

Merasa Lebih Cepat Padahal Lebih Lambat

Demonstrasi paling jelas bahwa ini bukan masalah pengetahuan datang dari studi METR 2025 terhadap pengembang open-source berpengalaman — 16 pengembang, 246 tugas nyata, repositori dengan rata-rata lebih dari satu juta baris kode. Ini bukan orang-orang yang mempercayai AI secara naif. Mereka bekerja di kode produksi setiap hari.

  • Mereka memperkirakan AI akan membuat mereka 24% lebih cepat.
  • Mereka terukur 19% lebih lambat.
  • Setelah menyelesaikan tugas — dengan biaya waktu sebenarnya sudah berlalu — mereka tetap yakin telah 20% lebih cepat.

Ilusi itu bertahan bahkan setelah tugas selesai dan diukur waktunya. Itulah bagian yang layak direnungkan: pengalaman yang dirasakan bukanlah bukti, dan ia tidak mengoreksi dirinya sendiri. Keadaan “terasa produktif” yang berjalan dan berhasil dikirim bisa bertahan stabil bahkan ketika secara terukur tidak produktif, dan seberapa pun banyaknya pengalaman menjalaninya tidak memperbaiki itu dengan sendirinya.

Untuk bersikap tepat soal apa yang bisa dibebankan pada studi ini: enam belas pengembang adalah sampel kecil, dan METR sendiri secara eksplisit menyatakan bahwa hasilnya spesifik-konteks — maintainer berpengalaman, basis kode matang jutaan baris yang mereka kenal mendalam — dan tidak seharusnya direntangkan menjadi “AI memperlambat semua orang”. Jadi jangan bawa angka 19% itu ke mana pun sebagai estimasi titik. Yang menjadi sandaran argumen ini bukan besarannya melainkan tanda dari celah tersebut: efek terukur negatif, efek yang dipersepsikan positif baik sebelum maupun sesudah pekerjaan, dan estimasi rata-rata pasca-fakta mendarat dekat dengan ekspektasi awal, jauh dari pengukuran. Jika persepsi diri sekadar berisik acak, estimasi setelah-fakta akan tersebar di sekitar kebenaran terukur. Nyatanya tidak. Estimasi itu tetap berada di tempat ekspektasi berada.

Mengapa Ekonomi Verifikasi Runtuh

Sebelum LLM, menilai kualitas keluaran dengan melihat keluarannya adalah proksi yang masuk akal untuk menilai kompetensi produsennya — keduanya berkorelasi, karena kerja yang ceroboh berasal dari produksi yang ceroboh. LLM memutus tautan itu. Kualitas keluaran dan kompetensi produsen tidak lagi terikat, yang berarti evaluasi hanya-artefak berhenti berfungsi sebagai diagnostik (Fluent, Confident, Wrong, ScienceDirect 2026). Verifikasi menjadi lebih mahal daripada produksi.

Lebih buruk lagi, biaya sebuah kesalahan tidak proporsional dengan tingkat kesalahan. Ketika bagian yang salah terbaca persis seperti bagian yang benar — register sama, kepercayaan diri sama, kehalusan sama — Anda tidak bisa melokalisasi kerusakannya, sehingga beberapa persen kontaminasi tidak berbiaya beberapa persen saja. Ia meracuni seluruh ember: setiap klaim dalam keluaran kini membawa kecurigaan dari klaim terburuknya. Itu sebabnya “modelnya benar 95% dari waktu” bukanlah angka menenangkan seperti kedengarannya. Kepercayaan runtuh secara diskontinu jauh sebelum akurasi runtuh.

Hampir tidak ada kebiasaan verifikasi orang yang diperbarui untuk mengimbanginya — dan itu persis celah yang menjadi dasar argumen Ratchet Pattern di situs ini: pembuatan (generation) boleh tetap probabilistik, tapi pemeriksaannya tidak boleh.

Bukan Salah Pakai — Ini Default Populasi

Jadi: apakah saya menggunakannya dengan salah? Literatur mengatakan sebaliknya. Definisi buku teks dari salah pakai adalah memperlakukan kefasihan sebagai sinyal kepercayaan dan mematikan verifikasi — dan itu bukan kasus tepi, itu yang menjadi default bagi kebanyakan orang, termasuk yang terlatih sekalipun. Para dokter dalam studi bias otomasi tidak mempertahankan sinyal ketidaksetujuan mereka. Begitu pula para pengembang dalam studi METR. Jika tetap curiga di hadapan jawaban yang fasih dan terlihat tak terbantahkan terasa seperti paranoia, ada baiknya disadari bahwa itu sudah menempatkan Anda di depan sebagian besar populasi yang terukur — termasuk mereka yang pekerjaannya secara khusus adalah menangkap hal ini.

Ini bukan pengamatan baru untuk situs ini — ini wilayah yang sama dengan yang disinggung sycophancy sebagai fitur bisnis dan mengapa agen bekerja dan mengapa mereka rusak: mode kegagalannya bersifat struktural, bukan kelalaian perhatian pribadi, dan tidak ada jumlah “cukup lebih berhati-hati” yang bisa menskalakan melawannya.

Satu-Satunya Perbaikan

Ada tepat satu penyesuaian yang penting di sini: jangan berhenti pada rasa tidak nyaman. Ubah itu menjadi kriteria penerimaan yang bisa diamati, dan tetapkan kriteria itu sebelum pekerjaan dimulai, bukan sesudahnya. Perasaan tidak mengoreksi dirinya sendiri — METR membuktikannya secara langsung — tetapi pengukuran mengoreksi.

“Mengubah” adalah prosedur, bukan suasana hati. Untuk setiap klaim yang menopang keputusan — yang akan membentuk sebuah keputusan — jawablah dua pertanyaan sebelum Anda membiarkannya lolos:

  1. Apa yang harus benar agar ini berlaku? Keluaran yang fasih jarang menyatakan premisnya; ia menyamarkannya ke dalam bingkai, dan itulah tepatnya sebabnya pengetahuan domain tergelincir darinya. Pertanyaan ini menyeret premis tersembunyi ke tingkat klaim, di mana ia akhirnya bisa diserang.
  2. Apa yang akan saya amati jika ini salah? Ini memaksa klaim tersebut mempertaruhkan sesuatu di dunia nyata. Kesimpulan yang tidak menyiratkan perbedaan yang bisa diamati dari negasinya sendiri bukanlah pengetahuan — itu koherensi, dan koherensi adalah apa yang dioptimalkan model ketika tidak ada yang dipertaruhkan.

Untuk kode hasil AI, kedua pertanyaan itu memampat menjadi satu titik kosong, diisi sebelum kode itu ada: “Jika ini berguna, maka segera setelah dirilis, pengguna dapat ___.” Titik kosong itu harus menyebutkan sebuah tindakan di dunia pengguna, bukan di dunia kode — build yang bersih dan runtime yang lolos adalah pemeriksaan koherensi, bukan pemeriksaan kegunaan. Dan jika Anda tidak bisa mengisi titik kosong itu, itulah keluaran paling berharga dari seluruh prosedur: artinya Anda belum tahu apa yang Anda minta, dan jawaban yang fasih itu hampir saja menyembunyikan hal itu dari Anda.

Semua hal lain dalam literatur mitigasi — memisahkan bahasa yang percaya diri dari fakta yang terverifikasi, memecah keluaran menjadi unit-unit yang dapat diperiksa secara independen, membangun friksi sebelum jawaban yang fasih mendarat — adalah konversi yang sama ini diterapkan pada lapisan yang berbeda.

“Bukankah Ini Cuma Skeptisisme dengan Nama Baru?”

Keberatan yang jelas: “periksa sebelum percaya” adalah apa yang selama ini dimaksud skeptisisme, jadi apa sebenarnya yang baru di sini? Jawabannya adalah kapan penilaian itu terjadi, dan waktu itulah seluruh mekanismenya.

Skeptisisme adalah sikap yang Anda terapkan saat melihat keluaran — dan setiap studi di atas adalah pengukuran dari sikap itu tepatnya gagal. Para dokter tidak mudah percaya; mereka telah dilatih dalam diagnosis berbantuan AI — intervensi yang seharusnya menanamkan tepat sikap ini — dan mereka menatap langsung rekomendasi tersebut. Rekomendasi itu tetap melucuti mereka, karena artefak yang fasih memodulasi penilaian yang diterapkan padanya — itulah hakikat heuristik kefasihan. Kriteria yang ditetapkan sebelum keluaran ada tidak memiliki artefak fasih yang bisa melucutinya. Tidak ada apa pun bagi kepercayaan diri untuk bekerja, karena ujiannya sudah dipatok pada suatu titik waktu yang tidak bisa dijangkau oleh keluaran itu.

Sains melembagakan gerakan yang sama untuk alasan yang sama. Pra-registrasi tidak ada karena peninjau kekurangan skeptisisme; ia ada karena peneliti yang melihat data yang sudah terkumpul bisa merasionalisasi hasil apa pun secara fasih, sehingga bidang ini memindahkan hipotesis ke titik sebelum data. Jika perbedaan ini kosong makna — jika skeptisisme-setelah bekerja sama baiknya dengan kriteria-sebelum — maka evaluator terlatih akan menyaring rekomendasi buruk pada tingkat yang tinggi. Itu justru eksperimen yang dijalankan studi bias otomasi, dan hasilnya negatif.

“Verifikasi Berbiaya Lebih Mahal Daripada Produksi — Siapa yang Mampu?”

Keberatan yang lebih tajam: jika memeriksa keluaran berbiaya lebih mahal daripada menghasilkannya, maka “verifikasi sebelum percaya” adalah saran untuk menjadi lebih lambat dari orang lain, dan sebagian besar keputusan nyata tidak mampu membayarnya. Ini salah membaca preskripsi tersebut dua kali.

Pertama, kriterianya bukan verifikasinya. Menuliskan apa yang akan Anda amati jika klaim itu salah hanya berbiaya satu kalimat, dan Anda hanya membayar biaya pemeriksaan pada klaim yang benar-benar menopang keputusan. Observabel yang ditentukan sebelumnya juga jauh lebih murah untuk diperiksa dibanding mengaudit artefak fasih secara terbuka — sebagian besar biaya verifikasi pasca-fakta bukanlah pemeriksaannya, melainkan tidak tahu harus mulai dari mana, dan kriteria itulah yang meruntuhkan ruang pencarian tersebut.

Kedua, melewati verifikasi tidak menghapus biayanya — ia memindahkannya ke hilir dan mengeluarkannya dari pembukuan. Para pengembang METR tidak menghindari pembayaran; biayanya muncul dalam waktu yang terukur sementara akuntansi yang mereka rasakan mencatat untung. Itulah perbandingan yang salah dipahami oleh keberatan ini. Ini bukan “verifikasi lawan gratis”. Ini verifikasi sekarang, dengan harga dan terlihat, melawan penyerapan kesalahan nanti, tanpa harga dan dicatat sebagai keuntungan.

Tulis Peninjau sebagai Kode

Prosedur dua pertanyaan di atas masih punya titik lemah: ia bergantung pada seseorang yang ingat untuk menjalankannya. Itu kegagalan yang sama, hanya diucapkan ulang satu tingkat lebih tinggi. Disiplin yang hanya hidup di kepala seseorang merosot persis seperti rasa tidak nyaman tadi — tajam pada bacaan pertama yang berhati-hati, lenyap pada bacaan kesepuluh yang sudah fasih. Bentuk yang bertahan lama dari “ubah menjadi kriteria penerimaan yang bisa diamati” bukanlah kebiasaan. Itu adalah langkah build: serahkan kriteria itu ke mesin, dan buat pipeline menolak untuk lolos tanpanya.

Ini bukan hipotesis — inilah yang menjadi gerbang bagi artikel yang sedang Anda baca. Reins adalah framework open-source yang dibangun persis untuk ini: setiap kriteria penerimaan menjadi sebuah quest, sebuah aturan yang mengevaluasi Fact{Where, Expected, Actual} dan melaporkan lolos atau gagal tanpa pernah bertanya apakah prosa di sekitarnya terdengar meyakinkan. Sebelum satu kalimat pun dari tulisan ini ada, seorang manusia sudah menuliskan klaim-klaim spesifik yang diizinkan untuk dibuat; sebuah mesin menyaring draf terhadap daftar itu; dan peninjau yang memeriksa cakupan klaim bekerja dari konteks yang terpisah dari konteks yang menulis draf, karena tinjauan-diri bukanlah tinjauan — abloq, sistem quest yang menjalankan situs ini, mengodekan itu sebagai aturan, bukan permintaan.

Itulah isi sebenarnya dari “jangan hanya mengandalkan rasa.” Bukan kewaspadaan yang lebih besar — melainkan sebuah titik dalam pipeline di mana kewaspadaan tidak lagi menjadi ketergantungan. Dua pertanyaan dari bagian sebelumnya — apa yang harus benar, apa yang akan membuktikannya salah — berhenti menjadi sesuatu yang harus Anda ingat untuk ditanyakan begitu keduanya menjadi aturan gate, bukan sekadar catatan mental. Quest tidak menjadi lelah pada bacaan kesepuluh.

Artikel Terkait

Referensi

Changelog

  • 2026-07-09: Rilis awal