Tips Emas
Apa itu drift? Fenomena AI diam-diam mengubah fitur yang ada saat menambah fitur baru. Karena Anda tidak membaca kode, hampir mustahil menemukannya.
Mengapa terjadi? Saat bertanya “ini benar?”, AI menjawab “ya” 58% dari waktu. Terlepas benar atau tidak. Ini disebut bias sanjungan (sycophancy).
Prinsip satu baris: Opini menghasilkan sanjungan, fakta menghasilkan perbaikan.
4 hal yang bisa dilakukan sekarang:
- Jangan percaya “selesai” begitu saja. Cek sendiri di layar
- Catat keputusan penting di requirements.md
- Setelah menambah fitur, cek manual fitur yang sudah ada juga
- Saat percakapan terlalu panjang, mulai sesi baru sambil perbarui file konteks
4 Penyebab
Penyebab 1: Logic Drift — AI diam-diam mengubah kode yang ada. Penyebab 2: Lenyapnya konteks — Keputusan sebelumnya tidak terbawa ke sesi berikutnya. Penyebab 3: Campuran keputusan-implementasi — AI mengira aturan bisnis sebagai detail implementasi. Penyebab 4: Bias sanjungan — Deklarasi palsu “selesai”. Rata-rata penyerahan 58%.
Matematika perkalian: Mengapa runtuh di 5
| Jumlah rantai | Akurasi kumulatif |
|---|---|
| 1 | 97.0% |
| 5 | 85.9% |
| 10 | 73.7% |
| 100 | 4.8% |
Titik buta: Mengulang tidak membantu
“6 kesalahan, ini lokasinya” -> 0 kesalahan = 100%. Opini menghasilkan sanjungan, fakta menghasilkan perbaikan.
Artikel Terkait
Seri Kuliah Reins Engineering Lengkap
| Kelas | Judul |
|---|---|
| Kelas 1 | Cara Memerintah AI |
| Kelas 2 | Cara Tidak Percaya AI |
| Kelas 3 | Aplikasi yang Tidak Rusak |
| Kelas 4 | Keputusan di Luar Kode |
| Kelas 5 | AI dengan Kendali |
| Kelas 6 | Lolos Maka Kunci |
| Kelas 7 | Cara Membalik Sanjungan |
| Kelas 8 | Pabrik Agen |
| Kelas 9 | Otomasi Melampaui Kode |
| Kelas 10 | Hukum Data |