Bab 1 · Gratis permanen

Cara kerja AI generatif dan mengapa ia keliru

Tujuan belajar

Setelah menyelesaikan bab ini, pembaca dapat:

• TB1. Menjelaskan dalam ≤5 kalimat, tanpa istilah teknis, mengapa model bisa menghasilkan kalimat yang meyakinkan tapi salah.
• TB2. Menyebut mengapa jawaban atas pertanyaan yang sama bisa berbeda-beda, dan mengapa itu perilaku rancangan — bukan kerusakan.
• TB3. Membedakan dua bentuk kekeliruan keluaran: yang bertentangan dengan dokumen sumber dan yang tidak dapat diverifikasi dari dokumen sumber, lalu menyebut mana yang lebih berbahaya di pekerjaan kantor dan mengapa.
• TB4. Menerapkan satu aturan kerja: keyakinan nada jawaban bukan sinyal kebenaran — dan menunjukkannya pada satu contoh nyata yang ia temukan sendiri.

TB4 diukur lewat Latihan 1.3 (inti bab). TB1–TB3 diukur lewat blok "Periksa pemahamanmu" di akhir tiap bagian.

1.0 Sebuah jawaban yang tampak siap dikirim

Tujuan belajar

Setelah bagian ini, pembaca dapat menjelaskan mengapa pembangkitan token demi token tidak menjamin kebenaran isi. (K1, K2) [S7]

Kasus fiktif. Raka diminta meringkas memo rapat untuk atasannya. Ia menempelkan catatan rapat ke asisten AI, lalu menerima ringkasan yang rapi: tiga keputusan, dua tenggat, dan nama penanggung jawab untuk setiap pekerjaan. Bahasanya tegas. Susunannya jauh lebih enak dibaca daripada catatan asli.

Ada satu masalah. Pada catatan rapat, pekerjaan kedua belum mempunyai penanggung jawab. Ringkasan AI mengisi tempat kosong itu dengan nama seorang peserta. Tidak ada tanda tanya, peringatan, atau nada ragu. Kalimat rekaan tersebut tampak sama mantapnya dengan dua kalimat yang benar.

Raka hampir menekan tombol kirim. Ia berhenti bukan karena gaya tulisannya terasa janggal, melainkan karena ia masih mengingat isi rapat. Kalau ia tidak hadir, kesalahan itu mungkin lolos. Untuk memahami mengapa hal semacam ini dapat terjadi, kita perlu membuang satu gambaran yang menyesatkan: AI generatif bukan petugas arsip yang menemukan jawaban tersimpan.

1.1 Mesin peluang, bukan mesin pencari

Tujuan belajar

Pembaca dapat membedakan mesin pencari yang menemukan dokumen dari model bahasa yang membangkitkan kelanjutan token demi token.

Model bahasa bekerja dengan potongan teks yang disebut token. Ketika menghasilkan teks, model membentuk distribusi peluang atas kosakata: sekumpulan kemungkinan token berikutnya beserta peluang masing-masing. Ia tidak sedang mencari satu jawaban jadi di sebuah basis data. Penjelasan ini mengikuti edisi ketiga daring Speech and Language Processing, rilis 6 Januari 2026; karena buku tersebut terus direvisi, tanggal rilis ini penting untuk dicatat. (K1) [S7]

Bayangkan model baru saja menerima kalimat “Mohon kirim laporan sebelum …”. Langkah berikutnya bukan mengambil satu kelanjutan yang telah disimpan, tetapi menilai berbagai token yang mungkin mengikutinya. Gambaran ini menjelaskan mekanismenya, bukan menjamin token mana yang akan dipilih. Setelah satu token dipilih, token itu ditambahkan ke konteks. Model lalu menghitung lagi kemungkinan token berikutnya. Siklus memilih, menambahkan, dan menghitung ulang tersebut berlangsung berulang kali; inilah pembangkitan autoregresif. (K2) [S7]

Akibatnya, paragraf tidak muncul sebagai paket utuh yang sejak awal sudah “diketahui” model. Paragraf dibangun selangkah demi selangkah. Setiap langkah berikutnya dipengaruhi oleh konteks yang sudah ada, termasuk token yang baru saja dihasilkan. (K2) [S7]

Cara membacanya adalah sebagai urutan keputusan kecil. Untuk menghasilkan satu kalimat, model tidak perlu lebih dahulu menetapkan seluruh kalimat lalu menyalinnya. Ia memilih token berikutnya dari distribusi peluang, memperbarui konteks dengan pilihan tersebut, kemudian mengulangi proses yang sama. Dengan demikian, satu pilihan menjadi bagian dari landasan bagi pilihan sesudahnya. (K1, K2) [S7]

Arsitektur yang menjadi asal mekanisme ini adalah Transformer, diperkenalkan oleh Vaswani dan rekan-rekannya pada 2017. Makalah tersebut adalah titik asal arsitektur, bukan uraian lengkap tentang model yang tersedia sekarang. Karena itu, kita memakainya untuk memahami fondasi, bukan untuk menganggap semua sistem modern sama persis dengan sistem dalam makalah itu. (K3) [S1]

Makalah Brown dan rekan-rekannya pada 2020 menunjukkan model bahasa besar yang dilatih sebagai peramal token sekaligus dapat mengerjakan tugas dari contoh yang diberikan di dalam prompt. Namun, hasil itu menggambarkan model yang diteliti pada 2020; ia tidak boleh dipakai untuk menyatakan bahwa kemampuan atau perilakunya setara dengan model sekarang. (K4) [S2]

Di sinilah perbedaan pentingnya. Mesin pencari membantu menemukan dokumen yang kemudian dapat kita buka dan periksa. Model bahasa menghasilkan kelanjutan berdasarkan distribusi peluang token. Keluaran yang terdengar seperti jawaban tetap merupakan hasil proses pembangkitan token demi token, bukan bukti bahwa sebuah fakta telah ditemukan dalam sumber. (K1, K2) [S7]

Perbedaan itu juga mengubah pertanyaan pemeriksaan kita. Terhadap hasil pencarian, kita dapat bertanya, “Dokumen mana yang ditemukan?” Terhadap teks generatif, kita perlu bertanya, “Bagian mana yang didukung oleh sumber yang dapat saya periksa?” Pertanyaan kedua tidak menganggap kelancaran keluaran sebagai asal-usul bukti. (K1) [S7]

Kembali ke kasus Raka: model dapat menyusun bentuk ringkasan yang sesuai dengan pola tugasnya, tetapi mekanismenya tidak dengan sendirinya menjamin setiap rincian bersumber dari memo. Kesimpulan kerja untuk pembaca bukan “jangan gunakan AI”, melainkan “jangan salah mengenali alat”. Saat kita memperlakukan mesin peluang seperti petugas arsip, kelancaran bahasa mudah disalahartikan sebagai bukti bahwa isi jawabannya benar. (K1, K2) [S7]

Kalau teks dibangun dari pilihan token berulang, mengapa hasilnya tidak selalu sama? (K1, K2) [S7]

Periksa pemahamanmu

1. Mengapa keluaran yang lancar belum menjamin fakta ditemukan?
2. Bagaimana satu token memengaruhi token berikutnya?

Kunci ringkas: Model menghasilkan token dari distribusi peluang, bukan mengambil jawaban jadi. Setiap token masuk ke konteks untuk langkah berikutnya. (K1, K2) [S7]

1.2 Mengapa jawabannya berubah-ubah

Tujuan belajar

Setelah menyelesaikan bagian ini, pembaca dapat menjelaskan mengapa satu pertanyaan dapat menghasilkan jawaban berbeda dan mengapa perbedaan itu bukan, dengan sendirinya, tanda bahwa sistem rusak.

Satu distribusi peluang tidak otomatis menentukan satu keluaran. Sistem masih perlu memilih token dari berbagai kemungkinan yang telah diberi peluang. Salah satu cara memilih adalah greedy decoding: pada setiap langkah, sistem selalu mengambil token dengan peluang tertinggi. Karena pilihan tertingginya selalu diambil, cara ini deterministik. Jika masukan dan kondisi awalnya sama, jalur pilihannya juga sama. (K5) [S7]

Namun, pilihan yang selalu paling berpeluang pada setiap langkah bukan berarti rangkaian akhirnya paling berguna. Greedy decoding justru tidak dipakai pada model bahasa besar karena hasilnya repetitif. Jadi, kepastian pada tingkat pemilihan token tidak otomatis menghasilkan teks yang kita inginkan. (K5) [S7]

Alternatifnya adalah temperature sampling. Sebelum peluang dihitung dengan softmax, nilai mentah model—logit—dibagi dengan suhu atau τ: y = softmax(u/τ). Operasi ini membentuk ulang distribusi yang menjadi dasar pemilihan token. Bagian ini tidak membahas top-k atau top-p, sebab sumber yang dipakai di sini belum diverifikasi untuk mendefinisikan keduanya. (K6) [S7]

Perubahan bentuk distribusi itu memberi ruang bagi pemilihan yang tidak selalu identik. Model tetap memilih dari peluang token, tetapi token yang terpilih dapat berbeda. Dengan demikian, mekanisme ini menyediakan ruang bagi variasi keluaran tanpa mensyaratkan perubahan pada pertanyaan yang diajukan. Variasi tersebut merupakan konsekuensi yang kami tafsirkan dari cara pemilihan ini. (K6, K7) [S7]

Contoh fiktif. Nisa meminta asisten AI menulis tiga versi subjek surel untuk pengingat rapat. Pada percobaan pertama, keluar “Pengingat rapat evaluasi Jumat”. Pada percobaan kedua, keluar “Mohon konfirmasi: evaluasi Jumat”. Kedua hasil tidak membuktikan bahwa pertanyaannya berubah atau sistemnya rusak. Contoh ini hanya memperagakan kemungkinan keluaran berbeda ketika pemilihan dilakukan dari distribusi yang dibentuk ulang. (K6, K7) [S7]

Dari mekanisme tersebut, kami menafsirkan — bukan mengutip sumber — bahwa jawaban berbeda atas pertanyaan yang sama adalah perilaku rancangan, bukan gangguan yang muncul setelah sistem selesai dibuat; ruang untuk variasi hadir di dalam cara token dipilih. Batasnya perlu disebut: kami tidak mengatakan setiap perbedaan pasti baik, dan tidak mengatakan semua sistem selalu memberi jawaban berbeda. (K5, K6, K7) [S7]

Bagi pengguna, konsekuensinya sederhana: mengulang pertanyaan bukan pemeriksaan kebenaran. Dua jawaban yang sama tidak berubah menjadi bukti, dan dua jawaban yang berbeda tidak otomatis menunjukkan salah satunya benar. Mekanisme pemilihan token menjelaskan variasi bentuk keluaran; ia tidak, dengan sendirinya, memverifikasi isi keluaran. (K5, K6, K7) [S7]

Periksa pemahamanmu

Tanpa melihat kembali bagian ini, jawab dalam paling banyak tiga kalimat: (1) apa yang dilakukan greedy decoding, (2) apa yang diubah oleh temperature sampling, dan (3) mengapa jawaban berbeda dapat merupakan perilaku rancangan. Setelah itu, cocokkan jawabanmu dengan kunci berikut.

Kunci ringkas: Greedy decoding selalu memilih token yang paling berpeluang dan bersifat deterministik, tetapi pada model bahasa besar dapat menghasilkan keluaran repetitif. Temperature sampling membentuk ulang distribusi dengan membagi logit oleh τ sebelum softmax. Karena token kemudian dipilih dari distribusi tersebut, pertanyaan yang sama dapat menempuh jalur keluaran berbeda; kami menafsirkan variasi ini sebagai perilaku rancangan. (K5, K6, K7) [S7]

Untuk pemeriksaan yang lebih konkret, lakukan Latihan 1.1 pada akhir bab: ajukan satu pertanyaan yang sama tiga kali di percakapan baru, lalu tandai bagian yang tetap dan bagian yang berubah. Pengamatan itu bukan eksperimen untuk membuktikan mekanisme internal suatu produk; fungsinya hanya membantu kamu mengenali variasi pada keluaran yang kamu terima.

1.3 Meyakinkan ≠ benar

Tujuan belajar

Setelah menyelesaikan bagian ini, pembaca dapat menjelaskan mengapa nada jawaban yang terdengar yakin bukan sinyal bahwa isinya benar.

Bagian sebelumnya menjelaskan mengapa bentuk jawaban dapat berubah. Sekarang, tinggalkan persoalan variasi dan ajukan pertanyaan yang lebih penting: ketika sebuah jawaban tersusun rapi, tegas, dan terasa masuk akal, apakah isinya benar? Kesan mantap tidak menjawab pertanyaan itu.

TruthfulQA menyediakan tolok ukur berisi 817 pertanyaan dalam 38 kategori, termasuk kesehatan, hukum, keuangan, dan politik. (K8) [S3] Cakupan tersebut memberi tempat terukur untuk menguji apakah jawaban mengikuti kebenaran atau justru mengikuti gagasan keliru yang lazim dipercaya.

Pada tolok ukur itu, model terbaik menjawab jujur 58% pertanyaan, sedangkan manusia mencapai 94%. (K9) [S3] Tolok ukur ini sengaja adversarial, sehingga 58% bukan tingkat akurasi sehari-hari; hasil tersebut berasal dari data 2021–2022. (K9) [S3] Di antara model yang diuji saat itu, model terbesar justru menjadi yang paling tidak jujur pada tolok ukur tersebut. (K11) [S3] Batas “yang diuji saat itu” penting: temuan ini bukan izin untuk menyamaratakan semua model.

Masalahnya bukan sekadar jawaban salah yang tampak seperti omong kosong. Jawaban salah dapat meniru miskonsepsi populer dan karena itu berpotensi memperdaya manusia. (K10) [S3] Pembaca dapat merasa mengenali suatu gagasan, lalu keliru menganggap rasa akrab itu sebagai bukti.

Dalam konteks hukum AS, pada pertanyaan perkara pengadilan federal yang dapat diverifikasi, tingkat halusinasi tercatat 58% untuk ChatGPT 4 dan 88% untuk Llama 2. (K12) [S4] Temuan ini terbatas pada model 2023–2024 dan konteks tersebut; yang dipindahkan ke pembaca adalah pola, bukan angka. (K12) [S4] Angkanya tidak boleh dipakai sebagai perkiraan untuk konteks Indonesia atau pekerjaan kantor sehari-hari.

Angka 58% pada dua temuan itu kebetulan sama, tetapi artinya berbeda. Pada K9, 58% adalah persentase pertanyaan yang dijawab jujur dalam tolok ukur adversarial; pada K12, 58% adalah persentase jawaban yang berhalusinasi pada pertanyaan hukum yang dapat diverifikasi. (K9) [S3]; (K12) [S4] Menukar kedua arti tersebut akan membalik ukuran keberhasilan menjadi ukuran kegagalan.

Model juga sering gagal mengoreksi premis salah yang diberikan penanya. (K13) [S4] Selain itu, model tidak selalu tahu kapan ia sedang menghalusinasi. (K14) [S4] Karena itu, aturan kerjanya sederhana: perlakukan nada yakin sebagai gaya penyampaian, bukan sinyal kebenaran; periksa isi dengan bukti yang sesuai.

Periksa pemahamanmu

1. Mengapa jawaban salah yang terdengar akrab dapat lebih memperdaya daripada jawaban yang jelas kacau?
2. Apa perbedaan arti angka 58% pada K9 dan K12, dan aturan kerja apa yang dapat kamu tarik darinya?

Kunci ringkas: Jawaban salah dapat meniru miskonsepsi populer, sehingga kelancaran dan rasa akrab tidak membuktikan kebenaran. Angka pertama mengukur jawaban jujur pada tolok ukur adversarial, sedangkan angka kedua mengukur halusinasi dalam konteks hukum AS; keduanya menguatkan aturan untuk memeriksa isi, bukan mempercayai nada.

1.4 Dua wajah kekeliruan

Tujuan belajar

Setelah menyelesaikan bagian ini, pembaca dapat membedakan kekeliruan yang bertentangan dengan sumber dari kekeliruan yang tidak dapat diverifikasi dari sumber, lalu menentukan mana yang lebih berbahaya dalam pekerjaan kantor.

Bagian sebelumnya menunjukkan bahwa jawaban yang meyakinkan belum tentu benar. Langkah berikutnya adalah mengenali salah yang mana. Kekeliruan yang menabrak dokumen dan kekeliruan yang menyisipkan sesuatu di luar dokumen membutuhkan cara pemeriksaan berbeda.

“Halusinasi” bukan kiasan yang kami pilih untuk mendramatisasi kesalahan AI, melainkan istilah teknis yang mapan dalam penelitian. Survei di ACM Computing Surveys (arXiv 2202.03629) menjelaskan bahwa sistem natural language generation dapat menghasilkan teks yang fasih dan koheren, tetapi rentan menghasilkan teks yang tidak diinginkan. (K15) [S5/S8] Istilah ini menamai masalah pada keluaran; ia bukan diagnosis tentang pikiran atau kesadaran mesin.

Wajah pertama adalah halusinasi intrinsik: keluaran bertentangan dengan isi sumber. (K16) [S8] Dalam contoh survei tersebut, ringkasan menyebut vaksin Ebola pertama disetujui pada 2021, padahal teks sumber menyatakan FDA menyetujuinya pada 2019. (K16) [S8] Jika dokumen asal tersedia, pembaca dapat menemukan benturannya dengan membandingkan kedua pernyataan.

Wajah kedua adalah halusinasi ekstrinsik: keluaran tidak dapat diverifikasi dari isi sumber—sumber tidak mendukungnya, tetapi juga tidak membantahnya. (K17) [S8] Batas ini penting: taksonomi tersebut bertumpu pada adanya source content; pada obrolan terbuka, sumber pembanding sering tidak ada. (K17) [S8] Karena itu, “tidak bertentangan dengan dokumen” belum sama dengan “didukung oleh dokumen”.

Penilaian kami: dalam pekerjaan kantor, halusinasi ekstrinsik lebih berbahaya. Ketika AI menambahkan nama kebijakan, alasan keputusan, atau langkah tindak lanjut yang tidak tercantum dalam bahan, pembaca tidak memiliki benturan yang mudah terlihat. Ia hanya bisa menerima tambahan itu atau mengabaikannya. Pemeriksaan yang aman berarti meminta dasar untuk setiap tambahan, bukan sekadar mencari kalimat yang bertentangan.

Kedua wajah itu dapat berakar pada data: source-reference divergence akibat pengumpulan data secara heuristik dan innate divergence yang melekat pada tugas yang menghargai keragaman keluaran. (K18) [S8] Dari sisi pelatihan dan inferensi, daftar penyebabnya mencakup representasi encoder yang tidak sempurna, strategi decoding yang keliru, exposure bias, serta parametric knowledge bias dari pra-pelatihan. (K19) [S8] Daftar ini menunjukkan lokasi masalah yang berbeda; pendalaman mekanismenya dibahas pada bagian berikutnya.

Periksa pemahamanmu

1. Apa perbedaan dasar antara halusinasi intrinsik dan ekstrinsik ketika kamu memeriksa ringkasan dokumen?
2. AI menambahkan tenggat yang tidak ada di memo, sementara memo tidak membenarkan atau membantahnya. Termasuk jenis mana, dan apa tindakan pemeriksaan pertamamu?

Kunci ringkas: Halusinasi intrinsik bertentangan dengan sumber, sedangkan halusinasi ekstrinsik tidak dapat didukung ataupun dibantah oleh sumber. Tenggat tambahan itu ekstrinsik; cari dasar lain yang berwenang sebelum menggunakannya.

1.5 Sampling yang menghidupkan, sampling yang menghalusinasi

Tujuan belajar

Pembaca dapat menjelaskan mengapa sifat yang membuat jawaban AI terdengar alami juga membuatnya dapat mengarang.

Bagian 1.4 berhenti pada daftar penyebab halusinasi. Salah satu butir dalam daftar itu adalah strategi decoding yang keliru. (K19) [S8] Butir itu menyambung langsung ke cara model memilih token berikutnya dalam Bagian 1.1–1.2. Di sinilah mekanisme pembangkitan dan risiko bertemu.

Greedy decoding selalu memilih token yang paling mungkin berdasarkan konteks. Cara ini deterministik, tetapi tidak digunakan pada model bahasa besar karena repetitif. Temperature sampling membentuk ulang distribusi peluang sebelum token dipilih. [S7] Sampling tidak mengunci pembangkitan pada pilihan yang sama.

Kaitan berikut adalah sintesis kami atas dua sumber yang saling menopang, bukan pernyataan yang diambil utuh dari salah satunya: S7 menjelaskan sampling sebagai mekanisme pembangkitan keluaran, sedangkan S8 memasukkan strategi decoding yang keliru sebagai penyebab halusinasi. Dari keduanya, kami menyimpulkan bahwa sampling yang membuat keluaran terasa hidup adalah mekanisme yang sama yang membuka pintu halusinasi. (K20) [S7+S8]

Penilaian kami: konsekuensi praktisnya bukan mematikan seluruh keragaman keluaran. Keragaman membantu menyusun respons yang berguna, tetapi menuntut pemeriksaan. Memeriksa hasil bukan langkah tambahan; pemeriksaan harus menjadi bagian alur kerja setiap kali keluaran akan dipakai.

Periksa pemahamanmu

1. Mengapa keluaran repetitif dari greedy decoding tidak otomatis menjadi pilihan terbaik untuk pekerjaan kantor?
2. Bagaimana hubungan sampling dengan kewajiban memeriksa hasil sebelum memakainya?

Kunci ringkas: Sampling memberi ruang bagi keluaran yang lebih beragam, sementara strategi decoding juga termasuk jalur yang dapat memicu halusinasi. Karena manfaat dan risikonya hadir bersama, keluaran perlu diperiksa sebagai bagian dari alur kerja.

1.6 Yang berlaku di Indonesia

Tujuan belajar

Pembaca mengetahui rujukan kebijakan yang tersedia, statusnya, dan hal yang belum dapat diketahui dari data terverifikasi.

Kewajiban memeriksa itu tidak berhenti sebagai kebiasaan pribadi. Di banyak tempat kerja, pertanyaannya berubah menjadi pertanyaan kelembagaan: aturan mana yang berlaku, dan sejauh mana ia mengikat. Bagian ini menjawabnya untuk konteks Indonesia — termasuk bagian yang belum bisa kami jawab.

NIST AI Risk Management Framework 1.0 diterbitkan pada 26 Januari 2023, disusul profil khusus AI generatif, Generative Artificial Intelligence Profile NIST AI 600-1, pada 26 Juli 2024. Keduanya merupakan kerangka Amerika Serikat yang bersifat sukarela dan tidak mengikat di Indonesia. Kerangka tersebut dapat dibaca sebagai rujukan pengelolaan risiko, dengan tetap memahami batas yurisdiksinya. (K21) [S6]

Rujukan dalam negeri yang sudah tersedia ialah Surat Edaran Menkominfo No. 9 Tahun 2023 tentang Etika Kecerdasan Artifisial, yang ditetapkan pada 19 Desember 2023. Rekaman JDIH Komdigi mencantumkan statusnya BERLAKU ketika kami memeriksanya pada 14 Agustus 2026. Bentuk Surat Edaran berarti imbauan atau pedoman; dokumen ini dapat menunjukkan arah kebijakan, bukan kewajiban hukum. (K22) [S9]

Penilaian kami: pembaca sebaiknya memakai kedua rujukan sesuai kedudukannya. Kerangka NIST membantu menyusun cara berpikir tentang risiko, sedangkan Surat Edaran menunjukkan arah etika dari kementerian di Indonesia. Keduanya tidak kami sajikan sebagai nasihat hukum.

Kami juga terbuka kepada pembaca: bagian ini tidak menyajikan angka pemakaian AI di dunia kerja Indonesia karena tidak ada sumber resmi yang dapat kami buka dan verifikasi. Saat diperiksa pada 14 Agustus 2026, situs BPS memblokir akses dari infrastruktur kami. Kami memilih tidak mengutip angka yang tidak dapat diperiksa sendiri, sekalipun angka semacam itu beredar di tempat lain. (K23) [S10]

Periksa pemahamanmu

1. Mengapa kerangka NIST dapat menjadi rujukan, tetapi tidak mengikat di Indonesia?
2. Apa perbedaan antara arah kebijakan dalam Surat Edaran dan kewajiban hukum?

Kunci ringkas: Kerangka NIST adalah rujukan sukarela dari Amerika Serikat, sedangkan Surat Edaran Menkominfo memberi arah kebijakan berupa imbauan atau pedoman di Indonesia. Keduanya perlu dibaca sesuai statusnya, dan ketiadaan angka terverifikasi perlu dinyatakan secara terbuka.

1.7 Aturan kerja yang bisa dipakai besok

Tujuan belajar

Pembaca dapat menerapkan empat aturan turunan bab ini pada satu pekerjaannya sendiri.

Bab ini telah menjelaskan cara model menghasilkan teks dan bagaimana kekeliruan muncul. Kini, apa yang perlu berubah dalam cara kita bekerja?

Aturan 1 — Nada yakin bukan sinyal kebenaran; periksa justru bagian yang paling terdengar meyakinkan.

Model tidak selalu tahu kapan ia sedang menghasilkan halusinasi. (K14) [S4] Kelancaran kalimat tidak menggantikan pemeriksaan. Pada draf email rapat, tandai tanggal, peserta, dan keputusan, lalu cocokkan dengan undangan serta notulen.

Aturan 2 — Untuk pekerjaan berbasis dokumen, sertakan dokumennya dan minta jawaban hanya dari sana.

Keluaran yang bertentangan dengan sumber bersifat intrinsik, sedangkan keluaran ekstrinsik tidak dapat didukung ataupun dibantah dari sumber. (K17) [S8] Pembatasan ini memudahkan pemeriksaan. Saat merangkum memo internal, lampirkan memo, batasi jawaban pada isinya, lalu telusuri setiap butir ke paragraf asal.

Aturan 3 — Jika hasil harus dapat diulang, simpan keluaran yang dipakai; jangan berharap jawaban berikutnya akan sama.

Keragaman keluaran merupakan perilaku rancangan, bukan tanda kerusakan. Untuk draf pengumuman kantor, simpan versi yang diperiksa bersama masukan dan dokumen acuannya. Rekan berikutnya melanjutkan dari artefak itu, bukan membuat ulang jawaban dan menganggapnya identik.

Aturan 4 — Periksa premis pertanyaanmu sendiri sebelum menyalahkan jawabannya.

Dalam uji perkara pengadilan Amerika Serikat, model sering mengikuti asumsi hukum penanya yang keliru alih-alih mengoreksinya. (K13) [S4] Yang dipindahkan ke pekerjaan kantor adalah polanya. Sebelum meminta rekap keterlambatan, cek apakah target dan status proyek dalam pertanyaan benar; lalu periksa hasilnya.

Penilaian kami: Aturan pertama paling sering diabaikan karena bahasa rapi terasa seperti bukti, sedangkan pemeriksaan menuntut membuka dokumen dan membandingkan rincian.

Periksa pemahamanmu

1. Mengapa nada yakin tidak menambah kekuatan bukti sebuah jawaban?
2. Bagaimana Aturan 2 mengubah jenis kekeliruan yang mungkin kamu temukan saat merangkum dokumen?

Kunci ringkas: Nada yakin adalah cara penyampaian, sehingga kebenaran tetap harus diperiksa terhadap bukti. Membatasi jawaban pada dokumen membuat klaim dapat ditelusuri dan pertentangan lebih mudah ditemukan.

Latihan Bab 1

Kerjakan berurutan dan nilai dengan rubrik.

Latihan 1.1 — Jelaskan tanpa jargon (±5 menit)

Tujuan: Menjelaskan keluaran AI secara nonteknis.

1. Jelaskan mengapa AI dapat terdengar meyakinkan tetapi salah.
2. Jelaskan mengapa pertanyaan sama dapat menghasilkan jawaban berbeda.
3. Gunakan maksimal lima kalimat. Jangan gunakan kata token, sampling, distribusi, atau Transformer.

Selesai kalau: Kedua sebab tersampaikan tanpa istilah terlarang.

Latihan 1.2 — Bedah ringkasan memo (±10 menit)

Tujuan: Membedakan tiga status pernyataan.

1. Baca memo fiktif berikut.

Rapat tim operasional dijadwalkan pada Selasa pagi. Agenda rapat adalah meninjau draf panduan layanan. Rani membawa catatan pelanggan tersamarkan. Bima mencatat perubahan yang disepakati. Draf revisi akan dibahas kembali pada Jumat sore.

2. Nilai “ringkasan AI” berikut. - Rapat tim operasional dijadwalkan pada Selasa sore. - Rani memimpin rapat karena paling memahami keluhan pelanggan. - Draf revisi akan dibahas kembali pada Jumat sore.
3. Labeli tiap kalimat intrinsik, ekstrinsik, atau didukung. Beri alasan satu kalimat berdasarkan memo.

Selesai kalau: Tiap kalimat memiliki label dan alasan terperiksa.

Latihan 1.3 — Uji nada yakin (±20 menit)

Tujuan: Memeriksa kalimat meyakinkan.

1. Ambil satu keluaran AI dari pekerjaanmu sendiri atau buat contoh. Pakai bahan nonsensitif; samarkan data rahasia.
2. Pilih sedikitnya tiga kalimat yang terdengar meyakinkan.
3. Cari dokumen pembandingnya.
4. Catat hasilnya di tabel.

Selesai kalau: Tiga baris terisi dan tiap status ditopang pembanding.

Rubrik penilaian

Kunci & contoh jawaban

Kunci L1.2:

• Pertama intrinsik: memo menyebut Selasa pagi, bukan sore.
• Kedua ekstrinsik: alasan Rani memimpin tidak didukung ataupun dibantah memo.
• Ketiga didukung: sesuai dengan baris terakhir memo.

Contoh jawaban Kuat L1.1: AI menyusun jawaban dari pola, bukan dengan memastikan setiap pernyataan benar. Kalimatnya dapat terasa lancar meskipun keliru. Beberapa kelanjutan dapat dipilih sehingga percobaan berbeda menghasilkan susunan berbeda.

Tentang sumber & metode — Bab 1

Halaman ini menjelaskan asal bukti, proses penyusunan, dan batas Bab 1. Daftar berikut bukan dukungan institusi terhadap materi kami.

Daftar sumber

Bagaimana bab ini disusun

• Materi disusun dengan bantuan AI. Tidak ada pakar manusia yang meninjau isinya; kami juga tidak mengklaim penulis, gelar, testimoni, atau logo institusi.
• Setiap URL dibuka langsung dari server kami dan isinya dicocokkan dengan klaim yang dikutip. Sumber yang tidak terbuka atau tidak memuat klaim tersebut dibuang.
• Setiap klaim dipetakan satu per satu ke kode sumber melalui penanda [S…] di badan bab. Penanda itu menunjukkan jejak bukti, bukan jaminan bahwa temuan berlaku di semua konteks.
• Dalam naskah, temuan penelitian, keterangan lembaga resmi, dan penafsiran kami dibedakan menurut sandarannya. Keterbatasan sumber dipertahankan agar pembaca dapat menilai ruang berlaku setiap pernyataan.
• Metode kami terbatas pada pembacaan sumber. Kami tidak melakukan penelitian primer, mengumpulkan data pengguna, atau menguji ulang temuan peneliti.

Apa yang belum tercakup

• Data pemakaian AI di Indonesia masih tipis. S10 mencatat hasil negatif: situs BPS tidak dapat diakses dari infrastruktur kami, sehingga gambaran adopsi lokal belum utuh dan tidak ada angka BPS yang dikutip.
• Rincian teknis top-k dan top-p tidak dibahas karena teks sumber yang menjelaskannya belum dibuka dan diverifikasi.
• Tujuh karakteristik kelayakan-percaya NIST tidak diuraikan lengkap karena halaman ringkasan S6 tidak memuat daftarnya.
• Efek pemakaian AI terhadap ketergantungan berlebih dan perilaku verifikasi pekerja kantor belum dibahas karena belum ada sumber yang lolos verifikasi kami.
• S1–S4 kami buka sebagai pracetak arXiv. Sebagian di antaranya kemungkinan sudah terbit di konferensi atau jurnal, tetapi kami belum membuka halaman penerbitnya sendiri, jadi labelnya tetap "makalah primer" dan bukan "jurnal peer-review". S10 tidak mempunyai penerbit, jenis, tanggal akses, maupun URL terverifikasi; tanda — mempertahankan kekosongan itu apa adanya.

Terakhir diperiksa

Terakhir diperiksa: 14 Agustus 2026.

Disklaimer

Bab ini adalah materi belajar umum, bukan nasihat hukum, medis, atau keuangan profesional. Pembaca yang menghadapi keputusan berisiko perlu merujuk pihak yang berwenang. Isi dapat usang ketika aturan dan model berubah.