Yang Ditakuti Orang Sebenarnya Bukan AI

Notes menarik minggu ini:
Ada momen yang cukup jujur waktu ngobrol sama agent buat kantor di Hermes: begitu gue lempar ide “masukin AI aja buat ngecek detail tim,” yang muncul bukan diskusi, tapi diam.

Dan diam itu ternyata lebih menarik untuk dibongkar daripada AI-nya sendiri.

AI tidak lebih pintar, dia cuma lebih sulit dinegosiasikan

Orang tidak takut AI karena AI jenius.
Mereka takut karena AI mengubah jenis pertanyaan yang bisa diajukan.

Selama ini, evaluasi kerja berjalan di level narasi:
“menurut kamu gimana,” “tim gue solid, cuma lagi banyak kendala.”
Kalimat semacam itu berfungsi sebagai pelindung sosial.
Bisa dinegosiasikan, dipoles, dipengaruhi hubungan personal.

AI mengubah pertanyaannya jadi:

solid berdasarkan output apa?
Kendalanya berulang atau insidental?
Siapa yang punya ownership?
Keputusan mana yang tertunda?

Ruang untuk ngeles menyempit drastis, dan penilaian jadi terasa impersonal, bukan lagi “Jali menuduh gue,” tapi “sistem menunjukkan ada gap.”

Itu menggeser sumber otoritas:

orang yang biasanya paling dominan dalam ruangan tiba-tiba harus menjawab ke sistem yang tidak punya hierarki sosial untuk diajak berkompromi.

Tapi diam itu sendiri bukan bukti kesalahan.
Bisa juga karena orang merasa diawasi, takut data bocor, membayangkan AI sebagai polisi karena tidak paham cara kerjanya, atau yang paling sering, sadar bahwa operasionalnya sendiri berantakan dan belum siap dilihat serapi itu.

Yang sebenarnya mereka takuti bukan AI-nya.
Yang mereka takuti adalah hilangnya monopoli atas interpretasi.

Bedanya dievaluasi dan diaudit

Kebanyakan orang sebenarnya terbiasa dinilai.
Yang mereka belum terbiasa adalah dipertanggungjawabkan secara transparan dan berulang.

Evaluasi sosial dan audit itu dua hal berbeda.

Evaluasi sosial masih bisa dinegosiasikan “menurut kamu kerjaan saya gimana” punya banyak jawaban yang sama-sama sah.

Audit tidak punya ruang itu:
ini targetnya, ini output-nya, ini timeline-nya, ini keputusan yang diambil, jelaskan gap-nya.

Audit menyentuh kompetensi dan status, membuka keputusan lama yang ternyata salah, memperlihatkan kontribusi yang timpang, dan menyimpan semuanya sebagai rekam jejak yang bisa dibandingkan nanti, dilakukan oleh sistem yang tidak punya hubungan emosional dengan siapa pun di ruangan itu.

Tapi reaksi defensif bukan otomatis bukti bersalah.
Audit yang datang mendadak, tanpa batas data yang jelas, tanpa aturan akses, dengan kesan “AI akan mencari kesalahan,” itu memang wajar bikin orang menutup diri.

Audit yang sehat butuh kontrak yang jelas dari awal: apa yang diperiksa, data apa yang dipakai, apa yang tidak diperiksa, siapa yang boleh melihat hasil, bahwa AI hanya menganalisis dan tidak memutuskan, bahwa setiap temuan bisa ditelusuri ke bukti, dan bahwa orang diberi ruang mengoreksi konteks.

Framing juga menentukan banyak hal. “AI akan ngecek kalian” langsung bikin defensif.
“AI kita pakai sebagai second reader, bantu merangkum pola dari data, tapi keputusan tetap di manusia, dipakai untuk menemukan blind spot bukan mencari kambing hitam” menurunkan ancaman tanpa mengorbankan fungsi utamanya: membuat yang kabur jadi terlihat dan bisa diaudit.

Efisiensi tidak otomatis manusiawi

Ini bagian yang paling penting:
AI bukan kompas moral, dia pengungkit.
Dia memperbesar kualitas orang yang mengoperasikannya apa pun kualitas itu.

Dipegang orang yang cuma mengejar angka, AI dipakai memangkas orang, mempercepat kerja tanpa memperbaiki sistem, mengawasi tiap gerak, mencari siapa yang salah. Efisien di spreadsheet, tapi manusianya diperas. Itu bukan efisiensi manusiawi, itu industrialisasi tekanan.

Dipegang orang yang takut kehilangan kontrol, AI jadi tempat sembunyi: “AI menyarankan begitu,” padahal keputusan tetap manusia yang ambil, AI dijadikan kambing hitam atau otoritas palsu. Dipegang orang yang malas berpikir, semua dilempar ke AI tanpa konteks dan tanpa verifikasi, hasilnya bukan efisiensi, tapi otomatisasi kebodohan.

Baru dipegang orang yang ingin memahami sistem dan punya rasa tanggung jawab, AI jadi sehat: merapikan data, menemukan pola, menguji asumsi, mengurangi kerja repetitif, membebaskan waktu untuk keputusan yang butuh empati dan judgment.

Orang semacam ini tidak cuma bertanya “bisa dibuat lebih cepat?” tapi juga: cepat untuk tujuan apa, siapa yang diuntungkan, siapa menanggung risikonya, apa yang hilang kalau ini diotomatisasi, apakah orang yang terdampak masih bisa mengoreksi, dan apakah keputusan ini masih bisa dijelaskan enam bulan lagi.

Rumusnya sederhana:
AI efektif = kualitas pertanyaan × kualitas konteks × kualitas judgment manusia.
Operator yang jernih, AI membantu berpikir.
Operator yang penasaran, AI membantu menemukan.
Operator yang takut diaudit, AI dipakai untuk mengontrol.
Operator yang haus kuasa, AI jadi alat pengawasan.

Teknologi yang sama, dua organisasi berbeda:
satu jadi lebih ringan bebannya, satu lagi jadi tempat semua orang dipaksa kerja lebih keras.

Dalam kerja tim, bedanya bukan “kita pakai AI supaya tim ini bisa diperas lebih banyak” versus “kita pakai AI supaya pengetahuan tidak hilang, kerja manual berulang berkurang, masalah terlihat lebih awal, dan manusia punya ruang untuk kerja yang memang butuh pengalaman, intuisi, relasi, dan tanggung jawab.”

AI merangkum data, manusia memutuskan strategi. AI menunjukkan katalog yang belum lengkap, manusia memvalidasi. AI mendeteksi bottleneck, manusia bicara langsung dengan orangnya. AI boleh mempercepat diagnosis, tapi manusia tetap yang memikul konsekuensi keputusan.

Manusia macam apa yang cocok dibantu AI

Pertanyaan yang lebih penting dari “AI bisa melakukan apa” adalah:
manusia macam apa yang ingin kita bantu jadi lebih kuat dengan AI?

Bukan yang paling pintar atau paling teknis.

Yang cocok adalah manusia yang cukup percaya diri untuk melihat dirinya sendiri tanpa buru-buru membela diri. Penasaran, bukan cuma mencari pembenaran. Tahan melihat fakta yang tidak nyaman, bahwa asumsi atau keputusannya sendiri bisa salah.

Punya judgment, tidak menelan output mentah-mentah. Bisa membedakan data, tafsir, dan keputusan. Punya rasa tanggung jawab, tidak lari dari konsekuensi dengan bilang “AI yang bilang.”

Peduli pada orang yang terdampak, bukan melihat mereka sekadar unit output.
Mau mendokumentasikan, tidak menyimpan semua pengetahuan di kepala atau di obrolan informal. Dan tahu kapan menarik batas, kapan AI tidak boleh dipakai, kapan keputusan harus balik ke manusia.

Ada satu kualitas yang paling menentukan:
kemauan untuk membuat dirinya dan sistemnya lebih terlihat.
AI efektif kalau konteksnya jelas, dan membuat konteks jelas berarti membuka siapa melakukan apa, keputusan diambil berdasarkan apa, bagian mana yang macet, apa yang belum diketahui, siapa yang bertanggung jawab.

Manusia yang hidup dari kabut akan terganggu oleh AI.
Manusia yang ingin memperbaiki sistem akan terbantu olehnya.

Tapi jangan salah kira ini soal jadi lembut terus.
Manusia yang baik untuk dibantu AI kadang justru harus tegas:
“ini bukan masalah orangnya dulu, kita cek sistemnya,”
“ini bukan opini, mana buktinya,”
“ini bukan efisiensi kalau beban cuma dipindahkan ke orang lain,”
“kalau keputusan ini penting, kita dokumentasikan.”

Manusia ideal untuk AI, singkatnya:
rendah hati terhadap fakta, keras terhadap kekacauan, tetap lembut terhadap manusia.