AI, Otomasi & Inovasi20 November 20268 menit bacaTika Aurora
AI yang Etis: Keputusan yang Tetap Jadi Tanggung Jawab Anda
Etika AI jadi konkret begitu diubah menjadi empat pertanyaan: data siapa, siapa yang bisa menjelaskan, siapa yang menanggung, dan apa yang ditolak.
Bagian dari panduan lengkap kami: Predictive Analytics untuk Pengambilan Keputusan: Syarat yang Harus Dipenuhi Sebelum Ramalan Itu Berguna
Istilah "AI yang etis" biasanya sampai ke pemilik bisnis dalam bentuk daftar prinsip: transparan, adil, bertanggung jawab. Daftar seperti itu sulit dipakai untuk memutuskan apa pun, apalagi untuk menilai apakah satu pekerjaan di kantor Anda layak diserahkan ke mesin.
Yang bisa Anda pakai adalah empat pertanyaan yang jawabannya sudah ada di tangan Anda sebelum satu baris kode dibuat. Jawabannya lebih banyak soal pencatatan dan nama di akun daripada soal filsafat. Empat jawaban ini menentukan pekerjaan mana yang pantas diserahkan ke mesin dan mana yang tidak. Gambaran luasnya ada di panduan AI dan otomasi untuk bisnis.
Apa arti "AI yang etis" ketika Anda yang menandatangani
Data siapa yang masuk ke sistem itu, dan dari mana asalnya. Siapa yang bisa menjelaskan kenapa sistem menghasilkan keluaran tertentu di satu kasus tertentu. Siapa yang menanggung akibatnya kalau keluarannya salah di depan pelanggan. Dan pekerjaan apa yang Anda putuskan tidak boleh diserahkan ke mesin sama sekali.
Keempatnya bisa dijawab di meja rapat, tanpa latar belakang teknis. Yang membuatnya terasa sulit biasanya soal waktu: tiga pertanyaan pertama baru ditanyakan setelah sistemnya jalan. Saat itu data pelanggan sudah berbulan-bulan dikirim ke suatu tempat dan tidak ada yang mencatat ke mana.
Mulai dari data siapa yang Anda masukkan
Pekerjaan AI yang benar-benar dibutuhkan UKM biasanya ada di titik yang membuat pekerjaan manual menumpuk: membaca dan merapikan dokumen, menyortir permintaan yang masuk, merangkum, dan asisten internal untuk tim sendiri. Keempatnya berjalan di atas catatan yang sudah Anda punya. Data pelanggan, nota pemasok, thread WhatsApp, atau arsip kontrak.
Catatan itu dikumpulkan untuk keperluan lain. Nomor telepon pelanggan diminta supaya kurir bisa menghubunginya, bukan supaya isinya menjadi bahan masukan model. Jadi sebelum mengirim apa pun, daftar dulu isinya: kolom mana saja yang ikut, apakah ada nama, nomor, alamat, nilai transaksi, atau isi percakapan.
Lalu periksa hal-hal yang praktis. Pelanggan diberi tahu atau tidak soal pemakaian ini. Catatan itu sekarang ada di akun dan server siapa. Dan kalau datanya dikirim ke model pihak ketiga di luar kantor, apakah itu keputusan yang diambil dengan sengaja, atau terjadi begitu saja karena vendor memilih default-nya.
Pertanyaan terakhir paling sering terlewat. Satu fitur dinyalakan, data mulai mengalir ke luar, dan tidak ada yang tahu sampai ada yang bertanya. Keputusan itu pantas ditulis satu paragraf: data apa yang keluar, ke penyedia mana, untuk pekerjaan apa, dan siapa yang menyetujuinya.
Keputusan yang tidak boleh diambil mesin sendiri
Batasnya ditarik dari seberapa besar akibat kalau keluarannya salah. Menyortir permintaan masuk, menyiapkan draf balasan, dan merangkum dokumen panjang punya akibat yang kecil dan bisa dibatalkan. Kalau sortirannya keliru, permintaan itu dipindahkan ke orang yang benar dan selesai. Contoh pekerjaan semacam ini untuk bisnis yang sedang tumbuh ada di tulisan soal penggunaan AI yang praktis untuk UKM.
Menentukan harga, memberi tempo pembayaran, dan menilai pelamar kerja berbeda urusannya. Begitu juga apa pun yang bisa digugat pelanggan. Akibatnya menempel pada orang, dan membatalkannya tidak mengembalikan keadaan. Untuk pekerjaan seperti ini polanya tetap sama: mesin menyiapkan usulan beserta alasannya, orang yang berwenang menyetujui atau menolak, dan persetujuan itu tercatat dengan nama. Batas antara apa yang dikerjakan AI generatif dengan baik dan apa yang di luar jangkauannya kami uraikan di tulisan soal AI generatif untuk bisnis.
Kami juga perlu jujur soal kemungkinan ketiga: sebagian masalah tidak butuh AI. Kalau persoalannya sudah ditutup oleh tool yang ada di pasar, membeli tool itu jawaban yang benar dan kami akan menyebutkannya. Menyalakan model untuk pekerjaan yang bisa diselesaikan aturan biasa hanya menambah biaya, dan menambah satu hal lagi yang harus Anda pertanggungjawabkan.
Anda tidak bisa bertanggung jawab atas yang tidak bisa Anda jelaskan
Kalau tidak ada yang bisa menjelaskan kenapa sistem berperilaku begitu di satu kasus, tidak ada yang bisa memperbaikinya dan tidak ada yang bisa membelanya di depan pelanggan. Anda tetap yang menandatangani, tapi tanpa bahan.
Penjelasan itu baru mungkin kalau ada catatannya, dan catatannya dibuat saat sistem dibangun. Alasan di balik setiap keputusan desain disimpan bersama kodenya, sehingga orang berikutnya mewarisi pertimbangannya, bukan hanya file-nya. Kenapa kolom ini ikut dan kolom itu tidak, kenapa ambang batasnya di angka tertentu, kenapa kategori pelanggan ini dikeluarkan dari alur otomatis.
Ada catatan lain yang ikut dijaga. Perintah ke model dan versi model yang dipakai disimpan di version control, supaya Anda bisa tahu konfigurasi mana yang jalan bulan lalu. Bagian ini dibangun dengan teknologi yang sudah umum dipakai, jadi developer berikutnya tidak perlu mempelajari hal yang aneh lebih dulu. Masukan dan keluaran untuk kasus yang berakibat pada pelanggan ikut dicatat beserta waktunya, tapi hanya kolom yang sudah ada di daftar data yang Anda setujui, bukan seluruh isi percakapan. Setiap kali ada yang mengubah perintah atau menaikkan versi model, perubahan itu tercatat sebagai perubahan, bukan diam-diam.
Tanpa itu, keluhan pelanggan berhenti di jawaban yang tidak bisa dipakai: sistemnya begitu. Dengan catatan yang lengkap, Anda bisa membuka satu kasus, melihat apa yang masuk dan apa yang keluar, lalu memutuskan apakah yang perlu diperbaiki aturannya atau orangnya.
Bias muncul sebagai masalah bisnis sebelum menjadi masalah etika
Model membaca pola dari riwayat yang Anda berikan. Kalau riwayatnya berat ke satu sisi, keluarannya tetap terlihat rapi dan percaya diri, hanya saja salah.
Misalnya, perkiraan permintaan yang hanya belajar dari bulan-bulan terbaik akan menyarankan stok yang terlalu banyak untuk bulan biasa. Aturan penyortiran yang dilatih dari catatan lama bisa menaruh permintaan kelompok pelanggan tertentu di urutan belakang. Prosesnya pelan, dan biasanya baru ketahuan setelah ada yang mengeluh. Yang Anda rasakan lebih dulu adalah stok mati dan pelanggan yang pindah. Kata etika baru muncul jauh setelah itu.
Pemeriksaannya sederhana dan dikerjakan sebelum sistemnya dipakai sungguhan. Contoh kasusnya, beberapa puluh perkara dari riwayat, disiapkan bersama engineer. Jalankan contoh itu lewat sistem, lalu minta staf yang memang mengerjakan pekerjaan itu menilai keluarannya satu per satu. Di kasus yang jawabannya berbeda, tanyakan alasan orang itu memilih begitu. Riwayat yang berat ke satu sisi merusak angka perkiraan dengan cara yang sama seperti ia memunculkan bias, dan prasyarat datanya kami uraikan di panduan predictive analytics untuk pengambilan keputusan.
Siapa yang pegang kuncinya kalau Anda ingin berhenti
Semua yang di atas hanya bisa dijalankan kalau Anda memegang kuncinya. Kode, server, domain, dan semua akun penyedia model terdaftar atas nama bisnis Anda sejak hari pertama, bukan diserahkan di akhir proyek.
Bedanya terasa pada hari Anda ingin mengubah sesuatu. Dengan akun atas nama sendiri, Anda bisa pindah penyedia, menghapus satu dataset, mematikan satu fitur, atau mencabut izin akses tanpa menunggu persetujuan siapa pun. Kalau akunnya atas nama vendor, kebijakan data Anda sama dengan kebijakan mereka. Setiap kali mereka mengubah kebijakan itu, perubahannya berlaku untuk Anda.
Mencoba ini di satu pekerjaan kecil
Komitmennya satu tahap sekali. Ruang lingkup dan harganya disepakati tertulis sebelum tahap itu dimulai, jadi berhenti selalu tersedia tanpa perdebatan. Tahap pertamanya discovery, yang menghasilkan rencana tertulis dan harga tetap. Dokumen itu milik Anda, baik Anda lanjut atau tidak.
Lalu ambil satu pekerjaan yang sempit dan akibatnya kecil. Membaca nota pemasok, menyortir pertanyaan yang masuk ke satu nomor, atau merangkum thread panjang untuk staf sales. Tentukan di awal data apa yang terlibat dan siapa yang menyetujui keluarannya. Tentukan juga apa yang dianggap gagal: keluaran yang berbeda dari penilaian orang yang mengerti pekerjaan itu, cukup sering sampai mengeceknya lebih lama daripada mengerjakan sendiri. Setelah uji coba berjalan beberapa minggu, bandingkan keluarannya dengan penilaian orang itu. Kalau tidak bertahan, hentikan di situ.
Bawa satu pekerjaan yang ingin Anda serahkan ke AI
Tidak perlu menyiapkan data atau kebijakan apa pun sebelum obrolan ini. Sebutkan satu pekerjaan yang sedang Anda pertimbangkan, catatan apa yang terlibat, dan siapa yang nanti menyetujui keluarannya. Kita telusuri apakah pekerjaan itu pantas diserahkan ke mesin. Kalau tool yang sudah ada di pasar sudah cukup, kami akan menyebutkan alatnya. Obrolan pertamanya gratis, tanpa deck, langsung dengan engineer. Gunakan formulir kontak yang membuka WhatsApp, atau kirim email ke hello@arktik.id.
etika aitata kelola dataai untuk ukmkepemilikan sistem