4 Cognitive Biases In AI/ML Systems – Towards AI

4 Cognitive Biases In AI/ML Systems – Towards AI

Pengarang: Lye Jia Jun

Awalnya diterbitkan di Towards AI the World’s Leading AI and Technology News and Media Company. Jika Anda sedang membangun produk atau layanan terkait AI, kami mengundang Anda untuk mempertimbangkan untuk menjadi sponsor AI. Di Towards AI, kami membantu menskalakan AI dan startup teknologi. Biarkan kami membantu Anda melepaskan teknologi Anda kepada massa.

Di dunia ideal, mesin tidak bias dan objektif. Namun, manusia yang merekayasa mesin ini pada dasarnya bias.

Gambar oleh chenspec melalui Pixabay

Dengan perkembangan pesat teknologi canggih, semakin banyak sistem sekarang dilengkapi dengan kecerdasan buatan dan algoritma pembelajaran mesin.

Namun, dapatkah kita secara objektif mengatakan bahwa sistem ini benar-benar adil dan tidak memihak?

Dalam artikel ini, saya membagikan 4 bias kognitif yang dimiliki sistem AI/ML dan bagaimana mesin bisa penuh dengan bias karena para insinyur yang membangunnya pada dasarnya tidak sempurna.

Bias Seleksi

Gambar oleh qimono melalui PixabayBias seleksi mengacu pada pemilihan data pelatihan/pengujian yang tidak mewakili seluruh populasi. Contoh: Seorang insinyur memilih 100 sukarelawan pertama yang menanggapi emailnya sebagai data pelatihannya Masalah: 100 responden pertama mungkin lebih antusias terhadap suatu produk atau studi daripada 100 responden terakhir. Dengan secara eksplisit memilih 100 responden pertama, insinyur memperkenalkan ketidakadilan dalam metode pengumpulan datanya. Solusinya: pilih sampel acak dari 100 pengguna dari kumpulan responden email Anda, bukan 100 pertama.

Bias Pelaporan

Gambar oleh athree233 via PixabayBias pelaporan mengacu pada kecenderungan orang (sadar dan tidak sadar) untuk menekan informasi yang mereka laporkan. Contoh: Banyak produk amazon memiliki lebih banyak ulasan bintang 5 dan bintang 1 daripada ulasan bintang 2, 3, atau 4 karena orang yang memiliki pengalaman ekstrem (baik positif atau negatif) lebih cenderung memposting ulasan daripada mereka yang memiliki pengalaman netral . Masalahnya: Seorang insinyur yang menggunakan ulasan online sebagai sumber data utama mereka dapat membuat model AI yang hebat dalam mendeteksi sentimen ekstrem tetapi tidak begitu banyak dalam mendeteksi sentimen yang lebih netral dan halus. Solusinya: Pertimbangkan untuk memperluas cakupan pengumpulan data untuk memperhitungkan data yang kurang terwakili.

Bias implisit

Gambar oleh Merio via PixabayBias implisit mengacu pada kecenderungan bawah sadar orang untuk membuat asumsi atau mengaitkan stereotip dengan orang lain. Contoh: Seorang insinyur yang sering digigit anjing percaya bahwa anjing lebih agresif daripada kucing, meskipun itu mungkin tidak benar secara ilmiah. Masalahnya: Insinyur akan percaya bahwa kebenaran dasarnya adalah “anjing = agresif” dan dengan demikian menyempurnakan model AI-nya untuk memberi label anjing lebih agresif daripada kucing. Solusinya: Karena bias implisit tidak disadari oleh seorang individu, memiliki beberapa insinyur yang mengkodekan AI dan menetapkan prosedur peer review yang tepat akan mengurangi terjadinya bias tersebut.

Bias Pembingkaian

Framing bias mengacu pada kecenderungan orang untuk dipengaruhi berdasarkan bagaimana informasi disajikan. Contoh: Seorang insinyur yang melihat situs web yang gelap dan membosankan untuk suatu produk percaya bahwa produk tersebut pasti memiliki penjualan yang buruk, mengabaikan angka penjualan positif yang sebenarnya dari produk tersebut. Masalahnya: Dalam merancang algoritme AI, insinyur dapat mempertimbangkan variabel subjektif, seperti warna situs web, alih-alih berfokus pada metrik objektif. Solusinya: Hindari data subjektif (biasanya kualitatif) dan prioritaskan data objektif dan faktual sebagai gantinya.

Ringkasan dan Praktik Terbaik

Gambar oleh Seanbatty melalui Pixabay

Rekap singkat dari 4 bias kognitif dalam sistem AI/ML

Bias Seleksi (memilih data yang tidak mewakili seluruh populasi) Bias Pelaporan (kecenderungan orang untuk tidak melaporkan informasi) Bias implisit (kecenderungan bawah sadar orang untuk berasumsi) Bias Framing (kecenderungan orang untuk terpengaruh oleh bagaimana informasi disajikan)

5 praktik terbaik untuk meningkatkan objektivitas dalam sistem AI/ML

Selalu pilih sampel acak (bukan seratus titik data pertama atau terakhir) Verifikasi sumber data Anda melalui perbandingan dengan sumber data lain Tetapkan lebih banyak insinyur (beragam) untuk mengembangkan sistem AI/ML Tetapkan prosedur peer review yang tepat untuk memeriksa silang logika dan bias bawah sadar Memprioritaskan data objektif dan faktual daripada data subjektif (biasanya kualitatif).

Seperti yang Anda lihat, persepsi manusia sangat cacat dan ketidaksempurnaan kita mungkin menetes ke dalam sistem yang kita bangun. Namun, dengan mengakui bias tersebut, kami dapat mengoptimalkan sistem AI yang kami bangun dan membuatnya lebih adil dan objektif.

Saya harap Anda belajar sesuatu yang baru hari ini. Jika Anda menyukai apa yang Anda baca, berikan tepuk tangan atau ikuti!

Saya akan menangkap Anda di artikel berikutnya. Bersulang!

4 Bias Kognitif Dalam Sistem AI/ML awalnya diterbitkan di Towards AI on Medium, di mana orang-orang melanjutkan percakapan dengan menyoroti dan menanggapi cerita ini.

Diterbitkan melalui Menuju AI

Author: Jonathan Kelly