FOSSBYTES TECH SIMPLIFIED LOGO

We perlahan memasuki era mobil tanpa pengemudi. Banyak perusahaan seperti Tesla, Google, dan Uber mencapai tonggak sejarah untuk membawa kita lebih dekat ke hari ketika kita akan duduk dan bersantai sementara sistem pintar akan secara otomatis menggerakkan mobil kita. Namun, faktor risikonya tetap ada, dan kecelakaan yang terjadi baru-baru ini dengan mobil tanpa pengemudi menunjukkan fakta bahwa kita masih jauh dari hari itu.

Meskipun mengatasi penghalang dan membuat keputusan instan tetap menjadi masalah utama, para peneliti telah menemukan masalah dengan mobil yang dapat mengemudi sendiri – deteksi yang buruk terhadap pejalan kaki yang berkulit gelap.

SEBUAH penelitian yang dilakukan oleh Institut Teknologi Georgia telah menyimpulkan bahwa sistem mengemudi sendiri adalah lima persen kurang akurat dalam mendeteksi pejalan kaki berkulit gelap.

Para peneliti memulai dengan menganalisis keakuratan pengambilan keputusan model deteksi objek canggih dengan mempertimbangkan bagaimana sistem tersebut mendeteksi orang dari kelompok demografis yang berbeda.

Dataset tersebut berisi gambar pejalan kaki dan selanjutnya dipisahkan menjadi gambar dengan pejalan kaki yang memiliki warna kulit berbeda. Ini dilakukan dengan menggunakan skala Fitzpatrick, yang mengklasifikasikan manusia menurut warna kulit manusia mulai dari terang hingga gelap.

Sistem menunjukkan pengambilan keputusan yang bias bahkan ketika variabel yang berbeda seperti waktu dalam gambar dan sesekali halangan pejalan kaki dimasukkan dalam penelitian.

Salah satu alasan dibalik sistem self-driving ‘rasis’ adalah bias algoritmik. Bias algoritmik muncul karena bias perilaku manusia yang kemudian merembes ke dalam sistem. Sistem komputer meniru perilaku perancangnya yang memengaruhi kemampuan pengambilan keputusannya.

Studi ini memang mengungkapkan bias algoritmik terhadap orang berkulit gelap, tetapi penting untuk diketahui bahwa file penelitian belum ditinjau sejawat dan tidak menggunakan model deteksi objek sebenarnya yang digunakan oleh sebagian besar produsen kendaraan otonom. Studi ini didasarkan pada kumpulan data yang tersedia untuk umum yang digunakan oleh peneliti akademis. Perusahaan tidak menyediakan data aktual, yang merupakan masalah tersendiri.

Meskipun demikian, risiko yang ditemukan oleh penelitian ini adalah nyata, dan sudah saatnya perusahaan mengambil beberapa langkah konkret untuk menyingkirkan perilaku bias sistem komputer agar lebih aman bagi semua orang.

Baca juga: Mahindra Meluncurkan Electric Hypercar Battista: Melaju 0-100 km/jam Dalam 2 Detik

This post is also available in: German Vietnamese Italian Indonesia

LEAVE A REPLY

Please enter your comment!
Please enter your name here