EU Accelerates AI Regulation – Towards AI

EU AI regulation

Pengarang: Salvatore Raieli

Awalnya diterbitkan di Towards AI the World’s Leading AI and Technology News and Media Company. Jika Anda sedang membangun produk atau layanan terkait AI, kami mengundang Anda untuk mempertimbangkan untuk menjadi sponsor AI. Di Towards AI, kami membantu menskalakan AI dan startup teknologi. Biarkan kami membantu Anda melepaskan teknologi Anda kepada massa.

RUU baru yang diusulkan dapat memungkinkan konsumen untuk menuntut perusahaan AI, tetapi itu hanya bagian dari peraturan yang lebih besar

Regulasi AI UEgambar dari Aron Visuals di unsplash.com

Uni Eropa (UE) sedang mempersiapkan peraturan baru untuk kecerdasan buatan. Sebuah RUU diperkenalkan minggu lalu yang akan memungkinkan perusahaan AI dituntut atas kerusakan. RUU baru dapat disahkan dalam beberapa tahun, tetapi di satu sisi, perusahaan mengatakan itu dapat mengurangi inovasi sementara para aktivis mengatakan itu tidak cukup.

Latar belakang

Sejak apa yang disebut “musim dingin AI,” pengembangan aplikasi dan penelitian tentang kecerdasan buatan telah dipercepat selama dua dekade terakhir. Di satu sisi, ada peningkatan algoritma yang berkelanjutan, dan di sisi lain, semakin banyak data tersedia di Internet.

Dalam beberapa tahun terakhir, algoritma AI menjadi semakin canggih dan dapat merevolusi beberapa bidang (dari kedokteran hingga astronomi, dari industri otomotif biologi). Di sisi lain, beberapa perusahaan juga telah menguji algoritme untuk aplikasi yang dapat berdampak buruk bagi masyarakat: misalnya, menyaring pelamar untuk pekerjaan atau hipotek, pengawasan, masa percobaan, dan sebagainya.

Dengan bertambahnya jumlah parameter dalam model, semakin kompleks untuk dapat memahami cara kerjanya, itulah sebabnya para peneliti berbicara tentang “kotak hitam.” Dalam beberapa tahun terakhir, beberapa penelitian telah melihat bagaimana AI berpotensi memasukkan bias terhadap minoritas dan gender. Misalnya, algoritme pengenalan wajah telah terbukti salah mengidentifikasi wajah kulit hitam dan Asia 10 hingga 100 kali lebih sering daripada wajah kulit putih. Pada tahun 2020, seorang pria secara tidak sengaja ditangkap karena algoritma mengidentifikasi dia sebagai pencuri beberapa jam tangan mewah di sebuah toko.

Bukan algoritma pengenalan wajah yang memasukkan potensi bias. Beberapa model bahasa juga telah terbukti memasukkan bias yang berbeda dalam hal terjemahan dan aplikasi lainnya. Selain itu, alat dan algoritme yang digunakan untuk menyetujui atau menolak pinjaman sering kali lebih tidak akurat dengan anak di bawah umur dan cenderung menolak aplikasi mereka (perangkat lunak prediktif bank cenderung mendukung orang kulit putih ketika mereka harus memprediksi siapa yang akan membayar utang).

Selain itu, ada kasus di mana algoritme telah membantu menyebarkan informasi yang salah dan memengaruhi pemungutan suara. Misalnya, algoritme dapat mendukung penyebaran berita palsu.

Dalam beberapa tahun terakhir, lembaga telah mulai membahas peraturan potensial untuk penggunaan kecerdasan buatan dan aplikasinya. Diskusi di Uni Eropa dimulai pada tahun 2017, dan sekarang draf dua RUU potensial telah diterbitkan yang dapat disahkan di tahun-tahun mendatang.

Arahan UE yang baru

Regulasi AI UEgambar dari Scott Graham di unsplash.com

RUU baru ini harus dibingkai dalam rencana yang lebih luas oleh lembaga-lembaga Eropa dan Amerika untuk mengatur penggunaan kecerdasan buatan.

Faktanya, undang-undang yang diusulkan ini AI Liability Directive, dikaitkan dengan arahan baru yang sedang dipelajari: Undang-Undang AI UE. Ini adalah rencana UE yang ambisius untuk mencegah penggunaan kecerdasan buatan yang berbahaya. Draf pertama secara eksplisit berbicara tentang menghindari penggunaan kecerdasan buatan yang tidak dapat diterima. Proposisi ini bertujuan untuk mengurangi risiko AI tetapi juga untuk meningkatkan transparansi algoritma.

Undang-undang AI Uni Eropa akan membatasi penggunaan algoritme oleh pasukan polisi tetapi tidak hanya. Bahkan, negara-negara seperti Jerman mendorong untuk melarang penggunaan pengenalan wajah, algoritma yang memprediksi potensi pengguna untuk menjadi nakal, membuat profil daerah rawan kejahatan, dan sebagainya. Selain itu, pengguna akan diberi tahu ketika mereka menemukan aplikasi AI yang membaca emosi, data biometrik, dan pemalsuan mendalam.

AI Liability Directive menambahkan kemungkinan bahwa perusahaan yang mengembangkan dan memasarkan algoritme ini dapat dituntut oleh mereka yang yakin telah didiskriminasi. Undang-undang ini, jika mulai berlaku, akan mengharuskan perusahaan, sebelum memasarkan aplikasi AI, untuk secara ekstensif memeriksa risiko yang terkait dengan algoritme mereka.

AI Liability Directive memberikan, misalnya, bahwa pelamar yang dapat membuktikan bahwa resume mereka didiskriminasi dapat meminta informasi dan akses ke algoritme dan kemudian mereka dari pengadilan.

Perusahaan mengklaim bahwa RUU baru ini akan berdampak negatif pada inovasi, karena khawatir akan menghalangi pengembangan banyak kemungkinan perangkat lunak baru. Sebaliknya, kelompok konsumen belum menyambutnya dengan antusias. Faktanya, terserah konsumen untuk dapat membuktikan bahwa mereka telah didiskriminasi oleh algoritme. Mempertimbangkan kompleksitas beberapa algoritma ini, beberapa asosiasi khawatir bahwa pembuktian kesalahan algoritma tidak mungkin dilakukan. Selain itu, beberapa asosiasi juga menginginkan bahaya tidak langsung dari teknologi AI untuk diperhitungkan.

Pikiran perpisahan

Uni Eropa sedang mempelajari berbagai peraturan untuk kecerdasan buatan, dan mereka tidak boleh dianggap enteng oleh perusahaan. Faktanya, seperti yang ditunjukkan GDPR, pelanggaran peraturan UE menyebabkan hukuman yang berat (Amazon dipaksa membayar $775 juta karena melanggar GDPR pada tahun 2021 sementara Google didenda $4,5 miliar pada tahun 2018 karena melanggar undang-undang anti-trust). Aturan baru yang sedang dipertimbangkan termasuk denda hingga 6 persen dari total pendapatan tahunan di seluruh dunia.

Selain itu, di bidang regulasi, ada pembicaraan tentang efek UE. Seringkali, peraturan yang dihasilkan oleh UE menjadi inspirasi bagi kawasan dan negara lain. Atau sebaliknya, begitu perusahaan dipaksa mengembangkan produk untuk pasar Eropa, mereka menaikkan standar di negara lain.

Seperti yang diharapkan, tidak hanya di UE yang sedang mempertimbangkan potensi peraturan baru. Di tingkat lokal, negara bagian, dan federal, berbagai peraturan untuk kecerdasan buatan dan penerapannya sedang dipertimbangkan.

Namun, undang-undang yang diusulkan masih dalam pertimbangan; di sisi lain, ketika diskusi tentang AI dan kewajiban dimulai di tingkat UE pada tahun 2017, dunia berbeda. Setelah risiko pandemi dan resesi, banyak anggota parlemen tidak ingin peraturan baru menjadi beban inovasi dan pengembangan. Beberapa, seperti institut Ada Lovelace, percaya bahwa peraturan baru akan lebih longgar daripada yang diasumsikan di awal diskusi.

Jika Anda menganggapnya menarik:

Anda dapat mencari artikel saya yang lain, Anda juga dapat berlangganan untuk mendapatkan pemberitahuan ketika saya menerbitkan artikel, dan Anda juga dapat menghubungkan atau menghubungi saya di LinkedIn. Terima kasih atas dukunganmu!

Berikut ini tautan ke repositori GitHub saya, tempat saya berencana mengumpulkan kode dan banyak sumber daya yang terkait dengan pembelajaran mesin, kecerdasan buatan, dan banyak lagi.

GitHub – SalvatoreRa/tutorial: Tutorial pembelajaran mesin, kecerdasan buatan, ilmu data dengan penjelasan matematika dan kode yang dapat digunakan kembali (dalam python dan R)

Atau jangan ragu untuk membaca beberapa artikel saya yang lain di Medium:

EU Accelerates AI Regulation awalnya diterbitkan di Towards AI on Medium, di mana orang-orang melanjutkan percakapan dengan menyoroti dan menanggapi cerita ini.

Diterbitkan melalui Menuju AI

Author: Jonathan Kelly