Konvensi Kecerdasan Buatan adalah perjanjian global pertama yang bertujuan untuk memastikan AI menjunjung tinggi hak asasi manusia.
Pada tanggal 5 September 2024, Konvensi Kerangka Kerja Dewan Eropa tentang Kecerdasan Buatan, Hak Asasi Manusia, Demokrasi, dan Aturan Hukum akan dibuka secara resmi untuk ditandatangani selama Konferensi informal Menteri Kehakiman Dewan Eropa di Vilnius, Lithuania. Konvensi tersebut, yang diadopsi pada tanggal 17 Mei 2024, selama pertemuan tahunan Komite Menteri Dewan Eropa, menyediakan kerangka hukum global untuk mengatur sistem AI, dengan fokus untuk memastikan teknologi ini selaras dengan hak asasi manusia, integritas demokrasi, dan aturan hukum.
Konvensi ini ditetapkan untuk memandu negara-negara tentang cara mengelola pengembangan dan implementasi AI dalam sektor publik, memastikan bahwa teknologi AI menghormati nilai-nilai demokrasi yang penting. Yang terpenting, Konvensi ini juga mencakup entitas sektor swasta ketika mereka beroperasi atas nama otoritas publik, seperti berdasarkan kontrak pemerintah, yang selanjutnya memperluas cakupan penerapannya.
Prinsip-prinsip Utama untuk Adopsi
Konvensi Kerangka Kerja menetapkan tujuh prinsip inti untuk menerapkan tata kelola AI , yang perlu disesuaikan oleh para penandatangan dengan kerangka hukum domestik mereka. Prinsip-prinsip ini meliputi:
Martabat manusia dan otonomi individu : Memastikan AI tidak merusak martabat manusia atau mereduksi individu menjadi titik data belaka.
Transparansi dan pengawasan : Menjaga transparansi di seluruh siklus hidup AI, memastikan pengguna dapat memahami konten dan keputusan yang dihasilkan AI.
Akuntabilitas : Tanggung jawab yang jelas atas dampak AI terhadap hak asasi manusia, termasuk mekanisme hukum untuk meminta pertanggungjawaban para aktor.
Kesetaraan dan non-diskriminasi : Mengatasi dan mengurangi bias di seluruh siklus hidup sistem AI.
Privasi dan perlindungan data : Menjaga privasi individu dan mengendalikan akses ke data pribadi.
Keandalan : Memastikan sistem AI tangguh, aman, dan dapat dipercaya dalam hasilnya.
Inovasi yang aman : Mempromosikan inovasi yang menghormati prinsip-prinsip demokrasi dan hak asasi manusia, dengan dukungan untuk regulasi dan panduan yang jelas.
Konvensi ini memperbolehkan pengecualian keamanan nasional, yaitu Para Pihak diperbolehkan untuk tidak melaksanakan perjanjian untuk kegiatan yang melindungi keamanan nasional, dengan ketentuan bahwa kegiatan tersebut mematuhi hukum internasional.
Dampak global
Konvensi tersebut telah dipuji (oleh sebagian pihak) sebagai pencapaian besar dalam tata kelola AI global. Tujuannya adalah untuk menyelaraskan regulasi sistem AI lintas batas dan menciptakan kerangka kerja yang dapat diadopsi oleh negara-negara Eropa dan non-Eropa. Perjanjian tersebut telah menarik minat internasional yang signifikan, dengan negara-negara di luar Eropa, termasuk AS, Kanada, Jepang, dan Australia, berpartisipasi dalam negosiasi bersama pengamat sektor swasta dan masyarakat sipil.
Hak asasi manusia dan demokrasi
Aspek utama Konvensi ini adalah fokusnya pada perlindungan hak asasi manusia dan demokrasi terhadap dampak teknologi AI yang berpotensi merugikan. Konvensi ini mengamanatkan bahwa sistem AI harus selalu menjaga otonomi manusia, mencegah dehumanisasi individu, dan memastikan kemampuan mereka untuk menjalankan kendali atas pengaruh AI dalam kehidupan mereka. Dokumen tersebut juga menekankan pentingnya transparansi, mendesak penggunaan pelabelan konten, tanda air, dan metode lain untuk memastikan bahwa pengguna dapat dengan jelas membedakan antara konten yang dibuat manusia dan konten yang dibuat AI.
Kritik
Meskipun memiliki signifikansi historis, beberapa pihak memandang perjanjian tersebut tidak memberikan dampak yang diharapkan. Kekhawatiran telah muncul terkait efektivitas perjanjian tersebut, dengan dugaan bahwa perjanjian tersebut lebih banyak menegaskan kembali praktik yang ada daripada memperkenalkan langkah-langkah regulasi yang substantif.
Pengawas data Uni Eropa menyatakan kekhawatiran tentang potensi kompromi dalam standar hak asasi manusia karena tekanan dari kepentingan bisnis asing. Pengawas Perlindungan Data Eropa (EDPS) percaya bahwa proposal tersebut tidak cukup jauh dalam mengatasi risiko dan tantangan yang ditimbulkan oleh AI. Teks tersebut telah dilemahkan secara signifikan dari versi aslinya selama negosiasi di komite ad hoc CoE yang bertanggung jawab atas konvensi tersebut. EDPS menggambarkannya sebagai ‘kesempatan yang hilang untuk menetapkan kerangka hukum yang kuat dan efektif’ untuk melindungi hak asasi manusia dalam pengembangan AI.
Mengapa ini penting?
Pembukaan Konvensi Kerangka Kerja untuk penandatanganan di Vilnius menandai momen penting bagi tata kelola AI. Meskipun Konvensi tersebut menetapkan agenda yang ambisius, keberhasilannya bergantung pada kemauan negara-negara penandatangan untuk menerapkan prinsip-prinsipnya melalui sistem legislatif dan regulasi mereka sendiri. Jika diadopsi secara luas, hal ini dapat menjadi tolok ukur global untuk tata kelola AI, yang berpotensi menginspirasi kerangka kerja serupa di wilayah lain.
