Deklarasi oleh Komite Menteri – Soal Hak Asasi Manusia di Bidang Layanan Sosial

Pentingnya melindungi hak asasi manusia, termasuk hak sosial, tetap menjadi lebih relevan saat ini, ketika mereka menghadapi risiko dari penggunaan pengambilan keputusan dengan bantuan komputer atau Artificial Intelligence oleh otoritas publik di bidang layanan sosial.

Informasi yang berhasil Tim Komputer Terbaru rangkum dalam deklarasi yang diadopsi pada 17 Maret 2021, Committee of Ministers of the Council of Europe menarik perhatian negara-negara anggota, antara lain :

kemungkinan risiko terhadap hak asasi manusia, termasuk hak sosial, yang mungkin timbul dari penggunaan pengambilan keputusan yang dibantu komputer atau dengan Kecerdasan Buatan oleh otoritas publik di bidang layanan sosial;
kebutuhan untuk memastikan bahwa sistem pengambilan keputusan yang dibantu komputer atau dengan Kecerdasan Buatan dikembangkan dan diterapkan sesuai dengan prinsip kepastian hukum, legalitas, kualitas data, non-diskriminasi dan transparansi;
kebutuhan untuk pengawasan manusia atas keputusan yang dibantu komputer atau dengan Kecerdasan Buatan untuk mengurangi dan / atau menghindari kesalahan dalam manajemen;
kebutuhan akan pengaturan yang efektif untuk melindungi orang-orang yang rentan dari bahaya yang serius atau tidak dapat diperbaiki.
Meskipun Artificial Intelligence (AI) dan pembelajaran mesin memiliki keunggulan yang terbukti, otoritas publik harus memastikan bahwa nilai-nilai etika diterapkan untuk semua orang tanpa menimbulkan perbedaan dalam hal hak sosial dan kohesi sosial. Namun penggunaannya juga mengandung risiko. Pendekatan proaktif harus diambil dengan tujuan untuk memastikan bahwa mereka yang terpengaruh oleh keputusan yang dibantu komputer atau yang didukung AI di bidang layanan sosial, khususnya orang-orang dalam situasi sangat kekurangan atau rentan, dapat secara efektif menegaskan hak-hak mereka dan mencari pemulihan. . Dalam hal ini, penjelasan yang disesuaikan dengan konteks tertentu dan audiens harus disampaikan kepada mereka yang berkepentingan. Penjelasan tersebut setidaknya harus memberikan elemen yang diperlukan untuk memungkinkan individu memahami dan menantang keputusan yang telah diinformasikan atau dibuat oleh sistem AI,