Sebuah penelitian terkini, yang terbit di International Journal of Human-Computer Interaction, telah mengidentifikasi enam tantangan utama yang harus diatasi untuk memastikan bahwa kecerdasan buatan (AI) dapat diandalkan, aman, dapat dipercaya, serta sesuai dengan nilai-nilai kemanusiaan.
Ozlem Garibay, asisten profesor di Departemen Teknik Industri dan Sistem Manajemen, University of Central Florida, adalah peneliti utama dalam penelitian ini. Garibay dan tim yang terdiri dari 26 ahli internasional yang memiliki latar belakang beragam dalam teknologi AI melakukan penelitian selama 20 bulan.
Integrasi kecerdasan buatan ke dalam banyak aspek kehidupan kita telah membawa banyak tantangan yang harus dipelajari. Garibay memaparkan bahwa integrasi kecerdasan buatan yang akan datang secara luas dapat secara signifikan memengaruhi kehidupan manusia dengan cara yang belum sepenuhnya dipahami.
Penelitian ini berupaya mengidentifikasi tantangan yang harus diatasi untuk memastikan bahwa AI aman, dapat diandalkan, dapat dipercaya, dan sesuai dengan nilai-nilai kemanusiaan.
Enam tantangan yang diidentifikasi oleh Garibay dan tim peneliti adalah sebagai berikut:
Tantangan 1: Kesejahteraan Manusia
AI harus dapat menemukan peluang implementasi yang bermanfaat bagi kesejahteraan manusia. AI juga harus mempertimbangkan untuk mendukung kesejahteraan pengguna saat berinteraksi dengan AI.
Tantangan 2: Bertanggung Jawab
AI yang bertanggung jawab mengacu pada konsep memprioritaskan kesejahteraan manusia dan masyarakat di seluruh siklus hidup AI. Hal ini memastikan bahwa potensi manfaat AI dimanfaatkan dengan cara yang selaras dengan nilai-nilai dan prioritas manusia, sekaligus mengurangi risiko konsekuensi yang tidak diinginkan atau pelanggaran etika.
Tantangan 3: Privasi
Pengumpulan, penggunaan, dan penyebaran data dalam sistem AI harus dipertimbangkan dengan cermat untuk memastikan perlindungan privasi individu dan mencegah penggunaan yang merugikan individu atau kelompok.
Tantangan 4: Desain
Prinsip-prinsip desain yang berpusat pada manusia untuk sistem AI harus menggunakan kerangka kerja yang dapat memberikan informasi kepada para praktisi. Kerangka kerja ini akan membedakan antara AI dengan risiko yang sangat rendah, AI yang tidak memerlukan tindakan khusus, AI dengan risiko yang sangat tinggi, dan AI yang tidak boleh digunakan.
Tantangan 5: Tata Kelola dan Pengawasan
Kerangka kerja tata kelola yang mempertimbangkan seluruh siklus hidup AI mulai dari konsepsi, pengembangan, hingga penerapan sangat diperlukan.
Tantangan 6: Interaksi Manusia dan AI
Untuk mendorong hubungan yang etis dan adil antara manusia dan sistem AI, interaksi harus didasarkan pada prinsip dasar untuk menghormati kapasitas kognitif manusia. Secara khusus, manusia harus mempertahankan kontrol penuh dan tanggung jawab atas perilaku dan hasil dari sistem AI.
“https://www.liputan6.com/tekno/read/5245737/membangun-ai-bertanggung-jawab-pakar-soroti-enam-tantangan-utama”
