1 hour ago
2
REPUBLIKA.CO.ID, WASHINGTON -- Elon Musk telah memecat puluhan ribu pegawai pemerintah federal melalui Departemen Efisiensi Pemerintah (DOGE) yang dikelolanya. Ia juga dilaporkan mengharuskan para pekerja yang tersisa untuk mengirim email mingguan kepada departemen tersebut yang berisi lima poin penting yang menjelaskan apa yang telah mereka capai pada pekan itu.
Karena hal itu pasti akan membanjiri DOGE dengan ratusan ribu email jenis ini, Musk mengandalkan kecerdasan buatan untuk memproses tanggapan dan membantu menentukan siapa yang harus tetap bekerja. Musk juga berencana untuk mengganti banyak pegawai pemerintah dengan sistem AI.
Belum jelas seperti apa bentuk sistem AI ini atau bagaimana cara kerjanya, sesuatu yang dituntut oleh Partai Demokrat di Kongres Amerika Serikat untuk dijelaskan, tetapi para ahli memperingatkan penggunaan AI di pemerintah federal tanpa pengujian dan verifikasi yang kuat terhadap alat-alat ini dapat menimbulkan konsekuensi yang buruk.
“Untuk menggunakan perangkat AI secara bertanggung jawab, perangkat tersebut perlu dirancang dengan tujuan tertentu. Perangkat tersebut perlu diuji dan divalidasi. Tidak jelas apakah semua itu dilakukan di sini,” kata Profesor Hukum dan Ilmu Politik di University of Pennsylvania, Cary Coglianese, seperti dilansir dari laman Aljazirah.
Coglianese “sangat skeptis” terhadap pendekatan yang mengatakan AI digunakan untuk membuat keputusan tentang siapa yang harus diberhentikan dari pekerjaan mereka. Ia mengatakan ada potensi yang sangat nyata AI membuat kesalahan, menjadi bias, dan masalah potensial lainnya.
Coglianese mengatakan pemerintah di seluruh dunia, termasuk Belanda dan Inggris, memiliki masalah dengan AI yang dijalankan dengan buruk yang dapat membuat kesalahan atau menunjukkan bias dan akibatnya secara keliru menolak tunjangan kesejahteraan penduduk yang mereka butuhkan, misalnya.
Hal senada juga disampaikan Profesor Kebijakan Publik di University of Michigan, Shobita Parthasarathy. Menurutnya tidak jelas bagaimana AI bisa membuat keputusan dan algoritme yang mendasarinya.
“Itu ide yang sangat buruk. Kami tidak tahu apa pun tentang bagaimana AI akan membuat keputusan seperti itu (termasuk bagaimana AI dilatih dan algoritme yang mendasarinya), data yang menjadi dasar keputusan tersebut, atau mengapa kita harus percaya AI dapat dipercaya,” katanya.
Di AS, negara bagian Michigan memiliki masalah dengan AI yang digunakan untuk menemukan penipuan dalam sistem penganggurannya ketika secara keliru mengidentifikasi ribuan kasus dugaan penipuan. Banyak dari mereka yang ditolak tunjangannya ditangani dengan keras, termasuk dikenai berbagai hukuman dan dituduh melakukan penipuan. Orang-orang ditangkap dan bahkan mengajukan kebangkrutan. Setelah periode lima tahun, negara mengakui bahwa sistemnya salah dan setahun kemudian akhirnya mengembalikan 21 juta dolar AS kepada penduduk yang secara keliru dituduh melakukan penipuan.
“Sering kali, pejabat yang membeli dan menggunakan teknologi ini tidak tahu banyak tentang cara kerjanya, bias dan keterbatasannya, serta kesalahannya,” kata Parthasarathy. “Karena masyarakat berpenghasilan rendah dan terpinggirkan cenderung memiliki kontak paling banyak dengan pemerintah melalui layanan sosial [seperti tunjangan pengangguran, pengasuhan anak, penegakan hukum], mereka cenderung paling terpengaruh oleh AI yang bermasalah.”
Kekhawatiran tersebut tampaknya tidak menghalangi pemerintah saat ini, terutama Musk yang memimpin upaya ini. Departemen Luar Negeri AS, misalnya, berencana menggunakan AI untuk memindai akun media sosial warga negara asing guna mengidentifikasi siapa saja yang mungkin menjadi pendukung Hamas dalam upaya mencabut visa mereka. Pemerintah AS sejauh ini belum transparan tentang cara kerja sistem semacam ini.
AI juga menimbulkan masalah di pemerintahan ketika digunakan di pengadilan untuk menentukan hal-hal seperti kelayakan pembebasan bersyarat seseorang atau di departemen kepolisian ketika digunakan untuk mencoba memprediksi di mana kejahatan kemungkinan terjadi.
Pakar AI mengatakan ada banyak cara di mana penggunaan AI oleh pemerintah dapat menjadi salah, itulah sebabnya mengapa AI perlu diadopsi dengan hati-hati dan sungguh-sungguh.
