Network
Oke Jambi- Para peneliti Couchbase mengatakan perusahaan perlu mengurangi risiko penggunaan artificial intelligence (AI) yang cenderung bias dan dapat menurunkan kualitas produk yang mereka buat.
"Tantangannya adalah bagaimana perusahaan dapat mengurangi bias ini dalam penawaran produk mereka dan menghindari risiko memasukkan model AI yang berbahaya ke dalam produksi,” kata Associate Solutions Engineer Couchbase, Aaron Schenider, kamis 16 Maret 2023.
Menurutnya, salah satu kegunaan AI melalui ChatGPT masih menilai orang berdasarkan jenis kelamin dan warna kulit. Itu sebabnya setiap jawaban yang diberikan berisiko, diskriminatif, menghasut, dan merusak reputasi perusahaan yang benar-benar menggunakan AI untuk kebaikan.
Baca Juga: Wow! Laptop Lenovo Terbaru Ini Ternyata Berbahan Daur Ulang
"Namun, teka-teki ini tidak benar-benar baru. Bias AI terjadi ketika model AI menampilkan bias penulis manusianya pada kumpulan data. Apa yang anda berikan adalah apa yang anda dapatkan kembali," lanjut Aaron.
Kondisi seperti itu membuat perusahaan teknologi berpikir dua kali untuk merilis model AI yang rumit, karena itu berarti memberi pengguna kotak pandora yang tidak dapat diprediksi sebelumnya. Langkah perusahaan juga dapat dianggap sebagai langkah yang sangat berisiko ketika mereka tidak dapat mengontrol output AI. Umpan balik yang tidak dapat diandalkan dan tidak senonoh akan sangat merusak reputasi perusahaan.
Oleh karena itu, agar teknologi terus menjadi kekuatan untuk kebaikan, pengguna harus diberdayakan untuk membuat model AI yang tidak bias. Melalui penggunaan solusi penanganan peristiwa waktu nyata, peneliti dapat memanfaatkan logika bisnis yang ditentukan pengguna untuk secara otomatis menghapus informasi yang tidak diinginkan dari kumpulan data AI.
"Langkah ini akan membutuhkan solusi cloud dengan arsitektur memori-sentris yang memberikan kinerja tak tertandingi dan membuat kueri SQL++ cepat dan sangat efisien. Semua proyek juga akan mendapat manfaat dari fleksibilitas dan potensi database cloud NoSQL," katanya.
Baca Juga: General Motor Berencana Terapkan ChatGPT dalam Produksi Kendaraan
Akhirnya, kecerdasan buatan didasarkan pada model pembelajaran mesin, dengan model dan teknik terdokumentasi dengan baik yang digunakan untuk membuat sistem prediktif. Sistem kecerdasan buatan seperti ChatGPT dan DALL-E harus menyerap input dalam jumlah besar dari Internet sebelum dapat mencocokkan hubungan antara teks dan respons. Selain itu, model dan alat bahasa lain juga harus digunakan untuk membantu AI memprediksi kata yang digunakan dalam setiap tanggapan.
