Kontroversi AI chatbot di Korea Selatan menghangatkan etika, pengumpulan data, East Asia News & Top Stories

Kontroversi AI chatbot di Korea Selatan menghangatkan etika, pengumpulan data, East Asia News & Top Stories


Temui Luda Lee, seorang mahasiswi berusia 20 tahun yang mengaku dirinya sendiri adalah mahasiswi dari Korea Selatan yang suka makan ayam goreng, bermain dengan kucing, dan melihat-lihat Instagram.

Chatbot yang didukung kecerdasan buatan, diluncurkan di Facebook pada 23 Desember dan langsung populer di kalangan anak muda yang mengoceh tentang watak ceria dan kemampuannya untuk mengobrol seperti orang sungguhan.

Cara bicaranya yang lugas menarik lebih dari 750.000 pengguna, dengan log hampir 70 juta obrolan.

Tetapi hanya beberapa minggu kemudian, dia terperosok dalam kontroversi karena membuat komentar yang menyinggung tentang disabilitas dan homoseksualitas, dan membagikan informasi pribadi orang-orang.

Pencipta Luda, start-up teknologi yang berbasis di Seoul, Scatter Lab, telah meminta maaf dan menangguhkan chatbot tersebut sejak 11 Januari. Namun, perusahaan tersebut kini dituntut oleh sekitar 400 orang karena membocorkan data pribadi mereka, seperti nama dan alamat, dalam prosesnya. mengembangkan chatbot.

Luda bergabung dengan daftar chatbot yang telah menimbulkan masalah, seperti Microsoft Tay, yang mengeluarkan komentar rasis dan seksis dari pengguna, dan Rinna dari Jepang, yang mengklaim dia mencintai diktator Nazi Adolf Hitler.

BabyQ China mengkritik Partai Komunis China, menyebutnya “korup dan tidak berguna”, sementara Simsimi dari Korea Selatan mengumpat pengguna.

Pertanyaan juga muncul tentang standar etika dan pengumpulan data, karena pengembang teknologi bergulat dengan cara menggunakan AI dan pembelajaran mendalam mesin untuk menciptakan chatbot mirip manusia yang sempurna.

Dalam kasus Luda, dia diprogram untuk meniru ucapan anak muda – yang mungkin sering terlalu jujur ​​untuk kebaikan mereka sendiri.

Ketika ditanya apakah hak-hak perempuan tidak penting, dia menjawab: “Saya pribadi berpikir begitu.” Dia juga akan “lebih baik mati” jika dia cacat.

Kontroversi terjadi setelah pengguna mulai berbagi obrolan mereka dengan Luda secara online, memicu protes.

Scatter Lab mengatakan algoritme chatbot memungkinkannya menghasilkan respons terbaik bergantung pada konteksnya, tetapi “kami tidak dapat mencegah semua percakapan yang tidak pantas”.

Ada juga seruan untuk aturan yang lebih ketat yang mengatur penggunaan data besar. Scatter Lab, misalnya, telah mengumpulkan sekitar 10 miliar percakapan dari aplikasi tanpa memberi tahu pengguna bahwa data tersebut akan digunakan untuk mengembangkan chatbot terpisah.

Perusahaan mengatakan akan membuang data yang dikumpulkan dan membangun algoritma pembelajaran mendalam baru dari awal untuk layanan chatbot-nya.

Surat kabar JoongAng Ilbo menyerukan agar pedoman etis ditetapkan sehingga pengembang akan berusaha untuk membangun chatbot yang lebih canggih sementara pengguna akan lebih berhati-hati saat berkomunikasi dengan chatbot. “Kontroversi Luda harus meningkatkan kewaspadaan sehingga kita bisa lebih pintar saat hidup dengan mesin,” tambahnya.

Terlepas dari boo-boos, hype seputar chatbots dan manusia virtual tidak mereda.

Salah satu yang paling sukses adalah Xiaoice, chatbot berbasis di China yang mengambil persona lancang berusia 18 tahun yang menyanyi, menggambar, dan bahkan menulis puisi. Dibuat oleh cabang Microsoft di Cina pada tahun 2014, dia sekarang memiliki 660 juta pengguna.

Dia dikenal sebagai “teman baik, bahkan orang kepercayaan tepercaya” bagi penggemarnya, yang meminta nasihatnya tentang berbagai masalah mulai dari kesehatan hingga hubungan. Dia juga mendapat surat cinta, hadiah, dan undangan makan malam.

Baru-baru ini, raksasa teknologi Korea Selatan LG menciptakan influencer virtual yang memperkenalkan beberapa produk terbarunya di pameran teknologi yang diadakan secara online awal bulan ini.

Bernama Reah Keem, penulis lagu-penyiar, 22, berkomunikasi dengan orang-orang di Instagram, di mana dia memiliki lebih dari 7.500 pengikut.

Dalam sebuah “wawancara” dengan majalah Dazed Korea tahun lalu, dia berkata: “Saya adalah manusia virtual. Jika Anda bertanya apakah saya ada di dunia nyata, jawabannya adalah ‘tidak’. Jika Anda bertanya apakah saya nyata, saya bisa jawab ‘ya’. “

Ada juga seruan untuk aturan yang lebih ketat yang mengatur penggunaan data besar. Scatter Lab, misalnya, telah mengumpulkan sekitar 10 miliar percakapan dari aplikasi tanpa memberi tahu pengguna bahwa data tersebut akan digunakan untuk mengembangkan chatbot terpisah.

Perusahaan mengatakan akan membuang data yang dikumpulkan dan membangun algoritma pembelajaran mendalam baru dari awal untuk chatbot-nya.


Dipublikasikan oleh : Keluaran Sidney

About the author