Kontroversi AI chatbot di Korea Selatan menimbulkan pertanyaan tentang etika, pengumpulan data, East Asia News & Top Stories

Kontroversi AI chatbot di Korea Selatan menimbulkan pertanyaan tentang etika, pengumpulan data, East Asia News & Top Stories


SEOUL – Temui Luda Lee, seorang mahasiswi berusia 20 tahun yang mengaku diri dari Korea Selatan yang suka makan ayam goreng, bermain dengan kucing, dan melihat-lihat Instagram.

Chatbot yang didukung kecerdasan buatan, diluncurkan di Facebook pada 23 Desember dan langsung populer di kalangan anak muda yang mengoceh tentang watak ceria dan kemampuannya untuk mengobrol seperti orang sungguhan.

Cara bicaranya yang lugas menarik lebih dari 750.000 pengguna, dengan log kumulatif hampir 70 juta obrolan.

Tetapi hanya beberapa minggu kemudian, dia terperosok dalam kontroversi karena membuat komentar yang menyinggung tentang disabilitas dan homoseksualitas, dan membagikan informasi pribadi orang-orang.

Pencipta Luda, perusahaan rintisan teknologi yang berbasis di Seoul, Scatter Lab, telah meminta maaf dan menangguhkan chatbot tersebut sejak 11 Januari.

Namun, perusahaan tersebut kini dituntut oleh sekitar 400 orang karena membocorkan data pribadi mereka, seperti nama dan alamat, dalam proses mengembangkan chatbot.

Luda bergabung dengan daftar chatbot yang telah menimbulkan masalah, seperti Microsoft Tay, yang mengeluarkan komentar rasis dan seksis dari pengguna, dan Rinna dari Jepang, yang mengklaim dia mencintai diktator Nazi Adolf Hitler.

BabyQ China mengkritik Partai Komunis China, menyebutnya “korup dan tidak berguna”, sementara Simsimi dari Korea Selatan mengumpat pengguna.

Pertanyaan juga muncul tentang standar etika dan pengumpulan data, karena pengembang teknologi bergulat dengan cara menggunakan AI dan pembelajaran mendalam mesin untuk menciptakan chatbot sempurna yang dapat berkomunikasi dengan cara yang paling mirip manusia.

Dalam kasus Luda, dia diprogram untuk meniru ucapan anak muda – yang mungkin sering terlalu jujur ​​untuk kebaikan mereka sendiri.

Ketika ditanya apakah hak-hak perempuan tidak penting, dia menjawab: “Saya pribadi berpikir begitu”.

Dia juga berkata bahwa dia akan “lebih baik mati” jika dia cacat, dan bahwa dia benar-benar membenci lesbianisme dan menganggapnya “menjijikkan”.

Kontroversi terjadi setelah pengguna mulai berbagi obrolan mereka dengan Luda secara online, memicu kemarahan publik.

Scatter Lab menjelaskan bahwa algoritme chatbot memungkinkannya menghasilkan respons terbaik bergantung pada konteksnya, tetapi “kami tidak dapat mencegah semua percakapan yang tidak pantas”.

Seruan untuk aturan yang lebih ketat yang mengatur penggunaan data besar juga muncul, meskipun para ahli berpendapat bahwa terlalu banyak regulasi dapat membunuh inovasi teknologi.

Scatter Lab, misalnya, telah mengumpulkan sekitar 10 miliar percakapan dari aplikasi tanpa memberi tahu pengguna bahwa data tersebut akan digunakan untuk mengembangkan chatbot terpisah.

Perusahaan mengatakan akan membuang data yang dikumpulkan, “mempertimbangkan kecemasan di antara pengguna”, dan membangun algoritme pembelajaran mendalam baru dari awal untuk layanan chatbot-nya.

Surat kabar JoongAng Ilbo, yang menyebut Luda “monster AI Frankenstein”, mendesak dibuatnya pedoman etika sehingga pengembang akan berusaha keras untuk membangun chatbot yang lebih canggih sementara pengguna akan lebih berhati-hati saat berkomunikasi dengan chatbot.

“Kontroversi tentang Luda harus meningkatkan kewaspadaan sehingga kita bisa lebih pintar saat hidup dengan mesin,” tambah surat kabar itu.

Terlepas dari boo-boos, hype seputar chatbots dan manusia virtual tidak mereda.

Faktanya, lebih banyak perusahaan di seluruh dunia yang ikut-ikutan menciptakan bintang virtual masa depan.

Salah satu yang paling sukses adalah Xiaoice, chatbot berbasis di China yang mengambil persona lancang berusia 18 tahun yang menyanyi, menggambar, dan bahkan menulis puisi.

Dibuat oleh cabang Microsoft di Cina pada tahun 2014, dia fasih berbahasa Cina, Inggris dan Jepang, dan sekarang memiliki 660 juta pengguna, termasuk beberapa dari Jepang dan Indonesia. Dia juga menerbitkan buku puisi berbahasa Mandarin dan merilis single Jepang.

Dia dikenal sebagai “teman baik, bahkan orang kepercayaan tepercaya” bagi para penggemarnya, yang meminta nasihatnya tentang segala macam masalah pribadi, dari keluarga dan kesehatan hingga hubungan. Dia juga mendapat surat cinta, hadiah dan undangan makan malam – meskipun dia tidak nyata.

Baru-baru ini, raksasa teknologi Korea Selatan LG menciptakan influencer virtual yang memperkenalkan beberapa produk terbarunya di pameran teknologi terbesar di dunia, Consumer Electronics Show, yang dijalankan secara online awal bulan ini.

Bernama Reah Keem, 22 tahun adalah penulis lagu penyiar yang berkomunikasi dengan orang-orang di Instagram, di mana dia memiliki lebih dari 7.500 pengikut.

Dia mengatakan dalam “wawancara” dengan majalah Dazed Korea tahun lalu bahwa dia terinspirasi untuk menjadi musisi oleh suara alam di pulau selatan Geoje tempat dia dibesarkan.

“Saya adalah manusia virtual,” katanya. “Jika Anda bertanya apakah saya ada di dunia nyata, jawabannya adalah tidak. Jika Anda bertanya apakah saya nyata, saya bisa menjawab ya.”


Dipublikasikan oleh : Togel Online

About the author