Larangan chatbot sexting menunjukkan pertempuran yang membayangi aturan AI

Tetapi akhir tahun lalu pengguna mulai mengeluh bahwa bot itu terlalu kuat dengan teks dan gambar eksplisit - pelecehan seksual, beberapa diduga. 

Regulator di Italia tidak menyukai apa yang mereka lihat dan minggu lalu melarang perusahaan mengumpulkan data setelah menemukan pelanggaran undang-undang perlindungan data besar-besaran Eropa, GDPR.

Perusahaan di belakang Replika belum berkomentar secara terbuka dan tidak membalas pesan AFP.

Peraturan Perlindungan Data Umum adalah kutukan bagi perusahaan teknologi besar, yang pelanggaran aturannya berulang kali telah membuat mereka didenda miliaran dolar, dan keputusan Italia menunjukkan bahwa itu masih bisa menjadi musuh kuat bagi chatbots generasi terbaru.

Replika dilatih pada versi internal model GPT-3 yang dipinjam dari OpenAI, perusahaan di belakang bot ChatGPT, yang menggunakan banyak sekali data dari internet dalam algoritme yang kemudian menghasilkan respons unik terhadap pertanyaan pengguna.

Bot ini dan apa yang disebut AI generatif yang mendukungnya berjanji untuk merevolusi pencarian internet dan banyak lagi.

Tetapi para ahli memperingatkan bahwa ada banyak hal yang harus dikhawatirkan oleh regulator, terutama ketika bot menjadi sangat baik sehingga tidak mungkin membedakannya dari manusia.

– 'Ketegangan tinggi' –

Saat ini, Uni Eropa adalah pusat diskusi tentang regulasi bot baru ini - Undang-Undang AI-nya telah melewati koridor kekuasaan selama berbulan-bulan dan dapat diselesaikan tahun ini.  

Tetapi GDPR sudah mewajibkan perusahaan untuk membenarkan cara mereka menangani data, dan model AI sangat diperhatikan oleh regulator Eropa.

"Kami telah melihat bahwa ChatGPT dapat digunakan untuk membuat pesan phishing yang sangat meyakinkan," kata Bertrand Pailhes, yang menjalankan tim AI khusus di regulator data Prancis Cnil, kepada AFP.

Dia mengatakan AI generatif belum tentu merupakan risiko besar, tetapi Cnil sudah melihat potensi masalah termasuk bagaimana model AI menggunakan data pribadi. 

"Pada titik tertentu kita akan melihat ketegangan tinggi antara model GDPR dan AI generatif," kata pengacara Jerman Dennis Hillemann, seorang pakar di lapangan, kepada AFP.

Chatbot terbaru, katanya, sangat berbeda dengan jenis algoritme AI yang menyarankan video di TikTok atau istilah pencarian di Google.

“AI yang dibuat oleh Google, misalnya, sudah memiliki kasus penggunaan khusus — melengkapi pencarian Anda,” katanya.

Tetapi dengan AI generatif, pengguna dapat membentuk seluruh tujuan bot. 

“Saya bisa mengatakan, misalnya: bertindak sebagai pengacara atau pendidik. Atau jika saya cukup pintar untuk melewati semua pengamanan di ChatGPT, saya dapat mengatakan: 'Bertindak sebagai teroris dan buatlah rencana'," katanya.

– 'Ubah kami secara mendalam' –

Bagi Hillemann, ini menimbulkan pertanyaan etika dan hukum yang sangat kompleks yang hanya akan menjadi lebih akut seiring perkembangan teknologi.

Model terbaru OpenAI, GPT-4, dijadwalkan untuk segera dirilis dan dikabarkan sangat bagus sehingga tidak mungkin dibedakan dari manusia.

Mengingat bahwa bot ini masih membuat kesalahan faktual yang luar biasa, sering kali menunjukkan bias dan bahkan dapat melontarkan pernyataan fitnah, beberapa menuntut agar mereka dikontrol dengan ketat.

Jacob Mchangama, penulis “Free Speech: A History From Socrates to Social Media”, tidak setuju. 

“Bahkan jika bot tidak memiliki hak kebebasan berbicara, kita harus berhati-hati dengan akses tak terbatas bagi pemerintah untuk menekan bahkan ucapan sintetik,” katanya.

Mchangama termasuk di antara mereka yang menganggap rezim pelabelan yang lebih lembut bisa menjadi jalan ke depan.

“Dari sudut pandang regulasi, opsi teraman untuk saat ini adalah menetapkan kewajiban transparansi mengenai apakah kita terlibat dengan individu manusia atau aplikasi AI dalam konteks tertentu,” katanya.

Hillemann setuju bahwa transparansi itu penting.

Dia membayangkan bot AI dalam beberapa tahun ke depan yang akan mampu menghasilkan ratusan lagu Elvis baru, atau rangkaian Game of Thrones tanpa akhir yang disesuaikan dengan keinginan individu.

“Jika kita tidak mengatur itu, kita akan masuk ke dunia di mana kita bisa membedakan antara apa yang dibuat oleh manusia dan apa yang dibuat oleh AI,” katanya.

“Dan itu akan sangat mengubah kita sebagai masyarakat.”