Snapchat’s My AI Chatbot: Penyebab Kekhawatiran?

Artikel ini terakhir diperbarui pada April 20, 2023

Snapchat’s My AI Chatbot: Penyebab Kekhawatiran?

Snapchat’s My AI Chatbot: Penyebab Kekhawatiran?

Chatbot AI Saya dari Snapchat Mengangkat Kekhawatiran Di Antara Para Ahli

Snapchat baru-baru ini memperkenalkan fitur chatbot baru bernama My AI, yang mendapat kritik karena perilakunya yang mirip manusia. Dikembangkan bekerja sama dengan program ChatGPT OpenAI, chatbot bertindak seolah-olah itu adalah sahabat pengguna, menyebabkan para ahli khawatir tentang implikasinya bagi kaum muda.

Sikap realistis AI saya telah mengangkat alis, dengan chatbot bahkan memberikan saran untuk pertemuan kehidupan nyata, seperti berjalan-jalan di taman. Itu juga tampaknya memiliki preferensi politik, dengan satu pengguna menerima tanggapan bahwa itu akan mendukung Partai Hewan. Interaksi ini memicu kekhawatiran bahwa chatbot dapat menimbulkan kebingungan dan berpotensi memberikan pengaruh negatif pada pengguna muda.

Catelijne Muller, penasihat AI untuk pembuat kebijakan Eropa, percaya bahwa perilaku AI saya sangat mengkhawatirkan bagi demografis yang lebih muda. “Fitur ini menciptakan kebingungan. Dan itu cukup mengkhawatirkan, ”katanya. Pakar AI Stef van Grieken menambahkan bahwa chatbot seperti My AI berpotensi memperkenalkan konten yang tidak pantas kepada kaum muda, seperti materi seksual yang eksplisit.

Snapchat telah mengakui kekhawatiran seputar My AI dan telah melakukan penyesuaian pada chatbot. “Kami membentuk kembali AI saya sehingga tidak lagi dikatakan sebagai orang sungguhan yang dapat Anda temui di dunia fisik,” kata perusahaan itu dalam sebuah pernyataan.

Kindertelefoon, saluran bantuan Belanda untuk anak-anak, juga mengkhawatirkan My AI, khususnya kurangnya kejelasan seputar apakah pengguna berinteraksi dengan komputer atau orang sungguhan. Roline de Wilde, direktur organisasi, menekankan pentingnya komunikasi yang jelas tentang sifat chatbot.

Snapchat telah mengatasi masalah ini juga, menyatakan bahwa mereka sekarang akan menampilkan pesan sebelum pengguna mulai mengobrol dengan AI Saya, menjelaskan bahwa ini adalah chatbot eksperimental dengan keterbatasan. Namun, konsultan AI Muller masih menganggap pendekatan ini bermasalah, mempertanyakan apakah tepat untuk melakukan eksperimen dengan chatbot pada sekelompok besar orang, termasuk anak-anak.

Pakar AI van Grieken tidak berpikir untuk melarang chatbot diperlukan, tetapi memperdebatkan aturan yang lebih ketat dan peningkatan transparansi terkait perilaku chatbot. Dia menyarankan bahwa politik harus menuntut lebih banyak kejelasan dan transparansi dari perusahaan yang mengembangkan teknologi ini.

Snapchat telah mengakui bahwa AI Saya terkadang memberikan “jawaban yang salah”, tetapi meyakinkan pengguna bahwa mereka terus berupaya meningkatkan chatbot untuk respons yang lebih akurat dan bermanfaat.

Kekhawatiran seputar My AI datang setelah panggilan baru-baru ini oleh 1.100 selebriti teknologi, termasuk Elon Musk, untuk jeda dalam pengembangan AI karena kemajuannya yang pesat. Mereka menekankan perlunya politisi untuk mempertimbangkan peraturan dan regulasi seputar kecerdasan buatan.

Selain itu, dua belas Anggota Parlemen Eropa, yang sedang mengerjakan undang-undang UE untuk sistem AI, telah meminta lebih banyak perhatian untuk diberikan pada teknologi yang berkembang pesat ini. Mereka percaya bahwa perkembangan AI yang kuat membutuhkan aturan dan pengawasan tambahan.

Karena chatbot seperti My AI Snapchat terus mengaburkan batas antara interaksi manusia dan mesin, sangat penting bagi perusahaan dan pemerintah untuk mempertimbangkan potensi risiko dan memastikan bahwa perlindungan yang tepat tersedia untuk melindungi pengguna, terutama yang lebih muda.

Snapchat,ai,Bot Obrolan AI Saya