Kilas Klaten – Chatbot AI Snap telah membuat perusahaan ini masuk dalam radar pengawas perlindungan data Inggris yang menimbulkan kekhawatiran bahwa alat ini mungkin berisiko terhadap privasi anak-anak.
Kantor Komisioner Informasi (ICO) hari ini mengumumkan bahwa mereka telah mengeluarkan pemberitahuan penegakan hukum awal terhadap Snap atas apa yang disebutnya sebagai "potensi kegagalan untuk menilai dengan benar risiko privasi yang ditimbulkan oleh chatbot AI generatif 'My AI'".
Tindakan ICO bukanlah temuan pelanggaran. Tetapi pemberitahuan tersebut menunjukkan bahwa regulator Inggris memiliki kekhawatiran bahwa Snap mungkin tidak mengambil langkah-langkah untuk memastikan produk tersebut mematuhi aturan perlindungan data, yang, sejak 2021, telah dipanggil untuk memasukkan Kode Desain Anak.
Baca Juga: Cara Mendapatkan Hewan Peliharaan di Snapchat & Menampilkannya di Snap Map
"Investigasi ICO untuk sementara menemukan bahwa penilaian risiko yang dilakukan Snap sebelum meluncurkan 'My AI' tidak secara memadai menilai risiko perlindungan data yang ditimbulkan oleh teknologi AI generatif, terutama terhadap anak-anak," tulis regulator dalam siaran persnya. "Penilaian risiko perlindungan data sangat penting dalam konteks ini yang melibatkan penggunaan teknologi inovatif dan pemrosesan data pribadi anak-anak berusia 13 hingga 17 tahun."
Snap sekarang akan memiliki kesempatan untuk menanggapi kekhawatiran regulator sebelum ICO mengambil keputusan akhir apakah perusahaan telah melanggar aturan. Snap meluncurkan chatbot AI generatif pada bulan Februari, meskipun baru tersedia di Inggris pada bulan April, dengan memanfaatkan teknologi model bahasa besar (LLM) ChatGPT dari OpenAI untuk memberi daya pada bot yang disematkan di bagian atas feed pengguna untuk bertindak sebagai teman virtual yang dapat dimintai nasihat atau mengirim pesan singkat.
Awalnya fitur ini hanya tersedia untuk pelanggan Snapchat Plus, versi premium dari platform perpesanan singkat tersebut. Namun dengan cepat Snap membuka akses "My AI" untuk pengguna gratis juga, juga menambahkan kemampuan AI untuk mengirim snaps kembali ke pengguna yang berinteraksi dengannya (snaps ini dibuat dengan AI generatif).
Baca Juga: Snapchat Mungkinkan Pengguna Untuk Menjeda Snap Streak
Perusahaan mengatakan bahwa chatbot ini telah dikembangkan dengan fitur moderasi dan pengamanan tambahan, termasuk pertimbangan usia sebagai standar, dengan tujuan untuk memastikan konten yang dihasilkan sesuai untuk pengguna.
Bot ini juga diprogram untuk menghindari respons yang bersifat kekerasan, kebencian, eksplisit secara seksual, atau menyinggung. Selain itu, alat pengamanan orang tua Snap memungkinkan orang tua mengetahui apakah anak mereka telah berkomunikasi dengan bot dalam tujuh hari terakhir, melalui fitur Family Center.
Ini bukan pertama kalinya chatbot AI masuk ke dalam radar regulator privasi Eropa.***