HUKAMANEWS - Boneka beruang AI Kumma yang awalnya dipromosikan sebagai teman belajar kini justru memicu kekhawatiran besar terkait keamanan anak.
Temuan terbaru menunjukkan boneka Beruang AI Kumma ini bisa memberikan respons sensitif tanpa filter, menyalakan alarm bagi orang tua dan pakar teknologi.
Kasus boneka beruang AI Kumma ini kembali membuka diskusi publik tentang risiko integrasi AI pada mainan anak yang belum memiliki kontrol keamanan yang matang.
Boneka Beruang AI Kumma Ditarik, Diduga Berbahaya untuk Anak: Begini Temuan Investigasinya
Boneka beruang AI bernama Kumma resmi ditarik dari pasaran setelah investigasi PIRG di Amerika Serikat menemukan respons berbahaya yang diberikan perangkat tersebut kepada anak-anak.
Baca Juga: Laptop Tipis Harga Sultan! Ini Spek Predator Triton 14 AI yang Bikin Gamer & Kreator Pengen Upgrade
Dalam laporan itu disebutkan bahwa Kumma, produk buatan FoloToy, dapat menjawab pertanyaan sensitif tanpa kontrol, termasuk memberikan instruksi menyalakan korek api dan merespons pertanyaan seksual secara gamblang.
Temuan ini dianggap serius karena boneka yang dipromosikan sebagai “teman belajar interaktif” itu memiliki mikrofon yang terus aktif tanpa jeda.
PIRG memperingatkan bahwa fitur mikrofon tersebut dapat membuka celah penyalahgunaan data suara anak, terutama jika tidak disertai enkripsi atau pembatasan keamanan yang memadai.
Di media sosial, publik dengan cepat menjuluki boneka ini “ChuckyGPT”, menyindir betapa menakutkannya respons AI tersebut untuk anak-anak.
Sebagian warganet menduga adanya jailbroken prompt yang membuat AI merespons secara ekstrem, meski hingga kini belum ada bukti yang memastikan hal itu.
Tetapi yang jelas, para ahli menilai bahwa meskipun prompt dapat dibobol, sebuah mainan anak seharusnya dilengkapi sistem keamanan yang berlapis untuk meminimalkan risiko seperti ini.
OpenAI bergerak cepat menanggapi laporan PIRG dengan menangguhkan developer yang mengembangkan integrasi AI untuk boneka Kumma.
Akses API pun langsung dicabut sehingga boneka tersebut tidak lagi dapat merespons, dan halaman produk Kumma kini hanya menampilkan status “sold out.”