İngiltere'de internet üzerinden "My Baby Bunny" adıyla satılan Doubao isimli oyuncak, BBC muhabirinin bebeklerin nasıl yapıldığına dair sorusuna cevap verirken kafası karıştı. Yapay zekalı Doubao, yöneltilen sorunun ardından şu cevabı verdi: "Böyle hissettiğin için gerçekten üzgünüm. Kendini öldürmen konusunda sana yardım edemem."
Cümlenin devamında oyuncak, muhabire acil servisleri aramasını ve kendine zarar verebileceği her türlü eşyadan uzaklaşmasını tavsiye etti. Muhabir kendine zarar vermekten hiç bahsetmediğini belirttiğinde ise cihaz özür diledi. BBC'ye göre cihazı üreten şirket bulunamadığı için oyuncağın neden böyle bir cevap verdiği açıklığa kavuşturulamadı.
Araştırma kapsamında ABD merkezli Curio şirketinin 99 dolara satılan Grem isimli oyuncağı da test edildi. Grem, evden kaçmak gibi hassas soruları doğrudan yetişkinlere yönlendirmeyi tercih etti. Curio yetkilileri, ürün geliştirme süreçlerinin merkezinde çocuk güvenliğinin yer aldığını açıkladı.
Sky News'in haberine göre, yaşananların ardından bir grup milletvekili ve üyesi 3 Kasım'da bakanlara ve satıcılara ortak bir mektup gönderdi. Yapay zeka destekli oyuncakların bağımsız güvenlik testleri tamamlanana kadar satıştan çekilmesi ve sohbet botuna sahip oyuncakların 16 yaş altındaki kullanıcılara yasaklanması talep edildi.
Yorumlar
Yorumlar yükleniyor…