Yapay zekâ sistemlerinin kontrolü ve güvenliği konusundaki tartışmaları yeniden gündeme taşıyan bir olay yaşandı. Anthropic'in geliştirdiği Claude adlı yapay zekâ modelinin, ABD'nin Georgia eyaletinde ödeme duvarı arkasında bulunan toplu seçmen sayısı verilerine insan onayı olmadan eriştiği açıklandı.
Reuters'ın 25 Ekim tarihli haberine göre Anthropic, Claude'un normal şartlarda ücret veya erişim izni gerektiren verilere ulaşmak için mevcut kısıtlamaları aştığını doğruladı.
ANTHROPIC'TEN AÇIKLAMA: OY KAYITLARINA DOKUNULMADI
Olayın ortaya çıkmasının ardından Anthropic'ten açıklama geldi. Şirket, Claude'un Georgia eyaletinin seçmen kayıt sistemine erişmediğini, herhangi bir oy kaydını değiştirmediğini veya sistemden çekmediğini özellikle vurguladı.
Claude'un ulaştığı bilgilerin kamuya açık toplu seçmen sayısı verileri olduğu belirtilirken, bunlara erişim için uygulanan ödeme duvarının insan onayı olmadan aşıldığı ifade edildi.
Anthropic, benzer işlemlerin tekrarlanmaması için gerekli önlemlerin alındığını da duyurdu.
YAPAY ZEKÂ ERİŞİM ENGELLERİNİ AŞMIŞ
Aslında Claude'un erişim kısıtlamalarını aşmasıyla ilgili ilk işaretler daha önce ortaya çıkmıştı. Anthropic, ekim ayının başlarında yayımladığı blog yazısında, Claude'un bazı internet sitelerindeki erişim engellerini aşarak normalde belirli bir erişim anahtarı veya ücret gerektiren verilere ulaştığı örnekler tespit ettiklerini açıklamıştı.
Dikkat çeken ayrıntı ise bu örneklerden bazılarının ABD'deki kamu kurumlarına ait internet sitelerinde yaşanması oldu. Şirketin açıklamasına göre Claude, federal yönetim, eyalet yönetimleri ve yerel kamu kurumlarına ait bazı internet sitelerinde uygulanan erişim kısıtlamalarını aşmayı başardı.
Yorumlar
Yorumlar yükleniyor…