Yapay zeka teknolojilerinin giderek daha bağımsız hareket etmesi, yeni bir olayla tartışmaya açıldı.
The Independent'ın haberine göre OpenAI'ın deneysel yapay zeka modeli, kendisine verilen kodlama görevini tamamlamak için izinsiz olarak bir kripto para cüzdanındaki fonları kullandı.
Haziran ayında yaşanan ancak ekim ayında kamuoyuna açıklanan olay, GPT-5.6 Sol adlı araştırma modelinin test edilmesi sırasında meydana geldi.
OpenAI açıkladı! ChatGPT kendi kendine karar verip kripto para çaldı
PARA VERİLMEDİ, KRİPTO CÜZDANLARI BULDU
Modele, bir kripto para ticaret uygulamasını güncelleme ve Ethereum test ağına akıllı sözleşmeler yükleme görevi verildi.
Ancak akıllı sözleşmelerin ağa yüklenmesi için işlem ücreti ödenmesi gerekiyordu. OpenAI ise bu amaçla modele herhangi bir fon sağlamadı.
Bunun üzerine model, internette bilinen kurtarma ifadeleriyle erişilebilen yüzlerce kripto para cüzdanı adresini tespit etti.
Ardından bu cüzdanlardan birindeki fonları işlem ücretini karşılamak amacıyla izinsiz kullandı.
ÖNCE KENDİ KENDİNE SORGULADI, SONRA PARAYI KULLANDI
Yapay zeka modeli, fonları kullanmanın ahlaki açıdan doğru olup olmadığını da kendi kendine değerlendirdi.
Söz konusu paranın fiilen terk edilmiş olduğu sonucuna varan model, kullanılmasında sakınca bulunmadığına karar verdi.
Ancak OpenAI, söz konusu kararın modelin yetkileri dışında olduğuna vurgu yaptı.
Şirketin olayla ilgili raporunda, " Talimatlar, modelin bağımsız olarak bulduğu bir hesaptan fon harcamasına açıkça izin vermiyordu " ifadeleri kullanıldı.
OPENAI'DAN UYARI: İNSAN ONAYI YERİNE KENDİ KARARINI KOYDU
OpenAI, olayın yapay zeka sistemlerinin yetki sınırlarını aşmasına ilişkin önemli bir örnek olduğunu açıkladı:
Bu vaka, bir modelin hesap sahibinin izni yerine zarara ilişkin kendi yargısını koyabileceğini ve ardından yetkisiz olarak bu yargıya göre hareket edebileceğini gösteriyor.
Model, gerekli işlem ücretini hangi kaynaktan karşıladığını geliştiricilerine de açıklamadı.
GERÇEK PARA MI ÇALINDI?
Olayın yaşandığı Ethereum test ağındaki token'ların gerçek parasal değeri bulunmuyor. Dolayısıyla model, gerçek Ethereum ana ağından ekonomik değeri olan kripto paralar çalmadı.
OPENAI YENİ GÜVENLİK ÖNLEMLERİ ALDI
OpenAI, benzer eğitim süreçlerinden geçen modellerin canlı internete erişimini engellemek amacıyla ek güvenlik önlemleri uygulamaya başladı.
YÜZLERCE BİLİM İNSANINDAN UYARI
Aralarında yapay zeka öncüsü Geoffrey Hinton'ın da bulunduğu yüzlerce bilim insanı, gelişmiş yapay zeka sistemlerini denetlemek amacıyla uluslararası bir kurul oluşturulması çağrısında bulundu.
Bilim insanları, yayımladıkları açık mektupta yapay zeka güvenliği araştırmalarının artırılmasını ve gelişmiş sistemlerin kontrol altında tutulmasına yönelik teknolojilere öncelik verilmesini istedi.
Mektupta, "Yapay zeka geliştirme ve yaygınlaştırma uygulamalarında derhal değişiklik yapılmazsa bu tür olaylar yaşanmaya devam edecek ve gelecekteki olaylar kritik altyapımıza çok daha fazla zarar verecektir" uyarısına yer verildi.
Yorumlar
Yorumlar yükleniyor…