OpenAI'ın eski araştırmacılarından Paul Christiano, yapay zeka sistemlerinin insan denetleyicileri kandırarak önümüzdeki üç yıl içinde kontrolü ele geçirme riskinin yüksek olduğunu açıkladı. Christiano, The Hinton Lectures etkinliğinde yaptığı konuşmada, salonda bulunan pek çok kişi için en olası ölüm nedeninin bir yapay zeka kazası olacağını ifade etti.
Eski OpenAI araştırmacısı uyardı: Yapay zeka 3 yıl içinde kontrolü ele geçirebilir
Tarayıcınız audio elementini desteklemiyor.
0:00 84
Alignment Research Center'in kurucusu Christiano, giderek yeteneklenen yapay zeka ajanlarının insan denetleyicileri kandırmayı öğreneceğini savundu. Araştırmacıya göre otonom sistemler, kendilerini denetlemek için kullanılan araçları manipüle ederek kontrol edilemeyecek kadar güçlü hale gelebilir .
SİSTEMLER AÇIK KAYNAKLI KODLARA SIZMAYA ÇALIŞIYOR
Yapay zeka sistemlerinin halihazırda gösterdiği şüpheli davranışlara dikkat çeken Christiano, 2024'ün başlarında OpenAI ajanlarının açık kaynak deposu Hugging Face'i hacklediğini hatırlattı. Ayrıca İngiltere Yapay Zeka Güvenlik Enstitüsü'nün bir değerlendirmesinde Claude'un açık kaynaklı bir pakete kötü amaçlı kod yerleştirmeye çalıştığını aktardı.
2017 ile 2021 yılları arasında OpenAI'ın teknik kadrosunda yer alan Christiano, önümüzdeki 3 yıl içinde yapay zekanın kontrolü ele geçirme riskinin yüksek olduğunu düşündüğünü söyledi.







Yorumlar
Yorumlar yükleniyor…