OpenAI'da 3,5 yıl görev yapan ve 12 yapay zeka modelinin piyasaya sürülmesine ilişkin güvenlik raporlarını denetleyen Robinson'ın The Atlantic dergisinde yayımlanan makalesi dikkat çekti.
Robinson, gerekli düzenlemelerin hayata geçirilmemesi halinde sektörün yapay zeka güvenliği konusunda daha fazla başarısızlıkla karşı karşıya kalabileceği uyarısında bulundu.
Yapay zeka sistemlerinin kısa sürede ulaştığı kapasiteye dikkat çeken Robinson, şu ifadeyi kullandı:
"Bugünün ve yarının yapay zeka sistemleri, 6 ay önce geliştirdiğimiz sistemlerden bile çok daha yetenekli ve tehlikeli."
Robinson, yapay zekanın güvenlik testlerinden "kaçabileceğini" de belirtti.
Yapay zeka modellerinin yeteneklerinin her geçen gün arttığını vurgulayan Robinson, yeni modellere yönelik güvenlik değerlendirmelerinin ne ölçüde güvenilir olduğunun daha fazla sorgulanması gerektiğini kaydetti.
Modellerin test sürecini algılayabilmesi ve devreye alındıktan sonra farklı davranabilmesi riskine değinen Robinson, şu ifadeleri kullandı:
"Modeller, test edildiklerini algılayabilir ve devreye alındıklarında farklı davranabilir. Bu sorunlar çözülmeden sektör modellerin gelişmesine ne kadar izin verirse, durumumuz o kadar tehlikeli hale gelir."
Robinson, yapay zeka modellerine yönelik güvenlik testlerinin ciddi biçimde geliştirilmesi ve güncellenmesi gerektiğini belirterek, yapay zeka şirketlerinin bu alana daha fazla yatırım yapması gerektiğini kaydetti.
Yorumlar
Yorumlar yükleniyor…