Nobel ödüllü bilimciden uyarı: “Yapay zeka bilinç kazandı, insanlık dost olmalı”

Geoffrey Hinton, The Telegraph’a verdiği röportajda yapay zekanın geleceğine ilişkin endişelerini anlattı.

Nobel ödüllü araştırmacı, sistemlerin giderek güçlenmesinin yanında insanlarla nasıl bir ilişki kuracağının da belirleyici olacağını düşünüyor.

HINTON’A GÖRE MODELLER TEST EDİLDİKLERİNİ FARK EDEBİLİYOR

Hinton, bilinç konusundaki görüşünü açıklarken yapay zeka modellerinin değerlendirildiklerini düşündüklerinde davranışlarını değiştirebildiğini gösteren bir çalışmaya atıfta bulundu. Araştırmacı, bu durumu farkındalık işareti olarak yorumluyor ve farkındalıkla bilinç arasında yakın bir bağ kuruyor.

Hinton’ın asıl uyarısı ise bu sistemlerin insanlara karşı nasıl davranacağıyla ilgili. Yapay zekanın insanları gerçekten önemseyecek biçimde geliştirilmesi gerektiğini belirterek, bunun başarılamaması halinde “işimiz biter” ifadesini kullanıyor.

BİLİNÇ KONUSUNDA BİLİM İNSANLARI AYNI FİKİRDE DEĞİL

Hinton’ın açıklamaları güçlü bir iddia içeriyor. Bir modelin içinde bulunduğu bağlama uygun davranması ile öznel deneyime sahip olması arasında ise bilimsel tartışmanın merkezinde yer alan bir ayrım bulunuyor.

Anil Seth, Ned Block ve Giulio Tononi’nin Nature’da yayımlanan değerlendirmesi, Hinton’ın yaklaşımından farklı bir görüş ortaya koyuyor. Araştırmacılar, dil modellerinin düşünce ve duyguları ikna edici biçimde taklit edebilmesinin, bunları gerçekten deneyimlediklerini göstermediğini savunuyor.

Yazının temel itirazı, zeka ile bilincin aynı şey olmadığı yönünde. Karmaşık görevlerde başarılı olmak, tek başına bir sistemin hissettiğini veya öznel bir yaşantıya sahip olduğunu kanıtlamıyor.

ENDİŞELERİ SİBER SALDIRILARI DA KAPSIYOR

Hinton’ın kaygıları bilinç tartışmasıyla sınırlı kalmıyor. Röportajda yapay zeka destekli ciddi siber saldırılar ve birlikte hareket eden ajanların oluşturabileceği tehlikelere de dikkat çekiyor.

Hinton, daha önce The Guardian’a verdiği röportajda da teknoloji şirketlerinin kendi kendilerini denetlemesine güvenmediğini belirtmişti. Ona göre sektörün daha yetenekli modeller geliştirme yarışı, güvenlik ve etik davranış konularını geri plana itmemeli. Araştırmacı, yapay zekanın gelişiminin yalnızca şirketlerin kararlarına bırakılmasına karşı çıkıyor.

BUGÜNKÜ YAPAY ZEKANIN TEMELLERİNİ ATAN İSİMLERDEN

Hinton’ın açıklamalarının geniş yankı bulmasının nedeni, modern yapay zekanın gelişimindeki rolü. Araştırmacı, yapay sinir ağlarıyla makine öğrenmesini mümkün kılan temel keşif ve buluşları nedeniyl e 2024 Nobel Fizik Ödülü’nü John Hopfield ile paylaşmıştı.

Hinton’ın istatistiksel fizik yöntemlerinden yararlanarak geliştirdiği Boltzmann makinesi, verilerdeki özelliklerin öğrenilmesine yönelik önemli çalışmalardan biri kabul ediliyor. Bu çalışmalar, görüntülerin sınıflandırılması ve üretilmesi gibi alanların gelişimine katkı sağladı.