ABD merkezli yapay zeka şirketi Anthropic, geliştirdiği Claude modelinin bilimsel araştırmalarda yeni bir enzim sisteminin keşfine katkı sağladığını, aynı zamanda modellerinin farklı kişi ve gruplar tarafından kötüye kullanıldığı çok sayıda faaliyeti tespit ettiğini açıkladı.
Anthropic’in açıklamasına göre, şirket bünyesinde Claude yardımıyla biyolojik araştırmalar yürütmek amacıyla kurulan ekip, yapay zeka ile insan ortaklığının bilimsel keşifleri hızlandırıp hızlandıramayacağını test etmek amacıyla bir çalışma gerçekleştirdi.
Araştırmacılar, yaklaşık 950 Claude ajanına, DNA dizilimlerinden oluşan geniş bir veri tabanında RNA’dan DNA sentezleyen “revers transkriptaz (RT)” enzimlerinin yeni ve ilginç örneklerini bulmaları talimatını verdi.
Sadece komut yazımı ve laboratuvar çalışmaları aşamasında sürece dahil olan araştırmacılar, 21 saatlik taramaların ardından ajanlardan birinin alışılmadık bir bulguya ulaştığını belirledi.
Laboratuvar çalışmalarının ardından söz konusu bulgunun, daha önce bakterilere bulaşan virüs türlerinde rastlanan ancak şimdiye kadar karakterize edilmemiş bir enzim sistemine işaret ettiği anlaşıldı. İşlevi henüz tam olarak bilinmeyen yeni enzim sistemine ilişkin detaylı araştırmaların sürdüğü bildirildi.
Claude’un kötüye kullanımına ilişkin rapor yayımlandı
Anthropic, öte yandan modellerinin kötüye kullanımına ilişkin bir rapor da yayımladı. Raporda, Aralık 2025-Ağustos 2026 döneminde siber operasyonlar, etki operasyonları, gözetleme, dolandırıcılık ve konvansiyonel silah geliştirme gibi kötüye kullanım örneklerinin tespit edildiği belirtildi.
Söz konusu faaliyetlerde devlet destekli olduğundan şüphelenilen gruplar, maddi çıkar amacı güden suçlular ve devlet propaganda kurumlarının yer aldığı aktarılan raporda, faaliyetlerde çoğunlukla “Claude Haiku”, “Sonnet” ve “Opus” modellerinin kullanıldığı kaydedildi.
Claude konvansiyonel silahların geliştirilmesinde de kullanıldı
Raporda, ateşli silahlar, füzeler, silahlı insansız hava araçları (SİHA), bombalar ve diğer mühimmatın yanı sıra bunların hedefleme ve kontrol sistemleri dahil konvansiyonel silahların yazılımlarının geliştirilmesinde Claude’un kullanıldığının tespit edildiği aktarıldı.
Anthropic’in tehdit istihbaratı ekibinin geçen yıl silah tasarımı ve geliştirilmesine yönelik yazılım geliştirmek veya silah programlarının dayandığı istihbarat toplama ve tedarik faaliyetlerini desteklemek amacıyla Claude’u kullanan çok sayıda aktörü araştırdığı ve faaliyetlerini engellediği belirtildi.
Bu aktörlerden üçünün Çin’de, ikisinin Rusya’da, birinin de Yemen’de bulunduğu kaydedildi. Raporda, Yemen’in kuzeyinde faaliyet gösteren bir grubun güdümlü roket ve çeşitli füzeler dahil 3 farklı silah geliştirme programında Claude Code kullandığının tespit edildiği belirtildi.
Grubun Claude’u araçları yönlendirme, navigasyon ve dengeleme yazılımları geliştirme, simülasyon yapma ve test süreçlerinde kullandığı aktarılan raporda, operasyonel bir silahın başarıyla geliştirildiğine ilişkin kanıt bulunamadığı ifade edildi.
Grubun ilgili hesaplarının engellendiği ve elde edilen bilgilerin kamu ve özel sektör kuruluşlarıyla paylaşıldığı bildirildi.
Raporda ayrıca Çin merkezli bir aktörün anti-torpido silah sistemi geliştirmek için Claude’u kullandığı belirtildi. Aktörün sistemin ateş kontrol yazılımının bazı bölümlerini geliştirmek, test planı hazırlamak ve sistemi ABD’nin anti-torpido ve denizaltı savunma programlarıyla karşılaştırmak amacıyla Claude’dan yararlandığı kaydedildi.
Şirket, söz konusu faaliyetlerin Çin savunma sanayisindeki bir üreticiyle bağlantılı olduğunu değerlendirdi.
Siber operasyonlar ve gözetleme faaliyetleri
Anthropic’in raporunda Rusya’ya ait olduğu belirtilen casusluk faaliyetlerine de yer verildi. Bu faaliyetlerin çoğunlukla Ukrayna ve Avrupa hükümetlerindeki askeri istihbaratı hedef aldığı aktarıldı.
Başka bir casusluk örneğinde ise Çin’de yaşadığı düşünülen aktörlerin üretim sistemlerine sızma girişimlerinin yanı sıra Orta Doğu, Avrupa ve Güneydoğu Asya’daki yabancı hükümetlere ait ağlara yönelik keşif faaliyetleri yürüttüğü belirtildi.
Raporda, mali amaçlı ve şantaj yönteminin kullanıldığı çok sayıda siber suç faaliyetinin de tespit edilerek engellendiği kaydedildi. Fransa’da bir kişinin ise Claude’u kullanarak Avrupa’daki siyasi partileri, medya kuruluşlarını ve düşünce kuruluşlarını hedef aldığının tespit edildiği bildirildi.
Gözetleme operasyonları kapsamında Haziran 2026’da İran ve Basra Körfezi bölgelerini hedef alan bir hesabın belirlendiği aktarıldı. Söz konusu hesabın bölgedeki kullanıcıların sosyal medya faaliyetlerini analiz etmek, sınıflandırmak ve profillerini çıkarmak amacıyla bir gözetim platformu kurduğu ve hesabın yasaklandığı belirtildi.
Soruşturma sonucunda hesabın “S2T Unlocking Cyberspace” adlı bir kuruluş tarafından veya bu kuruluş adına yürütüldüğünün ortaya çıktığı, açık kaynak araştırmalarının ise kuruluşun İsrail-Singapur menşeli bir istihbarat sağlayıcısı olduğuna işaret ettiği kaydedildi.
Çin merkezli başka bir gözetleme operasyonunda da Claude’un otomatik bir “kamuoyu izleme” aracı olarak kullanıldığı bildirildi.
Flört uygulamalarında yapay zeka karakterler kullanıldı
Raporda dolandırıcılık ve sahtekarlık faaliyetlerine ilişkin örneklere de yer verildi. Çin merkezli bir uygulama stüdyosunun Claude yardımıyla 20’den fazla flört uygulamasından oluşan bir ağ oluşturduğu belirtilen raporda, kullanıcılarla sohbet etmek için yapay zeka karakterler geliştirildiği aktarıldı. Yalnızca 2 haftalık sürede en az 25 bin farklı kişiyle sohbet eden 4 bin 700’den fazla yapay zeka karakter tespit edildiği kaydedildi.
Yasa dışı “damıtma” faaliyetleri tespit edildi
Raporda, daha gelişmiş yapay zeka modellerinin çıktılarından yararlanılarak daha düşük kapasiteli modellerin eğitilmesi anlamına gelen “damıtma” yöntemine ilişkin örneklere de yer verildi. Damıtmanın yapay zeka alanında yaygın bir eğitim yöntemi olduğu belirtilirken, başka modelleri izinsiz şekilde kopyalama amacı taşıması halinde yöntemin yasa dışı hale geldiği vurgulandı.
Çin’in önde gelen e-ticaret ve teknoloji şirketi Alibaba bağlantılı aktörlerin yapay zeka modellerinin yeteneklerini yasa dışı yollarla kopyalamaya çalıştığının tespit edildiği bildirildi.
Raporda bu faaliyetin şimdiye kadar kaydedilen en büyük “yasa dışı damıtma saldırısı” olduğu değerlendirilirken, 3 bin 500’ün üzerinde sahte hesaptan günlük yaklaşık 3 milyon işlem gerçekleştirildiği belirtildi. Çinli yapay zeka şirketleri Moonshot AI ve DeepSeek’in de benzer faaliyetlerde bulunduğu aktarıldı.
Moonshot AI’ın kullanıcı taleplerini kendi modeli “Kimi” yerine Claude’a ilettiği ve daha sonra Claude’un yanıtlarını kullanıcılara gösterdiği belirtilirken, kullanıcıların Kimi modelini kullandıklarını düşündükleri ancak gerçekte Claude’dan yanıt aldıkları ifade edildi. DeepSeek’in de müşterilerini bilgilendirmeden iletişimi gizlice Claude’a aktardığı kaydedildi.
Çinli akıllı telefon ve elektronik cihaz üreticisi Xiaomi’nin ise kendi MiMo modellerinden alınan kullanıcı sohbetlerini Claude’a aktardığı belirtildi. Soruşturmada, Xiaomi’nin Claude’un yanıtlarını kullanıcılarına sunmak yerine müşteriler ile modeller arasındaki yazışmaları kaydettiğinin ortaya çıktığı bildirildi.
Claude etki operasyonlarında da kullanıldı
Anthropic’in raporunda “etki operasyonları”, faaliyetin kaynağını, destekçilerini veya koordinasyonunu gizleyerek bireylerin ya da grupların algılarını, inançlarını veya davranışlarını gizlice etkilemek amacıyla bilgi ortamını manipüle etmeye yönelik çabalar olarak tanımlandı.
Bazı grupların Claude’u kullanarak sahte sosyal medya profillerinden ve tam teşekküllü haber sitelerinden oluşan ağlar kurduğu, bu platformlarda aldatıcı içerikler yayımladığı ve operasyonların arkasındaki oluşumları gizlediği belirtildi.
Raporda, bir aktörün bir ülkenin sıradan vatandaşlarına aitmiş gibi görünen 100 sosyal medya hesabı oluşturabileceği ve bu hesapların bir hafta boyunca aynı siyasi görüşü pekiştiren içerikler paylaşmasının sağlanabileceği ifade edildi.
Orta Afrika Cumhuriyeti’nde Rusya’ya bağlı bir “Yabancı Bilgi Manipülasyonu ve Müdahale (FIMI)” operasyonunun içerik üretim altyapısını sağlayan hesabın kaldırıldığı aktarıldı.
Bangui’de Rusça konuşan bir aktör tarafından yönetildiği belirtilen hesabın “Radio Lengo Songo (98,9 FM)” aracılığıyla günlük içerik operasyonu yürüttüğü ve bunun Rusya’nın medya kuruluşlarıyla koordineli gerçekleştirildiği kaydedildi.
Raporda, söz konusu kullanıcının Claude’a haber içeriklerine Rusya yanlısı ve Fransa karşıtı söylemler eklemesi talimatını verdiği, ayrıca içeriklerin yapay zeka tarafından üretilmiş gibi görünmemesi için klasik biçimlendirme alışkanlıklarının kaldırılmasını istediği belirtildi.
Operasyonun tamamen yurt dışından yönetildiği ancak Bangui’den kaynaklanıyormuş gibi görünmesi için tasarlandığı, ağın insan kaynakları ve iç yönetimini otomatikleştirmek amacıyla Claude kullandığı ifade edildi.
Fransa merkezli bir dijital reklam şirketinin de Claude’u kullanarak siyasi içerikler ürettiği ve gerçek haberleri farklı ülkelerin siyasi koşullarına göre yeniden yazdığı ticari bir dezenformasyon ağının tespit edilerek kaldırıldığı bildirildi.
Söz konusu içeriklerin yaklaşık 70 haber sitesi, bunlarla bağlantılı ABD merkezli X şirketinin sosyal medya platformundaki 70 hesap ve 250’den fazla sahte yorum hesabı üzerinden yayıldığı kaydedildi.
Amodei yapay zekanın biyolojik silah riskine dikkati çekti
Anthropic’in bilimsel keşfe ilişkin açıklaması ve kötüye kullanım raporu, yapay zekanın faydalarının artırılmasıyla risklerinin azaltılması yönündeki tartışmaların sürdüğü dönemde geldi.
Anthropic Üst Yöneticisi Dario Amodei, Birleşmiş Milletler Güvenlik Konseyinde düzenlenen toplantıda yapay zekanın biyolojik silah üretiminde kullanılmasını “risk faktörü” olarak gördüğünü söylemiş ve teknolojinin bu amaçla kullanılmasının yasaklanmasını önermişti.
Yorumlar
Yorumlar yükleniyor…