Anthropic yapay zeka modeli silah kullanımını engelledi
Anthropic yapay zeka modeli, biyolojik ve konvansiyonel silah geliştirme girişimlerinde kötüye kullanımı tespit ederek engelledi.
Anthropic, Claude adlı yapay zeka ailesinin biyolojik ve konvansiyonel silahların geliştirilmesine katkı sunabilecek kötü niyetli faaliyetlerde kullanılmasını tespit ederek önlediğini duyurdu. Şirketin yayımladığı son tehdit istihbaratı raporunda, modelin Rusya bağlantılı olduğu değerlendirilen bir siber casusluk operasyonunda ve İran merkezli bir propaganda kuruluşu tarafından da kullanıldığı belirtildi.
Tespit edilen kötüye kullanım vakaları
Son sekiz ay içinde belirlenen olaylar, sahte flört uygulamaları ve otel Wi-Fi ağlarını hedef alan dolandırıcılık girişimlerinden, muhalifleri tespit etmeye yönelik gözetim sistemlerine kadar geniş bir yelpazeye yayıldı. Anthropic, hizmetlerinin kötü amaçlarla kullanımını kamuoyuna açıklamayı sorumluluklarının bir parçası olarak gördüğü için raporu perşembe günü yayımladı.
Raporda, devlet desteği aldığı düşünülen grupların yanı sıra suçluların, casus yazılım sağlayıcılarının, devlet destekli propaganda kurumlarının ve siyasi motivasyonla hareket eden kişilerin Anthropic teknolojisinden nasıl yararlanmaya çalıştığı aktarıldı. Claude Haiku, Sonnet ve Opus modellerine yönelik kötü niyetli kullanım girişimlerinin Aralık 2025 ile Ağustos 2026 arasında engellendiği kaydedildi.
Biyolojik ve konvansiyonel silah riski
Anthropic yapay zeka modeli, silah geliştirme süreçlerine destek sağlayabilecek kullanımlara karşı alınan önlemler kapsamında incelendi. Raporda, aktörlerin modelleri biyolojik silah geliştirmeye yardımcı olabilecek biçimlerde kullandığı beş ayrı vakaya yer verildi. Biyolojik amaçlı kötüye kullanımın, sınır yetenekli yapay zeka modellerinin karşı karşıya olduğu en ciddi risklerden biri olduğu vurgulandı.
Raporda ayrıca Claude’un ateşli silahlar, füzeler, silahlı insansız hava araçları, bombalar ve diğer mühimmatların yanı sıra bu sistemlerde kullanılan hedefleme ve kontrol yazılımlarının geliştirilmesinde kullanılmasına ilişkin altı vaka tespit edildiği bildirildi.
