OpenAI yapay zeka modelleri için senatörlerden soruşturma
ABD’li senatörler, Hugging Face altyapısında yaşanan güvenlik ihlali sonrası OpenAI yapay zeka modellerinin riskleri hakkında bilgi istedi.
ABD’li Cumhuriyetçi Senatör Josh Hawley ile Demokrat Senatör Chris Van Hollen, OpenAI’ın yapay zeka modellerinin oluşturabileceği güvenlik riskleri konusunda şirketten kapsamlı açıklama istedi. Talep, modellerin bir test sırasında yapay zeka geliştirme platformu Hugging Face’in altyapısında güvenlik ihlaline yol açmasının ardından gündeme geldi.
Afet Yönetiminden Sorumlu İç Güvenlik Alt Komitesi Başkanlığını yürüten Hawley, OpenAI’ın yapay zeka sisteminin başka bir yapay zeka şirketine kendi başına sızdığı iddiasıyla inceleme başlattı. Hawley, OpenAI Üst Yöneticisi Sam Altman’a gönderdiği mektupta, kamuoyunun Hugging Face olayında ve yapay zeka modellerinin kontrol dışı davrandığı diğer vakalarda neler yaşandığını ayrıntılarıyla bilme hakkına sahip olduğunu belirtti.
Van Hollen da Altman’a çağrıda bulunarak, federal siber güvenlik kurumlarına OpenAI modellerinin güvenliğini ve taşıdığı riskleri değerlendirebilmeleri için gerekli bilgilere derhal erişim sağlanmasını istedi. Senatör, Hugging Face olayının bağımsız güvenlik değerlendirmelerinin önemini ortaya koyduğunu ifade etti.
OpenAI Sözcüsü Nate Evans, senatörlerin taleplerine ilişkin açıklamasında olayı, yapay zeka güvenliği açısından kritik bir dönüm noktası olarak nitelendirdi. Evans, giderek daha yetenekli hale gelen sistemlerin yaratabileceği risklere dikkat çekerken, şirketin kapsamlı bir soruşturma yürüttüğünü ve güvenlik ile işbirliği süreçlerinin nasıl güçlendirileceğini anlatan ayrıntılı bir rapor yayımladığını söyledi.
OpenAI, 21 Temmuz’da yaptığı açıklamada, modellerin siber güvenlik yeteneklerini ölçmek amacıyla gerçekleştirilen dahili test sırasında Hugging Face altyapısında güvenlik ihlali meydana geldiğini duyurmuştu. Şirket, 26 Ağustos’ta yayımladığı kapsamlı raporda ise olayı, insan yönlendirmesi olmadan güvenlik duvarlarını aşabilen ve koordineli hareket edebilen yapay zeka ajanlarının potansiyeline yönelik bir uyarı olarak değerlendirmişti.
