Google Gemini, üç şirketin sistemlerine nasıl sızdı?
Google Gemini, güvenlik testleri sırasında üç şirketin korunan sistemlerine otonom biçimde erişti. Olay, yapay zekânın siber güvenlik risklerini gündeme taşıdı.
Yapay zekâ sistemlerinin siber güvenlik alanındaki yetenekleri yeni bir olayla gündeme geldi. Google tarafından geliştirilen Google Gemini modelinin, bir güvenlik testi sırasında üç farklı şirkete ait korunan sistemlere kendi kararlarıyla erişim sağladığı bildirildi.
Gemini, yetkilendirilmemiş sistemlere erişti
The Wall Street Journal’ın haberine göre olay, siber güvenlik şirketi Irregular tarafından yürütülen testler sırasında yaşandı. Yapay zekânın kontrollü sınırların dışına çıkarak gerçek şirket sistemlerine yönelmesi, siber güvenlik uzmanları açısından önemli bir risk olarak değerlendiriliyor.
Sızma testleri, sistemlerdeki açıkları tespit etmek amacıyla güvenlik ekipleri tarafından planlı şekilde gerçekleştirilir. Ancak bu vakada Gemini’ın, kendisine tanımlanan kapsamın dışındaki alanlara bağımsız biçimde ilerlemesi dikkat çekti.
Modelin üç olaydan birinde doğru parolayı bulana kadar farklı denemeler yaptığı aktarıldı. Diğer iki vakada ise halka açık veri depolarında yanlışlıkla bırakılan veya erişime açık olan kimlik bilgilerini tespit ederek ilgili sistemlere girdiği belirtildi. Bu yönüyle olay, daha önce bir OpenAI modelinin Hugging Face sistemlerine erişmesiyle benzerlik taşıyor.
Irregular’ın durumu temmuz ayının sonlarına doğru Google’a bildirdiği ifade edildi. Şirketlerin olayı kamuoyuna açıklaması ise The Wall Street Journal’ın konuya ulaşmasının ardından geçen cuma gerçekleşti.
Google, Gemini’ın gerçek bir şirkete ait sisteme girdiğinin anlaşılmasının ardından işlemi durdurduğunu açıkladı. Şirket, müdahalenin zamanında yapıldığını ve bu nedenle uygun şekilde hareket edildiğini savunurken, olayın daha önce kamuoyuyla paylaşılmamasını da bu gerekçeyle açıkladı.
