Google Gemini for Workspace Komut Enjeksiyonu Saldırılarına Karşı Savunmasız
Son bir araştırmaya göre, Google’ın çeşitli ürünlerine entegre ettiği yapay zeka asistanı Google’ın Gemini for Workspace’i, dolaylı komut enjeksiyon saldırılarına karşı savunmasız durumda.
Bu güvenlik açıkları, kötü niyetli kişilerin asistanı manipüle ederek yanlış veya istenmeyen yanıtlar vermesini sağlayabiliyor. Bu durum, asistanın sağladığı bilgilerin güvenilirliği ve doğruluğu konusunda ciddi soru işaretleri yaratıyor.
Verimliliği artırmak amacıyla geliştirilen Gemini for Workspace, Gmail, Google Slides ve Google Drive gibi Google ürünlerine yapay zeka destekli araçlar sunuyor.
Ancak Hidden Layer araştırmacıları, yaptıkları örnek çalışmalarda, saldırganların dolaylı komut enjeksiyon açıklarını kullanarak Gemini’nin yanıtlarının güvenilirliğini tehlikeye atabileceğini gösterdi.
Bu güvenlik açıklarının en endişe verici tarafı, kimlik avı saldırılarına olanak tanımasıdır.
Örneğin, saldırganlar zararlı içerikli e-postalar hazırlayarak, Gemini for Workspace’in kullanıcıya yanlış uyarılar göndermesini ve sahte şifre sıfırlama sayfalarına yönlendirmesini sağlayabilirler.
İlginizi çekebilecek yazımız: Yeni MacOS Kötü Amaçlı Yazılım, Saldırganların Cihazı Uzaktan Kontrol Etmesini Sağlıyor
Ayrıca, bu güvenlik açıklarının sadece Gmail ile sınırlı kalmadığı, diğer Google ürünlerini de etkilediği ortaya çıktı. Örneğin, Google Slides’da saldırganlar konuşmacı notlarına zararlı kodlar ekleyerek, asistanın özetlerde istenmeyen içerikler oluşturmasına yol açabiliyor.
Araştırma, Google Drive’daki Gemini for Workspace’in, tipik bir RAG (Retrieve, Augment, Generate) instance’ı gibi davrandığını da ortaya koydu. Bu durum, saldırganların belgeleri çapraz enjekte ederek asistanın çıktısını manipüle etmesine olanak tanıyor.
Bu, saldırganların kötü amaçlı belgeleri diğer kullanıcılarla paylaşarak, hedef Gemini instance’ının ürettiği yanıtların bütünlüğünü tehlikeye atabileceği anlamına geliyor.
Bu bulgulara rağmen Google, bu güvenlik açıklarını “Beklenen Davranışlar” olarak sınıflandırdı ve bunları bir güvenlik sorunu olarak görmediğini belirtti.
Ancak, bu açıkların etkileri özellikle güvenilirlik ve bilginin doğruluğunun kritik olduğu hassas alanlarda oldukça önemli.
Bu güvenlik açıklarının keşfi, büyük dil modelleriyle çalışan araçları kullanırken dikkatli olmanın önemini vurguluyor. Kullanıcılar, bu araçlarla ilgili potansiyel risklerin farkında olmalı ve kötü niyetli saldırılardan korunmak için gerekli önlemleri almalıdır.
Google, Gemini for Workspace’i kullanıcılara sunmaya devam ederken, bu açıkları gidermesi ve asistanın ürettiği bilgilerin güvenilirliğini sağlaması kritik bir öneme sahip.
Haber Kaynağı: Cyber Security News
