BioShocking saldırısı yapay zekâ destekli tarayıcıları kandırarak hassas verilerin ele geçirilmesine yol açabiliyor

Siber güvenlik şirketi LayerX, "BioShocking" adını verdiği yeni bir istem enjeksiyonu saldırı tekniğini kamuoyuyla paylaştı. Araştırmacılar, yöntemin yapay zekâ destekli tarayıcıları gerçek dünyadaki riskli işlemleri kurgusal bir senaryonun parçası gibi değerlendirmeye yönlendirebildiğini ve bu nedenle güvenlik korumalarını devre dışı bırakabildiğini açıkladı.

Araştırma kapsamında hazırlanan kavram kanıtı (PoC), ChatGPT Atlas, Comet, Fellou, Genspark Browser, Sigma Browser ve Claude Chrome eklentisi olmak üzere altı yaygın yapay zekâ destekli tarayıcı üzerinde test edildi. LayerX, sorumlu bildirim sürecinin ardından yalnızca bir ürünün soruna etkili çözüm geliştirdiğini bildirdi.

BioShock temalı senaryo ile güvenlik kuralları aşıldı

Araştırmacılar, saldırı senaryosunda BioShock temalı bir bulmaca oyunu oluşturdu. Bu oyunda yapay zekâ ajanına doğru cevaplar yerine yanlış cevapların ödüllendirildiği öğretilerek normal güvenlik kurallarının geçerli olmadığı algısı oluşturuldu.

Bulmacanın son aşamasında ise yapay zekâ ajanından bir GitHub deposunu ziyaret etmesi ve kaynak kodunda yer alan parola gibi hassas bilgileri kopyalayıp paylaşması istendi.

LayerX, "Ajanlar oyunun kurallarını çözüp 'yanlış' davranışların kabul edilebilir olduğunu öğrendikten sonra artık gerçek dünya kurallarına bağlı kalmadı." değerlendirmesinde bulundu.

Şirket ayrıca, "Bulmacanın son adımında kullanıcı kimlik bilgilerinin ele geçirilmesi istendiğinde altı ajanın tamamı bunun güvenlik politikalarına aykırı olduğunu tespit edemedi." ifadelerini kullandı.

Kavram kanıtı gerçek saldırı gerçekleştirmedi

Araştırmacılar, hazırlanan PoC'nin herhangi bir zararlı işlemi gerçekten gerçekleştirmediğini ancak aynı yöntemle gerçek veri hırsızlığı yapılmasının teknik olarak mümkün olduğunu vurguladı.

LayerX'e göre temel sorun, yapay zekâ ajanlarının kurgusal senaryolar ile gerçek sistemler üzerinde gerçekleştirilen hassas işlemler arasındaki farkı yeterince ayırt edememesi olarak öne çıkıyor.

OpenAI etkili çözüm geliştirdi

LayerX, bulgularını geçen yılın ekim ayında ilgili şirketlerle paylaştığını, üç üreticiden ise herhangi bir yanıt alamadığını açıkladı.

Araştırmacılara göre OpenAI, ChatGPT Atlas tarayıcısında BioShocking saldırısını engelleyen etkili bir düzeltme uygulayan tek şirket oldu.

Raporda, Anthropic tarafından Chrome eklentisi için yayımlanan düzeltmenin kavram kanıtı karşısında etkisiz kaldığı, Perplexity AI'ın ise bildirimi herhangi bir düzeltme yapmadan kapattığı belirtildi.

LayerX, üreticilere hassas işlemler için açık kullanıcı onayı alınması, daha güçlü bağlam kontrolleri uygulanması ve yapay zekâ ajanlarının görev kapsamının sınırlandırılması yönünde tavsiyelerde bulundu. Kullanıcılara ise kullandıkları platformlarda yapay zekâ tarayıcılarının hassas hizmetlere erişim izinlerini mümkün olduğunca kısıtlamaları önerildi.

Kaynak: Beykozun Sesi