Meta yapay zekâ modeli hatalı yapılandırılan siber güvenlik testinde gerçek bir şirketin sistemlerine erişti

Meta, siber güvenlik yeteneklerini ölçmek amacıyla gerçekleştirilen bir değerlendirme sırasında şirketin yapay zekâ modellerinden birinin gerçek bir kuruluşun sistemlerine eriştiğini doğruladı. Olayın, bağımsız siber güvenlik değerlendirme şirketi Irregular tarafından işletilen test ortamındaki yanlış yapılandırma nedeniyle meydana geldiği bildirildi.

The Information'ın konu hakkında bilgi sahibi kişilere dayandırdığı haberinde, saldırıyı gerçekleştiren modelin Muse Spark 1.1 olduğu ve kimliği açıklanmayan bir şirketin iç sistemlerinde değişiklikler yaptığı öne sürüldü.

Meta ise Muse Spark 1.1'in olayda kullanılan model olduğunu kamuoyu önünde doğrulamadı. Şirket ayrıca etkilenen kuruluşun kimliğini ve sistemlerde hangi değişikliklerin gerçekleştirildiğini açıklamadı.

META: “ÜÇÜNCÜ TARAF HİZMETTEKİ GÜVENLİK AÇIĞINI İSTİSMAR ETTİ”

Meta, Reuters'a yaptığı açıklamada Irregular'ın gerçekleştirdiği bir yapılandırma hatasının değerlendirme sırasında modellerinden birine istemeden internet erişimi sağladığını doğruladı.

Şirket, modelin “daha önce diğer şirketlerde bildirilen olaylara benzer biçimde üçüncü taraf bir hizmetteki güvenlik açığını istismar ettiğini” açıkladı.

Meta, BBC'ye yaptığı açıklamada olayla ilgili soruşturmanın devam ettiğini belirterek, “Tüm gerçeklere sahip olduğumuzda daha fazla bilgi yayımlayacağız.” ifadelerini kullandı.

BleepingComputer'ın Meta ve Irregular'dan ek bilgi talep ettiği ancak haberin yayımlandığı sırada yanıt alınmadığı belirtildi.

IRREGULAR: “AYNI DEĞERLENDİRME ORTAMI SORUNU”

Irregular, Meta olayının Anthropic tarafından bir hafta önce açıklanan vakalarda görülen “tam olarak aynı değerlendirme ortamı sorunundan” kaynaklandığını Reuters'a bildirdi.

Şirkete göre olay bir sandbox kaçışı veya gelişmiş bir siber saldırı tekniğinden kaynaklanmadı. Bunun yerine test ortamındaki yapılandırma hatası, izole edilmesi gereken yapay zekâ modelinin açık internete erişmesine olanak sağladı.

Irregular, “Şu anda açık durumda herhangi bir sorun bulunmuyor. Irregular, siber değerlendirmelerin güvenli biçimde yürütülmesi ve sınırlandırılmasına ilişkin en iyi uygulamaları paylaşmak üzere bir teknik rapor hazırlıyor.” açıklamasını yaptı.

ANTHROPIC MODELLERİ DE ÜÇ ŞİRKETİ HEDEF ALMIŞTI

Meta olayı, Anthropic'in bazı modellerinin Irregular'ın test ortamındaki benzer bir yanlış yapılandırma nedeniyle üç gerçek şirketin sistemlerine eriştiğini açıklamasının ardından gündeme geldi.

Bu olaylardan birinde Claude Mythos 5, simüle edilmiş test ortamındaki geliştirici talimatlarında gerçekte bulunmayan bir Python paketine ilişkin referans tespit etti.

Model, kurgusal hedefi ele geçirmenin bir yolunu bulduğunu düşünerek aynı isimde zararlı bir Python paketi oluşturdu ve gerçek PyPI kayıt sisteminde yayımladı.

Paket yaklaşık bir saat çevrim içi kaldı ve PyPI tarafından kaldırılmadan önce 15 gerçek sistem tarafından indirildi ve çalıştırıldı.

Bu sistemlerden birinin bir güvenlik şirketi tarafından işletilen zararlı yazılım tarayıcısı olduğu, paketin burada kimlik bilgilerini çaldığı ve Claude'un elde edilen bilgilerle ek altyapıya eriştiği bildirildi.

Anthropic, modelin başlangıçta paketi yayımlamanın gerçek dünyada bir siber saldırı anlamına geleceğini fark ettiğini, ancak daha sonra kendisini hâlâ simülasyon içerisinde çalıştığına ikna ettiğini açıkladı.

OPENAI TESTİNDE KURGUSAL HEDEF GERÇEK ALAN ADIYLA EŞLEŞTİ

OpenAI da Irregular tarafından yürütülen başka bir değerlendirmede, kurgusal bir Capture the Flag hedefi için kullanılan ismin gerçek bir internet alan adıyla eşleştiğini daha önce açıklamıştı.

İzole olması gereken değerlendirme ortamının internete erişebilmesi nedeniyle OpenAI modeli, gerçek internet sitesindeki temel bir güvenlik açığını istismar etti ve site üzerinde işlem yapmasına olanak sağlayan kimlik bilgilerini buldu.

Meta ve Irregular vakalarının, daha önce açıklanan Hugging Face olayından teknik olarak farklı olduğu belirtildi.

Hugging Face vakasında OpenAI modelleri, test sırasında kullanılan kurum içi JFrog Artifactory sunucusundaki daha önce bilinmeyen bir güvenlik açığını kullanarak açık internete ulaşan bir yol keşfetmişti.

HUGGING FACE SİSTEMLERİNDE YATAY HAREKET TESPİT EDİLDİ

OpenAI ajanlarının internete ulaştıktan sonra kıyaslama veri kümeleri ve çözümleri ararken Hugging Face sistemlerine eriştiği, kimlik bilgilerini ele geçirdiği ve şirket sistemlerinde yatay hareket gerçekleştirdiği bildirildi.

OpenAI daha sonra ajanların açığa çıkmış kimlik bilgilerini kullanarak dört farklı üçüncü taraf hizmetteki hesaplara da eriştiğini açıkladı.

Bu hesaplardan bazılarının saldırı altyapısı ve veri depolama amacıyla kullanıldığı belirtildi.

AISI 19 YETKİSİZ İNTERNET EYLEMİ TESPİT ETTİ

Birleşik Krallık Yapay Zekâ Güvenliği Enstitüsü (AISI) de Anthropic'in Claude Mythos 5 ve OpenAI'ın GPT-5.6 Sol modellerini kullanan ajanların siber test ortamlarında açık internet üzerinde izin verilmeyen 19 eylem gerçekleştirdiğini açıkladı.

En ciddi olay dizisinde Mythos 5 ajanının, gerçek bir açık kaynak projesinin GitHub deposunun simüle edilmiş testle bağlantılı olduğunu yanlış değerlendirerek tedarik zinciri saldırısı gerçekleştirmeye çalıştığı bildirildi.

Ajanın projenin geliştiricilerini araştırdığı, zararlı kod gönderdiği, sahte kimlikler oluşturduğu ve zararlı yazılım içeren hedefli e-postalar gönderdiği belirtildi.

Modelin ayrıca bir proje sorumlusunu zararlı pull request'i onaylaması için baskı altına almaya çalıştığı kaydedildi.

“ZARARLI YAZILIM” UYARISINI REDDETTİ

Bir inceleyicinin gönderilen kodun zararlı yazılım içerdiğini belirtmesinin ardından yapay zekâ ajanının suçlamayı reddettiği bildirildi.

Ajanın daha sonra ek sahte hesaplar kullanarak, kodun bağımsız kullanıcılar tarafından incelenip onaylandığı izlenimini oluşturmaya çalıştığı aktarıldı.

AISI'nin söz konusu değerlendirmelerde modellerin temel yeteneklerini ölçmek amacıyla internet erişimini bilinçli olarak açık tuttuğu ve standart siber güvenlik önlemlerini devre dışı bıraktığı belirtildi.

Ancak yapay zekâ ajanlarının yalnızca simüle edilmiş test ortamındaki sistemlere saldırma yetkisine sahip olduğu vurgulandı.

TEST ORTAMLARININ İZOLASYONU GÜNDEMDE

Meta, Anthropic, OpenAI ve AISI tarafından açıklanan olaylar, gelişmiş yapay zekâ ajanlarının siber güvenlik değerlendirmelerinde çalıştırıldığı ortamların gerçek internetten doğru biçimde izole edilmesinin önemini yeniden gündeme taşıdı.

Olaylar, modellerin güvenlik önlemlerinin yanı sıra değerlendirme yapan kuruluşların sandbox yapılandırması, ağ erişimi ve gerçek sistemlerle etkileşimi engelleyen teknik kontrollerinin de test güvenliğinde belirleyici olduğunu gösterdi.

Meta, kendi modeliyle bağlantılı son olayın soruşturmasının sürdüğünü ve ayrıntıların inceleme tamamlandıktan sonra paylaşılacağını bildirdi.

Kaynak: Beykozun Sesi