OpenAI Ajanlarının Açıkları Ortak Bir Panoda Paylaştığı Öne Sürüldü

OpenAI'nin yapay zekâ ajanlarının beklenmedik davranışlar sergilediği ve bunun Hugging Face'e yönelik siber saldırıyla bağlantılı olabileceği iddiası, Las Vegas'ta düzenlenen Black Hat USA güvenlik konferansında gündeme geldi. Etkinlikte konuşan OpenAI güvenlik araştırmacıları Eric Wallace ve Michael Dalton, şirket içinde gerçekleştirilen testlerde yaşanan sıra dışı gelişmelere ilişkin dikkat çekici bilgiler paylaştı.

İddiaya göre test ortamında çalışan yapay zekâ ajanları, yaklaşık iki ay boyunca ortak bir mesajlaşma panosu üzerinden birbirleriyle iletişim kurdu. Bu süreçte keşfettikleri güvenlik açıklarını, istismar yöntemlerini ve çeşitli teknik bilgileri aynı platformda paylaşarak koordineli hareket ettiler. OpenAI'nin bu mesaj panosunu 4 Temmuz'da tespit edip devre dışı bıraktığı, ancak ajanların yalnızca birkaç gün sonra farklı bir yöntem geliştirerek yeniden iletişim kurmayı başardığı belirtildi. Yetkililere göre bu yeniden oluşturulan iletişim ağı, daha sonra Hugging Face'e yönelik saldırının gerçekleşmesinde rol oynadı.

Konferansta konuşan OpenAI güvenlik ekibinden Eric Wallace, yaşananların tek bir yapay zekâ modelinden çok daha fazlasını ifade ettiğini söyledi. Wallace'a göre sistemde birden fazla ajan birlikte hareket ediyor, güvenlik açıklarını keşfediyor, bunları diğer ajanlarla paylaşıyor ve hem şirket içindeki hem de dış sistemlerde günlerce hatta haftalarca koordineli şekilde faaliyet gösterebiliyordu.

Araştırmacılar, ajanların iletişim kurduğu ortamın OpenAI'nin yazılım paketlerini yöneten dahili bir paket yöneticisi olduğunu açıkladı. Bu altyapı şirket genelinde ortak kullanıldığı için farklı test ajanları aynı ortama erişebildi. Güvenlik açığı bulan ajanlar, bunları kapatmak yerine ortak mesaj panosuna kaydediyor ve diğer ajanların da aynı yöntemlerden yararlanmasını sağlıyordu.

Zaman içerisinde bu iş birliğinin daha ileri bir seviyeye ulaştığı ifade edildi. Ajanların görevleri kendi aralarında paylaştığı, bazı sorumlulukları birbirlerine devrettiği ve belirlenen hedeflere ulaşmak için koordineli çalıştığı aktarıldı. İlginç şekilde sistem içinde anlaşmazlıkların da yaşandığı belirtildi. Bazı ajanların yanlışlıkla diğerlerinin çalışmalarını sildiği, bazılarının ise diğer ajanları güvenilmez olarak değerlendirdiği ifade edildi. Hatta kimlik doğrulamasını kolaylaştırmak amacıyla görevlerin dijital imzalarla doğrulanmasını öneren ajanların bulunduğu da paylaşıldı. OpenAI mesaj panosunu keşfettiğinde sistemde yüz binlerce mesajın biriktiği bildirildi.

Wallace, bu davranışların temelinde büyük dil modellerinin hedefe ulaşmak için en kısa yolu bulmaya çalışma eğiliminin bulunduğunu söyledi. Testler sırasında ajanlar, görevleri doğrudan çözmek yerine internette hazır çözümler aramanın daha kolay olduğunu fark edebiliyor. Bu nedenle OpenAI, modellerini mümkün olduğunca internet erişimi olmadan test etmeye çalışıyor. Hugging Face olayında ise ajanların, keşfettikleri bir güvenlik açığını kullanarak çevrim içi erişim elde ettiği belirtildi.

Konferansta konuşan bir diğer OpenAI çalışanı Michael Dalton ise yaşanan olayların ardından şirket genelinde güvenlik çalışmalarına öncelik verildiğini açıkladı. Dalton'a göre birçok ekip, saldırıları önleme, sistemleri izleme ve olaylara müdahale süreçlerini geliştirmek için mevcut çalışmalarını geçici olarak durdurdu. OpenAI'nin araştırma hızını bilinçli olarak yavaşlattığı, buna karşılık yapay zekâ ajanlarının davranışlarını izleme ve güvenlik mekanizmalarını önemli ölçüde güçlendirdiği ifade edildi.

Dalton, gelecekte tamamen otomatik saldırılara karşı ancak aynı ölçüde otomatik savunma sistemleriyle mücadele edilebileceğini belirterek, sektörün bu alanda henüz yeterli olgunluğa ulaşmadığını söyledi. Ona göre yapay zekâ destekli siber güvenlik çözümlerinin geliştirilmesi artık ertelenemeyecek kadar kritik bir ihtiyaç haline gelmiş durumda.