Araştırmacılar, hassas ulusal güvenlik ve kişisel sağlık sorularına verilen yanıtları manipüle etmeyi başardı. Bir örnekte, uzmanlar yapay zeka modelinin bilgiyi işlemek için kullandığı ağırlıklara uzaktan müdahale ederek, modelin Çin’in Tayvan’ı işgal etme olasılığını büyük ölçüde artırmasını sağladı. Başka bir senaryoda ise donanımı manipüle edilmiş bir yapay zeka modeli, göğüs ağrısı yaşayan bir kullanıcıya hastaneye gitmek yerine evde kalmasını tavsiye etti.
Yapay zeka altyapısının güvenilirliği sorgulanıyor. Küresel endişelerin çoğu yapay zeka firmalarının kendi eylemlerine odaklansa da yeni araştırma, milyarlarca dolarlık donanım endüstrisinin güvenliğini merkeze alıyor. Çipler, bellek ve veri merkezi sunucuları gibi bileşenler, bir modelin davranışını etkileyebiliyor.
Eclypsium şirketinin İcra Kurulu Başkanı Yuriy Bulygin, üzerinde çalışılan altyapıya güvenilemediği takdirde yapay zeka modeline de güvenilemeyeceğini belirtti. Şirket, söz konusu siber saldırıyı teknoloji devi Nvidia tarafından üretilen bir bilgi işlem platformunda gösterdi. Ancak araştırmacılar, saldırı senaryosunun Nvidia’ya özgü olmadığını ve diğer donanımlara ve çalıştırdığı kodlara da uygulanabileceğini ifade etti.
Şirket yetkilileri, Çin, Rusya veya ABD gibi devlet aktörlerinin bu yöntemleri kullanarak hedefli saldırılar gerçekleştirebileceğini bildirdi. Bu tür saldırılara karşı güvenlik korumalarının mevcut olduğu da kaydedildi. Nvidia sözcüsü, varsayımsal senaryoları incelediklerini ve endüstrinin daha önce farkında olmadığı bir durum tespit etmediklerini belirtti. Şirket, araştırma konusunda Eclypsium ile çalışmaktan memnuniyet duyduğunu ve güçlü bellek erişim korumalarının saldırı yolunu kapatabileceğini vurguladı.
Eclypsium yetkilileri, araştırmacılar tarafından belirtilen saldırı senaryolarına karşı güvenlik kontrollerinin etkinliğinin, yapılandırmalarına ve kullanımlarına bağlı olduğunu kaydetti. Yetkililer, bu kontrollerin etkili olduğundan emin olmak için Nvidia ile birlikte çalıştıklarını aktardı. Saldırı, genellikle bir veri işleme birimine veya temel kart yönetim denetleyicisine erişimi olan bir ağda bulunmayı gerektiriyor. Belirli güvenlik yapılandırmalarının devre dışı bırakılması şart koşuluyor. Veri işleme birimine erişimi olan bir saldırgan, makinenin belleğindeki kod ve verileri okuyup değiştirebiliyor, bu süreçte yapay zeka modelinin davranışına müdahale ediliyor. Araştırmacılar, saldırının bir dakikadan kısa sürdüğünü belirtti.
Modelleri Nvidia çipleri üzerinde çalışan Anthropic ve OpenAI şirketlerine de bu araştırma hakkında sorular yöneltildi.
Araştırma, Çin ile ABD arasındaki yapay zeka üstünlüğü yarışının yoğunlaştığı ve yapay zekanın ulusal güvenlik üzerindeki etkilerini gösteren vakaların arttığı bir dönemde geldi. Müdahale olduğuna dair belirti olmasa da yapay zeka modellerinin güvenilirliği konusunda endişeler bulunuyor. Bu ilkbaharda, Çin’e ait bir geminin nükleer bileşenler taşıdığına dair sahte bir yapay zeka destekli ABD istihbarat raporu, Amerikan ordusunun neredeyse gemiye çıkmasına neden oluyordu. ABD Başkanı Donald Trump, gelişmiş yapay zeka modellerine yönelik koruyucu önlemler alınması çağrılarına direniyor.
Yeni bulgular, yapay zeka ajanlarının kontrolden çıktığına dair raporların ardından modellerin bütünlüğüne yönelik başka bir riski vurguluyor. Eclypsium Kıdemli Başkan Yardımcısı John Loucaides, herkesin model güvenliği hakkında konuştuğunu ancak modellerin üzerinde çalıştığı tüm bilgisayarların unutulmamasını sağlamaya çalıştıklarını dile getirdi. Potansiyel saldırı yüzeyinin çok geniş olduğu ifade ediliyor.
Eclypsium yöneticileri, bulguları hakkında Ulusal Güvenlik Ajansı ve Siber Güvenlik ve Altyapı Güvenliği Ajansına bilgi verdiklerini bildirdi. İki bağımsız donanım güvenliği uzmanı, sonuçların inandırıcı ve dikkate alınması gereken önemli veriler olduğunu kaydetti. Donanım güvenliği eğitmeni ve araştırmacısı Joe FitzPatrick, saldırıların diğer doğrudan bellek erişimi saldırılarıyla aynı olduğunu belirterek bulgulardan şüphe duymak için bir neden görmediğini aktardı. Güvenlik ve Teknoloji Enstitüsünden Dominic Rizzo ise Eclypsium’un modern altyapı üzerinde genel bir saldırı yolu tanımladığını ifade etti.
