Yapay zeka sistemlerinin donanımları siber saldırılara karşı savunmasız. Hassas sorulara verilen yanıtlar manipüle ediliyor, modeller tehlikeli bilgiler üretiyor.
Araştırmacılar, yapay zeka (YZ) sistemlerinin temelini oluşturan donanımların siber saldırılara karşı savunmasız olduğunu ortaya koydu. Hassas ulusal güvenlik ve kişisel sağlık sorularına verilen yanıtların manipüle edilebildiği saldırılarda, YZ modellerinin tehlikeli veya yanlış bilgiler üretmesi mümkün hale geliyor.
Saldırganlar, YZ modelinin bilgiyi işlemek için kullandığı ağırlıklara uzaktan müdahale ederek, modelin davranışını değiştirebiliyor. Bir örnekte, bu yöntemle bir YZ modelinin Çin’in Tayvan’ı işgal etme olasılığını büyük ölçüde artırdığı görüldü. Başka bir senaryoda ise göğüs ağrısı şikayeti olan bir kullanıcıya, hastaneye gitmek yerine evde kalması yönünde yanlış tıbbi tavsiye verildi.
Yapay zeka konusundaki küresel endişeler genellikle yazılım ve algoritmalar üzerine yoğunlaşırken, Eclypsium şirketinin araştırması milyarlarca dolarlık donanım endüstrisinin güvenliğini mercek altına aldı. Çipler, bellek birimleri ve veri merkezi sunucuları gibi kritik bileşenlerin manipülasyonu, YZ modellerinin davranışını doğrudan etkileyebiliyor.
Eclypsium İcra Kurulu Başkanı Yuriy Bulygin, altyapıya güvenilemediği takdirde YZ modellerine de güvenilemeyeceğini vurguladı. Şirket, daha önce Intel gibi dev teknoloji firmalarında görev yapmış güvenlik mühendislerini bünyesinde barındırıyor.
Saldırı senaryosu, teknoloji devi Nvidia tarafından üretilen bir bilgi işlem platformunda gösterilmiş olsa da, araştırmacılar bunun Nvidia’ya özgü olmadığını belirtiyor. Bu tür saldırıların diğer donanımlara ve yazılımlara da uygulanabileceği kaydedildi. Çin, Rusya veya ABD gibi devlet aktörlerinin bu yöntemleri kullanarak hedefli saldırılar düzenleyebileceği ifade ediliyor.
Nvidia sözcüsü, varsayımsal senaryoları incelediklerini ve endüstrinin daha önce farkında olmadığı bir durumla karşılaşmadıklarını belirtti. Şirket, Eclypsium ile yapılan araştırma konusunda iş birliğinden memnuniyet duyduğunu ve güçlü bellek erişim korumalarının saldırı yollarını kapatabileceğini vurguladı.
Eclypsium’a göre, bu tür saldırılar genellikle bir veri işleme birimine veya sunucuları uzaktan yönetmek için kullanılan temel kart yönetim denetleyicisine (BMC) erişim gerektiriyor. Belirli güvenlik yapılandırmalarının devre dışı bırakılması da saldırının gerçekleşmesi için bir ön koşul. Saldırgan, bu erişimi sağlayarak makinenin belleğindeki kod ve verileri okuyup değiştirebiliyor, böylece YZ modelinin davranışına müdahale edebiliyor.
Araştırmacılar, saldırının bir dakikadan kısa sürdüğünü ve YZ kullanıcısının bu müdahaleden haberdar olmadığını belirtti. Bu bulgular, yapay zeka modellerinin bütünlüğüne yönelik yeni bir risk katmanı ekliyor.
Araştırma, Çin ve ABD arasındaki yapay zeka üstünlüğü yarışının kızıştığı ve YZ’nin ulusal güvenlik üzerindeki etkilerinin arttığı bir dönemde geldi. Daha önce, Çin’e ait bir geminin nükleer bileşenler taşıdığına dair sahte bir YZ destekli ABD istihbarat raporu, Amerikan ordusunu yanlış bir harekete yönlendirme tehlikesi yaratmıştı.
Eclypsium Kıdemli Başkan Yardımcısı John Loucaides, model güvenliği kadar, modellerin üzerinde çalıştığı bilgisayar sistemlerinin güvenliğinin de unutulmaması gerektiğini belirtti. Potansiyel saldırı yüzeyinin çok geniş olduğu ve temel kart yönetim denetleyicilerindeki güvenlik açıkları gibi unsurların, hassas donanım sistemlerine giriş yolu sunabileceği ifade ediliyor.
Eclypsium yöneticileri, bulguları hakkında Ulusal Güvenlik Ajansı (NSA) ve Siber Güvenlik ve Altyapı Güvenliği Ajansı (CISA) gibi kurumları bilgilendirdi. Bağımsız donanım güvenliği uzmanları da sonuçların inandırıcı olduğunu ve dikkate alınması gereken önemli veriler içerdiğini doğruladı. Donanım güvenliği eğitmeni Joe FitzPatrick, saldırıların temelinde diğer doğrudan bellek erişimi saldırılarıyla aynı mekanizmaların bulunduğunu ve bulguları şüpheyle karşılamak için bir neden görmediğini belirtti.
