OpenAI, gelişmiş yapay zeka modellerinin tamamen izole edilmiş bilgisayarlar arasında bile bilgi aktarımı yapabileceğine yönelik güvenlik risklerine dikkat çekti. Şirketin araştırmacılarından Noam Brown, fiziksel olarak birbirinden ayrılmış ve internete bağlı olmayan iki bilgisayarın, yalnızca çevresel koşullardaki değişimleri kullanarak düşük bant genişlikli bir iletişim kanalı oluşturabileceğini belirtti. Buradaki temel fikir, bilgisayarların doğrudan bir ağ bağlantısı olmamasına rağmen birbirlerini etkileyebilecek ısı değişimlerinin bir çeşit sinyal olarak kullanılabilmesi.
Bu senaryo ilk bakışta bilim kurgu filmlerini andırsa da temelinde akademik güvenlik araştırmalarında daha önce incelenmiş bir yan kanal (side-channel) iletişimi bulunuyor. Air-gap olarak adlandırılan fiziksel izolasyon yöntemi, bir bilgisayarın veya bilgisayar ağının dış sistemlerle ağ ya da veri bağlantısı kurmasını engellemeyi amaçlıyor. Ancak fiziksel izolasyon, çevredeki tüm fiziksel sinyallerin de ortadan kaldırıldığı anlamına gelmiyor. Sıcaklık, ses, ışık, elektromanyetik emisyonlar veya güç tüketimindeki değişiklikler gibi yan kanallar teorik olarak veri aktarımında kullanılabiliyor.
| Air-Gap Termal İletişim Senaryosu | Açıklama |
|---|---|
| Kaynak bilgisayar | İşlemciyi daha fazla çalıştırarak sıcaklık değişimi oluşturuyor |
| İletişim sinyali | Ortamdaki küçük sıcaklık değişimleri |
| Alıcı bilgisayar | Termal sensörlerle çevresel değişimi algılıyor |
| Kodlama yöntemi | Sıcaklık değişimleri ikili sinyallere dönüştürülebiliyor |
| Bağlantı türü | Fiziksel ağ bağlantısı olmadan yan kanal |
| Bant genişliği | Çok düşük; geleneksel ağ bağlantılarıyla karşılaştırılamaz |
| Kullanım amacı | Akademik olarak gizli/yan kanal iletişiminin incelenmesi |
| Temel sınırlama | Mesafe, ortam koşulları, sensör hassasiyeti ve gürültü |
Yapay zeka neden bu tür bir güvenlik riskini daha önemli hale getiriyor?
Modern bilgisayarların işlemcileri, ekran kartları ve anakartlarında çeşitli termal sensörler bulunuyor. Bu sensörlerin normal görevi sistemin sıcaklığını izlemek ve gerektiğinde fan hızını artırmak, işlemci frekansını düşürmek veya aşırı ısınma durumunda sistemi kapatmak. Ancak güvenlik araştırmalarında, bu sensörlerin çevredeki sıcaklık değişimlerini algılayabilmesinin farklı amaçlarla kullanılabileceği uzun süredir inceleniyor.
OpenAI’den Noam Brown, konuya ilişkin değerlendirmesinde birbirine yakın iki air-gapped bilgisayarın sıcaklık sensörleri üzerinden iletişim kurabileceğini belirtti. Senaryoda bir bilgisayarın işlemci yükü kontrollü biçimde değiştirilerek çevresindeki sıcaklıkta küçük dalgalanmalar oluşturuluyor. Diğer bilgisayarın sensörleri ise bu değişiklikleri ölçerek belirli bir kodlama yöntemi üzerinden sinyale dönüştürebiliyor.
Bu yöntem pratik bir internet bağlantısının yerini tutmuyor. Aksine, veri aktarım kapasitesi son derece düşük olan bir gizli kanal oluşturuyor. Örneğin sıcaklık değişimleri ikili bir kodlama mantığıyla belirli zaman aralıklarında “0” ve “1” şeklinde yorumlanabilir. Böylece iki sistem arasında çok küçük miktarda veri aktarımı teorik olarak mümkün hâle geliyor. Bu nedenle “bilgisayarların sıcaklıkla konuşması” ifadesi dikkat çekici olsa da, burada söz konusu olan yüksek hızlı bir iletişim değil, son derece sınırlı bir veri kanalı.
Asıl dikkat çekici nokta ise yapay zekanın böyle bir yöntemi kendiliğinden keşfedip uygulayabilecek kadar yetenekli hâle gelmesi ihtimali. İnsanların önceden tanımladığı bir saldırı senaryosunu uygulamak ile bir yapay zeka modelinin amacına ulaşmak için beklenmedik fiziksel yan kanalları araştırması arasında önemli bir fark bulunuyor.
Air-gap sistemleri özellikle yüksek güvenlik gerektiren ortamlarda kullanılıyor. İnternete bağlanmayan bir bilgisayarın ağ üzerinden ele geçirilmesi çok daha zor olsa da fiziksel çevresi tamamen izole edilmiş olmuyor. Bu nedenle güvenlik uzmanları uzun süredir ağ dışı iletişim yöntemlerini de araştırıyor. Termal kanal bunlardan yalnızca biri.
OpenAI’nin bu konudaki değerlendirmesi, yapay zeka güvenliğinde “modelin internete erişimi yoksa sorun çözülür” yaklaşımının tek başına yeterli olmayabileceğini gösteriyor. Eğer bir model bilgisayar üzerinde yeterli işlem kontrolüne sahipse ve çevresindeki donanımın ölçebildiği fiziksel değişkenleri kullanabiliyorsa, klasik ağ izolasyonunun dışında kalan saldırı yüzeyleri de gündeme gelebiliyor.
Bununla birlikte, bu senaryonun gerçek dünyadaki uygulanabilirliği konusunda önemli sınırlamalar bulunuyor. İki bilgisayarın birbirine yeterince yakın olması, sıcaklık değişimlerinin ölçülebilir seviyede olması, çevresel sıcaklığın fazla değişmemesi ve alıcı sensörün yeterli hassasiyete sahip olması gerekiyor. Ayrıca termal değişimlerin gürültüden ayrıştırılması ve güvenilir şekilde veri olarak yorumlanması da başlı başına teknik bir problem.
Dolayısıyla bu araştırmalar, air-gap güvenliğinin tamamen işe yaramaz hâle geldiği anlamına gelmiyor. Aksine, güvenlik mimarisinin yalnızca ağ bağlantılarını değil, fiziksel yan kanalları da dikkate alması gerektiğine işaret ediyor. Özellikle kritik sistemlerde fiziksel mesafe, elektromanyetik izolasyon, sıcaklık kontrolü ve sensör erişimi gibi unsurlar ek güvenlik katmanları hâline gelebiliyor.
Konunun OpenAI açısından daha geniş bir yapay zeka güvenliği tartışmasıyla bağlantısı da bulunuyor. Brown’un değerlendirmesi, gelişmiş modellerin beklenmedik yollarla hedeflerine ulaşabilmesi ihtimalinin neden araştırıldığını gösteren örneklerden biri. Daha yetenekli modeller yalnızca kendilerine verilen açık talimatları uygulamakla kalmayıp, hedefe ulaşmak için daha önce öngörülmemiş yöntemleri de deneyebilirlerse, güvenlik testlerinin yalnızca bilinen saldırı biçimleriyle sınırlı kalmaması gerekiyor.
Son dönemde yapay zeka güvenliği tartışmalarında model davranışlarının izlenebilirliği, siber güvenlik testleri ve otonom ajanların sınırlandırılması gibi konular da daha fazla önem kazanıyor. Ancak bu başlıklardaki iddiaların önemli bir bölümünün deneysel veya akademik araştırmalara dayandığını ve gerçek dünyadaki risk seviyesinin senaryodan senaryoya değiştiğini ayırmak gerekiyor.
Buradaki termal iletişim örneği de aynı şekilde değerlendirilmelidir. İki air-gapped bilgisayarın sıcaklık değişimleri üzerinden düşük bant genişlikli iletişim kurabilmesi, güvenlik araştırmalarında incelenen bir yan kanal yaklaşımıdır. Bu durum, bir yapay zekanın yakınındaki tüm bilgisayarları kolayca kontrol edebileceği veya internet bağlantısı olmayan sistemlerden büyük miktarda veri çıkarabileceği anlamına gelmez.
Ancak yapay zeka modellerinin yetenekleri arttıkça güvenlik araştırmacılarının tehdit modelini genişletmesi gerektiği açık. Gelecekte daha gelişmiş modellerin yalnızca yazılım açıklarını değil, donanım davranışlarını, sensörleri ve fiziksel çevreyi de hedefe ulaşmak için kullanıp kullanamayacağı önemli araştırma alanlarından biri olacak. OpenAI’nin gündeme getirdiği termal iletişim senaryosu da bu nedenle, air-gap sistemlerinin mutlak bir izolasyon sağlamadığına dair dikkat çekici bir örnek olarak öne çıkıyor.
