Malum son zamanlarda, yapay zekâ ajanlarının yarattığı anlaşılan birkaç olaydan ve bazı uzmanların seslerini yükseltmesinden (hatta istifa etmesinden) sonra, Amerikalı yapay zekâ firmaları "yavaşlatma" fikrini ileri attılar. Ancak arkasından hemen akla gelen soru; "Çin yavaşlar mı, yoksa ABD'nin önüne mi geçer?". Amerikalılar arasında bu tartışılıyor. ABD Başkanı Trump yavaşlamaya karşı çıkanlar grubunda. "Çin kazanır" diyor.
Bu yüzden, New York'taki Birleşmiş Milletler toplantısının önemli olaylarından birisi, ABD Başkanı Trump ile Çin Başkanı Xi Jinping'in yapacakları görüşme. Bu görüşme yapay zekâ açısından bir dönüm noktası olacak gibi durmuyor ancak anlamlı bir ilk adım çıkabilir. Bakalım, yapay zekâ sorununun tam olarak hangi parçası üzerinde müzakere edecekler.
Perşembe günü Beyaz Saray'da yapılacak toplantıya giden süreçte somut çıktı, bir yapay zekâ olayı bildirim mekanizması olacak. Hazine Bakanı Scott Bessent, 20 Eylül'de bu mekanizmayı, Çin Başbakan Yardımcısı He Lifeng'e, resmi bir ABD-Çin yapay zekâ diyaloğu oluşturma anlaşmasıyla birlikte önermişti.
Bu, nükleer silahlar için, ABD'nin Rusya ile yaptığı SALT anlaşması benzeri bir silah kontrolü değil ama özellikle siber nitelikteki, yapay zekâ kaynaklı olaylar için bir acil durum hattı. Bir çeşit çatışmayı önleme kanalı.
Yani gelişmiş çipler ve yarı iletken ekipmanlarına yönelik ihracat kontrolleri, yapay zekâ mekanizmaları gibi konular kapsam dışında kalmış. Görüşmelerinin gündeminde yer almıyor. ABD Ticaret Temsilcisi, hafta sonu yapılan ön görüşmelerde çiplerin ele alınmayacağını doğruladı. Ancak Çin bunların gündeme getirilmesi için baskı yapabilir.
Uzmanlara göre, her iki taraf da yapay zekâ riskini, yalnızca yapay zekâ kapasitesinden ayrı tutulduğu sürece konuşacak.
Neden Sadece Acil Durum Hattı?
Bunun şu an için daha ileri gidememesinin üç yapısal nedeni var.
- Her 2 taraf da yavaşlamak istemiyor. Trump, teknolojiyi yavaşlatmanın Çin'in işine yarayacağı gerekçesiyle ek yapay zekâ düzenlemelerine bile karşı çıkıyor. Bu mantık, içinde kapasite sınırlaması barındıran her türlü anlaşmanın önünü kapatıyor.
- Güç dengesi değişti. Trump Mayıs ayında on Çinli şirkete H200 satışını onayladı ancak Çin beklenen büyüklükte alım yapmadı. Trump'ın kendi ifadesine göre Çinli şirketler, kendi teknolojilerini geliştirmeyi tercih ederek alım yapmamayı seçtiler. Huawei artık yapay zekâ çiplerine yönelik yerel talebin arzı aştığını söylüyor ve Ascend'in Çin pazarındaki payının Nvidia'yı geçtiğini iddia ediyor. Eğer ihracat kontrolleri artık Çin için bağlayıcı bir kısıtlayıcı unsur değilse, bunların gevşetilmesi bir taviz olarak daha az değer taşır. Bu da pazarlık yapılabilecek bariz takas imkanını ortadan kaldırır.
- Asıl mücadele başka bir alanda yaşanıyor. Konu uzaktan erişimle ilgili. Çinli firmalar, ithal edemedikleri çipler üzerinde eğitim yapabilmek amacıyla Güneydoğu Asya'daki veri merkezlerinden işlem gücü kiralıyor. Gündemdeki Uzaktan Erişim Güvenliği Yasası (Remote Access Security Act), kontrolleri bulut erişimini de kapsayacak şekilde genişletecek. Çünkü şahinler tam da bu anda kontrolleri bırakmaya değil, genişletmeye çalışıyorlar. Atlantik Konseyi "çatışmada yumuşama değil ama geçici bir duraklama" yorumu yapıyor.
Acil durum hattının kullanılmasına ne gibi olaylar yol açabilir?
Peki, hangi durumlarda acil durum hattı gerekecek? Henüz yayınlanmış bir tanım yok. Mevcut olan tek şey, Bessent'in 20 Eylül'de He Lifeng'e sunduğu bir öneri ve resmi bir ABD-Çin yapay zekâ diyaloğu oluşturma konusundaki mutabakat. Bunun dışında kamuoyuna açıklanan, herhangi bir eşik değeri, tetikleyici listesi veya doğrulama prosedürü yok. Dolayısıyla, ancak emsallerden yola çıkılarak yapılan çıkarımlara dayanan bazı tahminler yapılıyor.
Önce hedeflenen kapsama bakalım. Zirve öncesi çerçeveleme, otonom silahlar veya ölümcül hedef belirleme faaliyetlerini değil, sadece yapay zekâ destekli siber olayları konu alıyor. Bu kapsam daraltması, usule ilişkin her türlü ayrıntıdan daha büyük bir önem taşıyor.
"Olay" kavramının makul karşılığı ne olabilir? Her biri farklı bir başarısızlık biçimine işaret eden üç olası tanım mevcut.
Faile dayalı tanım. Olay, saldırı zincirinde yapay zekâ araçlarının kullanıldığı, kritik altyapılara yönelik bir sızma girişimi olarak tanımlanır. Mevcut tehdit tablosunun işaret ettiği yaklaşımın bu olduğuna işaret ediliyor. Saldırganların, su, enerji ve üretim tesislerindeki internete açık Siemens S7 PLC'lerine karşı, yapay zekâ tarafından oluşturulan kodları (script) kullanmasına dair federal uyarılar bunun bir örneği. Ama bu yaklaşım, bildirimde bulunan devletin saldırının kendi topraklarından kaynaklandığını kabul etmesini ya da diğer tarafı böyle bir saldırıyla suçlamasını gerektirir. Siber kriz hatlarının, tam da gerekli oldukları zamanda sessizliğe gömüldüklerini düşünürsek, taraflara yaptırılması en zor şey budur.
Kontrol kaybına dayalı tanım. Geçenlerde Hugging face olayı ile yaşandığına benzer şekilde, bir yapay zekâ modelinin, operatörünün niyetinin dışında davranması durumda ne olacak? Örneğin otonom bir sistemin izinsiz bir eylem gerçekleştirmesi veya devreye alınmış bir modelin beklenmedik bir yetenek sergilemesi. ABD'li ve Çinli güvenlik uzmanlarının 17 Eylül'deki önerisi bu noktaya işaret ediyor. Gerçek stratejik istikrar içeriğine sahip olan ve kabul edilme ihtimali en düşük olan yaklaşım budur; çünkü kişinin kendi sistemlerine dair utanç verici bir durumu ifşa etmesini gerektirir.
Belirsizliğe dayalı tanım. En düşük eşiğe sahip olan ve fiilen işleme ihtimali en yüksek olan yaklaşım. Kasıtlı bir saldırı olarak yanlış yorumlanabilecek her türlü durum bir "olay" sayılır. Mesele "bir şey yaptık" demek değil; "bir şey yaptığımız sonucuna varmak üzeresiniz ve siz buna göre harekete geçmeden önce bizce ne olduğunu size anlatmak istiyoruz" demek. Bu, nükleer kriz hattı mantığıdır; Moskova-Washington hattı suç itirafı için değil, yanlış anlaşılmalardan kaynaklanan gerilimi düşürmek için kurulmuştu.
Acil durum hattı nasıl çalışabilir?
Her iki tarafta belirlenmiş bir irtibat noktası; ABD tarafında muhtemelen Hazine Bakanlığı veya Ulusal Güvenlik Konseyi (NSC) —ki süreci Bessent yürütüyor— ve Çin tarafında He Lifeng'in ofisi üzerinden işleyen bir kanal ile bunların altındaki teknik ekipler. Bunun askeri değil, ekonomik bir kanal üzerinden yürütülmesi ilginç. Bu durum, her iki hükümetin de sorunu nasıl sınıflandırdığına dair önemli bir ipucu veriyor.
İstişare değil, bildirim yapılır. Bir taraf şöyle der: "Şu olay gerçekleşti, değerlendirmemiz şudur, durumun şu olmadığına kanaat getirdik." Karşı tarafın buna inanma zorunluluğu yoktur. Ortak soruşturma veya yerinde inceleme söz konusu değildir. Bildirimin gönderilmesinin neredeyse hiçbir maliyeti yoktur.
Doğrulama yok. Bu neredeyse kesin. Hiçbir taraf, içinde denetim veya teyit unsuru barındıran bir mekanizmayı kabul etmez. Zirve öncesi haberlerde de buna dair bir işaret bulunmuyor. Eğer metinde doğrulama şartı yer alırsa, bu, üzerinde yeniden bir bölüm yazmayı gerektirecek kadar büyük bir sürpriz olur.
İsteğe bağlı tetikleme mevcut. Bu da işlevsel olarak "Taraflar bildirimi kendi çıkarlarına hizmet ettiği durumlarda —suçu başkasına atmak, itidal sinyali vermek veya resmi kayıt oluşturmak amacıyla— yaparlar" anlamına gelir.
Yapısal sorunlar
Önem sırasına göre üç boşluk yani uyumsuzluk alanı sayılıyor :
Tanım boşluğu. "Yapay zekâ destekli" ifadesi net bir kategori değildir. Bir operatör, savunmasız bir PLC'yi (Programlanabilir Mantıksal Denetleyici) istismar eden bir kod yazmak için bir LLM (Büyük Dil Modeli) kullandığında, bu bir yapay zekâ olayı mıdır, yoksa daha hızlı bir araç zinciri kullanılarak gerçekleştirilen sıradan bir sızma girişimi midir? Yapay zekâ, ayrı bir silah değil, bir verimlilik katmanıdır. Belirleyeceğiniz herhangi bir eşik ya neredeyse tüm modern sızma girişimlerini kapsar ya da hiçbir anlama gelmez. Her iki taraf da bu eşiğin nerede olacağı konusunda tek taraflı takdir yetkisini elinde tutar.
Atfetme (sorumluluğu belirleme) boşluğu. Bir bildirim kanalı, bildirimde bulunan tarafın ne olduğunu bildiğini ve söylemeye istekli olduğunu varsayar. Çatışma gidermenin en çok gerekli olduğu durumlarda ise bu varsayımların hiçbiri geçerli değildir.
Katılım açığı Masada olmayan aktörleri içerir. Ukrayna, Rusya ya da İran, İsrail.
İki taraf da birbirinin manevra alanını kısıtlamaya çalışıyor
Hem Çin, Hem ABD açısından yapay zekâ güvenliği, karşı tarafın manevra alanını kısıtlamaya çalışmak anlamına geliyor. Mesela Tayvan ve kritik mineraller konusunda.
Ama daha aşağı düzeyde, ABD ve Çinli güvenlik uzmanları 17 Eylül'de nükleer tarzda güvenlik önlemleri önerdiler. Nükleer komuta sistemlerinde olduğu gibi, kırmızı çizgiler, sadece insan tarafından alınan askeri kararlar ve bir yapay zekâ olay ihbar hattı.
"Sadece insan tarafından alınan askeri kararlar" önemli. Bir emsal var: Biden ve Xi, 2024'te Cenevre'de prensip olarak nükleer silah kararlarını yapay zekâ değil, insanların kontrol etmesi gerektiği konusunda anlaştılar. Yani kağıt üzerinde norm mevcut.
Ancak bu kararın alındığı yıl, Ukrayna'daki bir benzin istasyonunun yakınında bir Rus insansız hava aracı ya da Örümcek Ağı operasyonunda yüzlerce İHA, kendi hedef noktalarını seçtiler. Yani anlaşmayı yapan ABD ve Çin ama başka 3.parti ülkeler, savaşırken, onların ne dediğine, ne anlaşma yaptığına bakmadan, otonomiye doğru ilerledi.
İşte bu noktada bir boşluk var. Beyan edilen normlar, stratejik düzeyde teknolojiye sahip devletler tarafından müzakere ediliyor. Ama masada olmayan ve savaşmakta olan taraflar arasında, anlaşma yapan hükümetlerin kontrol etmediği bileşenler kullanılarak taktik düzeyde başka şeyler gerçekleşebiliyor.
Yapay zekâ olayları için bir ABD-Çin yardım hattı kurulsa da, mesela Rus SVOD (yapay zekâ) donanımlı bir FPV İHA veya İranlı bir operatörün Çinli bir ticari satıcıdan jeo-uzamsal yapay zekâ satın alması konusunda hiçbir şey yapamaz.
Cuma günü açıklama ne olur?
Bütün bu bilgiler ışığında, cuma günü muhtemelen, ortak güvenlik endişelerini sıcak bir dille aktaran ve diyaloğu kuran ortak bir bildiri ve bir olay bildirim kanalı açıklanacağını düşünmek yanlış olmaz. AMa hiçbir sayı, hiçbir doğrulama, hiçbir yetenek sınırı konulmayacaktır. Çipler ya yok ya da gelecekteki bir tartışma konusu olarak belirtilecek.
Muhtemelen, asıl müzakere edilecek konu ise, 10 Kasım'da sona erecek olan gümrük vergisi ateşkesi olacak.
Gerçek sürpriz, her iki tarafın da doğrulama mekanizması eklenmiş herhangi bir şeyi kabul etmesi veya ihracat kontrollerinin resmi olarak güvenlik taahhütlerine bağlanması olurdu. Ama her iki durum da, o kadar düşük olasılıklı ki, eğer gerçekleşirse, bu dünya tarihi açısından bir dönüm noktası olur.
