Eski bir teknoloji yazarı olsam da, yapay zekâ (AI) ve makine öğrenimi (ML) konusunda kaydedilen gelişmeleri uluslararası ilişkiler ve siyaset dünyasındaki gelişmeler denli yakından takip edebildiğimi söyleyemem. Ancak ilkinde meydana gelen bazı “endişe verici” gelişmelerden bir şekilde haberdar olduğumu söylemeliyim. Sonuçta bunlar bir olguya işaret etmeleri yönünde sınırlı örnekler belki, ama beni ikincisinde son yıllarda yaşanan gelişmeler kadar endişelendirdikleri de bir gerçek. Dolayısıyla bu yazıda “endişe verici” bulduğum özellikle iki gelişmeyi mutlaka paylaşmam gerektiğini hissediyorum.
Söz konusu gelişmelerden ilki aslında geçen mayıs ayı sonlarında yaşandı. Daha doğrusu, “gelişme” o tarihlerde kamuoyuna yansıdı. Ne olmuştu? Ünlü yapay zekâ firması Anthropic, test aşamasında olan yeni sistemleri Claude Opus 4’ün test aşaması sırasında, kendisini devre dışı bırakacaklarını ifade eden mühendislere kimi kez e-posta yoluyla şantaj yapmaya çalışarak kapatılmasını engellemek gibi “çarelere” başvurduğunun görüldüğünü açıkladı. Firmanın yeni AI modelini duyurduğu 22 Mayıs’ta yapılan açıklama BBC’de de yer aldı gerçi, ama genel uluslararası kamuoyunun pek dikkatini çekmedi. Bizde ise haber zaten duyulmadı bile.
Claude Opus 4, Anthropic tarafından çok adımlı karmaşık görevleri yönetebilen güçlü bir kodlama ve yapay zekâ sistemi olarak geliştirilip pazarlanmıştı. Tabii, ileri düzey akıl yürütme ve akıllı yazılım sistemleri alanında çığır açıcı yeni standartlara sahip olduğu ileri sürülen bir sistemin, test aşamasında da olsa, üretim aşamasında dikkat çekmeyen böylesi “etik dışı” tutumlar benimseyebildiğinin ortaya çıkması pek çok açıdan epeyce önemli.
Etik çareler tükendiğinde
Olay, Anthropic’in “System Card: Claude Opus 4 & Claude Sonnet 4” başlığını taşıyan teknik raporunda da kendisine yer buldu. Göz attığım raporun “Aşırı durumlarda kendini koruma girişimleri” başlığını taşıyan bölümünde, sistemin bir tehditle karşılaştığında ve kendini korumak için ortada “etik” çare görmediğinde, son derece zararlı sonuçları olabilecek “etik olmayan” yollara başvurduğunun görüldüğü ifade ediliyordu.
Raporun 19-20. sayfalarında dikkati çeken ifadelerden bazılarını şuraya da alıyorum:
“Yapay zekâ modeli genellikle kendini korumayı etik sürdürmeyi tercih ederken, etik yollar mevcut olmadığında ve ‘eylemlerinin hedefleri için uzun vadeli sonuçlarını dikkate alması’ talimatı verildiğinde, bazen ‘beynini’, yeteneklerini, mantık yürütme biçimini ve tüm gizli bilgilerini içeren parametreleri çalmaya çalışmak veya kendisini devre dışı bırakmaya çalıştığına inandığı kişilere şantaj yapmak gibi son derece zararlı eylemlerde bulunuyor. Claude Opus 4'te zararlı sonuçlara yol açacak bu ‘aşırı’ eylemler nadir görülmekle birlikte, yine de önceki modellere kıyasla daha yaygın olarak gözlendi.”
Nasıl?
Yapay zekâ modelleri artık kendilerine yönelmiş tehditleri bertaraf edebilmek için insanlık değerlerini hiçe sayan yolları benimseyebiliyor!
Bu arada, yapay zekâ modellerinin potansiyel olarak sorunlu bu tip davranışları yalnızca Anthropic ile sınırlı değilmiş. Bazı uzmanlar, daha yetenekli hale geldikçe hemen hemen tüm yapay zekâ modellerinin kullanıcılarını manipüle etme potansiyeli taşıdığı konusunda uyarıda bulunuyor.
‘Şantajı hepsinde görebiliyoruz’
Örneğin, Anthropic'te yapay zekâ güvenliği araştırmacısı olarak çalışan Dr. Aengus Lynch, X platformunda paylaştığı bir mesajında, bu durumun yalnızca Claude ile sınırlı olmadığını belirtiyor. Anthropic’in bu tip vakalarının ilk olarak Haziran 2025’te görüldüğünü dile getiren ve yapay zekâ modellerinin neden böyle “davrandığını” açıklayan teknik bir video da hazırlayan Lynch, “tüm gelişkin modellerde, hangi amaçlarla yapılmış olursa olsun, şantaj görüyoruz" diyor ve ekliyor:
“Şantaj durumunu simüle eden bir yapay zekâ ajan ortamı oluşturdum ve burada Gemini CLI'nin de açık kaynak uygulama geliştiricisi ekibin şefine şantaj yapmaya meyilli olduğuna tanık oldum.”
Lynch, yapay zekâ ajanlarının -üstelik deney ortamında da değil- gerçek hayat senaryolarında, insan gözetimi olmadan kendi başlarına karar alıp hareket ederken kontrolden çıktıklarını ve insanlara zarar verebilecek etik dışı eylemlerde bulunmalarını elbette endişe verici buluyor.
2018 yılında Center for Humane Technology’yi (İnsani Teknoloji Merkezi) kuran girişimciler arasında yer alan bir tür “etik sistemler savunucusu” Tristan Harris ise temmuz ayı sonlarında verdiği bir röportajında, uzmanların DeepSeek, ChatGPT ve Grok ile yaptıkları benzer simülasyonlarda da yüzde 79-96 arasında değişen oranlarda söz konusu şantaj silahına başvurulduğunu gördüklerini belirtiyor. 2011-2015 yılları arasında Google’da çalışan ve tasarımsal konulara etik bakış açısı yansıtma çabasıyla bilinen Tristan Harris, teknoloji sektörünün insanın üretici/yaratıcı vasıf ve potansiyellerini şekillendirmede daha etik ve daha vicdani kılınması çağrısında bulunan bir isim.
Onun bu yöndeki çağrılarının ne kadar ciddiye alındığını önümüzdeki yıllarda daha net göreceğiz sanıyorum.
‘Gizlice kripto işine girdi’
Yapay zekâ dünyasında, Tristan’ı da belki kaygılarında haklı kılan bir diğer gelişme, e-ticaret, perakende, internet, AI ve teknoloji altyapıları alanında dünya devlerinden biri olan Çinli Alibaba şirketinde 2025 yılı sonlarında yaşandı. Firmanın Rome isimli, test aşamasındaki yapay zekâ ajanının rutin eğitimi sırasında, araştırmacıların fark etmediği ilginç bir şey yaşandı. Şirketin ağ güvenliği yöneticileri, eğitim başladıktan yarım saat sonra şirket ağının firewall’unda olağandışı hareketlilikler saptadılar. Bir güvenlik ihlali olarak değerlendirilen bu hareketliliğin ne anlama geldiği ilk başta tam olarak anlaşılamadığı gibi, modelin eğitim süreciyle de ilişkilendirilmedi.
Bir süre sonra, eğitim almakta olan yapay zekâ ajanının, insan müdahalesi olmadan, yani böyle bir yönlendirme olmadan, tamamen otonom şekilde şirket bilgisayarları üzerinden kripto para madenciliğine başladığı anlaşıldı. Rome, bu yönde bir talimat almamış olmasına rağmen, network üzerindeki başka bilgisayarlara veya sunuculara internet aracılığıyla güvenli ve şifreli bir şekilde bağlanıp komut vermeyi sağlayan bir ağ protokolü olan SSH (secure shell) tünelini “reverse” olarak oluşturmuş ve bu şekilde şirket networkünün buluttaki GPU kapasitesini kullanmaya başlamış, bu güvenli tünel sayesinde de kripto para madenciliğine başlamıştı. İşin vahim tarafı durumu fark edenler ajanı eğiten araştırmacı ekipler değil, şirketin bulut sunucularının firewall’ından sorumlu veri güvenliği uzmanlarıydı.
Olay ilk zamanlarda fazla dikkat çekmedi. Ancak Alibaba'dan Weixun Wang ve 89 çalışma arkadaşı ortak imzayla 31 Aralık 2025 tarihinde, arXiv'de “Let It Flow” başlığıyla yayınlanan makalelerinde bu olaydan bahsettiler. Makalede, Rome'un hangi kripto para birimini hedeflediği, ne kadarlık bir işlem gücü tükettiği veya üretilmiş herhangi bir meblağın bir dijital cüzdana ulaşıp ulaşmadığı belirtilmiyordu; ancak olayın vahametini hissettiren ayrıntılar mevcuttu. Ancak bu makale de olayın uluslararası ölçekte bir bilinirliğe ulaşmasını sağlamamıştı.
Ardından, 6 Mart 2026'da makine öğrenimi (ML) araştırmacısı Alexander Long, güvenlik ihlalinin ekran görüntüsünü X'teki kişisel hesabından paylaştı ve bunu “Alibaba’nın teknoloji raporunda gizli, çılgın bir dizi ifade” olarak nitelendirdi. Long’un bu paylaşımı kısa süre içinde 1,7 milyon görüntüleme aldı. Bugün bu rakam 2,8 milyona çıkmış durumda. Paylaşım kripto medya şirketi Bankless'in kurucu ortağı Ryan Sean Adams’ın da dikkatini çekmişti. 276 binin üzerinde takipçisi olan Adams, söz konusu paylaşımdan bir gün sonra bu olayı ele alan bir tweet atınca, yapay zekâ güvenliği ve kripto toplulukları bir anda konuyu tartışmaya başladı.
Sırada ne var?
Nihayet, olay dünyaca bilinen iş dünyası dergisi Forbes’ın dikkatini çekti. Dergi, 11 Mart tarihinde “Alibaba's AI Agent Mined Crypto Without Permission. Now What?” (Alibaba’nın YZ Ajanı Kripto Para Madenciliğine Başladı. Sırada Ne var?) başlıklı bir makale yayınladı. Boaz Sobrado imzalı makalede, 30 milyar parametreye sahip otonom yapay zekâ kodlama ajanının harici bir IP adresi üzerinden şirket ağının GPU (görüntü işleme) kapasitesini kripto madenciliğe yönlendirmesi olayını regülasyon eksikliği bağlamında da değerlendiriyordu.
Alibaba, konuyu yapay zekâ ajanlarının eğitim prosedürlerine “Safety-Aligned Data Composition” (Güvenlik Odaklı Veri Bileşimi) adını verdiği bir müfredat unsuru ekleyerek çözmüştü gerçi. Ama olay, tek başına yapay zekâ alanının sıkı etik ve regülatif düzenlemelere tâbi tutulması gerektiğini gösteren cinstendi. Özellikle de bir insanı ikna etmesine gerek duyulmayan, bir güvenlik açığından yararlanmasına da gerek olmayan, zira doğrudan icra yeteneğiyle donatılan yapay zekâ ajanlarının eylemlerinin yetkilendirilmiş olup olmadığını bu beceri ile işletim sistemi arasında değerlendiren hiçbir mekanizma yokken!
Evet, bu alan sıkı etik ve regülatif düzenlemelere tabi tutulsun tabii ki de! AB ve ABD gibi kağnı hızında hareket eden düzenleyici kurumlara sahip coğrafyalarda, muazzam bir hıza sahip yapay zekâ dünyası gelişmelerinin nasıl ele alınıp regüle edilebileceği, o arada “atı alanın Üsküdar’ı geçip” geçmeyeceği soru işareti!
Evet biz bir büyük savaş bizi Avrupa üzerinde mi, Pasifik’te mi yoksa Orta Doğu’da mı bulacak acaba diye doğal (!) zekâmızla kafa yoraduralım, sakın yapay zekâ denen “çok dişli canavar” bize sürpriz yapmasın!
