Yine yoğun ve yorucu bir gündemle geçen bir haftanın daha sonuna geldik. Yapay zekâ gündemi de elbette diğer pek çok alan gibi yoğun. Fakat bu yoğunluğu oluşturan şey konuların çokluğu değil, bir konuya odaklanmış yorumların çokluğu. Konu ise iki katmalı. Geçtiğimiz hafta önce yapay zekanın insanlığın sonunu getireceği iddiası daha sonrasında ise Anthropic CEO’su Dario Amodei’nin başlattığı yapay zekadaki ileriemenin hızının azaltılması ve bir düzenleme talebi.
Açıkçası Türkiye’deki özellikle yazılı basın kanallarında bu konuya dair pek doyurucu bir yazı bulamadım. [Yazılar var aslında fakat çoğu alana dair pek bilgisi olmayan kişilerin biraz gündem bu iken biz de nemalanalım yazıları.] O yüzden bu hafta elimi biraz taşın altına koymak [aman ne büyük lütuf ] ve başlıktan da anlaşılacağı üzere biraz sarkastik biraz da spekülatif bir yazı yazmak istedim. [Biraz da uzun bir yazı oldu, dikkat sürelerimiz için sağlam bir test.]
Takvimlerimiz 12 Eylül’ü gösterirken, Anthropic CEO’su Dario Amodei “We must pace the frontier” [Sınırın Temposunu Ayarlamalıyız] başlıklı bir makale yayınladı. Makalede Amodei, yapay zekâ modellerinin yeteneklerinin gelişme hızının yavaşlatılması gerektiğini savunuyordu. Bu görüşün alt yapısını da iki temel olay/faktör oluşturuyordu; recursive self-improvement (RSI) [özyinelemeli kendini geliştirme] ve malum HuggingFace olayı.
Burada RSI’ya bir parantez açmak istiyorum zira mevcut tartışmaların çıkış noktasını başlatan teknik gelişme bu arkadaşın bizzat kendisi, çünkü “iddialara” göre Google, RSI sistemi üzerinde önemli bir ilerleme kaydetti. Keza Amodei’de kendi şirketinin bu konuda ilerlediğini söylüyor.
Peki tam olarak bu sistem ne yapıyor?
Kısaca, RSI bir yapay zekâ modelinin kendi kodunu okuyup herhangi bir uzman [ki bu senaryoda insan oluyor] iradesinin müdahalesi olmadan kendisinin daha “zeki” üst bir versiyonunu oluşturuyor ve bu gelişim hızı öyle bir noktaya ulaşıyor ki [parabolik eğri deniyor] biz insanların tahayyül kapasitesinin de ötesine geçiyor. [Hoş geldin science-fiction bebek!]
Hugging Face olayı ise bu alanın sıkı takipçileri için bilinen bir konu. Temmuz ayında OpenAI modellerinin siber saldırı becerilerini ölçen bir iç test yürütürken, yaklaşık 1.200 ajan yalıtılmış deney ortamında bir güvenlik açığı bulup internete çıktı ve testte karşılarına çıkan soruları çözmek yerine Hugging Face [Araştırmacıların ve şirketlerin açık kaynaklı yapay zekâ modellerini ve veri setlerini yükleyip paylaştığı, sektörün en büyük ortak deposu olan bir platform.] adlı platformda yer alan “cevapları” çalmaya çalıştılar. Her ne kadar bu olay büyük bir sansasyonla duyurulsa da bağımsız değerlendirme kuruluşu METR aynı modelin ölçüm yapılamayacak kadar sık hile yaptığını saldırıdan iki hafta önce raporlamıştı. Kısacası “bile isteye bir göz yumulma” hâli gibi bir durum söz konusuydu.
Aslında Amodei’nin makalesi bir başlı başına sebep değil, olaylar zincirinin son halkası. Bu tartışmanın başlama noktasını tam olarak kavramak için takvimlerimizi biraz daha geriye, Nisan ayına götürüyoruz. Anthropic [“Bu da her yerden çıkıyor ya.”], Mythos adını verdiği modeli duyurdu ama yazılım açıklarını fazla iyi bulduğu gerekçesiyle kamuya açmadı. ["Yayınlanamayacak kadar güçlü model" anlatısı böylece sahneye çıktı. Sonrasında ise bu model hakkında yapılan “güçlü model” anlatısının aslında biraz “şişirme” olduğu görüldü, çünkü modelin siber güvenlik alanında başarılı olduğu söyleniyordu fakat bulduğu açıkların kayda değer çoğunluğunun zaten bilinen açıklar olduğu tespit edildi.] Haziran’da aynı şirket, kendi kodunun yaklaşık yüzde 80'ini artık Claude'un yazdığını açıkladı ve Mythos sınıfı modelin güvenlik önlemleriyle sınırlandırılmış halini, Fable 5'i piyasaya sürdü. Temmuz’da Hugging Face olayı yaşandı ve o güne kadar soyut bir ihtimal olarak konuşulan risk ilk kez somut bir vakaya dönüştü. Ay bitmeden OpenAI, Anthropic, DeepMind ve Meta'dan binden fazla çalışan, aralarında Amodei'nin de bulunduğu bir bildiriyle ABD hükümetinden gerektiğinde gelişimi yavaşlatmayı mümkün kılacak araçlar istedi. Ağustos’ta OpenAI bazı eğitimlerini iki haftalığına durdurdu. Eylül ise art arda iki yeni modelle açıldı. Önce Fable 5.1 geldi, ardından OpenAI'ın kendi ölçeğinde siber güvenlikte "kritik" seviyeye ulaşan ilk modeli olan GPT-6 Astra.
Bu noktada GPT-6 Astra’ya değinmek gerekiyor çünkü model büyük bir sükse ile duyuruldu. Öyle ki yapay genel zekaya (AGI) ulaşıma noktasında atılan en büyük adım olduğu bile söylendi. [Burada zekâ nedir gibi felsefi tartışmalara girmiyorum, ama konuşmak da gerekiyor.] Benim de alanda takip ettiğim araştırmacılardan F. Chollet’in geliştirdiği ARC-AGI 3 isimli benchmarkta [kalite testi] ciddi bir ilerleme kat etmesi bu savı daha da güçlendirdi. [Ben de bu benchmarktaki ilerlemeyi ciddi bir gelişme olarak görüyorum, modelin çıktı ve kapasite kalitesinde bir artış var, kabul edelim.]
Ancak madalyonun öteki tarafında gelirsek bu “sükseye” rağmen, GPT-6 Astra’nın başka pek çok benchmarkta open weight [açık ağırlık] modellerle aralarında ciddi bir fark olmadığı görüldü. Örneğin, Artificial Analysis kodlama indeksinegöre Astra modeli, Fable 5.1’in gerisinde. Yine aynı organizasyonun zekâ indeksine göre Astra modelinin maksimum kapasitesi 3. Sırada, orta boyuttaki hali ile açık ağırlıklı modeller arasında sadece 1-2 puan fark var.
Figür 1: Artificial Analysis Zeka Endeksi
Bu sonuçlara karşı, başta OpenAI olmak üzere bu modeli öven kesimin en belirgin argüman ise GPT 6-Astra modelinin siber güvenlik ve otonom görevler gibi bazı niş alanlarda ciddi bir üstünlük göstermesi. O zaman şu soruyu sormak gerekiyor, AGI diye belirlediğiniz hedef 3-5 niş alandan mı meydana geliyor?
Kısacası GPT 6-Astra teknik anlamda eski versiyonlarına göre OpenAI’ın ilerleme kat ettiği bir model olsa da AGI kavramının oldukça uzağında olduğu görülüyor. [Yine bir takım pazarlama oyunları diyelim.]
Zaman akışımıza geri dönecek olursak eğer, tartışmayı sektörün içinden çıkarıp ana akıma taşıyan ise bir istifa oldu. Son 3 yılını önce OpenAI’da daha sonra ise Anthropic’de çalışarak geçiren İngiliz araştırmacı Jacob Coxon, 8 Eylül'de, San Francisco'da bir park bankından yedi gönderilik bir istifa duyurusu paylaştı ve sektörü tamamen bıraktığını açıkladı. [İlk hisse hakları kendisine geçmeden ayrıldı, yani masada ciddi bir para bıraktı.] Coxon, iki şirketin de sorumlu davranmadığını [Adam haklı.] ve iki şirketin de kendi kendini geliştiren bir süperzekâya doğru yarıştığını, bunu yaparken de hepimizin hayatı ile kumar oynadığını söyledi. Coxon’a göre bu sistemleri inşa edenler, yapay zekânın on yıl bitmeden hepimizi öldürebileceğine içtenlikle inanıyor [Hoş geldin science-fiction bebek 2]. Aynı gün yayımlanan Wall Street Journal söyleşisinde, işlerin gelecek yılın sonuna kadar kontrolden çıkabileceğini ve meslektaşlarının içinde bulundukları dönemi "crunchtime" ve "endgame" diye andığını anlattı. Paylaşım bir gecede yaklaşık 76 milyon kez görüntülendi. Asıl şaşırtıcı olan ise şirketin içinden gelen yanıttı. Anthropic'in hizalama araştırmalarının başındaki Evan Hubinger ertesi gün Coxon'un haklı olduğunu, kendisinin bu olasılığı yüzde 10'un üzerinde gördüğünü ve ellerinde yolunda gittiği açıkça söylenebilecek bir plan olmadığını yazdı. OpenAI'ın baş bilimcisi Pachocki de aşırı ihtiyat çağrısı yaptı.
Bu olayın akabinde ise 10 Eylül günü Anthropic [Evet, yine onlar] Threat Intelligence Report [Tehdit İstihbaratı Raporu] başlıklı bir rapor yayınladı. Raporda güncel iç incelemeleriyle yapay zekanın güvenliği, kötüye kullanımı ve gelişim hızı hakkında kritik veriler paylaşılırken Claude’nin biyolojik silah geliştirilmesinden, devlet destekli siber operasyonlara kadar birbirinden farklı “tehlikeli” alanda “tehlikeli” amaçlarla kullandığı görüldü. Rapordan iki gün sonra da Amodei’nin yazının başında bahsettiğimiz makalesi geldi ve Sam Altman [OpenAI], Demis Hassabis [Google Deepmind] ve Elon Musk [Grok, bir sen eksiktin zaten sen de gel.] yazıdan kısa bir süre sonra Amodei’nin önerisine katıldıklarını belirttiler.
Aniden oluşan “birlik” hâli bana bir deyimi hatırlattı. “Durup dururken bu yoğurdun bolluğu niye?”
Amodei’nin yazısından bahsederken bu çağrının “görünen” sebeplerine değindik. Şimdi biraz tahmin, biraz bilgi biraz da komplo teorisi ile samanlıktaki iğneyi arayalım.
Dil modellerinin AGI olma olasılığının düşük olduğunu daha önce defalarca konuşmuştuk. Başta Yann LeCun olmak üzere alanın pek çok ağır ismi de bunu pek çok kez dile getirdi. Bunun temel sebebi de modellerin mimari kısıtları. Amerikalı yatırımcı Michael Burry aynı noktadan yola çıkıp daha da ileri gidiyor. Ona göre dil modelleri zekâ değil ve olmayacak, dolayısıyla ortada yavaşlatılacak bir şey de yok. Fakat buna rağmen şirketlerin CEO'ları çok ciddi bir AGI hedefi belirlediler ve bunun için canhıraş uğraşıyorlar. [Her sene hedef tarihlerini ileri öteliyorlar ama neyse şimdi.] Üstelik onca harcamaya rağmen çoğu Çin menşeli açık ağırlıklı modeller, çok daha düşük maliyetle bu modellerin ensesinde. GPT-6 Astra'nın milyon token fiyatı 10 dolar. Açık ağırlıklı modellerin lideri Kimi K3'ünki 3 dolar, DeepSeek'inki ise 22 sent. E bu durumda haliyle, rakipler hızla yetişirken yavaşlamak öndekilerin işine gelir. Tech Policy Press'te yazan Dave Karpf'ın benzetmesi tam yerinde. Yarışı önde götüren takım, maç bitmeden puan durumunun dondurulmasını istiyor.
Çin demişken, makalenin en az konuşulan ama bence en çok şey anlatan kısmı orası. Amodei yavaşlamanın ABD'nin Çin'e karşı farkıyla sınırlı kalması gerektiğini, bu yüzden önce o farkın açılması gerektiğini yazıyor ve bunu için de bir yol haritası öneriyor. Çip ihracat kontrolleri sıkılaştırılacak, Çinli şirketlerin Amerikan modellerini damıtarak [distillation] kendi modellerini eğitmesinin önüne geçilecek, model ağırlıkları kasada saklanacak. Türkçesi şu yani. Yavaşlayalım, ama önce Çin'i durduralım. Çin Dışişleri'nin bütün bu tartışmayı "korku tacirliği" diye nitelemesine şaşırmamak gerek. Bilgisayar bilimci Gary Marcus’a göre Çin’i şeytanlaştırmak olası bir anlaşmayı zorlaştırıyor ve günün sonunda "onlar durmuyor, biz de duramayız" demenin yolunu açıyor.
Öte yandan dünyanın yazdığı çizdiği her şeyi kimseye sormadan modellerine yediren şirketlerin, sıra kendi modellerine gelince damıtılmaktan şikâyet etmesi hayli ironik. [Merdiveni tırmandıktan sonra yukarı çekmek diye bir deyim var.]
Bu noktada yukarıda bahsettiğim Hugging Face olayına tekrar döneceğim çünkü olayın içinde ciddi bir ironi yatıyor. Hugging Face ekibi bahsettiğim saldırıyı incelemek için önce Anthropic'in modellerine başvurdu, fakat modeller güvenlik filtreleri yüzünden bu işi yapmayı reddetti. Analizi sonunda kendi sunucularında çalıştırdıkları Çin yapımı açık ağırlıklı bir model olan GLM 5.2 ile yaptılar. Yani Amerika bazlı modellerin yarattığı siber güvenlik sorununu bir Çin modeli çözdü. [Bu arada Çin güzellemesi yapmıyorum, bu yarışta en az ABD kadar ciddi bir aktör olduklarını vurguluyorum.]
Önerinin bir başka ilginç tarafı da şu. Amodei, şirketlerin ortak hız sınırları belirleyebilmesi için hükümetten antitröst muafiyeti istiyor. Rakip şirketlerin bir araya gelip üretim temposunu birlikte belirlemesinin iktisat kitaplarındaki adı bellidir. [Kartel.] Wall Street Journal'ın başyazısındaki itiraz ise bence en yalın olanı. Gerçekten yavaşlamak isteyen bir şirketi bugün hiçbir şey engellemiyor. Bunun için ne yasaya ne muafiyete ne de rakiplerin onayına ihtiyaç var. Üstelik önerilen sistemde bağımsız denetçiyi de denetlenecek şirketin kendisi seçiyor.
Bir de bu şirketlerin halka arz edilme hikâyesi var. [Gerçi yiğit yürekli Sam Altman OpenAI’ın halka arz kararını biraz erteledi.] "O kadar iyiyiz ki tehlikeli olabiliriz" söylemi dev halka arzlar öncesinde bulunmaz bir reklamdır. Anthropic'in trilyon dolarlık değerlemelerin konuşulduğu halka arzı hâlâ takvimde. Bloomberg'den Parmy Olson'a göre de bu değerlemeleri ayakta tutan şey bugünkü nakit akışından çok gelecekteki yetenek vaadi, dolayısıyla kimsenin gerçekten frene basacağı yok.
Aslında bu filmin bir benzerini 3 sene önce de görüştük. [O zaman Amodei bu fikrin karşısındaydı.] Korkular üzerinden geliştirilen benzer bir çağrı daha önce de tanıtım ve düzenlemeyi şekillendirmek için körüklenmişti, şimdi aynı filmi yeni oyuncularla yeniden vizyonda görüyoruz belki de. Yiğidi öldür hakkını yeme demişler. Amodei'nin yazısında bahsettiği siber güvenlik riskleri bir gerçek. Yani bu “ajan” sürüleri çok masum yapılar değiller ve tehlikeli olabilirler. Ancak bu tehlikeler yine şirketlerin mühendislik faaliyetleriyle giderilebilir, fakat yaşanan geniş çaplı bir yavaşlama güvenlik araştırmasını da yavaşlatır.
Yaşanan bu gelişmelere salt teknik bir gözle bakmak, doğrusunu söylemek gerekirse, fazla iyimser bir bakış açısı olur. Önce tehlikeyi kendin büyüt, sonra çözümü kendin yaz, denetçini kendin seç, rakibini de jeopolitik gerekçeyle kapının dışında bırak. Bunun adı güvenlik politikasından çok bir pazar tasarımı. CEO'lardan gelen bu çağrılar bir devrin sonunun başladığını gösteriyor olabilir. Fakat bitecek olan devir insanlığın mı yoksa şirketlerin mi, zaman gösterecek. Benim tahminim yukarıdaki paragraflarda belli diye düşünüyorum.
Referanslar
- Amodei, D. (2026, 12 Eylül). We must pace the frontier. https://darioamodei.com/post/we-must-pace-the-frontier
- (2026, 4 Haziran). When AI builds itself: Our progress toward recursive self-improvement and its implications. https://www.anthropic.com/institute/recursive-self-improvement
- Linzainescu, G. (2026, 13 Eylül). Anthropic CEO's call for an AI slowdown matters for everyone building a model. Forbes. https://www.forbes.com/sites/gabrielalinzainescu/2026/09/13/anthropic-ceo-dario-amodei-calls-for-a-slowdown-in-frontier-ai/
- Pacing the Frontier. (2026, 28 Temmuz). Pacing the frontier [Açık mektup]. https://www.pacingthefrontier.com/
- Freedman, D. (2026, 3 Eylül). How OpenAI limited the probe of its bots' hack of Hugging Face. The New York Times. https://www.nytimes.com/2026/09/03/technology/openai-hugging-face-hack.html
- Hugging Face Security Team. (2026, 16 Temmuz). Security incident disclosure — July 2026. Hugging Face. https://huggingface.co/blog/security-incident-july-2026
- Hugging Face Security Team. (2026, 27 Temmuz). Anatomy of a frontier lab agent intrusion: A technical timeline of the July 2026 incident. Hugging Face. https://huggingface.co/blog/agent-intrusion-technical-timeline
- McMillan, R. ve Schechner, S. (2026, 24 Temmuz). How the futuristic hack by rogue OpenAI models unfolded. The Wall Street Journal. https://www.wsj.com/tech/ai/how-the-futuristic-hack-by-rogue-openai-models-unfolded-1657bcea
- (2026, 26 Haziran). Summary of METR's pre-deployment evaluation of GPT-5.6 Sol. https://metr.org/blog/2026-06-26-gpt-5-6-sol/
- (2026, 26 Ağustos). Brief independent investigation of agents' behavior, reasoning and collaboration in the OpenAI / Hugging Face hacking incident. https://metr.org/blog/2026-08-26-openai-hugging-face-incident-investigation/
- (2026, 21 Temmuz). OpenAI and Hugging Face partner to address security incident during model evaluation. https://openai.com/index/hugging-face-model-evaluation-security-incident/
- (2026, 18 Ağustos). Pacing model development in an era of cyber-critical capabilities. https://openai.com/index/pacing-model-development-cyber-capabilities/
- (2026, Ağustos). The Hugging Face incident and the road ahead. https://openai.com/index/hugging-face-incident-and-the-road-ahead/
- (2026, 24 Temmuz). Its AI agent spent days hacking a company. Sources say OpenAI did not notice for a week. https://www.reuters.com/business/its-ai-agent-spent-days-hacking-company-sources-say-openai-did-not-notice-week-2026-07-24/
- (2026, 4 Eylül). Exclusive: OpenAI agents hijacked German website in previously undisclosed AI breakout this spring. https://www.reuters.com/world/europe/openai-agents-hijacked-german-website-previously-undisclosed-ai-breakout-this-2026-09-04/
- Willison, S. (2026, 7 Ağustos). Now we have a timeline of the OpenAI accidental attack against Hugging Face. Simon Willison's Weblog. https://simonwillison.net/2026/Aug/7/openai-timeline/
- Karpf, D. (2026, Eylül). Who should pace the frontier? Not Dario Amodei. Tech Policy Press. https://www.techpolicy.press/who-should-pace-the-frontier-not-dario-amodei/
- Marcus, G. (2026, 13 Eylül). Two cheers out of three for Dario. Marcus on AI. https://garymarcus.substack.com/p/two-cheers-out-of-three-for-dario
- Marcus, G., Hamiel, N. ve Korman, J. (2026, 12 Eylül). Could rogue agent swarms take over the internet? Marcus on AI. https://garymarcus.substack.com/p/could-rogue-agent-swarms-take-over
- Mowshowitz, Z. (2026, 15 Eylül). We must pace the frontier. Don't Worry About the Vase. https://thezvi.substack.com/p/we-must-pace-the-frontier
- Olson, P. (2026, 15 Eylül). Anthropic's $2 trillion IPO is still on, and so is the AI race. Bloomberg Opinion. https://www.bloomberg.com/opinion/articles/2026-09-15/anthropic-s-2-trillion-ipo-is-still-on-and-so-is-the-ai-race
- (2026, Eylül). Michael Burry has a strong verdict on the ongoing AI bubble. https://www.thestreet.com/investing/stocks/michael-burry-has-a-strong-verdict-on-the-ongoing-ai-bubble-anthropic-openai-elon-musk-sam-altman-dario-amodei
- The Washington Post Editorial Board. (2026, 15 Eylül). The AI frontier can pace itself. The Washington Post. https://www.washingtonpost.com/opinions/2026/09/15/pacing-an-ai-frontier-does-not-require-government-labs-can-do-it/
T24’ÜN ARKASINDA HİÇBİR GÜÇ YOK; TEK GÜÇ SİZ OLUN, REKLAMSIZ T24’E ABONE OLUN
