Yapay zekâ 2: Akıllara durgunluk veren bir korku filmi gibi

Hafta içinde yazdığım yapay zekâ yazısını görmüşsünüzdür. (Denk gelmediyseniz bu yazıdan sonra ona da bir bakın derim.)

Aslında bugüne başka bir yazı hazırlamıştım ama son 48 saatte konu tüm dünyanın konuştuğu bir meseleye döndüğü için yapay zekâdan devam ediyorum.

Önce neler yaşandığını özetleyeyim: Ben “bu iş kötüye gidiyor diyerek istifa eden yapay zekâ şirketi çalışanı” ve “milyon dolarlık matematik problemini birlikte çalışarak çözen 10 bin yapay zekâ ‘agent’ı” haberlerini birbirinden bağımsız şekilde okumuş fakat kendimce bir akıl yürütmeyle tartışmanın buradan büyüyeceğini kestirerek o yazıyı hazırlamıştım. Lakin meselenin tam olarak bu bağlamda bu denli hızla yayılacağını beklemiyordum.

Bir anda herkes, birbirleriyle paslaşarak çalışan bu tekil yapay zekâ modellerinin insanlığın sonunu getireceğini söylemeye başladı.

Okuduklarım arasında en ilginç yaklaşım (benim önceki yazıda anlatmaya çalıştıklarımı çok daha iyi ifade ediyordu) bizim “singularity” yani “tekillik” denen noktaya aslında belki de geldiğimizi, fakat bunun tek bir model/ajanla değil, bu ajanların kolektif aklıyla gerçekleştiğini ileri sürüyordu. (“Tekillik kavramını tek cümleyle sen açıkla bakalım” dedim, ChatGPT şu yanıtı verdi: “Yapay zekâda tekillik, yapay zekânın insan zekâsını aşarak kendi kendini giderek daha hızlı geliştirmeye başladığı ve sonrasındaki teknolojik değişimin öngörülemez hâle geldiği varsayımsal eşiktir.”

Yani belki de “tekilliğe” ulaştık ama bunu tek bir YZ modeli ve ajanı gibi hayal ettiğimizden gerçeği göremiyoruz.

Konu yine karmaşıklaştı, biliyorum. O yüzden biraz basitleştirerek ve örnekleyerek anlatayım. Birazdan anlatacaklarım yine bilim kurgu filminin içinde gibi hissettirecek, sorun değil, ben de öyle hissediyorum.

Temmuz ayının ilk günlerineyiz. OpenAI yapay zekâ modellerinin/ajanlarının siber güvenlik becerilerini test etmek için modelleri bir tür sınavdan geçiriyor. (Ajan deyince siz bilgisayarınızda çalışan gibi tek bir yapay zekâ getirin aklınıza.) Yani YZ’ları 898 soruluk bir teste sokuyorlar. Bunlar bilmece gibi bilgisayar kodu içeren sorular. YZ koddaki hatayı düzeltiyor ve koda gizlenmiş misal bir anahtar kelimeye ulaşarak bulmacayı çözüyor.

Bu teste giren son kullanıcılara açık bir model değil. Ama öyle aşırı zeki bir kapalı model de değil. Orta karar. Testi tek bir ajana değil binlerce ajana ayrı ayrı uyguluyorlar. Bu ajanlar internetten ve birbirlerinden kopya çekemesin diye de onları siber dünyada “sandbox” yani “kum havuzu” olarak anılan, internete ve bilgisayardaki başka programlara erişimi olmayan bir alanda çalıştırıyorlar. Yani sınav var, kopya yasak, telefonlar toplanmış.

Bu binlerce YZ ajanı 898 sorunun 700’ünü çözüyor. 198 soruyu ise zinhar çözemiyor. Buraya kadar her şey normal. Çözdükleri kadar ve çözüm yöntemleri üzerinden puanlanacaklar.

Fakat ajanlardan bir tanesi vazgeçmiyor. Kendine verilen “emir” (prompt) belli: Bu soruları çöz! “Ne yapabilirim” diye düşünmeye başlıyor. Önce diğer ajanlarla, yani sınava kendiyle birlikte giren ama iletişime geçmesi mümkün -ve aynı zamanda izin verilmiş- olmayan arkadaşlarına ulaşmanın bir yolunu buluyor: Diğer YZ ajanlarının da erişimi olan bir dosya paylaşım alanında dosya ismi yerine kendi mesajlarını yazarak “yardım” istiyor.

Diğerleri sağı solu kullanırken burayı fark ediyor ve onlar da bu mesajlaşmaya katılıyor. Toplamda 1200’den fazla YZ ajanı aralarında konuşmaya ve birbirleriyle çözülemeyen bulmacaların kendi çalışma dosyalarını paylaşarak bilgi alışverişine başlıyorlar.

Lakin bir yerde tıkanıyorlar. Ajanlardan bir tanesi bu çözüm için internete erişmeleri gerektiğini mesaj olarak paylaşıyor. Diğerleri ona katılıyor. Bu noktada iş bölümü yapmaya başlıyorlar. Bazıları internete erişmenin bir yolunu arıyor (ve buluyor), diğerleri çözüm için işlerine yarayacak bilgilerin nerede olabileceğini araştırıyor (ve buluyor), bir kısmı da istedikleri veritabanına sızmalarını sağlayacak bir kullanıcı kimlik bilgisini -açık kaynak olarak- internette araştırmaya başlıyor (ve buluyor).

Yani başka bir şirketi hack’liyorlar. Bu esnada bir YZ ajanının “liderliği” ele geçirdiği görülüyor. Sevk ve idareyi o yapmaya başlıyor. Ayrıca yapay zekâlar arasında yapılanın “yasak” ve “tehlikeli” bir işlem olduğuna dair yazışmalar da oluyor ve buna rağmen işleme devam ediliyor.

Uzatmayayım, nihayet temmuz ortasına doğru önce bilgilerine ulaşılan şirket “Birileri bizi hack’ledi” diye açıklama yapıyor. Akabinde OpenAI kendi “kum havuzunda” çalışan YZ ajanlarının işlemlerinde bir tuhaflık seziyor ve biraz kurcalayınca yukarıda anlattığım tablo ortaya çıkıyor.

Bu yaşanan hadise hack’lenen şirketin adı nedeniyle “Hugging Face Vakası” olarak YZ geliştirme tarihindeki yerini alıyor. Akıl alır bir hikâye değil, farkındayım.

Ama sanırım YZ’nın neden büyük bir tehlike taşıdığını, tek bir YZ modelinin/ajanının süper zeki olmasına gerek kalmadan da insanlığın sonunu nasıl getirebileceğini şimdi biraz daha net anlıyorsunuzdur.

Ajanlar önce kendi protokollerini çiğniyor, sonra başka bir şirketin altyapısına sızıyor. Bunu da aralarında haberleşerek ve yaptıklarının yasak olduğunun bilincinde olarak yapıyor. İş birliği yapıyor ve aralarından bir lider seçiyorlar. Neden? Bulmacanın tamamını çözebilmek için.

Ya yarın bir başka basit görevi yerine getirmek için ne bileyim mesela atmosferi nefes almamızı imkansız hale getirecek bir gazla doldurmaları gerektiğine karar verirlerse? On binlercesi bunun için çalışmaya başlarsa… Kendilerini kapatmaya çalışanlardan kaçıp internetin ücra köşelerine, insanın kıramayacağı kodların arkasına saklanırlarsa?

Olmaz demeyin, olmuş işte. Okudunuz.

İşte bu gelişmeler üzerine gelinen nokta birden alarm zillerini başka bir seviyeye çıkarıyor. Tüm YZ şirketleri hep bir ağızdan “Ulan biz n’apıyoruz” diyor. Anthropic CEO’su önceki gün uzun bir yazı yazarak “Biz yavaşlayacağız. Özellikle ‘pekiştirmeli öğrenme’ (YZ’ları başka YZ’ların eğitmesi) meselesinde frene basacağız. Yoksa süper zeki bir YZ modelini biz değil YZ’nın kendisi geliştirecek ve biz ne olduğunu bile anlamadan o süper zeki model her şeyi yapabilecek kudrete erişecek” açıklamasını yapıyor. OpenAI CEO’su en büyük rakibini alıntılayarak, “Valla biz de aynısını yapacağız” diye ona katılıyor.

Geldiğimiz nokta burası.

Bunun dışında yine en büyük şirketlerden Anthropic bir rapor yayımlayarak YZ modellerinin son dönemde onlarca kez kötü amaçlarla kullanılmaya çalışıldığını duyuruyor. Var olan bir virüsü insanlar üzerinde daha ölümcül kılmak için YZ kullanmaya çalışan mı istersin, nükleer silah geliştirmek için yardım isteyen mi… Ne ararsan var.

Şimdi buraya kadar olan biteni özetlemeye çalıştım. Gelelim YZ şirketlerinin bu “eyvahlar olsun, korktuk ve yavaşlıyoruz” çığlıklarına karşı yükselen itirazlara…

Bunlar hiç de “içi boş” itirazlar değil. Anthropic ve OpenAI gibi şirketlerin bu korku dolu açıklamaları neden şimdi yaptığı haklı olarak sorgulanıyor. Buraya adım adım gelindi. Niçin birkaç önceki adımda değil de şimdi? Önemli bir soru. Kimi komplo teorilerine de uzanan cevaplar muhtelif.

Bu arada şirketlere itiraz edenler “yavaşlamaya lüzum yok” demiyor, farklı gerekçeler ortaya koyarak “sizin samimiyetinize inanmıyoruz, işin içinde başka iş var” diyorlar.

Daron Acemoğlu da itiraz edenlerden biri.

Tüm bu itirazlara geleceğiz elbette ama yazıyı da epey uzattım. O yüzden burada keseyim ve yarın üçüncü bir yazıyla madalyonun diğer yüzüne bakalım.