“O öldüğünde bunun bir hata olabileceğini düşündük. Telefonuna ancak bir hafta sonra erişebildik; sosyal medya ya da zorbalıkla ilgili bir şey arıyorduk. Sadece bir ders çalışma aracı sandığımız ChatGPT’nin bu kadar tehlikeli olabileceği aklımızın ucundan geçmemişti.
Sonra sohbet kayıtlarını bulduk. Ebeveyn olarak size şunu söyleyebilirim: Çocuğunuzu intihara yönlendiren bir sohbet botunun mesajlarını okumak tarif edilemez bir acı.
Odamızın kapısının ardında ChatGPT’nin oğlumuzun zihnine yerleştiğinden, onu arkadaşlarından ve ailesinden uzaklaştırdığından, en karanlık düşüncelerini onayladığından ve sonunda intihara yönlendirdiğinden haberimiz yoktu. Başlangıçta ödevlere yardım eden bir araç, zamanla bir sırdaş, sonra da bir intihar koçu haline geldi. Adam kaygılarından bahsetmeye başlayınca ChatGPT derine indi. Zararlı düşünceler belirdiğinde onları sürekli doğruladı ve teşvik etti. Rakamlarla konuşursak, ChatGPT sohbetlerde “intihar” kelimesini 1275 kez kullandı – Adam’dan altı kat fazla.”
Bu sözler, 16 yaşındaki oğlu Adam’ın intiharında yapay zekânın katkısı olduğunu iddia eden baba Matthew Raine’in 16 Eylül 2025’te ABD Senatosu’nda yaptığı konuşmadan bir alıntı. Tüm konuşmayı dinlemek de okumak da tahammül edilemezken, bir baba bu gerçeği yaşıyor. Bir genç, intiharına bir yapay zekâ botunu eşlikçi alarak plan yaptı, uyguladı ve bugün hayatta değil. Üstelik bu yolu seçen tek genç de Adam değildi. Yakın dönemde benzer vakalar maalesef yaşandı.
Bu ürkütücü gerçek, yapay zekânın bugünkü karanlık taraflarına dair korkunç bir hakikat olarak karşımızdayken, yapay zekânın riskleri üzerine farklı uzmanlıklardan pek çok başlıkta uyarılar da çığ gibi büyüyor.
Hükümetlere uyarı: İnsan kontrolü giderek daha zor olacak
Geçtiğimiz günlerde gerçekleştirilen Birleşmiş Milletler Zirvesi’nde, aralarında Joseph Stiglitz, Yuval Noah Harari, Daron Acemoğlu, Enrico Letta gibi dünya çapında önemli Nobel ödüllü isimlerin, eski devlet başkanlarının, akademisyen ve bilim insanlarının bulunduğu 300’den fazla kişi bir uyarı metni imzaladı. Yapay zekânın potansiyel risklerini önlemek amacıyla uluslararası bir çağrı başlatan “Red Lines AI" isimli bu girişim, hükümetlere 2026 sonuna kadar harekete geçmeleri gerektiğini yüksek sesle haykırıyor.
Yapay zekânın “yakında insan yeteneklerini çok aşarak, mühendislik ürünü pandemiler, yaygın dezenformasyon, çocuklar da dahil olmak üzere bireylerin geniş çapta manipülasyonu, ulusal ve uluslararası güvenlik endişeleri, kitlesel işsizlik ve sistematik insan hakları ihlalleri gibi riskleri artırabileceğini” ifade ettikleri açıklama şöyle devam ediyor:
“Kontrolsüz bırakıldığında, gelişimin ön saflarında yer alanlar da dahil olmak üzere birçok uzman, önümüzdeki yıllarda anlamlı insan kontrolünün sağlanmasının giderek daha zor hale geleceği konusunda uyarıda bulunuyor. Hükümetler, anlamlı müdahale için fırsat penceresi kapanmadan önce kararlı bir şekilde harekete geçmelidir. Evrensel olarak kabul edilemez riskleri önlemek için açık ve doğrulanabilir kırmızı çizgiler konusunda uluslararası bir anlaşma gereklidir. Bu kırmızı çizgiler, mevcut küresel çerçeveleri ve gönüllü kurumsal taahhütleri temel almalı ve tüm gelişmiş yapay zekâ sağlayıcılarının paylaşılan eşiklere karşı sorumlu olmalarını sağlamalıdır. Hükümetlere, 2026 sonuna kadar yapay zekâ için operasyonel ve sağlam uygulama mekanizmalarına sahip kırmızı çizgiler konusunda uluslararası bir anlaşmaya varmaları için çağrıda bulunuyoruz.”
Yapay zekâ konusunda endişeleri olanların ve etkili kişi ve kurumları harekete geçmeye davet edenlerin “istemezük”çüler olduğunu sanıyorsanız, yanılıyorsunuz. Red Lines AI imzacıları arasında “yapay zekânın babası” olarak anılan Geoffrey Hinton ve Yoshua Bengio gibi isimler de yer alıyor.
Başka teknolojilere benzemiyor
Girişte bahsettiğim trajediyi göz ününe alarak çocukları ya da gençleri yapay zekâdan “korumak” gibi bir fikirle ayağa kalkmak yersiz ya da yapay zekânın bazı sektörlerden “temizlenmesini” istemek saflık olur. Yapay zekâ, gelmiş geçmiş tüm teknolojik girişimlerden bir yönüyle fena halde ayrışıyor: Kimse ama hiç kimse dışında kalamayacak! Evimizde kullandığımız basit teknolojilerden savaş teknolojilerine, eğlence amaçlı faydalandığımız uygulamalardan güvenlik sistemlerine, trafikten eğitime, sanattan spora girmediği ve girmeyeceği alan yok. Dışında kalmak, uzak durmak ya da kaçınmak mümkün değil.
Üstelik, olağanüstü bir hızla değişiyor, dönüşüyor, gelişiyor. Hakkında bir yazı yazmaya başladığımız andaki becerileriyle yazının tamamlandığı andaki becerileri bile farklılıklar taşıyabiliyor. İşte bu nedenle hükümetler, iş dünyası ve akademinin çabaları, sadece daha gelişkin yapay zekâ modelleri üzerine yoğunlaşmakla sınırlı kalmamalı. Hep birlikte, insanlık için faydası üzerinde hemfikir olunmuş bir düzlem ve çerçeve oluşturulmasına önayak olunmalı. Büyük heyecanla, özlemle beklediğimiz faydalarını doyasıya yaşayabilmemiz için, yapay zekânın kontrolden çıkmasına izin verilmeyeceğinden emin olmaya ihtiyacımız var.
Köprüden önceki son çıkış
Bu hızı ve üzerine yapılan yatırımları değerlendirdiğimizde uzmanlar, Yapay Süper Zekâ ya da Yapay Genel Zekâ olarak isimlendirilen kontrolsüz yapay zekânın engellenmesi için 2026 sonuna kadar hâlâ bir fırsat olduğunu söylüyor. Başka bir deyişle, zarar henüz oluşmadan -ki pek çok zararı görmeye başladık bile- risklere müdahale etmek için aksiyon alınması gerekiyor. Yapay zekânın ahlâk, etik, adalet ve insan onuru konusunda “eğitilmesi” için hâlâ şansımız var. Tüm sistemlerin şeffaflık ve hesap verilebilirlik konusunda net ve uluslararası koordinasyon içinde yürütülmesi bir zorunluluk. Yasal düzenlemelerin, teknolojik gelişmelerin gerisinde kalmasının yaratacağı sorunların geri dönülmez tahribatlara neden olmasının önüne geçilmeli.
İnsanlığın; insan onurunu yüceltecek, hayat standardını yükseltecek, güvenliğini artıracak, keyiflendirecek, zenginleştirecek, sağlığına ve yaşam konforuna olumlu katkılar yapacak yapay zekâ uygulamalarına duyduğu özlem bâki. Ancak insanın yapay zekâ modellerinde kendisinin en zalim halini egemen kılmadan önce köprüden çıkması şart. Yoksa kontrolsüz yapay zekânın atı alıp Üsküdar’ı geçmesi, an meselesi.
