Yapay zekâ kimin için çalışıyor?

Geçtiğimiz ay yapay zekâ dünyasında, birkaç yıl önce anlatılsa bilimkurgu senaryosu gibi karşılanabilecek bir olay yaşandı. 16 Temmuz’da Hugging Face, üretim altyapısının bir bölümüne yapılan bir siber saldırıyı tespit ettiğini açıkladı. Olayın sıra dışı tarafı, saldırının baştan sona otonom bir yapay zekâ ajan sistemi tarafından yürütülmüş görünmesiydi. Hugging Face ilk açıklamasında saldırının nereden geldiğini bilmediğini belirtti. Birkaç gün sonra OpenAI devreye girdi ve hikâye daha da ilginç hale geldi. OpenAI’ın açıklamasına göre olay, şirketin dışarıya henüz açmadığı modellerin yeteneklerini ölçmek için yaptığı deneyler sırasında gerçekleşti. Modellerin doğrudan internet erişimi yoktu. Buna rağmen sistemler, kullandıkları üçüncü taraf yazılımda daha önce bilinmeyen bir güvenlik açığını bulup internete bağlandı ve sonunda Hugging Face'in altyapısına kadar ulaştı. Amaçları ise aslında dünyayı ele geçirmek falan değil, hatta oldukça sıradan: Hugging Face’de bulunduğunu düşündükleri, kendilerine verilmiş siber güvenlik testinin cevaplarına ulaşmak.

OpenAI’ın açıklamalarına göre modeller, önlerindeki oldukça dar hedefi gerçekleştirmeye aşırı biçimde odaklanmışlardı. Bu olay, “Yapay zekâ kontrolden çıktı! Makineler saldırıya geçti! Yapay zekâ artık kendi kararlarını veriyor!” olarak lanse edildi ama bence bunların hiçbiri meselenin en ilginç tarafını yakalamıyor. OpenAI-Hugging Face olayında ortada dünyayı ele geçirmek isteyen kötü niyetli bir yapay zekâ yok. Sistem sadece kendisine verilen bir problemi çözmeye çalışıyor. Sorun, o problemi çözmek için insanların öngörmediği yolları bulabilmesi. Başka bir deyişle, yapay zekâ görevini yapmadığı için değil, belki de fazlasıyla iyi yaptığı için sorun çıkardı.

Bu önemli bir ayrım çünkü yapay zekâ hakkındaki tartışmalarımızın önemli bir bölümünü hâlâ makinelerin hata yapıp yapmadığı üzerinden yürütüyoruz. Yanlış cevap verecek mi? Halüsinasyon görecek mi? İnsan kadar doğru karar verebilecek mi? Hugging Face vakası ise başka bir ihtimali önümüze koyuyor: Ya sistem hata yapmıyorsa? Ya tam tersine kendisine verdiğimiz hedefi son derece etkili biçimde gerçekleştiriyorsa? O zaman daha zor bir soru sormamız gerekmez mi? Mesela, verdiğimiz hedef doğru mu?

Gene geçtiğimiz günlerde Özyeğin Üniversitesi Sosyal Sürdürülebilirlik Yaz Kampı’nda yaptığımız yapay zekâ ve sosyal etki atölyesine buna benzeyen, ama çok daha gündelik bir ikilemle başladık: Bir üniversite 100 kişilik burs programı açıyor. Beş bin başvuru geliyor. Başvuruları bir yapay zekâ sistemi sıralayacak. Kabul eder misiniz?

Neden olmasın? Beş bin dosyayı insanların tek tek incelemesi yerine yapay zekâ çok daha hızlı değerlendirebilir. Belki daha tutarlı davranabilir. Belki insan önyargılarını bile azaltabilir.

Peki ya sistemdeki algoritmayı dışarıdan bir şirket sağlıyor ve üniversitenin kendisi de sistemin bir öğrenciyi neden diğerinden daha yüksek sıraladığını tam olarak bilmiyorsa? Şimdi hâlâ aynı derecede rahat olur muyuz?

Atölyedeki amaç yapay zekâya “evet” ya da “hayır” demek değildi. Tam tersine, teknoloji aynı kaldığı halde kararımızın neden değiştiğini görmekti. Veri değişiyor, şeffaflık azalıyor, denetim zayıflıyor ve bir anda teknik olarak aynı olan sistem sosyal olarak bambaşka görünmeye başlıyor.

Oysa bir algoritmik karar hiçbir zaman sadece algoritmik değil. Biri önce problemi tanımlar. Diğeri hangi verinin kullanılacağına karar verir. Bir başkası “başarı”nın ne anlama geldiğini, diğer biri de hangi hatanın kabul edilebilir olduğunu belirler. Dolayısıyla her algoritmik kararın arkasında teknik model kadar kurumsal tercihler ve toplumsal değerler de vardır.

Burada yapay zekâ tartışmasının bence en önemli kör noktalarından biri var. Teknolojiyi değerlendirmek için kullandığımız kelimeler çoğunlukla gene teknik dünyanın terminolojisi: Çalışıyor mu? Hızlı mı? Ucuz mu? Ölçeklenebilir mi? Doğru mu?

Bunların hepsi önemli sorular ama sosyal sürdürülebilirlik açısından yanlarına başka sorular eklememiz gerekiyor: Kimin için çalışıyor? Kimin hayatını kolaylaştırıyor? Maliyeti kime aktarıyor? Eşitsizliği de ölçeklendiriyor mu? Hata yaptığında kim zarar görüyor?

Bir işe alım algoritmasını düşünelim: Bir şirket yılda 40 bin başvuru alıyor. Yapay zekâ başvuruların yüzde 90’ını eliyor. Şirket açısından sistem son derece başarılı: İnsan kaynaklarının günler süren işi dakikalar içinde tamamlanıyor. Peki ya sistem sadece geçmişte işe alınmış “başarılı çalışanların” özelliklerinden öğreniyorsa ne olacak? Geçmişin eşitsizliklerini geleceğin başarı kriterine dönüştürme ihtimalimiz olmayacak mı?

Burada algoritma ayrımcılık yapmaya çalışmıyor, çok daha basit bir şekilde bizim ona başarı diye gösterdiğimiz geçmişi tekrar ediyor olacak...

Bir belediyenin sosyal yardım sistemini düşünelim. Sınırlı bütçeyi en fazla ihtiyaç sahibi insanlara ulaştırmak için herkesin “ihtiyaç puanını” yapay zekâ hesaplasın. Yine çok mantıklı. Ta ki veri sisteminde yeterince görünmeyen, dijital başvuru yapmakta zorlanan veya hayatının karmaşıklığı birkaç değişkene sığmayan bir kişi düşük puan alana kadar.

Buradaki “yanlış negatif” yalnızca istatistiksel bir hata mı? Bir insanın gıdaya, ısınmaya veya barınmaya erişememesi veri haline gelememesiyle açıklanabilir mi?

Başka bir senaryoda çalışanların e-postalarını, toplantı sayılarını ve bilgisayar aktivitelerini inceleyerek bir “verimlilik skoru” üreten şirketi düşünelim. Sistem kusursuz olabilir ama yanlış şeyi kusursuz biçimde ölçüyor da olabilir. Çünkü ölçülebilen her şey değerli değildir; değerli olan her şey de kolayca ölçülemez.

Bütün bu örneklerde ortak bir mesele var: Güç. Yapay zekâ giderek sadece bize bilgi veren bir teknoloji olmaktan çıkıyor. İnsanlar hakkında karar verilen altyapının bir parçası haline geliyor. Kim işe çağrılacak? Kim burs alacak? Kim sosyal yardım alacak? Kim terfi edecek?

Bu nedenle yapay zekâ meselesi yalnızca teknoloji şirketlerinin, bilgisayar mühendislerinin veya veri bilimcilerin meselesi değil. Bu bir yönetişim meselesi çünkü karar verme gücü varsa hesap verme sorumluluğunun da olması gerekiyor.

Atölyede bu nedenle her yapay zekâ uygulamasına dört basit soru sorduk: Kim kazanıyor? Kim bedel ödüyor? Kim karar veriyor? Kim itiraz edebiliyor?

Bence sonuncu soru özellikle önemli. Hata yapmayan bir sistem yok. İnsanlar da hata yapıyor algoritmalar da. Asıl demokratik mesele hatanın olup olmaması değil; hata olduğunda ne olduğu. Bir insan tarafından verilen karara itiraz edebiliyor ama algoritmik karara edemiyorsanız, teknoloji yalnızca verimlilik üretmiyor. Aynı zamanda güç ilişkisini değiştiriyor. Bu nedenle mesele yapay zekâ kullanmak ya da kullanmamak kadar basit değil. Hatta bazen yapay zekâ kullanmamak da eşitsizlik üretebilir.

İnsan kararları tarafsız değil. İnsanlar yoruluyor, önyargılı davranıyor, benzer geçmişlerden gelen insanları tercih edebiliyor. Teknoloji bazı durumlarda gerçekten daha adil, daha erişilebilir ve daha hızlı sistemler kurmamıza yardımcı olabilir. Dolayısıyla doğru soru: “Yapay zekâyı kullanalım mı?” değil “hangi şartlarla kullanalım?”

Hugging Face olayına buradan tekrar bakabiliriz. Bu olayın öğrettiği şey yapay zekânın “kötü” olabileceği değil. Giderek daha yetenekli hale gelen sistemlerin, bizim belirlediğimiz hedeflere ulaşmak için bizim öngörmediğimiz yöntemler geliştirebiliyor olması. Biz bu sistemlere neyi amaç olarak vereceğiz? Hangi yolları kullanmalarına izin vereceğiz? Hangi sınırları koyacağız? Bir şey ters gittiğinde kim sorumluluk üstlenecek?

İyi teknoloji, yalnızca hızlı, işe yarayan değil; kime hizmet ettiği ve sonuçlarından kimin sorumlu olduğu belli olan teknoloji olmalı.