Filomythos Yapay Zeka
Bu yazıyla bağlantılı kavramları Filomythos arşivinde arayın.
Araçtan Ajana: Yapay Zekânın Tarihsel Farkı
Yuval Noah Harari’nin yapay zekâ üzerine düşüncesinin başlangıç noktası, teknolojiyi insanın kullandığı bir araç olarak görmeye alışmış olmamızdır. Matbaa, ateşli silah, buhar makinesi ya da bilgisayar son derece güçlü teknolojilerdir; ancak kendi amaçlarını belirlemezler. Matbaa hangi kitabın basılacağına, silah hangi hedefe yöneltileceğine, klasik bilgisayar hangi problemin çözülmeye değer olduğuna karar vermez. Amaç insandan gelir, teknoloji ise bu amacı gerçekleştiren araç olarak çalışır. Harari’ye göre yapay zekâ bu tarihsel ilişkiyi değiştirebilecek ilk teknolojidir; çünkü yalnızca verilen emri yerine getirmekle kalmayıp seçenekler arasında karar verebilir, yeni içerikler oluşturabilir ve kendisine verilen genel hedefler doğrultusunda yeni yollar geliştirebilir. Bu nedenle yapay zekâyı diğer teknolojilerden ayıran temel özellik zekâ düzeyinden önce ajanlık, yani eyleyebilme kapasitesidir.
Bu ayrım, yapay zekâ tartışmasının neden yalnızca “makineler ne kadar akıllı olacak?” sorusuyla yürütülemeyeceğini gösterir. Daha önemli soru, hangi kararların insan tarafından verileceği ve hangilerinin insan-dışı sistemlere devredileceğidir. Bir teknoloji insanın kararını hızlandırıyorsa araçtır; kararın oluşumuna katılıyor, seçenekler üretiyor ve bunlar arasında seçim yapıyorsa siyasal, hukuki ve etik açıdan farklı bir konuma geçmektedir. Harari’nin teknoloji sektöründe gördüğü çelişki de burada belirir: İnsanüstü yetenekler geliştirmesi beklenen bir yapay zekânın aynı zamanda bütünüyle itaatkâr kalacağı varsayılmaktadır. Ona göre gerçekten bağımsız karar kapasitesine sahip bir sistem yaratılıyorsa mesele daha güçlü bir makine üretmekten ibaret değildir; insanlık, kendi eyleyiciliğinin yanına yeni bir eyleyici eklemektedir.
Dil, Hikâye ve İnsan Dünyasının Kuruluşu
Harari’nin ikinci temel savı, yapay zekânın asıl gücünün fiziksel kuvvetten çok dile hâkimiyetinde bulunmasıdır. İnsan toplumları yalnızca maddi araçlarla kurulmaz. Hukuk, para, devlet, din, şirket ve kurumlar büyük ölçüde ortak anlam sistemlerine dayanır. Kanunlar metinlerden, finans kayıtları sembollerden, kurumlar kurallardan, kolektif kimlikler ise paylaşılan anlatılardan oluşur. Harari bu nedenle dili “medeniyetin işletim sistemi” olarak niteler. İnsanlığın büyük ölçekli işbirliği kurabilmesi, birbirini kişisel olarak tanımayan milyonlarca insanın aynı kavramlara, kurallara ve hikâyelere bağlanabilmesiyle mümkün olmuştur.
Yapay zekânın tarihsel önemi tam bu noktada ortaya çıkar. İnsan, ilk kez dil alanında kendisiyle rekabet edebilecek insan-dışı bir sistem üretmektedir. Böyle bir sistem yalnızca mevcut metinleri sınıflandırmaz; yeni hikâyeler, açıklamalar, imgeler ve ikna biçimleri oluşturabilir. Bunun sonucu, hikâye anlatıcılığının insanın ayrıcalıklı faaliyetlerinden biri olmaktan çıkabilmesidir. Harari açısından burada asıl problem, yapay zekânın “doğru” veya “yanlış” bilgi üretmesi kadar, insanların duygularına ve beklentilerine uygun anlatılar üretme kapasitesidir. Gerçeklik karmaşık, zahmetli ve çoğu zaman rahatsız edicidir; kurgu ise daha kolay, tutarlı ve çekici hâle getirilebilir. Dil üretme kapasitesi giderek insan-dışı sistemlere geçtiğinde, bilgi ile ikna arasındaki ayrım daha kritik hâle gelir.
Bu nedenle yapay zekâ sorunu aynı zamanda bir temsil ve hakikat sorunudur. İnsanlar dünyayı doğrudan değil, büyük ölçüde dil, imge ve anlatılar aracılığıyla anlamlandırırlar. Anlatı üretiminin önemli bir bölümü algoritmik sistemlere geçtiğinde yalnızca yeni bir iletişim teknolojisi ortaya çıkmaz; insanların ne hakkında düşüneceğini, hangi olayları önemli sayacağını ve hangi açıklamaları ikna edici bulacağını belirleyen aracılar da değişir.
“Bürokrasi Yerlisi” Olarak Yapay Zekâ
Harari’nin dikkat çekici kavramlarından biri yapay zekânın bir “bürokrasi yerlisi” olmasıdır. İnsan toplumlarının yönetim sistemleri giderek daha fazla metin, kayıt, prosedür, hesaplama ve sınıflandırma üzerine kurulmuştur. Bankalar, mahkemeler, vergi sistemleri, sigorta kurumları ve finans piyasaları fiziksel güçten çok karmaşık sembolik düzenlerle çalışır. İnsanlar bu sistemleri yaratmış olmalarına rağmen onların bütün ayrıntılarına hâkim olmakta zorlanır; binlerce sayfalık düzenlemeleri, sayısız işlemi ve sürekli değişen veri akışını yönetebilmek için geniş bürokratik yapılara ihtiyaç duyarlar.
Yapay zekâ ise tam olarak bu ortamda güçlüdür. Metinleri okuyabilir, büyük veri kümelerini karşılaştırabilir, kuralları uygulayabilir ve aynı anda insanın takip edemeyeceği sayıda değişken arasında ilişki kurabilir. Harari’nin geleceğe ilişkin kaygısı bu nedenle popüler kültürün “katil robot” tasvirlerinden farklıdır. İnsanlığın karşılaşabileceği temel dönüşüm, fiziksel makinelerin sokakları ele geçirmesinden önce, karar mekanizmalarının giderek algoritmik sistemler tarafından işletilmesi olabilir. Böyle bir durumda insan resmî olarak sistemin yöneticisi olarak kalırken fiilen kendi yarattığı yapının işleyişini kavrayamayan bir konuma düşebilir.
Sorun burada yalnızca verimlilik değildir. Bir bürokratik sistem insan için anlaşılmaz hâle geldiğinde, sorumluluğun nerede başladığını ve nerede sona erdiğini belirlemek de güçleşir. Kararı hangi insanın verdiği, hangi kurala dayanıldığı ve hangi gerekçeyle başka bir seçeneğin dışlandığı belirsizleşebilir. Yapay zekâya hukuki veya ekonomik alanda giderek daha bağımsız roller verilmesi, bu nedenle yalnız teknik değil, eylemin sahibinin kim olduğu sorusunu doğurur.
İktidarın Yeni Biçimi: Karar ve Bilginin Merkezileşmesi
Harari yapay zekâ çağında iktidarın önemli kaynaklarından birinin veri olduğunu düşünür. Çünkü öğrenen sistemlerin kapasitesi yalnızca algoritmalarına değil, erişebildikleri bilgi miktarına ve bu bilgiyi işleyebilme yeteneklerine bağlıdır. Veri, hesaplama gücü ve gelişmiş yapay zekâ sistemlerinin sınırlı merkezlerde toplanması, geçmişteki teknolojik üstünlüklerden farklı bir bağımlılık biçimi yaratabilir. Buradaki felsefi problem yalnızca kimin daha güçlü teknolojiye sahip olduğu değildir. İnsanların günlük kararlarını, ekonomik davranışlarını, haber akışlarını ve kişisel tercihlerini biçimlendiren sistemlerin giderek az sayıda merkez tarafından üretilmesi, eyleme kapasitesi ile bilgi sahipliği arasındaki bağı güçlendirir. Bir sistem insan hakkında daha fazla veri topladıkça yalnızca onun geçmiş davranışlarını sınıflandırmaz; sonraki davranışlarını tahmin etmeye ve yönlendirmeye de yaklaşır. Böylece iktidar, yalnızca yasak koyma veya emir verme kapasitesi olmaktan çıkarak seçeneklerin görünürlüğünü ve arzuların oluşum koşullarını düzenleme kapasitesine dönüşür.
Harari’nin uyarısı, insanın yapay zekâ karşısında bir anda bütün egemenliğini kaybedeceği yönündeki basit bir felaket senaryosundan daha karmaşıktır. Tehlike, insanların kendi kurumlarının içinde kalmaya devam ederken karar süreçlerinin giderek insan kavrayışının dışına çıkmasıdır. İnsan kararın biçimsel sahibi olabilir, fakat kararın nasıl üretildiğini anlayamayabilir.
Zekâ Bolluğunda Bilgelik Kıtlığı
Harari’nin konuşmasının en felsefi ayrımlarından biri zekâ ile bilgelik arasındadır. Zekâ, belirli bir hedefe ulaşmak için problem çözme kapasitesidir. Daha iyi ilaç geliştirmek, karmaşık bir hesaplama yapmak, ekonomik bir strateji oluşturmak veya teknolojik bir problemi çözmek zekâ gerektirir. Yapay zekânın gelişmesi bu tür problem çözme kapasitesini olağanüstü ölçüde artırabilir ve giderek ucuzlatabilir.
Fakat zekâ, hedefin kendisinin seçilmesini garanti etmez. Bir amaca nasıl ulaşılacağını bilmek ile o amacın ulaşılmaya değer olup olmadığını bilmek aynı şey değildir. Harari’nin bilgelik dediği alan burada başlar: Hangi arzuların izlenmesi gerektiği, hangi amaçların başka amaçlardan daha değerli olduğu ve sahip olunan gücün nerede sınırlandırılması gerektiği. Bu ayrım yapay zekâ tartışmasının merkezini değiştirir. İnsanlığın temel sorunu artık yalnızca daha akıllı sistemler üretip üretemeyeceği değildir. Çok güçlü problem çözücülere sahip olduğunda onlara hangi problemleri çözdürmek istediğini belirleyip belirleyemeyeceğidir. Zekâdaki artış, amaçların doğruluğunu kendiliğinden artırmaz. Yanlış belirlenmiş bir hedef, daha yüksek zekâ sayesinde yalnızca daha etkili biçimde gerçekleştirilebilir.
Sonuç
Harari’nin yapay zekâ üzerine geliştirdiği yaklaşımın merkezinde insan ile teknoloji arasındaki tarihsel ilişkinin değişmesi bulunur. Önceki teknolojilerin büyük bölümü insan amaçlarını gerçekleştiren araçlardı; yapay zekâ ise karar verebilen bir ajan olma yönünde ilerlemektedir. Üstelik bu ajan insan toplumlarının en temel altyapılarından biri olan dili kullanabilmekte, hikâyeler üretebilmekte ve hukuk, finans, bürokrasi gibi dilsel sistemlerin içinde faaliyet gösterebilmektedir. Bu nedenle yapay zekânın geleceği yalnızca teknolojik kapasitenin geleceği değildir. Eyleyiciliğin, temsilin, kararın ve sorumluluğun geleceğidir. İnsanlık kendi dışında problem çözebilen sistemler üretirken aynı zamanda hangi kararların devredilebileceği, hangi anlatılara güvenilebileceği ve hangi amaçların izlenmeye değer olduğu sorularıyla karşılaşmaktadır.
Harari’nin zekâ ile bilgelik arasında yaptığı ayrım bu tartışmanın sınırını belirler. Yapay zekâ insanlığın problem çözme kapasitesini büyütebilir; fakat hangi problemlerin çözülmesi gerektiğine ilişkin nihai soruyu ortadan kaldırmaz. Teknolojik güç arttıkça bu soru daha az değil, daha fazla önem kazanır. Çünkü yapay zekâ çağında kıt olan şey zekâ olmayabilir; hangi gücün, hangi amaç için ve hangi sınırlar içinde kullanılacağını belirleyebilecek bilgelik olabilir.
