Kate Crawford ve Vladan Joler: Bir Yapay Zekâ Sisteminin Anatomisi – X

Kate Crawford ve Vladan Joler’in “Anatomy of an AI System” / “Bir Yapay Zekâ Sisteminin Anatomisi” çalışması, yapay zekâ üzerine düşünme biçimimizi kökten değiştiren metinlerden biridir. Çalışmanın tam başlığı bile temel iddiayı açıklar: Amazon Echo, yalnız evin içinde duran küçük ve akıllı bir cihaz değildir; insan emeği, veri ve gezegensel kaynaklardan oluşan geniş bir sistemin düğüm noktasıdır.

Metnin önemi, yapay zekâ eleştirisini soyut düzeyden indirmesidir. Yapay zekâ çoğu zaman “bulut”, “akıllı asistan”, “öğrenen sistem”, “otomasyon” ya da “zekâ” gibi maddesiz kavramlarla sunulur. Sanki bu sistemler yalnız koddan, modelden ve hesaplamadan ibarettir. Crawford ve Joler ise bunun tam tersini gösterir. Yapay zekâ, dünyadan kopuk bir dijital akıl değildir. Madenlerle, fabrikalarla, lojistik ağlarla, enerji tüketimiyle, veri merkezleriyle, kullanıcı davranışlarıyla, düşük ücretli emekle ve küresel tedarik zincirleriyle kurulur. Bu nedenle “Bir Yapay Zekâ Sisteminin Anatomisi”, Sentetik Epistemoloji açısından temel bir metindir. Çünkü Veri Mitosunun yalnız epistemolojik değil, maddi bir yanı olduğunu gösterir. Veri, kendiliğinden var olan saf bilgi değildir. Veri çıkarılır, toplanır, işlenir, taşınır, depolanır ve ekonomik değere dönüştürülür. Yapay zekâ da bu veri düzeninin üzerinde yükselir.

“Atlas of AI” ile Genişleyen Hat

Crawford’un daha sonra yayımladığı “Atlas of AI: Power, Politics, and the Planetary Costs of Artificial Intelligence” / “Yapay Zekâ Atlası: Yapay Zekânın Gücü, Politikası ve Gezegensel Maliyetleri” kitabı, “Anatomy of an AI System” projesinde açılan hattı daha sistematik biçimde genişletir. “Anatomy”, tek bir cihazdan yola çıkarak yapay zekânın maden, emek, veri ve altyapı ilişkilerini haritalandırıyordu. “Atlas of AI” ise bu yapıyı gezegensel ölçekte düşünür.

Crawford burada yapay zekâyı yalnız teknik bir sistem olarak değil; çıkarım ekonomisi, madencilik, enerji tüketimi, sınıflandırma, emek, devlet, şirket ve gözetim ilişkileri içinde kurulmuş bir iktidar düzeni olarak ele alır. Bu nedenle iki çalışma birlikte okunmalıdır. “Anatomy” bize yapay zekâ sisteminin bedenini gösterir; “Atlas of AI” bu bedenin içinde yer aldığı dünya haritasını çıkarır. İlk çalışma Amazon Echo’nun ardındaki görünmez ağı açar. İkincisi ise yapay zekânın yalnız bir cihaz ya da model değil, gezegen ölçeğinde işleyen bir kaynak, emek ve veri çıkarım sistemi olduğunu gösterir.

Neden Amazon Echo?

Crawford ve Joler’in Amazon Echo’yu seçmesi rastlantı değildir. Amazon Echo, gündelik ev hayatına yerleşmiş, kullanıcıyla konuşan, komut alan, müzik açan, bilgi veren ve ev içi teknolojileri yöneten bir cihazdır. Dışarıdan bakıldığında sade, küçük ve neredeyse zararsız görünür. Fakat bu sadelik, arkasındaki sistemin büyüklüğünü gizler. Bu noktada cihaz, bir nesne olmaktan çıkar ve sistemin yüzeyi hâline gelir. Kullanıcı Echo’ya bir soru sorar. Cihaz yanıt verir. Fakat bu küçük etkileşim, çok daha geniş bir altyapıya bağlıdır. Ses kaydedilir, işlenir, uzak sunuculara gönderilir, veri modelleri tarafından analiz edilir, kullanıcı profilleriyle ilişkilendirilir, yanıt üretilir ve yeniden cihaza döner. Kullanıcı için bu süreç neredeyse görünmezdir. Çalışmanın gücü, bu görünmez süreci haritalandırmasındadır.

Amazon Echo bu yüzden yapay zekânın ev içindeki maskesidir. Küçük, pürüzsüz ve gündelik bir nesne gibi görünür. Ama içinde gezegen ölçeğinde bir tedarik, emek ve veri düzeni taşır.

Anatomik Harita: Kara Kutunun Açılması

“Anatomi” kelimesi burada önemlidir. Crawford ve Joler, yapay zekâ sistemini dış görünüşünden değil, iç organlarından okumaya çalışır. Bir bedenin anatomisi nasıl kemikleri, damarları, organları ve sinir ağlarını açığa çıkarıyorsa, bu çalışma da yapay zekâ sisteminin gizli altyapılarını görünür kılar. Fakat bu anatomi yalnız teknik şema değildir. Çalışma, Amazon Echo’nun içindeki parçaları açıklamakla yetinmez. O parçaların hangi madenlere, hangi işçilere, hangi veri akışlarına, hangi patentlere, hangi altyapılara, hangi enerji sistemlerine ve hangi atık zincirlerine bağlı olduğunu gösterir. Böylece yapay zekâ, tekil bir cihazdan küresel bir sisteme doğru açılır.

Çalışma, kara kutu eleştirisidir. Yapay zekâ çoğu zaman kara kutu gibi işler. Kullanıcı sonuç görür ama sonucun nasıl üretildiğini bilmez. Cihaz çalışır ama cihazın çalışmasını mümkün kılan dünyayı görmez. Crawford ve Joler’in haritası, bu kara kutuyu yalnız algoritmik düzeyde değil, maddi düzeyde de açar. Çünkü kara kutu yalnız modelin içindeki hesaplama değildir. Kara kutu aynı zamanda madenin, emeğin, lojistiğin, veri merkezinin ve atığın gizlenmesidir. Kullanıcı cihazla konuşur; ama cihazın konuşması için gereken dünyayı görmez.

Madenler, Enerji ve Gezegensel Kaynaklar

Çalışmanın en güçlü yanlarından biri, yapay zekânın gezegensel kaynaklara bağlı olduğunu göstermesidir. Bir akıllı cihaz, yalnız plastik ve metalden yapılmış basit bir tüketim nesnesi değildir. İçindeki bileşenler lityum, kobalt, bakır, altın, nadir toprak elementleri ve başka madenlerle ilişkilidir. Bu madenler dünyanın farklı coğrafyalarında çıkarılır, rafine edilir, taşınır ve küresel üretim zincirlerine katılır. Bu nedenle yapay zekâ sisteminin başlangıcı kodda değil, yer kabuğundadır. Bir modelin çalışması için cihaz gerekir. Cihaz için maden gerekir. Maden için çıkarım ekonomisi gerekir. Çıkarım ekonomisi ise çevresel tahribat, enerji tüketimi, su kullanımı, işçi sağlığı, jeopolitik bağımlılık ve atık sorunu üretir. Burada “bulut” metaforu çöker. Bulut, hafiflik ve maddesizlik çağrıştırır. Oysa bulut denilen şey veri merkezleri, fiber kablolar, sunucular, soğutma sistemleri, enerji ağları ve bakım emeğidir. Yapay zekâ gökyüzünde değil; toprakta, madende, kabloda ve veri merkezinde çalışır. Crawford ve Joler’in çalışması, yapay zekâyı bu maddi zemine geri indirir. Bu, Sentetik Epistemoloji için belirleyicidir. Çünkü bilgi üretiminin teknik koşulları yalnız yazılımsal değildir. Bilgi, gezegensel kaynakların çıkarılması ve dönüştürülmesiyle de kurulur.

İnsan Emeği: Veri Etiketçileri, Moderatörler ve Görünmeyen İşçiler

Yapay zekâ çoğu zaman “otomasyon” adı altında insan emeğinin azaldığı bir dünya vaat eder. Oysa Crawford ve Joler’in haritası, yapay zekâ sistemlerinin çok sayıda görünmez emek biçimine dayandığını gösterir. Maden işçileri, fabrika işçileri, lojistik çalışanları, depo işçileri, veri etiketçileri, içerik moderatörleri, yazılım mühendisleri, bakım ekipleri, teslimat çalışanları ve kullanıcıların gündelik veri üretimi aynı sistemin parçalarıdır. Burada kritik nokta şudur: Yapay zekâ insan emeğinin yerine geçmez; çoğu zaman insan emeğini görünmez kılar. Otomatik görünen sistemin arkasında dağılmış, parçalanmış ve çoğu zaman düşük ücretli emek bulunur. Bir cihazın sesli komuta yanıt vermesi, yalnız makine öğrenmesinin başarısı değildir. O sistemi kuran, eğiten, düzelten, taşıyan, üreten ve besleyen insan emeğinin sonucudur. Bu emeğin en görünmez alanlarından biri veri etiketleme ve içerik moderasyonudur. Görüntülerin, seslerin, metinlerin, yüzlerin, nesnelerin ve davranışların makine tarafından tanınabilir hâle gelmesi için önce insanlar tarafından sınıflandırılması gerekir. Bir fotoğrafın “insan”, “araba”, “silah”, “şiddet”, “çıplaklık”, “nefret söylemi” ya da “zararlı içerik” olarak işaretlenmesi çoğu zaman görünmez işçiler tarafından yapılır.

Bu emek, yapay zekânın “otomatik” görünmesini sağlayan insan emeğidir. Modelin öğrendiği kategoriler, çoğu zaman binlerce insanın tekrar eden, düşük ücretli ve psikolojik olarak yıpratıcı sınıflandırma işlerinden geçer. ABD’den Hindistan’a, Filipinler’den Kenya’ya kadar farklı coğrafyalarda çalışan veri işçileri ve moderatörler; şiddet, taciz, ölüm, nefret söylemi, istismar ve travmatik görüntülerle uzun süre karşı karşıya kalabilir. İçerik moderasyonu, yalnız teknik bir ayıklama faaliyeti değildir. İnsan zihninin, platformların temiz ve güvenli görünmesi için görünmeyen şiddeti taşıdığı bir emek alanıdır. Burada yapay zekâ eleştirisinin etik boyutu belirginleşir. Kullanıcı arayüzde temiz bir sonuç görür. Model güvenli yanıt verir. Platform uygunsuz içeriği göstermemiş olur. Fakat bu görünür temizlik, çoğu zaman başka insanların kirli, ağır ve travmatik içerikle temas etmesi sayesinde mümkündür. Otomasyonun pürüzsüz yüzeyi, insan emeğinin ve zihinsel yıpranmanın üzerini örter.

Crawford ve Joler’in anatomik yaklaşımı bu görünmez emeği sistemin içine geri yerleştirir. Yapay zekâ yalnız mühendislerin, modellerin ve sunucuların ürünü değildir. Aynı zamanda etiketleyen, temizleyen, denetleyen, ayıklayan ve çoğu zaman psikolojik bedel ödeyen işçilerin emeğiyle kurulur. Bu nokta Sentetik Epistemoloji açısından önemlidir. Çünkü bilginin koşulları yalnız veri setinde değil, o veri setini makineye uygun hâle getiren insan bedenlerinde ve zihinlerinde de yazılıdır.

Veri: Kullanıcının Gündelik Hayatından Çıkarılan Değer

Amazon Echo gibi cihazların en önemli boyutlarından biri veri üretimidir. Kullanıcı cihaza soru sorar, komut verir, müzik dinler, alışveriş yapar, takvimini düzenler, ev içindeki cihazları yönetir. Bu işlemler yalnız işlevsel değildir. Aynı zamanda veri üretir. Ses, zaman, tercih, alışkanlık, mekân, ilişki ve davranış örüntüleri sisteme eklenir. Burada kullanıcı yalnız tüketici değildir. Aynı zamanda veri kaynağıdır. Cihazı kullanırken sisteme değer üretir. Ev içi alan, veri çıkarım alanına dönüşür. Eskiden mahrem sayılan gündelik sesler, komutlar, rutinler ve tercihler teknik sistemlerin analiz edebileceği biçime gelir.

Bu durum Veri Mitosu açısından çok önemlidir. Çünkü veri, sanki kendiliğinden oluşan doğal bir kayıt gibi sunulur. Oysa veri, kullanıcı davranışlarından çıkarılır. Hangi davranışın kayda değer sayılacağı, hangi sesin işleneceği, hangi komutun saklanacağı, hangi tercihin profil oluşturacağı sistem tarafından belirlenir. Veri bu nedenle masum değildir. Veri, gündelik hayatın teknik olarak yakalanmış ve ekonomik değere çevrilmiş biçimidir. Crawford ve Joler’in çalışması, veri çıkarımını yapay zekâ sisteminin merkezine yerleştirir.

Harita Olarak Eleştiri

Çalışmanın yalnız yazılı bir metin değil, aynı zamanda büyük ölçekli bir harita olması önemlidir. Çünkü yapay zekâ sistemleri doğrusal biçimde anlatıldığında çoğu bağlantı kaybolur. Maden ile kullanıcı, fabrika ile veri merkezi, ses komutu ile lojistik ağı, ev içi cihaz ile gezegensel kaynak çıkarımı arasındaki ilişki düz bir anlatıda kolayca görünmez hâle gelir. Harita bu ilişkileri aynı yüzeyde gösterir. Kullanıcı küçük bir cihazla karşı karşıya olduğunu düşünür. Harita ise bu küçük cihazın arkasındaki devasa sistemi açar. Böylece yapay zekâ, soyut bir kavram olmaktan çıkar ve ağsal, maddi, politik bir yapı olarak görünür.

Crawford ve Joler’in çalışması yalnız akademik eleştiri değildir. Görsel bir düşünme aracıdır. Harita, sistemin karmaşıklığını sadeleştirmez; karmaşıklığın kendisini görünür kılar. İzleyici tek bir merkez bulamaz. Çünkü yapay zekâ sistemi de tek merkezli değildir. Maden, emek, veri, lojistik, enerji, şirket ve kullanıcı arasında dağılmıştır.

Veri Mitosu ve Maddi Körlük

Crawford ve Joler’in çalışması Veri Mitosu’nu iki düzeyde kırar. İlk düzeyde, verinin tarafsız ve doğal olmadığı gösterilir. Veri, kullanıcı davranışlarından, cihaz etkileşimlerinden, platform kayıtlarından ve teknik ölçüm sistemlerinden çıkarılır. İkinci düzeyde ise verinin maddesiz olmadığı gösterilir. Veri; sunuculara, kablolara, enerjiye, soğutma sistemlerine, bakım emeğine ve depolama altyapılarına ihtiyaç duyar. Bu nedenle yapay zekâya dair en büyük yanılsamalardan biri maddi körlüktür. İnsanlar cihazı görür ama madeni görmez. Yanıtı görür ama veri merkezini görmez. Otomasyonu görür ama işçiyi görmez. Bulutu görür ama elektriği, suyu, soğutmayı, atığı ve tedarik zincirini görmez. Veri Mitosu tam da bu körlükten beslenir. Veri saf bilgi gibi görünür. Model zekâ gibi görünür. Cihaz hizmet gibi görünür. Oysa bütün bu görünen yüzeylerin altında çıkarım, emek, enerji ve altyapı vardır.

Crawford ve Joler’in anatomik haritası, bu nedenle yapay zekânın maddi bilinçdışını açığa çıkarır. Sistemin kendisini akıllı, hafif ve görünmez gösterdiği yerde, çalışma onun ağır, maddi ve sömürüye açık yapısını gösterir.

Algoritmik Nomos: Cihazdan Sisteme

Amazon Echo yalnız ev içi cihaz değildir. Kullanıcı davranışını düzenleyen bir arayüzdür. Hangi komutların verilebileceği, hangi hizmetlerin bağlanacağı, hangi seslerin tanınacağı, hangi platformların ekosisteme dâhil olacağı ve hangi verilerin üretileceği cihazın teknik yapısıyla belirlenir. Bu nedenle Echo gibi sistemler Algoritmik Nomos’un gündelik yüzlerinden biridir. Kullanıcı cihaza soru sorar. Cihaz yanıt verir. Fakat bu etkileşim, belirli bir platform düzeni içinde gerçekleşir. Kullanıcının bilgiye nasıl erişeceği, hangi hizmetleri kullanacağı, hangi alışkanlıkları tekrar edeceği ve hangi verileri üreteceği teknik ekosistem tarafından biçimlendirilir.

Burada nomos yasa gibi görünmez. Konfor gibi görünür. Kolaylık gibi görünür. Sesli komut gibi görünür. Fakat bu kolaylık, davranış alanını platforma bağlar. Kullanıcı evinde özgürce konuştuğunu düşünür; ama konuşma belirli bir cihaz, şirket, altyapı ve veri düzeni içinde işlenir.

Bu yüzden Crawford ve Joler’in çalışması yalnız yapay zekânın maddi anatomisini değil, gündelik hayatın algoritmik düzenlenmesini de gösterir.

Türkiye Bağlamı: Cihaz, Veri ve Dışa Bağımlı Altyapı

Bu çalışma Türkiye bağlamında çok somut bir soru açar. Türkiye’de kullanılan akıllı cihazlar, sesli asistanlar, telefonlar, ev otomasyon sistemleri, güvenlik kameraları ve platform hizmetleri hangi altyapılara bağlıdır? Bu cihazlar hangi verileri toplar, hangi sunuculara gönderir, hangi şirket ekosistemleri içinde işler ve hangi teknik standartlara göre kullanıcı davranışını biçimlendirir? Burada mesele yalnız ithal cihaz kullanmak değildir. Daha derin mesele, Türkiye’de gündelik hayatın veri üretiminin çoğu zaman küresel platformların altyapısına bağlanmasıdır. Ev içi sesler, konum verileri, tüketim alışkanlıkları, arama davranışları, izleme tercihleri, alışveriş ritimleri ve mobil kullanım izleri yerel bağlamdan çıkarak küresel veri ekonomisine katılır.

Türkçe açısından da önemli bir sorun vardır. Sesli asistanlar ve yapay zekâ sistemleri Türkçeyi ne kadar derinlikli tanıyor? Bölgesel ağızları, deyimleri, yerel kavramları, gündelik konuşmadaki ironiyi, dinî ve felsefi terimleri, sınıfsal dil farklarını nasıl işliyor? Eğer sistem Türkçeyi zayıf, yüzeysel ya da standartlaştırılmış biçimde tanıyorsa, kullanıcı yalnız teknik hizmet almaz; kendi dilinin daraltılmış bir temsil alanına da yerleşir.

Crawford ve Joler’in anatomik bakışı Türkiye için şu uyarıyı üretir: Yapay zekâ yalnız yazılım ithali değildir. Cihaz, veri, bulut, enerji, platform, dil ve kültürel temsil bağımlılığıdır. Türkiye’nin yapay zekâ tartışması yalnız model geliştirme hedefiyle sınırlı kalamaz. Hangi cihazların, hangi verilerin, hangi altyapıların ve hangi kültürel temsillerin bu sistemlere bağlandığını da sormak zorundadır.

Sentetik Epistemoloji Açısından Yeri

Crawford ve Joler’in çalışması, Sentetik Epistemoloji içinde Veri Mitosu, Algoritmik Nomos, Kod İradesi ve Eşik İnsan kavramları açısından merkezi bir yere sahiptir.

Veri Mitosu açısından çalışma, verinin tarafsız ve maddesiz olmadığını gösterir. Veri, dünyanın doğal yansıması değil; cihazlar, platformlar, kullanıcı davranışları ve çıkarım sistemleri tarafından üretilen bir kayıttır.

Algoritmik Nomos açısından çalışma, akıllı cihazların gündelik hayatı sessizce nasıl düzenlediğini gösterir. Kod İradesi açısından ise cihazın yalnız kullanıcı niyetine hizmet etmediğini; kendi platform mantığını, veri çıkarım hedefini ve teknik sınırlarını kullanıcı davranışına yerleştirdiğini gösterir.

Eşik İnsan açısından bu çalışma daha da önemlidir. Çünkü insan, yapay zekâ sistemleriyle yalnız dışarıdan ilişki kurmaz. Evinde, sesinde, gündelik alışkanlıklarında ve dikkatinde bu sistemlere bağlanır. Eşik İnsan, bu bağlantının farkına varan insandır. Cihazın kolaylığına teslim olmaz; onun arkasındaki maden, emek, veri ve altyapı düzenini de düşünür.

Bu nedenle “Bir Yapay Zekâ Sisteminin Anatomisi”, Sentetik Epistemoloji için bir yöntem dersi gibidir. Bir yapay zekâ sistemini anlamak için yalnız model çıktısına bakmak yetmez. Sistemin anatomisi çıkarılmalıdır: Kaynak nereden geliyor, emek nerede gizleniyor, veri nasıl üretiliyor, altyapı nasıl çalışıyor, kullanıcı nasıl bağlanıyor, atık nereye gidiyor?

Sonuç

Kate Crawford ve Vladan Joler’in “Bir Yapay Zekâ Sisteminin Anatomisi” çalışması, yapay zekâya dair en temel yanılsamalardan birini kırar. Yapay zekâ maddesiz değildir. Bulut değildir. Sadece kod değildir. Sadece model değildir. Maden, enerji, emek, lojistik, veri, cihaz, platform ve atıkla kurulmuş gezegensel bir sistemdir. Bu çalışma, kullanıcıya küçük ve akıllı görünen bir cihazın arkasındaki geniş dünyayı açar. Amazon Echo, ev içi konfor nesnesi gibi görünür. Fakat aynı anda yer kabuğuna, fabrikalara, veri merkezlerine, platform ekonomisine, kullanıcı davranışlarına ve küresel atık zincirlerine bağlıdır.

Kaynak Notu

Bu yazı, Kate Crawford ve Vladan Joler’in “Anatomy of an AI System: The Amazon Echo as an Anatomical Map of Human Labor, Data and Planetary Resources” / “Bir Yapay Zekâ Sisteminin Anatomisi: Amazon Echo’nun İnsan Emeği, Veri ve Gezegensel Kaynaklar Üzerinden Anatomik Haritası” başlıklı çalışması merkeze alınarak hazırlanmıştır. Ayrıca Kate Crawford’un “Atlas of AI: Power, Politics, and the Planetary Costs of Artificial Intelligence” / “Yapay Zekâ Atlası: Yapay Zekânın Gücü, Politikası ve Gezegensel Maliyetleri” kitabı, bu anatomik yaklaşımın kitap ölçeğinde genişleyen devamı olarak dikkate alınmıştır.