Zeka Değil, Ter: AI’ın Kirli Sırrı

Oturup klavyenin başına geçtim, bir şeyler karalayacağım diyorum, ne yazacağımı bilemedim. Aslında biliyorum da nereden başlasam ki hani? Şu bilgisayar var ya, şu önümdeki ekran, şurada gördüğünüz her satır, arkasında bir hikaye var, hep vardı da şimdi biraz… daha, nasıl desem, mide bulandırıcı bir hal aldı sanki.

Bakın adı “Yapay Zeka” değil mi, güya akıllı, kendi kendine öğreniyor falan filan. Her yerde “AI devrimi”, “gelecek burada”, “robotlar işimizi elimizden alacak” diye bağırıp duruyorlar. Şey, ben de severim teknolojik oyuncakları, yeni çıkan bir işlemciye, güzel tasarlanmış bir akıllı saate, hatta iyi yazılmış bir koda bayılırım. Ama bir yere kadar yani.

Şimdi mesela diyelim ki ChatGPT’ye bir soru sordunuz değil mi? Tık, diye cevap geldi, süper. Sanırsın ki o silikon yığınları içinde anlık bir deha parlaması, ışık hızıyla işleyen bir beyin. Yok öyle bir dünya. Yok. Ya da vazgeçtim, aslında var da o dünya bildiğimiz dünyadan değil. Birileri ter döküyor o dünyanın her bir zerresi için. Hem de nasıl ter.

Bu büyük, havalı teknoloji şirketleri var ya, hani şu milyar dolarlık devler, bize gösterdikleri parlak cephe var. AI’ları kendi kendine müthiş şeyler başarıyor, sanat yapıyor, kod yazıyor, hatta sizinle sohbet ediyor. Ne bileyim, bir şeyi ayırt ediyor fotoğrafta, kedi mi köpek mi falan. İyi güzel de, o kedi mi köpek mi olduğunu ilk başta o AI’a kim öğretti? Kim anlattı? Oturup “Bu kedi, bu köpek” diye tık tık tık işaretleyenler kimlerdi?

Siz sanıyorsunuz ki makineler kendi kendine öğreniyor. Yalan. Hadi tamamen yalan demeyeyim, külliyen yalan demek de haksızlık olur şimdi. Çünkü bir kısmını öğreniyor, doğru. Ama o öğrenmenin temelini, ana iskeletini, o devasa veri setlerini oluşturanlar insanlar. Çok net söyleyeyim: Binlerce, milyonlarca insan.

Hani bir ara bu şey vardı ya, captcha’lar falan, “Ben robot değilim” diye işaretliyorduk, trafik ışıklarını seç, otobüsleri bul. Aslında orada bir yandan da ücretsiz olarak Google’ın AI’ına trafik işaretlerini, nesneleri öğretme işini yapıyorduk farkında olmadan. Ama o sadece küçük bir parçası, devede kulak bile değil, tırnağının ucu kadar falan. Çok daha fazlası var.

Şimdi düşünüyorum da geçen hafta yeni aldığım bir kamera vardı, işte çekiyor, diyor ki “Bu bir insan yüzü”, “Bu bir manzara”. Nasıl anlıyor? Ya anlıyor da o “insan yüzü”nün farklı açılarını, farklı ırklardan, farklı ışıklarda milyonlarca fotoğrafını, birileri saatlerce, günlerlice, aylarca tek tek işaretledi de o cihaz anladı. O sistem öğrenmedi, eğitildi.

Bence buna zeka falan dememek lazım. Bu bildiğin, büyük bir yanılsama, bir illüzyon. Sihirbazın el çabukluğu gibi bir şey. Perdelerin arkasına baktığınızda ne görüyorsunuz biliyor musunuz? Odalar dolusu insan görüyorsunuz. Filipinler’den Hindistan’a, Afrika’nın çeşitli ülkelerinden Latin Amerika’ya kadar uzanan coğrafyalarda, bilgisayar başında, çoğu zaman kötü koşullarda, bazen on, bazen on iki saat, akla hayale gelmeyecek kadar sıkıcı işleri yapan insanlar.

Veri etiketleme dedikleri şey. Düşünsenize, bir videodaki her nesneyi saniye saniye takip edip işaretliyorsunuz. Ya da bir konuşmayı yazıya döküyorsunuz. Bir görüntünün içinde şiddet mi var, cinsel içerik mi var, onu tespit ediyorsunuz. İçerik denetleme deniyor buna. En pis, en iğrenç içerikler bu insanların önüne düşüyor. Psikolojik olarak ne hale geliyorlar hiç düşündünüz mü?

Bu insanlar, hani tabiri caizse, dijital köleler. Minimum ücret, sıfır saygı, görünmez işçiler. Adları sanları yok. Onlar için bir “kahraman” yazısı yazılmıyor, onlar için “ödül” töreni yapılmıyor. Onlar bu sözde “devrimin” falan filan en dipte kalan, en karanlık, en unuttuğumuz, unuttuğumuzdan da beter, hiç bilmediğimiz, kimsenin bahsetmek istemediği tarafı.

Bana biraz şey gibi geliyor, hani o antik çağlardaki piramitler var ya, mühendislik harikası, sanat eseri. Ama kim yaptı onları? Köleler. Binlerce köle, kan ter içinde çalıştı, kimi öldü, kimi sakat kaldı, ama piramitler yükseldi. Şimdi de benzer bir şey yaşıyoruz. Yüksek teknoloji piramitleri yükseliyor, ama arkasında yine ter, kan, gözyaşı… Tamam, kan demeyelim şimdi, modern zamanda öyle şeyler yok da, mental kanama diyelim ona, olur mu?

Geçen bir makale okudum, bir kadın anlatıyor, günde kaç yüz tane şiddet videosu izlemek zorunda kalmış. Çocuk istismarı, hayvanlara eziyet, cinayetler… Sadece bir sistemi eğitmek için. Bir sistem ki, sözde “toplumu koruyor”. Toplumu koruyan kimmiş aslında? O kadın. O insanlar.

Ama neyse. Kimin umurunda. Büyük şirketlerin yatırımcı raporlarına bakın, ‘AI’ diye bas bas bağırırlar. ‘Deep learning’ derler, ‘neural networks’ derler, ‘generative models’ derler, öyle cafcaflı kelimeler havada uçuşur. Sanki bir makineye bir düğmeye basınca her şey sihirli bir şekilde ortaya çıkıyor. Bir düğmeye basınca oluyor mu sandınız? Yok ya.

Bir sistem düşünün, milyonlarca kullanıcının şikayetlerini analiz edip, otomatik olarak içerik kaldırıyor. Nasıl? Çünkü o şikayetleri, o içerikleri ilk başta yüz binlerce farklı senaryoyla, gerçek insan eliyle etiketlediler. Makineye “bak bu şiddet içerir, bu nefret söylemi, bu zararlı” diye tek tek öğrettiler. Sanki bir çocuğa alfabeyi öğretir gibi, ama sıkıcı ve tekrarlarla dolu bir şekilde. Ve o çocuklar hiç büyümüyor, hep aynı alfabeyi, aynı harfleri tekrar ediyor. Belki de haklılardır, ne bileyim.

Hani şu teknolojinin “eşitlikçi” olması muhabbeti var ya, teknolojinin tüm insanlığın faydasına olması falan. Külahıma anlatsınlar. Şu anki haliyle tam tersi. Bir kısmı çok zengin olurken, diğer kısmı modern köleliğin dibini yaşıyor. Ve en kötüsü, kimse görmüyor, kimse duymuyor, kimse konuşmuyor bunu. Hani bir laf vardır ya, “Gözden ırak olan gönülden de ırak olur”. Bu insanlar gözden de ırak, gönülden de ırak.

Ben bir ara bir yapay zeka uygulamasının ara yüzünü inceliyordum. Çok basitti, kullanıcı için süperdi. Ama o basitliğin arkasında yatan karmaşıklığı, o karmaşıklığın getirdiği veri yığınlarını ve o veri yığınlarını işleyen insanların emeğini düşününce, midem bulandı. Hayır, yazılımın kendisi kötü değil tabii ki, mühendislik harikası, kod desen zaten mükemmel. Ama o “zeka” nereden besleniyor, o “akıl” nasıl işliyor, işte asıl mesele orada. Zeka değil bu. Ter. Bildiğin alın teri. Dijital ter.

Telefonlarımız, akıllı ev aletlerimiz, navigasyon sistemlerimiz, hepsi. Her biri bu görünmez emeğin üzerinde yükseliyor. Sanki birileri sihirli değneği sallayıp “Hadi akıllı ol!” demiş gibi. Yok öyle bir şey. Her adımda bir insanın, bir parça hayatının, bir damla enerjisinin, o makineye aktarıldığı bir sistem bu. Ve biz buna “yapay zeka” diyoruz. Yapay. Kelime anlamı tam oturuyor aslında. Doğal olmayan, sonradan oluşturulan. Doğal olmayan bir zeka için, doğal olmayan yöntemler. Yani, insan eliyle kurulan bu düzen.

Aslında neyse… Hani ben de yıllardır bu sektörün içindeyim, bilişim dünyasının her türlü cilvesini gördüm. Parlayan yüzlerini