Algoritma Yargıç Oldu: Hayatımız Çipin İnsafına mı Kaldı? ÖZET: Kredi başvurunuz reddedildi, iş görüşmeniz iptal oldu, belki de bir suçlama aldınız. Nedeni m…

Algoritma Hakim mi Oldu?

Kredi başvurusu reddedilmiş hani biri, böyle yüzü bembeyaz oldu geçen gördüm, telefonda bir şeyler karıştırıyor kim bilir ne olmuş yine. İş görüşmesi pat diye iptal oldu belki, bir sabah kalktın e-postana bakıyorsun “üzgünüz” diyor o şeytanın icadı algoritma denen meret. Belki suçlama aldın, yani şey, hiç alakası olmayan bir durumdan belki de yani, kim bilir neden o karar verildi ki sana! Sebep ne biliyor musunuz? M… Makine öğrenmesi mi dersiniz yapay zeka mı dersiniz bilmem ne zıkkımı dersiniz işte, çip denen o minicik, o soğuk, o acımasız silikon parçası. Hayatımız resmen bunların insafına kalmış gibi bir şey oldu ha cidden diyorum şaka değil bu.

Geçenlerde hani bir arkadaşım var, Selimcan diye, böyle ufacık bir yazım yanlışı yüzünden, ki normalde çok dikkatlidir klavyenin başına geçti mi, neyse işte bir proje başvurusu vardı, o küçücük bir harf hatası yüzünden sistem direkt reddetmiş biliyor musunuz? Telefonla arıyor, anlatmaya çalışıyor kim dinler ki, orada bir robotik ses monoton bir şekilde “sistemimiz kurallara göre işler ve başvurunuz uygun görülmemiştir” falan filan diyor böyle. İnsanı delirten bir durum bu resmen! Düşünsene bütün geleceğin, aylarca belki yıllarca uğraştığın bir şey bir kod satırı yüzünden, hatta kod bile değil klavyede takılan bir parmak yüzünden çöp oluyor ya akıl alır şey mi bu!

Şey, aslında yani, tamam, anlıyorum, hız gerekli. Büyük veri var, çok fazla başvuru var, insan eliyle yetişmek imkansız. Biz de yazılımcıyız biliyoruz hani, otomasyon hayat kurtarıyor bazen, rutin işleri bize bırakmayan şeyleri yapıyor falan filan. Ama karar verme mekanizması bu kadar mı basite indirgenir ya? İnsan hayatı bu, öyle kredi notu, sicil puanı, ya da işte kelime eşleşmesi falan filanla ölçülecek bir şey mi cidden! Ya o çipin arkasındaki algoritmayı yazan adamın o gün keyfi kaçıksa, uykusunu alamadıysa, belki bir parametreye yanlış bir değer girdiyse ne olacak? Hiç düşündün mü bunu! Ya da ne bileyim, bir virgülden, iki noktadan bile olaylar bambaşka yerlere gidebilir.

Bilmiyorum…

Geçen sabah kahvemi içerken akıllı kahve makinesinin, ki incelemesini yazmıştım bir ara çok güzel alet aslında, neyse işte o akıllı makinenin uygulamasına baktım, bana diyor ki “bugün daha az kafein tüketmelisiniz, uyku düzeniniz aksayabilir”. Hayda! Nereden biliyor bu ya! Tamam kolumdaki akıllı bileklik falan verileri topluyor ama o da neyin nesi yani, benim o an canım kahve çekmişse çekmiştir ona ne! Sanki evrenin sırrını çözmüş de bana akıl veriyor böyle soğumuş çay tadındaki gerçekler gibi bir şeyler anlatıyor. Bu durum da tam olarak o his işte, böyle her köşeden birileri, ya da bir şeyler, sana ne yapacağını dikte ediyor. Ama neyse, konuyu dağıtmayayım şimdi.

O kara kutu meselesi var ya, hani Black Box denilen olay. Algoritma karar veriyor ama nasıl verdiğini, hangi parametrelere göre verdiğini kimse bilmiyor. Kendi kendine öğreniyor, kendi kendine evriliyor, sonra bir bakmışsın, senin suçlu olduğuna karar vermiş. Sorgulama şansın bile yok, çünkü o bir makine, duygusu yok, vicdanı yok, empati denen bir şey zerre miskal yok! Sadece kod var, 1’ler 0’lar, matematiksel formüller… İşte bu yüzden bu algoritmaların yargıç olması falan çok tehlikeli, çok!

Aslında tam tersi… Dur ya vazgeçtim öyle değil.

Belki de haklılardır.

Belki insan denen o karmaşık varlığın duygusal gelgitleri, önyargıları, egoları yüzünden verilen kararlar daha kötü sonuçlar doğuruyordur. Hani bazen birine sinirlenirsin de sırf o yüzden haksızlık edersin ya, algoritma yapmaz bunu en azından. Objektif bakar güya. Güya diyorum çünkü o algoritmayı yazan da insan, o veriyi toplayan da insan, ve insan dediğin hatalı bir canlı, yanlılıkları var, eksikleri var. Yani kodun içine, veri setinin içine bilinçli ya da bilinçsiz olarak o önyargıları zaten boca ediyorsun ki!

Şimdi mesela şey var, hani bu sosyal medya platformlarındaki yasaklar falan var ya. Bir kelime yazıyorsun, ya da bir görsel paylaşıyorsun hop! Ceza! Hesabın kapatılıyor, içeriğin kaldırılıyor, hem de hiç kimseye derdini anlatamadan. Kim karar verdi buna? Bir insan mı oturup baktı senin içeriğine? Hayır! Yüzbinlerce, milyonlarca içeriği tarayan bir kod parçası dedi ki “bu uygunsuz”. E neye göre uygunsuz? Hangi kritere göre? O kritere kim karar verdi? Hani şey, o zincir böyle uzayıp gidiyor da sonu hep o minicik çipe, o yazılıma bağlanıyor.

Kredi kartı başvuruları, işe alım süreçleri, hatta belki tıp alanında teşhisler… Her alanda bu var artık. Sanki biz sadece o çipin karar vermesi için yaşayan birer veri kaynağına dönüştük. Böyle sabah kalkıp uyanıyorum, bilgisayarı açıyorum, bir şeyler yazıyorum, bir şeyler okuyorum, sonra diyorum ki “Acaba bu eylemlerim algoritmaların gözünde nasıl bir puanlama aldı şimdi?” Şey, bu hafif paranoyakça gelebilir tabii ama gerçekten böyle bir durum var yani.

Bir keresinde böyle bir arkadaşımla konuşuyorduk hani, çocuk diyor ki “eskiden mahalledeki bakkal beni tanırdı, babamın hesabına yazdırırdım”. Şimdi? Kimse tanımıyor, sadece kredi puanın, ödeme geçmişin, risk skorun var. Adın yok, yüzün yok, hikayen yok. Sadece bir dizi sayı, bir sürü veri. Robotlar konuşuyor, robotlar anlaşıyor, biz arada kalmış gibiyiz.

Peki ne olacak şimdi? Tamamen teslim mi olacağız? Ya da ne bileyim, bu algoritmaları yazanlar, hani bizler, daha etik mi olmalıyız? Daha şeffaf mı olmalıyız? Hani o siyah kutuyu biraz aralamalı mıyız? Ya da algoritmanın karar mekanizmasını öyle bir tasarlamalıyız ki hani, itiraz hakkı olsun, bir insan eli değsin en azından son aşamada, böyle bir filtre gibi düşünün. Yoksa bu gidişat hiç iyi değil, hiç! Yarın bir gün hani seni beni hiç tanımayan bir yapay zeka bir karar verir, hayatımız alt üst olur, oturup ağlasak kimseye derdimizi anlatamayız yani, çünkü karşımızda bir duvar var.

Ama neyse. Aman kimin umurunda ki zaten. Onlar kendi dünyalarında, biz de kendi dünyamızda boğulup duruyoruz. Ne diyeyim ki şimdi…

Şu an mesela bu yazıyı yazarken de şey düşünüyorum, bu sistemler benim bu dağınık cümlelerimi, bu anlamsız yerlere giden düşüncelerimi nasıl analiz edecek? Hani bu kadar “insani” bir metni nasıl işleyecekler? Belki direkt “anlaşılmaz” diye çöpe atacaklar ha ha! Ya da ne bileyim, beni direkt bir kategoriye atıp “bu Memduh hep böyle zaten” diye damgalayacaklar. Korkmuyor muyum? Biraz… Ama yapacak bir şey yok ki!

Gidip bir çay koyayım en iyisi… Sıcak bir şeyler iyi gelir şimdi