Kara Kutuya Teslimiyet: Algoritmanın Nedenine İhtiyaç Yok mu?

Olmuyor ya vallahi olmuyor artık. Hani bir yerlere gelip kafayı duvara vurmak geliyor içimden ne bileyim o kadar çok şey birikmiş ki içimde bu “yapay zeka” mevzusu da cabası böyle bir kutu yapmışlar adı da kara kutu içindeki ne idüğü belli değil neyse sana sadece sonuç veriyor, işte al sana cevap ne sorarsan sor, ama nasıl ulaştı o cevaba kim bilir hani bunu sormak, sorgulamak, hele hele bir de itiraz etmek ayıp oluyor sanki öyle mi

Kara Kutuya Teslimiyet: Algoritmanın Nedenine İhtiyaç Yok mu?

Bak şimdi. Çocukluktan beri böyle bir şeyler kurcalar durur içimi, hep “neden?” diye sorarım hani o yüzden de bu mühendislik işine girdim herhalde. Her şeyin bir mantığı olmalı bir akışı olmalı öyle değil mi? Ama şu aralar etrafıma bakıyorum hani herkes sanki böyle bir sihirli kutuya tapınmaya başlamış gibiyim ya da en azından böyle bir kabulleniş var ortada. Makine bir karar mı verdi? “Tamamdır makine biliyordur” deyip geçiyoruz. Kimse durup da “Dur bakayım bu karar neye göre alındı hangi verilerle beslendi bu kutunun içi neyin nesidir” diye sormuyor ki artık. Niye sormuyoruz ki arkadaş! Ya içerideki mühendis, hani ben de bir mühendis sayılırım bazen böyle saçmalıklar yaparız dalgınlıkla ya da uykusuzlukla ya da bazen sırf “olsun da bitsin” diye böyle uyduruktan bir şeyler yazarız hani o bilemiyorum şimdi bu kutunun içine öyle bir şey mi koydu. Bilmiyoruz.

Geçenlerde bir arkadaşımla konuşuyorduk şey dedi “Abi benim banka kredi kartı limitimi düşürdü ya durduk yere” böyle bir baktık şaşkın şaşkın “Neden ki” diye sorduk hani bildiğin insanlık hali. Banka temsilcisi de şey demiş “Sistem öyle uygun gördü efendim” Sistem. Yani kimse bana şu sistemin arkasındaki algoritmanın X koşulları yüzünden Y verilerine dayanarak Z sonucuna vardığını anlatmıyor anladın mı. Sadece “sistem” diyor. Bu ne ya hani çocukken babam derdi ya “ben dedim çünkü ben babanım” sanki o hesap gibi bir şey bu. Baba dedim ben sana da o zaman itiraz ederdim şimdi de ediyorum bak!

Bir yazılımcı olarak bak bazen öyle bug’lar öyle saçma sapan hatalar yakalarım ki hani saatlerce uğraşırım böyle en sonunda bulurum dersin ki “Allah kahretsin nasıl olur böyle bir şey” Ya bir tane noktalı virgül eksik ya da bir parantez kapanmamış bilmem ne ya da işte o meşhur copy-paste hatası falan. Düşünsene hani bu “kara kutu” dediğimiz şey içinde böyle bir sürü minik minik aptal hatalar barındırıyor belki de. Biz de o hatalara gözümüz kapalı teslim oluyoruz. Nasıl bir şey bu ya ben anlamıyorum ki. Geçen bir yerde okumuştum hani bu AI sistemleri eğer kötü verilerle beslenirse saçma sapan ırkçı kararlar bile verebiliyormuş falan. Kimse de çıkıp “neden böyle oldu” demiyor “makine kararı” deyip geçiliyor. E peki sorumluluk kimin kardeşim hani bir insana zarar verirse bu makine, suçu kime atacağız, makineye mi? Gülerler adama.

Ne bileyim, geçen yaz eve yeni bir akıllı süpürge aldım. Hani böyle her yeri kendi başına süpürecek odaları tanıyacak harita çıkaracak falan filan. İlk iki gün mükemmel çalıştı havalara uçtum “Oh be teknoloji nereye geldi” falan diye. Üçüncü gün, koridorda duran sandalyeye çarpa çarpa duvarı çizdi benim sandalyenin tekerlekleri yüzünden. Sonra da döndü şey dedi uygulama üzerinden “Rota optimizasyonu tamamlandı” Ya sen benim duvarımı çizdin ne optimizasyonu bu şimdi! Şikayet ettim teknik servise adamlar şey diyor “Algoritma bazen böyle beklenmedik durumlarla karşılaşabilir efendim” Ya ben mi öğreteceğim o algoritmanın sandalye görüp etrafından dolaşması gerektiğini. İnanılır gibi değil.

Bak benim zamanında bilgisayar mühendisliğine girerken ki hevesim başkaydı. Her şeyin arkasında bir mantık zinciri vardı hani bir program yazarsın o programı adım adım takip edersin debug edersin nerede ne hata var bulursun düzeltirsin. Şimdi ne o? Bir tane siyah kutu koymuşlar içine ne olduğu belirsiz bir algoritma var sonuç veriyor. Sanki bir büyücü gibi ne bileyim. Geçenlerde bizim apartmanda aidat toplayan teyze bile şey diyor “Bizim whatsapp grubunda bir yapay zeka var ne yazarsak anlıyor” Ya teyzeciğim o muhtemelen bir chatbot falan yani hani bildiğin basit kelime eşleştirmesi yapıyor öyle derin bir şey değil ama anlatamıyorsun ki. Herkes böyle bir şeye inanma peşinde hani bilmiyorum ki neden böyle bir rahatlama arayışı içindeyiz acaba. Belki de rahatlamak istiyoruzdur çünkü bu kadar şeyi düşünmek insana yük geliyor, sorumluluk hani.

Aslında tam tersi olması lazım değil mi? Hani bu kadar teknoloji varsa bu kadar gelişmişlik varsa biz daha çok sorgulamalıyız daha çok anlamaya çalışmalıyız. Neden böyle oluyor neden bu sonuç çıktı başka bir yol var mıydı diye kurcalamalıyız. Yoksa ne olacak hani bir gün bu kara kutular diyecek ki “Senin bu işi yapmana gerek yok ben yaparım daha iyi yaparım” diyecek ne bileyim banka diyecek ki “Bu adama kredi vermiyoruz çünkü algoritma öyle dedi” Hastane diyecek ki “Bu hastanın tedavisini değiştireceğiz çünkü algoritma böyle öngördü” Peki bu algoritma kim tarafından yazıldı kim denetledi kimin menfaatine çalışıyor ya da ne bileyim hangi verilerle beslenerek bu karara ulaştı. Bunları sormazsak gerçekten omuz silkip geçersek hani sadece eleştirel düşüncemizi değil, sorumluluk bilincimizi de toprağa gömeriz farkında mısınız siz! Resmen aşındırıyor bizi içten içe.