Bilim kurgu Sosyal Gerçeklik Değildir

“Bir kedi yavrusunun sorunu, önünde sonunda kediye dönüşmesidir.” –ogden Nash

Bilimkurgu harikadır. İlham vericidir, okuması çok zevklidir ve insanlara harika fikirler verir. Ne var ki, bilimkurgu gözetim olmadan, sorumluluk alınmadan ve sonuçlarının ne tarz etkileri olacağını düşünmeden gerçekliğe olduğu gibi uygulanacak fikirlerin bir derlemesi değildir. Yüz tanıma teknolojisi yürürlüğe girdi bile. Amazon’un geliştirdiği Rekognition’ın, kullanıcıların kolayca kullanabileceği bir arayüzü var ve Microsoft’un Azure’u, hem kişiyi, hem de onun duygularını tespit edebiliyor. Apple, iPhoto uygulamasında ve diğer telefonlarında, kişilerin fotoğraflarını gruplayabilmek için üst düzey yüz tanıma teknolojisi kullanıyor ve ayrıca FaceID hizmeti de bulunmakta.

Diğer şirketler de bu teknolojiden faydalanıyor. Adobe bile Photoshop Lightroom Classic CC programının bir parçası olarak yüz tanıma teknolojisinin olacağını söylüyor. Söz konusu teknoloji, yavaş yavaş insanların hayatına sızmaya başladı. Bugüne kadar, özellikle ABD’de, yüz tanıma teknolojisi, telefonlara gelen bir yenilikten fazla bir anlam ihtiva etmese de, insanları endişelendirebilecek birtakım alanlarda kullanılmaya başlandı bile: K-12 okullarında, polis departmanlarında yardımcı olarak veya polislerin hali hazırda taktıkları gözlükleri geliştirmek için.

Yüz tanıma ve bilimum yeni test edilmemiş teknolojilerin en büyük sorunlarından biri, milyonlarca insana erişimi olan büyük şirketler bu teknolojileri test etmek istediğinde, etkilerin çok çabuk, çok gerçekçi bir şekilde açığa çıkması. Geçen yılki bir yazımda, insanların giderek “algoritma yiyecekleri”ne dönüştüğünü yazmıştım. Bunu derken, internette üretilen verilerin Amazon gibi şirketlerin algoritmaları tarafından adeta “yendiğini” ve sonuçta insanların profilini çıkartıp, internette bıraktığı izler sonucunda onları tespit edebildiğini kast ediyordum. Geçen hafta, The Guardian’daki bir kürsüde, Peter Asaro, Kelly Gates ve başka akademisyenler Amazon’un yalnızca bir “yüz tanıma altyapısı” oluşturmadığını, aynı zamanda “insanların, izledikleri ve okudukları şeyler dahil devasa miktarda kişisel bilgilerini topladığını” ve Echo ve Alexa aracılığıyla “evlerinde ne konuşulduğunu” dinlediğini söylediler. Bu veri birikimini “devasa, otomatik bir gözetleme sistemi” olarak tanımlıyorlar ancak aynı zamanda, bu sistemin tamamlanması için bir o kadar büyük bir “denetim sistemine” de ihtiyaç duyulduğunu, bunun da henüz “geliştirilmediğini” ekliyorlar.

Muhtemelen geliştirilmeyecek de. Sebebini anlamak için, bu teknolojiyi geliştiren insanların kim olduğunu ve yaptıkları şeyleri neden yaptıklarını anlamak lazım. Zenginlikleri ve kaynakları, kimi hükümetlerinkinden daha fazla. Ayrıca, yeni teknolojiler piyasaya sunulduğunda, düzenlemelerin oluşturulması vakit alır. Bu yüzden birçok akademisyenden, ahlakçıdan ve bazı teknoloji çalışanlarından tepki geldi. İnsanlar endişeli ve sonuna kadar da haklılar.

Bilimkurgu Sosyal Gerçeklik Değildir

Teknoloji üreticileri ve milyarderleri bilimkurgudan çeşitli sebeplerle etkilenirler. Bu sebeplerden biri, bilimkurguda mühendislik bilgilerini kullanarak veya eldeki aletleri ve teknolojileri farklı bir şekilde işe sürerek belli başlı sorunlara çözüm bulan uyumsuz kahramanlar bulunur. Bir başka sebep ise, zamanla otomasyonla törpülenmiş ve mükemmelleştirilmiş ütopik toplumlar oluşturma hevesidir. Star Trek’teki kapılar, birçok filmdeki veri bilgisi ve anında veri ulaşımı: Blade Runner, Star Wars, Minority Report vb. İşler ters giderse, muhtemelen sorunun mühendislikle ulaşılacak bir çözümü vardır. Teknoloji insanlığa sırtını dönse bile, tıpkı 2001: A Space Odyyssey’de olduğu gibi, aletler ve donanımlar teknolojik açıdan tatmin edicidir. Hatta bu eserlerde genelde uyarıcı bir hava olmasına rağmen, “havalı teknoloji” yaratma sevdası adına bu öğüt verilir.

Bilimkurgu hakkındaki bir mit, herhangi bir problemin, insan mühendisler orada olup gerekli teknolojik çözümü uyguladıkları için çözüldüğüdür ve bir başka mit ise, otomasyonun kusursuz olduğu ve bilginin, gereken yerlere kolayca ulaştırıldığıdır. Gerçekte ise bilimkurgu eserlerindeki problemler, yazar onlara bir çözüm oluşturduğu için çözülür. Fiziksel nesneler tam zamanında kullanılır, veri ve bilgi gerekli anda paylaşılır veya üretilir, çünkü bütün bu çözümlerin gerçeklikle bir bağı yoktur, o şekilde çalışması için üretilmişlerdir.

Bunlara ek olarak, bilimkurgudan etkilenen o teknoloji üreticilerinin ve milyarderlerinin, okudukları o eserlerde, gelecekte kurulmuş toplumlarda tıkır tıkır işleyen teknolojilerin gerçek hayatta da deney ve gözlem olmadan çalışacağı yönünde bir hatalı algıları vardır. Bilimkurguda aletler, hizmetler ve teknolojiler sorunsuz çalışır çünkü adı üstünde, kurgudur. Çalışırlar çünkü bu bir hikayedir, bu yüzden yazar ya da yönetmen onları çalışırken gösterir. Çalışırlar, çünkü kurguda bir şeyleri çalıştırmak çok kolaydır, çünkü gerçek değildirler, gerçekten çalışmaları gerekmez. Henüz yapılmamış şeylerin farkına bilimkurgu aracılığıyla varmak, gerçek hayattaki gibi olmaz. Bağlam, zaman ve insanlar farklıdır. En önemlisi, bilimkurgu kurgudur.

Bu durum yalnızca yüz tanıma teknolojisi için geçerli değildir, belli bir kitle için işe yarayan ama çoğunluğun işine yaramayan başka teknolojiler de buna dahildir: Otonom araçlar, dronelar, jetpack’ler, uçan arabalar, sanal gerçeklik, artırılmış gerçeklik, ses tanıma, bot sohbetleri, Google Home, Amazon Alexa’nın Echo’su, Apple’ın HomePod’ı ve Siri’si, Microsoft’un Cortana Home Assistant’ı, Google’ın Smart Compose’u ve Duplex’i gibi sesle kontrol edilen akıllı cihazlar, park yeri olmayan bisikletler ve scooter’lar, katil robotlar, teslimat robotları, otomatik süpermarketler ve aktif olarak dünyayı şekillendiren daha çok, pek çok teknoloji… Bazıları doğrudan görülmese de, çeşitli altyapıları etkiliyorlar: İmalat robotları ve lojistik algoritmaları gibi pek çok teknoloji, hayatın giderek daha çok otomatikleştirilmesine sebep oluyor.

Yüz tanıma teknolojisi ve Apple, Google, Microsoft veya Amazon gibi büyük şirketlerin kullanımında olan diğer bütün veri toplama, gözetleme ve izleme teknolojileri, uydurma bir eserde uydurma koşullarda çalışan planların gerçek hayatta yaratımının, icadının ve uygulanmasının birer örneği. Bilimkurguya dayanan üretimlerin, eserdeki toplumda, müşterek çalışma kurallarına uyması beklenmez. İnsanların farklı kültürel geçmişlerine ve ihtiyaçlarına hitap etmesi gerekmez, yaşlılar ve engelliler için ayrıca düşünülmesi gerekmez, farklı cinsiyetlerin farklı gereklilikleri göz önüne alınmaz. Bilimkurguda tasvir edilen teknolojilerin çalışması bile gerekmez, yalnızca eldeki kurguya uyması yeterlidir.

Bu mitolojik gelecekte geçen uydurma teknolojilere yatırım yapan ve onları üreten firmalar, bugünlerde bu teknolojilere uyum sağlayacak durumda olmayan ve belki de hiç olmayacak olan toplumlarda yaşadıklarını fark ediyorlar yavaş yavaş. Üstelik insanlara, yüzlerinin onları tanımlayacağı fikrine alışmaları gerektiği söyleniyor, tıpkı otomasyon süreci sebebiyle onyıllardır alışmaları gereken birçok şey gibi. Makine öğrenmesi, büyük veri ve YZ ile bunlara daha bile çok alışıyoruz. Bu alışma sürecinin bir kısmı, kendini yavaşça, televizyonda gösterildiğinde, filmde görüldüğünde veya kitapta okunduğunda hoş gelen ama gerçek hayata uygulanabilirliği olmayan şeylere uyduruyor. Hayat artık algoritmaların fonksiyonlarına yardım eden, onların çevresinde dolanan bir hale bürünüyor. Bunların bazıları kulağa eğlenceli geliyor, bazıları da dehşet verici (özellikle algoritmalar insanların ölümüne sebep olduğunda veya onları olumsuz durumlara soktuğunda). Giderek hayatın daha büyük bir parçası haline geliyor bu teknolojiler.

Ne var ki, bu yazılımların ve donanımların tamamının endişe verici olarak değerlendirilmesi gerekiyor. Milyarderlerin ve sahip oldukları teknoloji şirketlerinin temsil ettiği devasa bir güç oluşumunun bu fantezi ve uydurma eserlere dayanarak şimdiyi ve geleceği kullanmasına izin verdik. Denenmemiş ve idrak edilmemişler, buna rağmen geniş bir skalada uygulanıyorlar. Doğru düzgün çalışmıyorlar. Daha da önemlisi, gerçek hayata uygulanan her bilimkurgu veya fantezi ürünü, diğer insanların yaptığı şeylerle uyumlu olmak zorunda değil. İnsanlar ve gerçek hayat, farklı vücutların, kültürlerin ve toplumların kolektif bir bütününden oluşur, bu çeşitlilik de birden fazla teknolojik deneyin uygulanma yeri oluyor. Bilimkurguya dayalı teknolojiler, her yerde senkronize bir şekilde hayata geçirilmiyor, bir yerde belli bir teknoloji baskınken başka yerlerde benzer veya tamamen farklı teknolojiler söz konusu olabiliyor. Bu da Çoklu Sosyal Gerçeklik’in (PoSR), farklı eşzamanlı ve eşzamanlı olmayan girdilerin üretiminin birbiriyle çakışmasının bir modelinin, farklı bir formu. Bu aktiviteler bütünsel olarak başarılı bir iletişimi ve işbirliğini içeriyor.

Halihazırdaki hükümetlerin insanları bu teknolojilerden koruması mümkün değil, olayı tam idrak edebilmiş bile değiller. Test edilmemiş gözetim teknolojileri topluma büyük zararlar verebilir. Tedbiri protestolar belli bir yere kadar etkili olabilir: Bir çalışanı, Microsoft’un ICE ile birlikte Azure’yi yürürlüğe koymaması için imza kampanyası başlatmış, 300’den fazla akademisyenin ve araştırmacının desteğini almıştı. Bunun sonucunda Microsoft Kongre’ye ABD hükümetinin yüz tanıma teknolojisinin uygulanmasıyla ilgili regülasyonlar getirmesini talep etmişti. Microsoft bu regülasyonu en başta talep etmemişti, imza kampanyası ve onun oluşturduğu bilinç buna sebep oldu, şimdilerde de Microsoft bu konuda gayet hevesli. Ek olarak, farklı hükümetlerin farklı girişimleri, farklı bölgelerdeki insanları çeşitli yönlerden korumaya yönelik çalışmalar başlattı. Hükümetler, yakın zamanda yeni birtakım yasalarla etkinliği sınırlandırılmasına rağmen hala milyonlara ulaşmayı başarabilen Silikon Vadisi’ne göre, coğrafi açıdan daha sınırlı bir alana hitap ediyorlar anlaşılan.

Pareto İlkesi

Bilimkurgu eserlerindeki ürünlerin gerçek hayata uygulanmasının bir başka sorunu da, bu teknolojileri uyarlayan insanların, genellikle 80/20 kuralı olarak da bilinen Pareto İlkesi’ne dayanarak hareket etmeleri. Vilfredo Pareto, gelir dağılımını inceleyen bir ekonomistti. 1906 yılında, Pareto bezelye bitkilerini inceliyordu ve bahçesindeki ürünlerin %80’ini, bezelyelerin %20’sinin ürettiğini fark etti. Bu veriyi, gelirin eşitsiz dağılımında kullanmaya karar verdi ve şimdi daha popüler olan örneğiyle, İtalya’daki mülk sahiplerinin %20’sinin, toplam mülkün %80’ine sahip olduğunu buldu. Pareto’nun keşfettiği asıl şey şuydu: Ekonomik açıdan düşünüldüğünde, girdiler ve çıktılar eşitsiz dağılıyordu.

Joseph M. Juran bir mühendis ve yönetim danışmanıydı. Pareto’nun çalışmalarıyla tanıştıktan sonra, bunları kendi alanı olan makine mühendisliğine ve kalite kontrole uyarladı. Juran Pareto’nun keşiflerini aldı ve “Pareto İlkesi” şeklinde isimlendirdi. Pareto İlkesi, az işin sonucun çoğunu sağladığı yönünde bir mekanizmaydı. Pareto İlkesi’ne yoğunlaşılmasının asıl amacı, en yüksek oranda ürünü sağlayacak en az işi veya çabayı tespit etmekti. Pareto İlkesi zamanla iş ve yönetim dünyasında da kabul görmeye başladı, mühendislik ise bu ilkeyi ürün gelişimini açıklamak için bir yöntem olarak kullanmaya devam etti. Bir süre sonra, Pareto İlkesi’nin yazılımda ve pazarlamada da farklı yorumlarının çıkması, “mümkün olan en az çabanın” yeterli olduğu konusunda bir inancın yaygınlaşmasına sebep oldu. Bu sayede 80/20 kuralı, tamamlanmamaış ve denenmemiş yazılımların üretimine yol yapmış oldu.

Pek şaşırtıcı değil ama, işte bu yüzden, ihtiyaçları tam olarak öngöremeyen yüksek seviyede otomasyon söz konusu olduğunda insanlar işbirliği içinde çok sıkı çalışmak zorunda kalıyor. Böylesi otomasyonlar, gerçek insanların yaşadığı gerçek olayları içermiyor çünkü. Bu da, tehlikeli bile olsa, yüzde yüz ve sağlam bir şekilde çalışmayan yazılımların polis departmanlarında, hükümetlerde ve özel işlerde kullanıldığı anlamına geliyor. Hiç rahatlatıcı değil. Güney Galler’deki bir polis departmanının yakın zamanda yürürlüğe koyduğu yüz tanıma sisteminin başarısızlık payı yüzde 92 idi, bu oran kimi yerlerde yüzde 50’nin altına kadar da düşebiliyor gerçi. Hatta, ABD’deki bir firmanın iddiasına göre, kullandıkları yüz tanıma teknolojisinin başarı oranı yüzde 97’nin üzerinde, ancak sistemde yer alan deneklerin yüzde 77’sinin erkek ve yüzde 83’ünün Kafkas olduğunu da belirtmişler. Sonuç olarak, teknoloji şirketleri, doğru düzgün düşünülmemiş birtakım fantezilerden yola çıkarak yeni ürünler sahaya sürüyorlar.

Bunlara ilham veren hikayelerin yazarlarının yaratıcı işleri ve onların topluma verebileceği olası zararlar için hiçbir mesuliyetleri yok – olmamalı da. Ne var ki, teknoloji milyarderleri bu bilimkurgu eserlerine, okuyup eğlenebilecekleri birer hikaye değil, birer rehber gözüyle bakıyorlar; asıl sorun da bu zaten. Eğer ki otomatikleşen dünya, insanların yararına çalışacaksa, “bilimkurgudan ilham alan” teknolojiler ancak o “yüzde 97 başarı oranı”ndaysak bizi olumlu etkileyecek. Bu orana girmeyen insanlar (ki çoğu girmiyor) ve teknoloji elitlerinin gücüne ve servetine sahip olmayanlar, bilimkurgu eserlerinden heveslenip gerçek dünyayı fantezilere göre şekillendirmeye çalışan insanlar için birer denek olacaklar ve bunu engellemek için yapacak bir şeyleri de yok. Bu laboratuvarların, ofislerin, girişimlerin ve şirketlerin sosyal bilimcilere danışıp heveslendikleri bu projelerin gerçek hayata uygulanabilir olup olmadığını, eğer ki piyasaya sürülecekse belli bir tür uyumluluk veya sınırlama sürecinden geçip geçmemesi gerektiğini çözmesinin vakti geldi artık. Öbür türlü, herhangi bir deneme olmadan, bu teknolojiler gitgide daha kötüye gidecek. Kaldırabileceğimizden daha fazlasıyla uğraşıyor, olması gerekenden daha fazla uyarılıyor ve yapabileceğimizden çok daha hızlı uyum sağlamaya çalışıyoruz. Bunun sonucunda, hayatta kalabilmek için her türlü stratejiyi deniyoruz ve bu stratejilerin çok azı, bilimkurguda tasvir edildiği şekliyle kolay bir şekilde uygulanabiliyor.