[Önlem alınamadığı, karşı konulamadığı takdirde geçekleşmesi mukadder görünen karanlık insan geleceğine dair çarpıcı bir uyarı: ‘Öngörülemeyenler’. Akan Abdula, 2021 yılının şubat ayında çıkan bu çalışmasıyla hakikatlerin önemini yitirdiği, gerçekliğin dijital dünyada yeniden üretildiği gerçek ötesi bir çağa girdiğimizi söylüyor. Algoritmalar için öngörülebilir olduğumuz bu oyunu, bu şartlar altında oynamayı reddetmekse henüz elimizde.
Bilkent Üniversitesi İşletme mezunu ve hâlihazırda marka danışmanlığı yapan Akan Abdula, kitabını gelecek kuşaklara karşı bir sorumluluk duygusuyla yazdığını vurguluyor; ona göre kendi nesli hem çevrimdışı dünyayı yaşamış hem de kendilerini 2000’li yıllarla birlikte çevrimiçi bir dünyanın içinde bulmuştur; dolayısıyla ikisi arasındaki farkı ayırt edebilen, sağlıklı bir karşılaştırma yapabilecek son kuşaktır. Kendisinden sonra gelen nesillerin ise artık çevrimdışı bir yaşam sürmek gibi bir şansları olmayacaktır. Çevrimiçi dünyayı daha hakkaniyetli, daha etik, daha şeffaf ve en önemlisi daha insancıl hale getirmek için bu iki yönlü tecrübeyi gelecek kuşaklara aktarmak gerektiğini düşünmektedir.
Abdula, içine girilen algoritmalar çağının bizlere dayattığı gerçek ötesi dünyanın benzerini, çocukluğunun geçtiği Yugoslavya Sosyalist Federal Cumhuriyeti’nde deneyimler. Yugoslavya Komünist Partisi’nin çocuk yapılanması içerisinde aktif olarak bulunarak ideolojik bir endoktrinasyon sürecinden geçer. Gerçeklerin ideolojik-politik olarak tehlikeli bulunduğu rejim için gerçeklik yalnızca pedagojik bir meseledir ve herkes tastamam resmi hakikatin pedagojisinden geçmektedir. İşte Abdula, dünün komünist rejimlerinin dünyasıyla bugünün neoliberal dünyasının bağlamlar değişse de benzer tahakküm sistemleri üzerine oturduğunu söylüyor. Günümüzde bu tahakkümü uygulayanlar ise devletlerden ziyade özel şirketler. Gerçeklik dijital dünyada öylesine çarpıtılıyor ki insanlar, dün insanlık erdemleriyle bir ölçüde idrak ettikleri gerçekleri, bugün artık fark edebilmelerinin imkânsız olduğu yeni bir safhaya girmiş bulunuyorlar. Eski Yugoslavya’da insanlara gerçeği nasıl algılamaları gerektiğini söyleyen bir rejim varken, içinde yaşadığımız algoritmalar dünyası bunu dahi söylemiyor. Bu sistem bizi hissettirmeden bir sarmalın içine alıyor ve hayatı nasıl algılamanız gerektiğini bize sürekli empoze ediyor.
Sosyal medya üzerinden meydana gelen her türlü insan etkileşimi, son derece sofistike algoritmalar yoluyla veriye dönüştürülüp işleniyor. İşin en tedirgin edici kısmı, bize ait bu verilerin nasıl işlendiğine ilişkin hiçbir fikrimizin olmaması.
Dijital devrimle birlikte hayatlarımıza giren sosyal medya mecraları, ilk başta büyük bir heyecan ve umut yaratmıştı. Bu dijital ekosistemler zaman ve mekân engeli olmaksızın insanları bir araya getirecek, insanlar dünyanın her yerinden özgürce bilgiye ulaşabileceklerdi. Ayrıca sosyal medya daha demokratik bir dünyanın potansiyelini içinde taşıyor gibiydi. Abdula, günümüzde sosyal medyanın insanların hayatını bir cendere içerisine aldığını, ilk deneyimin yarattığı naif hayallerin ortadan kalktığını vurguluyor. Sosyal medya üzerinden meydana gelen her türlü insan etkileşimi, son derece sofistike algoritmalar yoluyla veriye dönüştürülüp işleniyor. İşin belki de en tedirgin edici kısmı, bize ait bu verilerin nasıl işlendiğine ilişkin hiçbir fikrimizin olmaması. Çeşitli sosyal medya mecraları, arama motorları, Youtube ve Tik-tok gibi video paylaşım sitelerine entegre edilen insan hayatları onların iradesi dışında veriye dönüştürülüyor ve bu veriler de yine sistem tarafından o kişilerin manipülasyonu için kullanılıyor.
Abdula, şu an yalnızca ticarî manipülasyon için kullanıldığını sandığımız bu veri işleme tekniklerinin hayatın başka planlarında vereceğimiz çeşitli kararları da etkilemeye başladıklarına dikkati çekerek, insan hak ve özgürlüklerinin büyük bir tehdit altında olduğunu vurguluyor.
Abdula tüm bu olan bitenlerin ise Doğu Blokunun komünist rejimlerinin uygulamalarıyla paralel olduğunu söylüyor. Bu ülkelerde devletler kendi vatandaşları hakkında dosyalar tutar, onları birbirlerine karşı muhbir olarak kullanırlardı. Her ülke içinde sürekli devlete bilgi veren milyonlarca muhbir vatandaş vardı. Bugün dijital dünyada algoritmalar, totaliter rejimlerin istihbarat uygulamalarına benzer bir işlev yükleniyorlar. Dijital devrimin başlangıcındaki umudunu naiflik olarak niteleyen Abdula, kapitalist sistemin özellikle 20. yüzyıl boyunca geliştirdiği çeşitli kitle iletişim tekniklerini günümüzde veri işleme teknikleri ve özellikle de algoritmalarla entegre ederek insanı ve toplumu bir cenderenin içine aldığını söylüyor.
Aslında uzun zamandır bizimle beraber olan algoritmalar, dijital devrim ve sosyal medya ile beraber hayatımızın her alanına nüfuz etmeye başladılar. Sosyal medyanın algoritmalarla buluşmasıysa “gözetim kapitalizmi” devri başladı. Gözetim kapitalizmi, algoritmaların bizi 7/24 gözetlemeye, gizlice kontrol etmeye, önümüze gelen bilgileri filtrelemeye ve kararlarımızı yönlendirmeye başladığı dönemin ismidir. Gözetim kapitalizmiyle algoritmalar zaman içinde insan zihninin zaaflarından istifade etmeyi öğrendiler. Gözetim kapitalizmi devrine kadar kendi zihinsel kapasitesine ve rasyonel karar verebilme yetisine sonsuz şekilde inanan insanlığın günümüzde algoritmik sistem karşısında düştüğü çaresizlik, ona aydınlanma çağının mirası olan bu bakış açısını sarsmıştır.
Duygular, Sezgiler ve Bilinçdışımız Karar Alma Süreçlerimizi Yönetiyor
Dijital devrim ve onun sosyal medya fazı, insan davranışlarının rasyonaliteyi aşan tarafları olduğunu, insanların sadece düşündükleri gibi hareket etmediklerini gösteriyordu. Abdula, bu noktada insan beyninin fizyolojisine dair ilginç bilgiler paylaşıyor; toplam vücut ağırlığımızın %2’sini oluşturan beyin, aldığımız enerjinin %30’unu kullanıyor. İnsan zihni yoğun şekilde kullanıldığında ise bu enerji kullanımı daha da artıyor. Dolayısıyla insan, optimum bir enerji kullanımı için frontal kortekste yoğunlaşan zihinsel yetilerini kullanmak yerine, oto-pilot olarak tanımlanabilecek, evrimsel olarak daha erken gelişen ve karar süreçlerimizi büyük ölçüde sezgilere, duygulara ve bilinçdışı süreçlere dayandıran amigdala bölgesini kullanıyor.
Zihinsel kapasitemizi sürekli kullanmak aşırı enerji tüketimine yol açtığı için fizyolojimiz minimum kararı minimum enerji harcayarak vermeye çalışıyor. Bu da insanlığın karar süreçlerini etkileyerek çoğu zaman irrasyonel kararlar almasına sebep oluyor. İşte algoritmalar, karar alma süreçlerimizi büyük ölçüde duyguların, sezgilerin ve bilinçdışının yönettiği gerçeğini kullanarak bizi manipüle ediyorlar. Etkileşime gireceğimiz kişiler ve içerikler algoritmalar tarafından belirleniyor. Karşımıza hep bize benzeyen insanların içerikleri çıkarılıyor ve böylece yapay bir mutluluk yaşıyoruz. İnsanoğlunun kendinden farklı olanla hayatını zenginleştirme imkânı ortadan kalkıyor. Hep birbirine benzeyen insanların oluşturduğu bir yankı odasında yaşar hâle geliyor ve algoritmaların bize göstermediği kişiler ve içeriklerden uzak kalıyoruz. Yalnızca çemberin içindeki insanlara güveniyor ve sonunda sosyal olarak hayal kırıklıkları ve ileriye dönük güvensizlikler yaşıyoruz. Dolayısıyla, aslında kısır ve sahte bir dünyada yaşıyoruz.
Abdula, Edward Bernays adlı bir halkla ilişkiler uzmanı tarafından icat edilen “rıza mühendisliği” kavramına dikkati çekerek, bunun insanları manipüle etme sanatı olarak tanımlandığını belirtiyor. Rıza mühendisliğinin püf noktası ise insanların farkında olmadan manipüle edilmeleridir. Bugün algoritmik sistem tarafından kullanılan manipülasyon tekniklerinin çoğu, işte Bernays tarafından oluşturulur. Bernays, insan zihninin çalışma prensipleri konusundaki araştırmaları toplumun ticari ve politik manipülasyonunda kullanılır. Grup zihnini ve güdülerini anlamak, Bernays gibi rıza mühendislerine toplumu manipüle etmek, onu ticarî ve politik bakımdan yönlendirebilmek adına bir imkân açmaktadır. Bu kitle manipülasyonu teknikleri bugün bambaşka bir bağlamda ama yine toplumu manipüle etmeye yönelik kullanılıyor. Dünün manipülasyonu kitle medyası üzerinden uygulanırken bugün her birimize özgülenen algoritmalar sayesinde rıza mühendisliği eskiden olduğundan çok daha bireysel şekilde gerçekleşiyor.
Burada yalnızca bize benzeyen, bizim gibi düşünen insanlarla etkileşime geçerek farklı insanlar ve düşüncelerle etkileşime girme olanağını yitiriyoruz; bu ise duygusal zekâmızı ve empati yeteneğimizi köreltiyor.
İnsanları sürekli öngörülebilir kılmaya dayalı algoritmalar artık bugün her yerde; algoritmalar, yalnız veri toplayıp bunları işlemekle kalmıyorlar, farklı algoritmalar birbirleriyle etkileşime geçiyor ve artık insanların anlayamadığı sofistike sistemler inşa ediyorlar. Sürekli öğrenerek kendini modifiye edebilen sistemlerden bahsediyoruz. Bu sistemler sanal dünyada daha çok zaman geçirmemiz için belirli içerikleri sürekli önümüze çıkarıyorlar. Örneğin Youtube’da daha fazla zaman geçirilmesinin yolunun spekülasyonlarla dolu videolar olduğunu keşfeden algoritmalar izleyicileri komplo vidolarına yönlendiriyorlar. Daha önce de vurgulandığı üzere algoritmaların bize verdiği asıl zarar, sosyal medya mecralarında bizi yalnız bize benzeyen insanların oluşturduğu yankı odalarına mahkûm etmeleri.
Burada yalnızca bize benzeyen, bizim gibi düşünen insanlarla etkileşime geçerek farklı insanlar ve düşüncelerle etkileşime girme olanağını yitiriyoruz; bu ise duygusal zekâmızı ve empati yeteneğimizi köreltiyor. Tüm bunların nihaî sonucu ise bizi tüketici olmak dışında hiçbir amacı ve işlevi olmayan bir şeye indirgemesi. Abdula, karanlık bir geleceğin başlangıcında olduğumuzu vurguluyor. Algoritmaların neye evrileceği konusunda artık hiçbir fikrimiz yok. Algoritmalar artık derin şekilde öğrenip başka algoritmalarla etkileşime giriyorlar. Gelecekte kendi kendini üreten, bunun için kod yazmaya başlayan algoritmik sistemlerle karşı karşıya gelmemiz oldukça olası.
Türkiye, kendi çapında teknolojiyi kontrol etmeye çalışsa da alt yapı kendisine ait olmadığı için ancak erişimi engellemek gibi manuel ve reaktif tutumlar alabiliyor. Türkiye’de devlet otoritesinin geleneksel medya üzerinden oluşturmaya çalıştığı gerçekliğin ise algoritmaların karşısında hiçbir şansı yok. Abdula’ya göre algoritmaların başkalarının kontrolünde olduğu bir dünyada, engeller, yasaklar ve geleneksel medya kontrolü, ülke insanını algoritmaların insafına terk etmekten, onları dışarıdan gelecek manipülasyonlara karşı savunmasız bir hâle getirmekten başka bir işe yaramayacaktır.
Abdula, dünyadaki tüm insan bilinçlerini çevreleyen kolektif bir bilinç dışı olduğunu ve bu bilinç dışının ilkel insandan bu yana taşınan belirli imge, kalıp ve ritüellerin etkisiyle biçimlendiğini vurguluyor. Arketip adı verilen bu kalıpları kendi yaşam deneyimleriyle meczeden insanlığın tutum ve davranışları üzerinde bilinçdışı süreçlerin önemli ölçüde etkisi bulunuyor. Uzmanlar, algoritmaların insan bilinçdışına nüfuz etmesini sağlayacak yeni kavramsal çerçeveler bulabilme arayışında. Lâkin algoritmik sistemler, metaforların nasıl çalıştığını henüz tam olarak anlayabilmiş değiller. Alexa ve Siri gibi kişisel asistan uygulamaları ise yalnız açık komutlarla çalışabilecek bir veri işleme kapasitesine sahip. Şu an çeşitli üniversiteler algoritmaların insanlık tarihi boyunca oluşturulmuş metaforları anlayabileceği, dahası kendi metaforlarını oluşturabilecekleri bilişsel süreçlerle ilgili çalışmalar yürütüyorlar. İnsanlığın metafor birikimi algoritmik olarak çözüldüğünde ise insanlık için çok tehlikeli gelişmeler açığa çıkacak; çünkü bu sayede algoritmalar insan bilinçdışını okuyabilecekler.
Bu süreç içerisinde Akan Abdula ve ekibi Türkiye’nin örtülü hafızasına ulaşabilmek için önemli bir alan çalışması yürütür. Türkiye’nin bilinçdışı verisini analiz edebilmek adına yürütülen bu çalışma belirli yüzeysel ve kök metaforlar aracılığı ile bilinçdışına ulaşmayı amaçlar. Sahada yapılan çalışmalarda insanların kendilerini anlattıkları imgeler ve bu imgeleri araştırmacılara anlatırken kullandıkları metaforlar analiz edilir. Tüm bunlar ise hayal edilen imge ve metaforlarla karşılaştırılır. Böylece Türkiye insanının hâlihazırdaki durumuyla özlem duydukları arasındaki fark ayırt edilmiş olur. Yapılan çalışmadan çıkan sonuçlar hayli çarpıcıdır. Araştırma, Türkiye toplumunun “bağlantı kurmaya aç kalmış, kaygı içinde boğulan, kültürüne ait olmayan bir kişisel gelişim ve yükselme baskısı ile karşı karşıya” olduğunu gösterir niteliktedir. Böylesi bir toplumun gençlerinin algoritmaların oyuncağı hâline gelmesiyse hiç de şaşılacak bir durum değildir.
Algoritmalar Akademi Dünyasını da Hedef Almış Durumda
Bugün dünya yeni değişimlerin arifesinde. Günümüzün yarı-otokratik sistemleri bilgi akışını dünün totaliter rejimlerinden farklı olarak devasa veri tabanlarını algoritmalarla işleyerek denetleme yoluna gidiyorlar. Birçok Batılı araştırmacı, yüz tanıma tabanlı sistemlerle toplumu gözetlemenin insanlığı dijital bir diktatörlüğe götürdüğüne dikkati çekiyor. Bu süreçte belirleyici olacak ise makine öğrenimi ve yapay zekâ konusunda en gelişmiş iki ülke olan ABD ile Çin arasındaki dijital rekabet; bu ülkelerin kendi içlerinde uyguladıkları dijital denetim/gözetim sistemleri dijital otoriterliğin neye evrileceği konusunda önemli ipuçları veriyor. Abdula bu noktada 1990 öncesinin totaliter rejimleriyle günümüzün dijitalleşen yarı otoriter rejimleri arasında çok çarpıcı bir karşılaştırma yapıyor; dünün komünist rejimleri tüm sosyal dinamiklerin yanında bireylerin yaratıcılığını da öldürmekteydi. Tüm toplum toptan şekilde köleleştiriliyordu ve kimse bunun etkisinden muaf değildi.
Özellikle ABD ve Çin’in geliştirdiği modern gözetim ve denetim sistemleri ise ifade özgürlüğünü kısıtlasa da inovasyonu hâlâ teşvik ediyor ve dünün totaliter rejimlerinin yaptığı gibi yaratıcılığı tamamen boğmuyorlar. Kitlesel davranmak, kolektif baskı kurmak zorunda değiller; dolayısıyla bu sistemler seçici bir köleliğe gitme potansiyeli taşıyorlar. Yani bu sistemde birilerinin yaratması teşvik edilirken, diğerlerinin kontrol altına alınıp köleleştirilmesi hayli olası: “Algoritmalar belli bir düşünce kalıbını bir kitlede tespit ettiğinde, o kalıba sahip kitleyi izole edebilir ve kitlesel bir şey yapmadan bir grubu rahatlıkla köleleştirebilir”. Eski rejimler bunu baskı ve zor kullanarak yapıyorlardı. Şu anki sistem ise muhalif olduğunuza dair bir emare belirdiği an siz farkına dahi varmadan dijital doktrinasyona başlayabilir. Bunu da yalnızca tükettiğimiz içeriğe size hissettirmeden müdahale ederek yapabilirler.
Algoritmaların hedef sahası yalnızca sosyal medya ile sınırlı değil, akademik dünya da bundan çok ciddi zararlar görmeye başladı. Yakın zamanda yapılan bir araştırma, akademik dergilerde yayımlanan makalelerde kullanılan kaynak sayısının azaldığını ve akademik bulguların aynılaştığını ortaya koyuyor. Veri algoritmaları bilgileri filtreleyerek istediği kaynakları araştırmacılara gösteriyor, istediğini de gizliyor. Kullandığımız kaynakları aynılaştıran, bizleri tek kaynağa yönelten algoritma dünyası akademik üretime ciddi zarar verir hâle geliyor. Bilgi çeşitliliğini ortadan kaldıran, değerli niş akımların görünmez kılındığı bir sürecin içerisindeyiz.
Teknoloji ve veri okuryazarlığını artırmak, bu sayede bağımlı hâle geldiğimiz teknoloji devlerini hesap verebilir faillere dönüştürebilmek gerekiyor.
Önümüzdeki dönemde özgür irade ile algoritmalara teslim olma arasındaki gerilim iyiden iyiye artacağa benziyor. Makine davranışlarını çeşitli regülasyonlarla sınırlamanın yanında dijital minimalizm gibi modalarda insan ile teknoloji arasındaki gerilimli ilişkiyi yeniden ve insan lehine düzenlemenin yollarını soruşturuyor. Ancak Abdula, algoritmik sistem ve derin makine öğrenmesinin yasal regülasyonlar ve dijital minimalizm gibi modalarla aşılabileceğine inanmadığını belirtiyor. Bahsedilen önlemlerin ancak eşitler arası bir durumda ve bir diyalog imkânı içerisinde çalışabileceğini, hâlihazırdaki durumun ise bunun çok ötesine geçtiğini vurguluyor. Algoritmaları şu an için kontrol altında tutan ve bu sayede devasa kârlar elde eden büyük, çok uluslu şirketlerle diyalog ve anlaşma ise mümkün görünmüyor. Kendimizi koruyabilmek adına ve bu otomatikleştirilmiş faşizmden korunabilmek için “algoritmaları kimlerin kurduğunu, nasıl sonuçlar ürettiğini, sonuçlardan kimlerin nasıl yararlandığını” soruşturarak işe başlamak gerekiyor. Bu kapsamda teknoloji ve veri okuryazarlığını artırmak, bu sayede bağımlı hâle geldiğimiz teknoloji devlerini hesap verebilir faillere dönüştürebilmek gerekiyor.
Yapay zekâ ile modifiye edilen algoritmaların insanlığı yönetmeye aday bir güç olarak tarih sahnesine çıktığı bir dönemin başındayız. Bugün algoritmaların arkasındaki güç olarak görünen dev şirketler ise bu ayrıcalıklarını çok uzun bir müddet sürdüremeyecekler. Algoritmaların etkileşimiyle oluşacak başıboş kodlar ve yapay zekânın her şeyi insanlığın kontrolü dışına itmesine kadar sürecek bu durum. O zaman geldiğinde bugünün muktedir görünen işbirlikçileri de tüm insanlıkla birlikte kaybedecekler. İşte, eğer bir şeyler yapılmazsa içinden geçmekte olduğumuz çağ, aynı zamanda bu tehlikeli ihtimalin sonuçlarıyla günbegün uğraşacağımız bir dönem olacak.
Abdula’ya göre algoritmaların radarından çıkabilmek için öngörülemeyen bireyler olmamız gerekiyor. Bu da insanî değerlerin içkin olduğu amaçlara sahip olmak, sorumluluk almak ve sosyal kozamızdan çıkma stratejileri geliştirmemizi zorunlu kılıyor. Başka bir deyişle öngörülemeyen olmak, empati kurabilmekten, kendinden farklı insanlarla etkileşime girmekten, farklı kesimlerin ihtiyaçları konusunda duyarlı olmaktan geçiyor. Öngörülemeyenler, aynı zamanda yüksek bir farkındalık eşiğine de sahiptirler; bu sayede kontrol motivasyonunun bir yanılsama olduğunu ve hayatı kontrol etmeye çalışmanın yarardan çok zarar getireceğini bilirler. İnsana ve genel olarak hayata her planda akabileceği yeni kanallar açmaya çalışırlar. Öngörülemeyenler, diğerini anlamaya çalışırken bilgi ihtiyaçlarını farklı kaynaklardan/disiplinlerden gelen bilgilerle karşılama yoluna giderler. Yani ötekini anlayabilmek, dolayısıyla çok daha zengin bir hayata sahip olabilmek için multidisipliner bir düşünme yeteneğinin gerekli olduğuna inanırlar: “Ama bu bizi asla korkutmamalı. Daha empatik bir uygarlık için mücadele edeceğiz. Biyolojik ve bilişsel bilimleri anlayarak bu savaşı vereceğiz”.