Yanis Varoufakis yazdı

Bir yapay zekâ alegorisi olarak The Odyssey

“Benim adlandırdığım biçimiyle Bulut Lordları, çağımızın Agamemnon’larıdır. Biz çadırın dışında, asla gelmeyecek bir duruşmayı beklerken, onlar yüce konumlarından buyruklar yağdırıyorlar.”

The Odyssey filminden bir sahne, Kaynak: Screen Rant

Ekonomist ve Yunanistan Maliye eski Bakanı Yanis Varoufakis tarafından yazılan ve UnHerd’de yayımlanan bu makaleyi Niha+ okurları için Türkçe’ye çevirdik.

Christopher Nolan’ın Odyssey’i, Homeros’un destanını popüler kültürün merkezine geri taşıdı. Sevinilmesi gereken bir başarı bu. Pek çok kişi benden filmi değerlendirmemi istedi, reddettim. Yunan olmak, herkese ait olan, yüzyıllar ve diller boyunca yol alarak yabancıların hayal gücüne yerleşmiş bir eser hakkında konuşmam için bana ayrıcalıklı bir bakış açısı vermiyor. O yüzden şimdilik, Homeros’un ve Nolan’ın kimi temalarını ele alıp, beni geceleri uyutmayan güncel gelişmelere yeniden bakacağım.

Giderek güç kaybeden seçkin yayınlarımızdan giderek yaygınlaşan sosyal medyamıza kadar, herkesin gözü teknooptimistler ile teknofobiler arasındaki çatışmaya dikilmiş durumda. Verimlilik mi adaletten daha önemli? Yapay zekâ bizi özgürleştirecek mi, köleleştirecek mi? Bu tartışmalar bizi hep aynı çember içinde döndürüp duruyor. Yeni bir ışık tutmak yerine yerleşik inançları pekiştiriyor. Bu meseleler üzerine düşünmek için işin özünü kavramaya dair az çok şey bilen antik çağlara gitmekten daha kötüsünü yapabiliriz.

Homeros’un İlyada’sının kalbinde uzun bir “grev”in hikâyesi atar. Destanın 24 kitabından 18’inde, Yunanların en yetkin savaşçısı Akhilleus silahlarını bırakmıştır. Çadırından çıkıp savaşa katılmayı reddeder çünkü Akhalar Kralı Agamemnon’a öfkelidir. Bu öfke, Odysseus’un, Kral’ın daha önceki bir Troya çatışmasından elde edilen ganimete el konulması yönündeki buyruğuyla oluşmuştur. Homeros bize Odysseus’u kurnaz bir kahramandan çok, bir haberci ve otoriter bir kralın uşağı olarak tanıtmayı seçer. Ancak Troyalılar Akhilleus’un can dostu Patroklos’u öldürdüğünde, o Troyalılardan öç almayı Agamemnon’la olan küskünlüğünün üstünde tutar, “grev”ine son verir, çadırından kalkar ve savaş meydanına döner.

İşte o noktada, Akhilleus’un annesi Thetis, Olymposluların tek işe yarayan şeyi, yani imalat tanrısı Hephaistos’a yalvararak oğluna yeni bir zırh yapmasını ister. Olympos’tan atıldığında kendisine bakmış olan Thetis’e borçlu olan Hephaistos, yanardağdaki demirhanesinde işe koyulur. O ateşli karanlıktan büyüleyici bir silah takımı çıkarır: bir kalkan, bir miğfer, bir zırh ve dizlikler. Kalkan bütünün merkezidir. Yeryüzü yaşamının, savaşın, barışın, kozmosun ve insan emeğinin sahneleriyle özenle işlenmiştir yani insan dünyasının bir yansımasıdır. Bu sıradan bir madencilik değildir. Hiçbir ölümlü demircinin biçimlendiremeyeceği bir güçle donatılmış, tanrısal bir el işidir. İnsan emeğinin ya da zekâsının ürünü değil, bir tanrının armağanıdır. Sanki bize gerçek armağanların paha biçilmez olduğunu hatırlatır gibidir.

On yıl sonrasına, Odysseus’a geçelim. Akhilleus artık ölmüştür. Her ne kadar son darbeyi, büyük bir şehri harabeye çeviren bir başka armağan olan at hilesiyle Odysseus vermiş olsa da Akhilleus, Troya’nın yağmalanmasına olanak sağlamak için çok şey yapmıştır. Nolan filminde, Odysseus’u zorlu eve dönüş yolculuğunda pişmanlıklarla boğuşan bir adam olarak resmeder. Yenik Troyalılara davranış biçimi yüzünden suçluluk duyan, anlaşılabilir bir hayatta kalma suçluluğuyla kıvranan, tüm yoldaşlarının birer birer yok oluşunu izlerken tek başına İthaka kıyılarına ulaşmış olmanın sarsılmaz yükünü taşıyan bir adam. Ama Odysseus’un ahlaki yüküne, hak ettiği ek bir suçluluk daha bindirebilecek olan Nolan’ın atladığı bir olay var. Ovidius’un, hâlihazırda hayaletlerle dolu bir adamı daha da huzursuz etmek için külliyata eklediği bir masal.

Ovidius’un Dönüşümler’inde tasavvur ettiği üzere, Troya yerle bir edildikten sonra galip Yunanlar, stratejistleri Odysseus ile en yaman piyade savaşçıları Aias arasında bir iç anlaşmazlığı çözmek zorunda kalır. Mesele şudur: Akhilleus’un tanrısal zırhıyla eve kim dönecek? Uzlaşma sağlanamayınca Yunan önde gelenleri bir mahkeme toplar. Bu kılıçların değil sözcüklerin yarışıdır ve ödül, bir silah takımından çok daha fazlasıdır.

Aias’ın savı basitti. Daha çok savaşmış, daha çok kan dökmüş, daha çok öldürmüştü. Ağır silahları daha iyi kullanabilirdi. Hiçbir zaman hilelerin ya da düzenbazlığın ardına saklanmamıştı. Askere yazılmamak için deli taklidi yapan Odysseus’un aksine, Aias çağrıya seve seve karşılık vermişti. Akhilleus’un zırhı, katıksız, süssüz yiğitliği ve onu kullanmak için gereken beceri sayesinde onun hakkı olmalıydı.

Odysseus, Aias’ın göğüs göğüse çarpışmada daha cesur ve daha yararlı olduğunu kabul ederek önde gelenleri şaşırttı. Ama sonra cesaretten ve adaletten uzaklaşıp verimliliğe döndü. “Yunanlara en iyi kim hizmet etti?” diye sesli sesli düşündü. Kavgalı reisleri barıştıran, Troya’ya sızan, Troya Atı hilesini tasarlayan oydu. Odysseus, kurnazlıktan yoksun gücün kaba kuvvetten ibaret olduğunu ima ediyordu. Zaferi getiren Aias’ın kasları değil, kendi zekâsı olmuştu.

Mahkeme Akhilleus’un silahlarını Odysseus’a verdiğinde, Aias utanca dayanamayarak ve hiçbir teselli bulamayarak kendi kılıcının üstüne atılıp canına kıydı. Onun cesedi de, Odysseus’un eve dönüş yolculuğu boyunca kıvranıp durabileceği diğer bütün pişmanlıklara eklenen güzel bir ilavedir. Zira Nolan’ın anlatımında bu yolculuk, Odysseus’u adımlarından emin, duygusuz ve soğukkanlı bir eylem adamından içine kapanık, kendinden kuşku duyan, ama tam da bu yüzden çok daha insani ve kendimizden bir parça bulabileceğimiz bir karaktere dönüştürür. Öyle bir adama dönüştürür ki, başkalarının başına gelen felaketlerin yükünü, sanki cübbesinin astarına dikilmiş kurşun parçalarıymışçasına üzerinde taşır.

Bunun modern dünya için ne gibi bir yankısı olabilir? Aslında birkaç çıkarım var. İlk olarak, değeri nasıl atfettiğimizi gözler önüne seriyor. Bugün Aias-Odysseus anlaşmazlığı bir mahkemeyle değil, bir ahlaki argüman yarışıyla değil, Sotheby’s ya da Christie’s’in düzenlediği görkemli bir müzayedeyle çözülürdü. Bunun kimseyi şaşırtmayacak olması, her şeyin çılgınca metalaştırılmasının bizi, değeri cüzdanın derinliğine indirgenemez bir şey olarak takdir etme yetimizden nasıl yoksun bıraktığının göstergesidir.

İkinci bir çıkarım, Aias’ın adalete yaptığı çağrıyla Odysseus’un verimliliğe yaptığı çağrı arasındaki çatışmanın hâlâ süregelmesidir. Toplumlarımızın çöpe attığı adaleti bir nebze olsun geri kazanmak için birileri servet vergisi önerir önermez, zenginlerin savunucuları Odysseus’un sorusunu ortaya atarlar: “Ülkede kalarak hazineye en iyi kim hizmet eder? Ultra zenginler mi, yoksa zaten hiçbir yere gidemeyecek olan yoksullar mı?”

Üçüncü bir çıkarım, Homeros’un ve Ovidius’un hikâyelerindeki anlaşmazlık konusuna daha yakından bakmaktan doğuyor. Akhilleus’u el konulması bu kadar öfkelendiren ganimet neydi? Adı Briseis olan bu ganimet, Yunanların başkalarıyla birlikte kaçırdıktan sonra bir ödül, bir köle olarak Akhilleus’a sundukları Troyalı bir kadındı. Agamemnon, tanrı Apollon’u yatıştırmak için kendi köle kadınlarından birini vermek zorunda kaldığında Briseis’i almış ve böylece Akhilleus’u silahlarını bırakmaya itmişti. Homeros, Akhilleus’un bu hırsızlığa duyduğu öfkeyi hissetmemizi ister ki bu mülk, canlı, nefes alan, dehşete düşmüş bir kadın olduğu kadar pekâlâ iyi bir küp şarap da olabilirdi.

Biz çok mu daha iyiyiz? Yunanların ne kadar ilkel olduğuna dair kendimizi teselli etmeden önce, kendi hâlimize eleştirel bir göz atmakta fayda var. Kadınları bir tür mülk olarak gören her ataerkil kavramı yılmadan yeniden diriltip duran bir manosferin yükselişi bir yana, çılgınca metalaştırma bizi şu gülünç inançlara sürükledi: Su sadece bir meta, öğrenciler müşteri, elektrik piyasaları iyi bir fikir, sahte karbon piyasaları atmosferi karbondan arındırmanın verimli bir yolu…

Bir de öteki anlaşmazlık konusu var: Akhilleus’un zırhı. Mahkeme bir gösterişten ibaretti. Ovidius’un bunu bir merak uyandırıcı sahne gibi resmetme çabalarına rağmen, karar hiçbir zaman gerçekten belirsizlik yoktu. Agamemnon ve önde gelenler zaten karar vermişlerdi. Tıpkı bugün adil duruşmaların ve gürültülü Parlamento tartışmalarının, başka yerlerde çoktan kararı verilmiş sonuçlar üzerine sahnelenmesi gibi. Zırhı tanrılar verdi, onu güçlüler dağıttı. Kulağa tanıdık geliyor mu? Belki Ovidius ile Homeros’a fazla anlam yüklüyorum, ama beni hoş görün.

Önümüzde, Hephaistos’un dövdüğü bir yığın sermaye malı duruyor. Onları hiçbir ölümlü üretmedi. Onları ele geçiren ölümlülere, bunları nasıl hak ettikleriyle taban tabana orantısız güçler bahşeden armağanlar olarak Olympos’tan indiler. Akhilleus’un silahları söz konusu olduğunda, bunlar tanrısal olarak üretilmiş yıkım araçlarıydı. Başka durumlarda, mesela Prometheus bize ateşi armağan ettiğinde, tanrıların armağanları üretilmiş üretim araçlarıydı. Her iki durumda da ölümlüler, onlara kimin sahip olacağı uğruna canları pahasına birbirleriyle savaştılar.

Şimdi, geleceğimize geri dönelim. Hephaistos’un silahlarını bulut sermayesiyle değiştirelim. Mesela Amazon’un Alexa’sının ardındaki algoritmalar ve daha yakın zamanda, yapay zekâ botlarının ardındaki büyük dil modelleri. Akhilleus’un zırhının aksine, bu büyülü araçlar tanrısal emekle değil, bizim ortak emeğimizle dövülür. Yaptığımız her alışveriş, yazdığımız her cümle, etiketlediğimiz her görsel, tıkladığımız her bağlantı, bizi kendisini eğitmemiz için eğitmiş olan bir sohbet botuna sunduğumuz her düzeltme… Zırhı biz döktük, hep birlikte. Ama onu biz giymiyoruz. O herhangi bir piyasanın, herhangi bir seçimin, herhangi bir müzayedenin tamamen dışında algoritmalara ve veri merkezlerine sahip olan bir avuç şirket tarafından dağıtılıyor. Benim adlandırdığım biçimiyle Bulut Lordları, çağımızın Agamemnon’larıdır. Biz çadırın dışında, asla gelmeyecek bir duruşmayı beklerken, onlar yüce konumlarından buyruklar yağdırıyorlar.

Eski usul kapitalizmde sömürü hiç değilse piyasanın kıyafetlerine bürünürdü. Emek gücünü, biçimsel olarak eşitler arasında bir mübadeleye benzeyen bir pazarda satardın. Gelgelelim bu biçimsel özgürlük, fabrika kapısından içeri adımını atar atmaz bozulup giderdi. Çünkü tam o anda kendini, Marx’ın o meşhur vampir benzetmesindeki gibi, “sömürülecek tek bir kas teli kaldığı sürece” son damlasına dek emilen biri olarak bulurdun.

Ovidius’un mahkemesi, Agamemnon’un çoktan verdiği bir kararın süsüydü. Tıpkı Deliveroo [Yemek teslimatı servisi veren bir firma] kuryelerini özgürce dolaşan “ortaklar” gibi sunmanın, onların güvencesizliğini seçme özgürlüğü, hatta girişimcilik olarak süslemesi gibi. Şu anki sistemimiz olan teknofeodalizm, bu kurmacadan bile vazgeçmiştir. Amazon’un algoritmasının sana neyi göstermeye karar verdiğinin bir piyasası yoktur, akışının bugün ne hissetmen gerektiğine karar vermesinin de bir piyasası yoktur. Yalnızca buyruk vardır. Agamemnon’un “arzuma boyun eğeceksin”i artık bir kral yerine bir öneri motoru tarafından çıkarılan ve akıl almaz biçimde kişiselleştirme diline büründürülmüş bir buyruk. Homeros’un çadırından çıkmış değiliz. Sadece Agamemnon’a bir sunucu çiftliği ve birkaç yapay zekâ ajanı verip buna ilerleme dedik.

Ve işte burada özgürlüğün en eski kandırmacası yeniden belirginleşiyor. Uzun zamandır savunduğum üzere, özgürlük, her türlü tahakkümün dışlandığı, etrafı çitle çevrili bir alan olarak basitçe tanımlanamaz. Bunun başlıca nedeni, böyle bir tanımın çiti kimin ördüğünü ve onun dikilmesinin bizzat bir boyun eğdirme biçimi olduğunu görmezden gelmesidir. Silikon Vadisi de bu çiti kusursuzlaştırmıştır. Uygulamayı kapatmakta “özgürsün”, çerezleri reddetmekte özgürsün, artık dostluklarına, müşterilerine, tüm toplumsal varoluşuna ev sahipliği yapan platformu terk etmekte özgürsün yani çöldeki yolcunun, su satan tek satıcıyı reddetmekte özgür olduğu anlamda özgürsün. Bu özgürlük değildir. Bu, seçim diline bürünmüş bir serfliktir. Piyasa mübadelesinin yerini dijital tımarlar aldı ve o tımarların lordları pazarlık etmezler.

Bu da bizi Odysseus’un geri almak için savaştığı hane halkına getiriyor. Nolan, Odysseia’sından bize nostos’un [dünya, sen yokken, senin olan şeylere el koymaya karar verdikten sonra senin olanı geri koparmak için verilen uzun, aşağılayıcı, kurnaz mücadele] dehşetini ve onurunu göstermek istediğini söylüyor. Odysseus uzaktayken talipler yalnızca Penelope’ye kur yapmakla kalmaz, malikâneyi yiyip bitirir, sürüleri boğazlar, şarapları içer ve bir başkasının biriktirdiği serveti, sahibi itiraz edecek konumda olmadığı için sahipsizmiş gibi kullanırlar. Bizim mülkümüze, müştereklerimize, metinlerimize, dikkatimize, ortak yaratıcı ve entelektüel çıktımıza tam olarak olan da budur. Haneyi biz kurduk. Dikkatimiz dağınık bir hâlde dışarı çıktık ve döndüğümüzde onu yenilip yutulmuş halde bulduk. Talipler gece gelen hırsızlar değil, onları içeri kendi davet ettiğimiz platformlardı ve rahatça yerleşip kendi evlerinde gibi oldular.

Odysseus bu mücadele için ikisine de uzun zamandır hayranlık duyduğum iki silah sunar. İlki, kuvvet yerine kurnazlık: Odysseus, Kyklops’un elinden, kendine “Kimse” adını vererek, yani kimliğini stratejik bir hamleyle gizleyerek sağ kurtulur. Üstelik bunu, ekonomimizin bizden tam tersini talep ettiği bir çağda yapar. Öyle bir çağ ki, kimliklerimizi en ince ayrıntısına dek, işlenip kâra dönüştürülebilir bir biçimde, bizi kendimizden daha iyi tanıyarak para kazanan sistemlere teslim etmemizi istiyor. İkincisi, irade gücüne güvenmek yerine dışarıdan bir kısıtlamayı tercih etmek: Odysseus, Sirenlere kendi kararlılığına güvenerek değil, kendini geminin direğine bağlatmayı seçerek karşı koyar. Bu, dışarıdan dayatılan bir kısıtlama biçimidir çünkü yeterince baştan çıkarıcı bir şarkının karşısında akıl tek başına yetersiz kalır. Sonsuz kaydırma bizim Siren şarkımızdır. Bu yarışı hiç kimse yalnızca irade gücüyle kazanamaz. Kazanabildiği ölçüdeyse ancak kendi dışında, sarsılmaz bir şeye bağlanarak kazanabilir: Yani özel şirketlerin hizmet koşullarıyla değil, kamusal güçle sağlamlaştırılmış bir direğe, düzenleme ve kolektif eyleme bağlanarak kazanılabilir. Birey, algoritma karşısında çaresizdir. Yalnızca birbirine kenetlenmiş bir kolektifin bir şansı vardır.

İşte bütün bunlar beni, o eski ve neredeyse unutulmuş anlayışın derinlerinde yatan bir derse getiriyor: Sömürüye dayalı her toplumda, hangi dağıtım düzeni olursa olsun, o düzenin zorbalığı adil ve makul gösteren bir hikâyeye ihtiyacı vardır. Antik dünyaya bu hikâyeyi Homeros ile Ovidius verdi. Kapitalizme bu hikâyeyi piyasalar verdi. Şimdi ise teknofeodalizmin hikâyesini yazma işiyle algoritmalar meşgul. Bizim önümüzdeki görev, Odysseus’u laf yarışında alt edip Akhilleus’un zırhını kazanmak değil. Akhilleus’un yapmaya çalıştığı gibi, başkalarını köle olarak tutma hakkımızı güvence altına almak da değil. Asıl görev, bu yarışın daha en baştan, yani Agamemnon hakemlerin kim olacağına karar verdiği andan itibaren hileli olduğunu nihayet görmek ve buna rağmen eve doğru yelken açmaktır. Çünkü hane hâlâ bizim. Yeter ki onu geri alacak kurnazlığa ve bizi felakete sürükleyecek şarkılara karşı kendimizi direğe bağlayacak cesarete sahip olalım.


Yapay zeka imparatorluğunu yıkmak

“Yapay zekayı küresel bir ‘iyiler ve kötüler’ mücadelesi olarak algılamak yerine, nasıl bir toplumsal vizyonumuz olduğuna, bu vizyonu besleyecek teknolojilere ve gerekli kaynaklara odaklanmalıyız. Silikon Vadisi’nin çizdiği sınırlar içinde değil, kendi savunduğumuz fikir ve değerler doğrultusunda rekabet etmeliyiz.”

Fotoğraf: bianet

Green European Journal’da yayımlanan ve ödüllü gazeteci, podcast sunucusu ve yazar Karen Hao ile yapılan söyleşiyi sizler için Türkçe’ye çevirdik.

Green European Journal (Yeşil Avrupa Dergisi), Avrupa Yeşil Partisi (European Green Party) ve Avrupa Parlamentosu’ndaki Yeşiller hareketi ile ilişkili olan Yeşil Avrupa Vakfı (Green European Foundation – GEF) tarafından desteklenen siyasi bir ekoloji dergisidir. Sitesinde yazan bilgilere göre, Yeşil Avrupa Vakfı ile organik bağı bulunmasına rağmen editöryel olarak bağımsız bir yayın politikası bulunuyor.

Alessio Giussani: Mevcut yapay zeka geliştirme modelini tanımlamak için pek çok metafor kullanıldı, örneğin papağan ya da ayna gibi. Siz neden imparatorluk metaforunu seçtiniz?

Karen Hao: Bence bu metaforların hepsi son derece kullanışlı. İmparatorluk metaforuna odaklanıyorum çünkü sadece teknik ürünü ve toplumda kullanıldığında neler olduğunu incelemekle kalmıyorum, aynı zamanda bu teknolojinin üretimini ve onu üretmek için olağanüstü miktarda ekonomik ve siyasi gücü elinde toplayan aktörleri de inceliyorum.

Bu sistemi bir imparatorluk olarak adlandırmamın dört ana nedeni var. Birincisi, bu şirketler kendilerine ait olmayan kaynaklar üzerinde hak iddia ediyorlar: bireylerin verileri ile yazarların ve yaratıcıların eserleri. İkincisi, olağanüstü miktarda işgücünü sömürüyorlar. Bu, üretim sürecinde ve bu teknolojilerin tedarik zincirinde sömürdükleri işçiler için olduğu kadar, teknolojinin kullanıma sunulmasıyla iş hakları sarsılan işçiler için de geçerli.

Üçüncü unsur ise bilgi kontrolüdür. İmparatorlukların genişlemesinin en önemli yönlerinden biri, tüm bilgi üretimini ve bilgiyi kendi imparatorluk gündemlerinin merceğinden süzme yeteneğidir, ve yapay zeka şirketleri tam da bunu yapıyor. Çoğu yapay zeka araştırmacısına finansal destek sağlayarak üretilen bilimi kontrol edip sansürlüyor ve eğitim de dahil olmak üzere herkesin dünyayla etkileşime girdiği merkezi bir portal haline getirmeyi amaçladıkları bir bilgi teknolojisi inşa ediyor.

Son olarak, tüm bunları bir medenileştirme misyonu kisvesi altında sunuyorlar. Bu çalışmaya, nihayetinde insanlığı ütopik bir duruma yükseltecek bir teknolojiyi sunmak amacıyla giriştiğini söylüyorlar, ve eğer “kötü adamlar” ki genellikle Çin’i kastediyorlar, bu teknolojiyi bizden önce geliştirirse, o zaman bunun yerine distopik bir duruma düşeceğimizi iddia ediyorlar. Bu, eski imparatorluklar arasında da yaygın olan bir tür dini anlatıdır.

“Mesele ekonomik ve ideolojik”

Sizin tarif ettiğiniz şekliyle yapay zeka imparatorluğu, bir şirketle sınırlı değil, bu bir sistem, bir mantık. OpenAI’ye ve CEO’su Sam Altman’a odaklanmanızın ardında ne yatıyor?

Buna bir cevap, insanların aksi takdirde soyut kalacak bir fikri somutlaştırmaya yardımcı olacak hikâyelere ihtiyaç duymalarıdır. Ancak OpenAI, sektördeki normları değiştiren ve sektörü imparatorluk kurmaya iten tüm önemli kararları aldığı için de özellikle ilginçtir. Günümüzde kamuoyunun yapay zekayla ilişkilendirdiği hemen hemen her şey, ilk olarak OpenAI’nin duvarları içinde kararlaştırıldı.

Bu tarihi anlatarak, yapay zekanın kaçınılmaz olmadığı çok daha açık hale geliyor. Çünkü bu kararları, kendi değerlerine, dünya görüşlerine, kişisel intikamlarına, yapay zeka gelişiminin gidişatını şekillendiren her ne ise dayanarak alan gerçek insanlar olduğunu fark etmeye başlıyorsunuz. Sam Altman’ın ideolojileri, sadece soyut bir anlamda değil, modele de işlenmiştir. Modellerin yaratıcılarını yansıttığına dair sıkça duyulan bir klişe vardır, ancak ben bunun gerçekte nasıl gerçekleştiğini göstermek istedim. Mesele şirketler, insanlar ve onların parçası oldukları ekonomik ve ideolojik ortamla ilgilidir.

“Hesap verme halk tarafından sağlanmalı”

Bu teknolojiler giderek daha güçlü hale geldikçe, bunların kullanımına ilişkin kontrolü ele geçirmek varoluşsal bir mesele haline geliyor. Büyük teknoloji şirketlerinin Trump’ın ikinci göreve başlama töreninde ona boyun eğdiğini gördük, ancak aynı zamanda yapay zeka şirketlerinin CEO’larının hükümetle giderek daha fazla çatışmaya girdiğini de gözlemliyoruz. Son sözü kim söyleyecek – devlet mi, yoksa özel şirketler mi?

Kararları kimin vereceği konusunda süregelen bir mücadele var. Washington ile Silikon Vadisi arasındaki ilişkiyi, çıkar birliği üzerine kurulu ancak oldukça gergin bir ittifak olarak görüyorum. Her ikisi de kendi imparatorluk gündemine sahip iki farklı imparatorluk modelini temsil ediyor. Her ikisi de genişlemeye ve kelimenin tam anlamıyla diğer ülkelerden daha fazla toprak ele geçirmeye çalışıyor, ancak Trump yönetimi yapay zeka şirketlerini devletin imparatorluk hırslarının elindeki araçlar olarak görüyor. Öte yandan, Silikon Vadisi de Trump yönetimini kendi imparatorluk hırslarının bir aracı olarak görüyor, ancak aslında aynı fikirde değiller, çünkü her ikisi de en üstte yer alan egemen güç olmak istiyor.

ABD hükümetinin hâlâ üstün olduğunu gösterdiği anlar oldu. Trump ile Musk çatıştığında, Musk kovuldu. Ancak, Savaş Bakanlığı ile Anthropic arasında çatışma yaşandığında, o durumda daha güçlü olanın şirket olduğu ortaya çıktı: Savunma Bakanı Pete Hegseth, nükleer seçeneği gündeme getirerek, Anthropic’i hizaya getirmek için kullanabileceği en son koz olarak şirketi “tedarik zinciri riskli” olarak ilan etmekle tehdit etti, ancak şirket yine de hizaya gelmedi. Oldukça utanç verici bir şekilde, Savaş Bakanlığı, hükümetin şartlarına göre işbirliği yapmaya isteksiz olan özel bir aktöre derin bir bağımlılık içine girmiştir ve hükümet bu konuda hiçbir şey yapamamaktadır.

Bu iki emperyal aktörün de hesap vermesi gerekmektedir ve bu hesap verme, ikisinden de gelmeyecektir, halk tarafından sağlanmalıdır. ABD dahil olmak üzere dünyanın her yerinde yeşermeye başladığını gördüğümüz, tabandan yukarıya doğru, halk tabanında örgütlenme yoluyla. Bu çıkar ittifakı ne kadar sarsılmaz görünse de, aslında son derece kırılgandır ve zayıf noktalarına daha fazla baskı uygulayarak çöküşünü hızlandırma imkânları mevcuttur.

“Üçüncü bir yol mümkün”

Yapay zeka alanındaki gelişmelerin durumu, rakip şirketler ve küresel süper güçler arasında bir “aşağıya doğru rekabet” yarışına benziyor. Çin ile yaşanan jeopolitik rekabet, yapay zekanın bugünkü çıkmaza girmesinde nasıl bir rol oynadı?

Çin, Silikon Vadisi’nin on yıldır, yani Çin’den kovulduğundan beri oynadığı bir karttır. Ancak bu argümanın geçmişine baktığınızda, yaşananların Silikon Vadisi’nin olacağını söylediği şeylerin tam tersi olduğunu görürsünüz.

Silicon Valley şirketlerini düzenlemeden – ve Çin’i ihracat kontrolleri yoluyla düzenleyerek – Amerikan teknolojisinin dünya çapında hakim olacağını söylemişlerdi. Oysa TikTok şu anda en popüler sosyal medya platformu ve Çin’in açık kaynaklı yapay zeka modelleri, ABD dahil olmak üzere dünya çapında giderek daha popüler hale geliyor. Ayrıca, Silicon Valley’in hakimiyetinin dünya üzerinde liberalleştirici bir etki yaratacağını vaat etmişlerdi, ancak bu da gerçekleşmedi; aksine, yarattıkları etki son derece illiberal olmuştur. Silikon Vadisi platformları ve yapay zeka teknolojilerinin de katkısıyla, demokratik kurumlarda olağanüstü bir erozyon yaşandı ve demokratik gerileme hızla ivme kazandı.

Yapay zekayı, iyilerle kötüler arasındaki küresel bir yarış olarak görmek yerine, toplum için nasıl bir vizyonumuz olduğunu, bu vizyonu hangi tür yapay zeka teknolojilerinin destekleyeceğini ve bunu hayata geçirmek için hangi kaynaklara ihtiyacımız olduğunu düşünmeliyiz. Silikon Vadisi’nin tanımladığı bir yarışta değil, savunmak istediğimiz fikirler ve değerler üzerinden rekabet etmeliyiz. Ve bence Avrupa’nın burada, ABD ve Çin’inkinden farklı, oyunun kurallarını yeniden belirleyen üçüncü bir yolu dünyaya gösterme fırsatı var.

Avrupa Komisyonu, Avrupa’nın kendi teknolojik yol haritasını çizme çabalarının bir parçası olarak kısa süre önce bir “teknolojik egemenlik paketi”ni kabul etti. Gözetim temelli, oligarşik bir iş modelinin Avrupa versiyonuyla sonuçlanmaktan kaçınmak için bu vizyonu nasıl ifade etmeliyiz?

Avrupa’nın izlemesi gereken yol, egemenlik uğruna egemenlik değil, bu egemenliğe ulaşmanın amacıdır. Avrupa, ya da en azından büyük bir kısmı, dünyadaki demokrasinin son kalelerinden biridir. İnsan haklarını ve özgürlüklerini savunur ve bu değerleri ilerletmek için teknoloji egemenliğine ihtiyaç duyar. Son derece otoriter bir şekilde geliştirilen ve Avrupa toplumlarını zayıflatmaya çalışan sistemlere aşırı derecede bağımlı kaldığı sürece, değerlerini savunamaz. Egemenlik kavramı, sadece kendi başına bir hedef olarak düşünülmeye başlandığında belirsizleşmeye meyillidir. Bu, bir amaca ulaşmak için bir araç olmalıdır.

“Topluma söz hakkı tanınmazsa sorunlar tekrarlanır”

Bu alternatif vizyonu inşa etmek için ne tür koalisyonlardan, paydaş gruplarından veya çatışma alanlarından yola çıkmalıyız?

Her şeyden önce, yapay zeka yönetişimini geniş bir bakış açısıyla anlamalıyız. Örneğin, işçi haklarını güçlendirmek ve sivil toplumu korumak da yapay zeka yönetişiminin bir parçasıdır. Öğrenciler, öğretmenler ve sağlık çalışanları da, yapay zekanın toplumda nasıl geliştirilip kullanıldığına dair şekillendirme ve itiraz sürecine katkıda bulunmak üzere masada yer almalıdır. Eğitim, hem dahil etmemiz gereken bir sektör ve koalisyon olarak hem de yapay zeka konusunda halkın bilgilendirilmesi açısından kilit öneme sahiptir.

Bir diğer önemli husus ise, inşa etmeye çalıştığınız şeyin ve bunu nasıl uygulamak istediğinizin daha teknik yönlerini ortaya çıkarmak için yapay zeka araştırmacılarına ve girişimcilere finansman sağlamaktır. Ancak toplumun geri kalanına söz hakkı tanımadan onlara öylece para veremezsiniz, aksi takdirde, esasen teknokratların ya da tekno-otoriterlerin ipleri elinde tuttuğu ABD’deki sorunları tekrarlamış olursunuz.

Sıfırdan başlamıyorsunuz. Toplumun ulaşmaya çalışması gereken ortak hedefleri belirlemek için zaten çok çalışma yapılmıştır. Örneğin, Sürdürülebilir Kalkınma Hedeflerinden bahsediyorum. Bu, yapay zeka inovasyonuna nasıl finansman sağlanacağını belirlemek için bir başlangıç noktası olabilir.

Mevcut yapay zeka teknolojileriyle ilgili söylemler son derece kutuplaşmış durumda. Bir yanda, bu teknolojilerde özellikle yeni bir şey olmadığını ve balonun patlamak üzere olduğunu söyleyenler var. Diğer yanda ise yapay zekanın hayatlarımızı dönüştüreceğine, tedarik zincirlerinde devrim yaratacağına ve hepimizi işsiz bırakacağına inananlar var. Bu farklı tutumlar hakkında ne düşünüyorsunuz?

Doğru, birçok kişi bu teknolojilerin maliyetlerini dikkate almadan faydalarını abartma ya da faydalarını görmeden maliyetlerini aşırı vurgulama eğilimindedir. Ancak bence, yapay zekanın faydalarından yararlanmak istediğimizi, ancak bunu iyi sağlık hizmetlerine erişim, ekonomik fırsatlar, sağlıklı bir çevre ve gelişen bir gezegen ile onurlu bir yaşam sürme yeteneğimizden ödün vermeden yapmak istediğimizi kabul eden oldukça büyük bir kesim var. Bu izlenebilecek en dengeli yaklaşımdır.

Yapay zeka, pek çok farklı teknoloji türünü kapsayan bir terimdir; bu nedenle, hangilerine yatırım yapacağımızı ve hangi yeni teknolojileri geliştirmek istediğimizi dikkatlice düşünmeliyiz, çünkü her birinin kendine özgü bir dizi artı ve eksisi vardır; bunlardan bazıları inşa etmek istediğimiz gelecekle uyumluyken, diğerleri değildir. Seçimlerimizi akıllıca yapmalıyız.

“Yapay zeka araçlarını kullanmıyorum”

Mevcut yapay zeka araçlarıyla ilişkiniz nedir?

Bu araçları üç ana nedenden dolayı kullanmıyorum. Birincisi, etik duruşum. İkincisi, gizlilik konusundaki duruşum: Bu şirketleri araştırıyorum ve bunlar nihayetinde şimdiye kadar icat edilmiş en etkili gözetim teknolojileridir. Üçüncüsü, bu araçlar işimi yapmak için ihtiyaç duyduğum özel beceri seti açısından pek kullanışlı değil.

Herkesin aynısını yapması gerektiğini söylemiyorum. Bu araçlardan açıkça fayda sağlayan ya da mesleki görevlerinin bir parçası olarak bunları kullanmak zorunda olan birçok kişiyle konuştum. Aksine, mevcut sorundan kurtulmanın yolu, geçmişte moda endüstrisi gibi diğer sektörlerde yaptığımızın aynısını yapmaktır. Giysilerimizin çoğunun gerçekten korkunç koşullarda üretildiğini keşfettiğimizde, giysilerden vazgeçmedik. Sektörü dizginleyen çok sayıda tüketici ve işçi örgütlenmesi, hükümet düzenlemesi ve genel kamuoyu tepkisi oldu. Elbette moda endüstrisi hâlâ mükemmel olmaktan çok uzak, ancak en azından artık alternatifler mevcut ve tüketiciler, hangi tür tedarik zincirini ve kurumsal uygulamaları desteklediklerini cüzdanlarıyla belirtebilirler.

Aynı şeyi yapay zeka konusunda da yapmalıyız. Şu anda kullanıcılar için yeterli alternatif yok ve bunun değişmesi için işçi örgütlenmelerinin artması ve kamuoyundan daha fazla tepki gelmesi gerekiyor. Bu teknolojilerden uzak durabilenler kesinlikle bunları boykot etmeli ve hükümetler, alternatifler için yeni pazarlar yaratılmasına yardımcı olmak üzere devreye girmelidir. Tüketicilerin elinde önemli bir koz var, ancak bu tek koz değil. İnsanlar olarak, bireyler olarak, aynı zamanda işçi, eğitimci ve vatandaş rollerini de üstleniyoruz ve yapay zekanın gelişimi bağlamında tüm bu rolleri nasıl kullanarak onu daha iyi hale getirebileceğimizi düşünmeliyiz.

Gizliliğe genel bakış

Niha+, bağımsız gazetecilik ilkeleri ve okur mahremiyeti çerçevesinde dijital ayak izinize saygı duyar. Sitemizde gezinirken, sizlere kesintisiz bir okuma deneyimi sunabilmek ve platformumuzun teknik altyapısını güvence altına almak amacıyla çerezler kullanılmaktadır. Sol taraftaki menüyü kullanarak çerez tercihlerinizi dilediğiniz gibi yönetebilirsiniz. Kişisel verilerinizin nasıl işlendiğine dair detaylı bilgi için lütfen Gizlilik Sözleşmemizi ve KVKK Aydınlatma Metnimizi inceleyiniz.