“Yapay zekayı küresel bir ‘iyiler ve kötüler’ mücadelesi olarak algılamak yerine, nasıl bir toplumsal vizyonumuz olduğuna, bu vizyonu besleyecek teknolojilere ve gerekli kaynaklara odaklanmalıyız. Silikon Vadisi’nin çizdiği sınırlar içinde değil, kendi savunduğumuz fikir ve değerler doğrultusunda rekabet etmeliyiz.”
Green European Journal’da yayımlanan ve ödüllü gazeteci, podcast sunucusu ve yazar Karen Hao ile yapılan söyleşiyi sizler için Türkçe’ye çevirdik.
Green European Journal (Yeşil Avrupa Dergisi), Avrupa Yeşil Partisi (European Green Party) ve Avrupa Parlamentosu’ndaki Yeşiller hareketi ile ilişkili olan Yeşil Avrupa Vakfı (Green European Foundation – GEF) tarafından desteklenen siyasi bir ekoloji dergisidir. Sitesinde yazan bilgilere göre, Yeşil Avrupa Vakfı ile organik bağı bulunmasına rağmen editöryel olarak bağımsız bir yayın politikası bulunuyor.
Alessio Giussani: Mevcut yapay zeka geliştirme modelini tanımlamak için pek çok metafor kullanıldı, örneğin papağan ya da ayna gibi. Siz neden imparatorluk metaforunu seçtiniz?
Karen Hao: Bence bu metaforların hepsi son derece kullanışlı. İmparatorluk metaforuna odaklanıyorum çünkü sadece teknik ürünü ve toplumda kullanıldığında neler olduğunu incelemekle kalmıyorum, aynı zamanda bu teknolojinin üretimini ve onu üretmek için olağanüstü miktarda ekonomik ve siyasi gücü elinde toplayan aktörleri de inceliyorum.
Bu sistemi bir imparatorluk olarak adlandırmamın dört ana nedeni var. Birincisi, bu şirketler kendilerine ait olmayan kaynaklar üzerinde hak iddia ediyorlar: bireylerin verileri ile yazarların ve yaratıcıların eserleri. İkincisi, olağanüstü miktarda işgücünü sömürüyorlar. Bu, üretim sürecinde ve bu teknolojilerin tedarik zincirinde sömürdükleri işçiler için olduğu kadar, teknolojinin kullanıma sunulmasıyla iş hakları sarsılan işçiler için de geçerli.
Üçüncü unsur ise bilgi kontrolüdür. İmparatorlukların genişlemesinin en önemli yönlerinden biri, tüm bilgi üretimini ve bilgiyi kendi imparatorluk gündemlerinin merceğinden süzme yeteneğidir, ve yapay zeka şirketleri tam da bunu yapıyor. Çoğu yapay zeka araştırmacısına finansal destek sağlayarak üretilen bilimi kontrol edip sansürlüyor ve eğitim de dahil olmak üzere herkesin dünyayla etkileşime girdiği merkezi bir portal haline getirmeyi amaçladıkları bir bilgi teknolojisi inşa ediyor.
Son olarak, tüm bunları bir medenileştirme misyonu kisvesi altında sunuyorlar. Bu çalışmaya, nihayetinde insanlığı ütopik bir duruma yükseltecek bir teknolojiyi sunmak amacıyla giriştiğini söylüyorlar, ve eğer “kötü adamlar” ki genellikle Çin’i kastediyorlar, bu teknolojiyi bizden önce geliştirirse, o zaman bunun yerine distopik bir duruma düşeceğimizi iddia ediyorlar. Bu, eski imparatorluklar arasında da yaygın olan bir tür dini anlatıdır.
“Mesele ekonomik ve ideolojik”
Sizin tarif ettiğiniz şekliyle yapay zeka imparatorluğu, bir şirketle sınırlı değil, bu bir sistem, bir mantık. OpenAI’ye ve CEO’su Sam Altman’a odaklanmanızın ardında ne yatıyor?
Buna bir cevap, insanların aksi takdirde soyut kalacak bir fikri somutlaştırmaya yardımcı olacak hikâyelere ihtiyaç duymalarıdır. Ancak OpenAI, sektördeki normları değiştiren ve sektörü imparatorluk kurmaya iten tüm önemli kararları aldığı için de özellikle ilginçtir. Günümüzde kamuoyunun yapay zekayla ilişkilendirdiği hemen hemen her şey, ilk olarak OpenAI’nin duvarları içinde kararlaştırıldı.
Bu tarihi anlatarak, yapay zekanın kaçınılmaz olmadığı çok daha açık hale geliyor. Çünkü bu kararları, kendi değerlerine, dünya görüşlerine, kişisel intikamlarına, yapay zeka gelişiminin gidişatını şekillendiren her ne ise dayanarak alan gerçek insanlar olduğunu fark etmeye başlıyorsunuz. Sam Altman’ın ideolojileri, sadece soyut bir anlamda değil, modele de işlenmiştir. Modellerin yaratıcılarını yansıttığına dair sıkça duyulan bir klişe vardır, ancak ben bunun gerçekte nasıl gerçekleştiğini göstermek istedim. Mesele şirketler, insanlar ve onların parçası oldukları ekonomik ve ideolojik ortamla ilgilidir.
“Hesap verme halk tarafından sağlanmalı”
Bu teknolojiler giderek daha güçlü hale geldikçe, bunların kullanımına ilişkin kontrolü ele geçirmek varoluşsal bir mesele haline geliyor. Büyük teknoloji şirketlerinin Trump’ın ikinci göreve başlama töreninde ona boyun eğdiğini gördük, ancak aynı zamanda yapay zeka şirketlerinin CEO’larının hükümetle giderek daha fazla çatışmaya girdiğini de gözlemliyoruz. Son sözü kim söyleyecek – devlet mi, yoksa özel şirketler mi?
Kararları kimin vereceği konusunda süregelen bir mücadele var. Washington ile Silikon Vadisi arasındaki ilişkiyi, çıkar birliği üzerine kurulu ancak oldukça gergin bir ittifak olarak görüyorum. Her ikisi de kendi imparatorluk gündemine sahip iki farklı imparatorluk modelini temsil ediyor. Her ikisi de genişlemeye ve kelimenin tam anlamıyla diğer ülkelerden daha fazla toprak ele geçirmeye çalışıyor, ancak Trump yönetimi yapay zeka şirketlerini devletin imparatorluk hırslarının elindeki araçlar olarak görüyor. Öte yandan, Silikon Vadisi de Trump yönetimini kendi imparatorluk hırslarının bir aracı olarak görüyor, ancak aslında aynı fikirde değiller, çünkü her ikisi de en üstte yer alan egemen güç olmak istiyor.
ABD hükümetinin hâlâ üstün olduğunu gösterdiği anlar oldu. Trump ile Musk çatıştığında, Musk kovuldu. Ancak, Savaş Bakanlığı ile Anthropic arasında çatışma yaşandığında, o durumda daha güçlü olanın şirket olduğu ortaya çıktı: Savunma Bakanı Pete Hegseth, nükleer seçeneği gündeme getirerek, Anthropic’i hizaya getirmek için kullanabileceği en son koz olarak şirketi “tedarik zinciri riskli” olarak ilan etmekle tehdit etti, ancak şirket yine de hizaya gelmedi. Oldukça utanç verici bir şekilde, Savaş Bakanlığı, hükümetin şartlarına göre işbirliği yapmaya isteksiz olan özel bir aktöre derin bir bağımlılık içine girmiştir ve hükümet bu konuda hiçbir şey yapamamaktadır.
Bu iki emperyal aktörün de hesap vermesi gerekmektedir ve bu hesap verme, ikisinden de gelmeyecektir, halk tarafından sağlanmalıdır. ABD dahil olmak üzere dünyanın her yerinde yeşermeye başladığını gördüğümüz, tabandan yukarıya doğru, halk tabanında örgütlenme yoluyla. Bu çıkar ittifakı ne kadar sarsılmaz görünse de, aslında son derece kırılgandır ve zayıf noktalarına daha fazla baskı uygulayarak çöküşünü hızlandırma imkânları mevcuttur.
“Üçüncü bir yol mümkün”
Yapay zeka alanındaki gelişmelerin durumu, rakip şirketler ve küresel süper güçler arasında bir “aşağıya doğru rekabet” yarışına benziyor. Çin ile yaşanan jeopolitik rekabet, yapay zekanın bugünkü çıkmaza girmesinde nasıl bir rol oynadı?
Çin, Silikon Vadisi’nin on yıldır, yani Çin’den kovulduğundan beri oynadığı bir karttır. Ancak bu argümanın geçmişine baktığınızda, yaşananların Silikon Vadisi’nin olacağını söylediği şeylerin tam tersi olduğunu görürsünüz.
Silicon Valley şirketlerini düzenlemeden – ve Çin’i ihracat kontrolleri yoluyla düzenleyerek – Amerikan teknolojisinin dünya çapında hakim olacağını söylemişlerdi. Oysa TikTok şu anda en popüler sosyal medya platformu ve Çin’in açık kaynaklı yapay zeka modelleri, ABD dahil olmak üzere dünya çapında giderek daha popüler hale geliyor. Ayrıca, Silicon Valley’in hakimiyetinin dünya üzerinde liberalleştirici bir etki yaratacağını vaat etmişlerdi, ancak bu da gerçekleşmedi; aksine, yarattıkları etki son derece illiberal olmuştur. Silikon Vadisi platformları ve yapay zeka teknolojilerinin de katkısıyla, demokratik kurumlarda olağanüstü bir erozyon yaşandı ve demokratik gerileme hızla ivme kazandı.
Yapay zekayı, iyilerle kötüler arasındaki küresel bir yarış olarak görmek yerine, toplum için nasıl bir vizyonumuz olduğunu, bu vizyonu hangi tür yapay zeka teknolojilerinin destekleyeceğini ve bunu hayata geçirmek için hangi kaynaklara ihtiyacımız olduğunu düşünmeliyiz. Silikon Vadisi’nin tanımladığı bir yarışta değil, savunmak istediğimiz fikirler ve değerler üzerinden rekabet etmeliyiz. Ve bence Avrupa’nın burada, ABD ve Çin’inkinden farklı, oyunun kurallarını yeniden belirleyen üçüncü bir yolu dünyaya gösterme fırsatı var.
Avrupa Komisyonu, Avrupa’nın kendi teknolojik yol haritasını çizme çabalarının bir parçası olarak kısa süre önce bir “teknolojik egemenlik paketi”ni kabul etti. Gözetim temelli, oligarşik bir iş modelinin Avrupa versiyonuyla sonuçlanmaktan kaçınmak için bu vizyonu nasıl ifade etmeliyiz?
Avrupa’nın izlemesi gereken yol, egemenlik uğruna egemenlik değil, bu egemenliğe ulaşmanın amacıdır. Avrupa, ya da en azından büyük bir kısmı, dünyadaki demokrasinin son kalelerinden biridir. İnsan haklarını ve özgürlüklerini savunur ve bu değerleri ilerletmek için teknoloji egemenliğine ihtiyaç duyar. Son derece otoriter bir şekilde geliştirilen ve Avrupa toplumlarını zayıflatmaya çalışan sistemlere aşırı derecede bağımlı kaldığı sürece, değerlerini savunamaz. Egemenlik kavramı, sadece kendi başına bir hedef olarak düşünülmeye başlandığında belirsizleşmeye meyillidir. Bu, bir amaca ulaşmak için bir araç olmalıdır.
“Topluma söz hakkı tanınmazsa sorunlar tekrarlanır”
Bu alternatif vizyonu inşa etmek için ne tür koalisyonlardan, paydaş gruplarından veya çatışma alanlarından yola çıkmalıyız?
Her şeyden önce, yapay zeka yönetişimini geniş bir bakış açısıyla anlamalıyız. Örneğin, işçi haklarını güçlendirmek ve sivil toplumu korumak da yapay zeka yönetişiminin bir parçasıdır. Öğrenciler, öğretmenler ve sağlık çalışanları da, yapay zekanın toplumda nasıl geliştirilip kullanıldığına dair şekillendirme ve itiraz sürecine katkıda bulunmak üzere masada yer almalıdır. Eğitim, hem dahil etmemiz gereken bir sektör ve koalisyon olarak hem de yapay zeka konusunda halkın bilgilendirilmesi açısından kilit öneme sahiptir.
Bir diğer önemli husus ise, inşa etmeye çalıştığınız şeyin ve bunu nasıl uygulamak istediğinizin daha teknik yönlerini ortaya çıkarmak için yapay zeka araştırmacılarına ve girişimcilere finansman sağlamaktır. Ancak toplumun geri kalanına söz hakkı tanımadan onlara öylece para veremezsiniz, aksi takdirde, esasen teknokratların ya da tekno-otoriterlerin ipleri elinde tuttuğu ABD’deki sorunları tekrarlamış olursunuz.
Sıfırdan başlamıyorsunuz. Toplumun ulaşmaya çalışması gereken ortak hedefleri belirlemek için zaten çok çalışma yapılmıştır. Örneğin, Sürdürülebilir Kalkınma Hedeflerinden bahsediyorum. Bu, yapay zeka inovasyonuna nasıl finansman sağlanacağını belirlemek için bir başlangıç noktası olabilir.
Mevcut yapay zeka teknolojileriyle ilgili söylemler son derece kutuplaşmış durumda. Bir yanda, bu teknolojilerde özellikle yeni bir şey olmadığını ve balonun patlamak üzere olduğunu söyleyenler var. Diğer yanda ise yapay zekanın hayatlarımızı dönüştüreceğine, tedarik zincirlerinde devrim yaratacağına ve hepimizi işsiz bırakacağına inananlar var. Bu farklı tutumlar hakkında ne düşünüyorsunuz?
Doğru, birçok kişi bu teknolojilerin maliyetlerini dikkate almadan faydalarını abartma ya da faydalarını görmeden maliyetlerini aşırı vurgulama eğilimindedir. Ancak bence, yapay zekanın faydalarından yararlanmak istediğimizi, ancak bunu iyi sağlık hizmetlerine erişim, ekonomik fırsatlar, sağlıklı bir çevre ve gelişen bir gezegen ile onurlu bir yaşam sürme yeteneğimizden ödün vermeden yapmak istediğimizi kabul eden oldukça büyük bir kesim var. Bu izlenebilecek en dengeli yaklaşımdır.
Yapay zeka, pek çok farklı teknoloji türünü kapsayan bir terimdir; bu nedenle, hangilerine yatırım yapacağımızı ve hangi yeni teknolojileri geliştirmek istediğimizi dikkatlice düşünmeliyiz, çünkü her birinin kendine özgü bir dizi artı ve eksisi vardır; bunlardan bazıları inşa etmek istediğimiz gelecekle uyumluyken, diğerleri değildir. Seçimlerimizi akıllıca yapmalıyız.
“Yapay zeka araçlarını kullanmıyorum”
Mevcut yapay zeka araçlarıyla ilişkiniz nedir?
Bu araçları üç ana nedenden dolayı kullanmıyorum. Birincisi, etik duruşum. İkincisi, gizlilik konusundaki duruşum: Bu şirketleri araştırıyorum ve bunlar nihayetinde şimdiye kadar icat edilmiş en etkili gözetim teknolojileridir. Üçüncüsü, bu araçlar işimi yapmak için ihtiyaç duyduğum özel beceri seti açısından pek kullanışlı değil.
Herkesin aynısını yapması gerektiğini söylemiyorum. Bu araçlardan açıkça fayda sağlayan ya da mesleki görevlerinin bir parçası olarak bunları kullanmak zorunda olan birçok kişiyle konuştum. Aksine, mevcut sorundan kurtulmanın yolu, geçmişte moda endüstrisi gibi diğer sektörlerde yaptığımızın aynısını yapmaktır. Giysilerimizin çoğunun gerçekten korkunç koşullarda üretildiğini keşfettiğimizde, giysilerden vazgeçmedik. Sektörü dizginleyen çok sayıda tüketici ve işçi örgütlenmesi, hükümet düzenlemesi ve genel kamuoyu tepkisi oldu. Elbette moda endüstrisi hâlâ mükemmel olmaktan çok uzak, ancak en azından artık alternatifler mevcut ve tüketiciler, hangi tür tedarik zincirini ve kurumsal uygulamaları desteklediklerini cüzdanlarıyla belirtebilirler.
Aynı şeyi yapay zeka konusunda da yapmalıyız. Şu anda kullanıcılar için yeterli alternatif yok ve bunun değişmesi için işçi örgütlenmelerinin artması ve kamuoyundan daha fazla tepki gelmesi gerekiyor. Bu teknolojilerden uzak durabilenler kesinlikle bunları boykot etmeli ve hükümetler, alternatifler için yeni pazarlar yaratılmasına yardımcı olmak üzere devreye girmelidir. Tüketicilerin elinde önemli bir koz var, ancak bu tek koz değil. İnsanlar olarak, bireyler olarak, aynı zamanda işçi, eğitimci ve vatandaş rollerini de üstleniyoruz ve yapay zekanın gelişimi bağlamında tüm bu rolleri nasıl kullanarak onu daha iyi hale getirebileceğimizi düşünmeliyiz.
