Jacobin’de yapay zeka konusunda ne yapılması gerektiği üzerine hararetli bir tartışma sürüyor. Yapay zeka, açıkça muazzam fayda ve zarar getirme potansiyeline sahip bir teknoloji ve belki de her ikisini aynı anda. Finansal açıdan, bu teknoloji milyarderlerin eline daha da fazla gelir geçirebilir ya da patladığında masum ve suçlu ayrımı gözetmeksizin yatırımcıların net varlıklarını uçurumdan aşağı itecek bir balon yaratabilir. Her iki durumda da, yapay zekanın dar finansal zorunluluklardan uzaklaştırılıp toplumsal amaçlara yönlendirilmesi gerekiyor ve bu da mülkiyet yapısında bir değişiklik gerektiriyor.
Peki, ne tür bir değişiklik ve nasıl? Sosyalistler için en bariz çözüm, devlete kontrol hissesi vermektir; Bernie Sanders’ın önerdiği de budur: Tek seferlik bir vergi yoluyla ABD merkezli yapay zeka şirketlerinin sermayesinin yarısını yeni bir devlet varlık fonuna aktarmak; bu fon, teknolojiyi etkileyen gelecekteki kararlar üzerinde veto hakkına sahip olurken, teknolojinin ürettiği kârdan da pay alır. Ancak bu fikre karşı bir tedirginlik de var; en azından Donald Trump’ın da federal devletin hisse sahibi olması fikrini gündeme getirmiş olması nedeniyle; ve en ufak bir benzerlik bile şüpheye yol açıyor. Daha açık bir ifadeyle, Amerikan demokrasisinin durumu ve siyasi gücün ultra zenginleri kayıran grotesk dengesizliği göz önüne alındığında, devletin büyük bir hisseye sahip olmasının bizden beklediğimiz sonuçları vereceğinden şüphe duymak mantıklıdır.
Küreselleşen bir dünyada sosyal mülkiyeti, sosyal amaçları gerçekten yansıtacak şekilde tasarlayabilmek için, bu konuyu baştan sona yeniden düşünmemiz gerekiyor. Zengin yatırımcıların elinden mülkiyet ve kontrolü neden almamız gerekiyor? Tam olarak ne gibi değişiklikler gerçekleştirmeye çalışıyoruz?
Kamu Mülkiyetinin Nedeni ve Nasıl Gerçekleşeceği
İlk sorunun cevabı üç bölümden oluşuyor. Birincisi, aşırı derecede büyük serveti boğucu bir siyasi ve toplumsal etkiye dönüştüren bir oligarşinin ezici gücünden muzdarip durumdayız. Yapay zeka, reklamı yapılan ekonomik faydaları sağlarsa, daha da büyük zenginlikler ortaya çıkacaktır. Yapay zeka şirketleri, toplumsal olarak üretilen muazzam bilgi ve kültür birikimini, kamu destekli araştırmalarla birlikte özel servete dönüştürmektedir. Yapay zeka, savunucularının vaat ettiği ekonomik faydaları gerçekten sağlarsa, bu kazançlar küçük bir plütokrat grubunun elinde toplanmak yerine geniş bir kesimle paylaşılmalıdır. İkincisi, pazar hakimiyetine yönelik bu baş döndürücü arayış, kolayca pazara dönüştürülemeyen faydalar sağlamakta başarısız olurken muazzam maliyetler doğuruyor. Bu arayış ya açıkça zenginleşme amacıyla ya da sapkın, sıfır toplamlı bir vatanseverlik anlayışı adına yürütülüyor (bazıları, Çinli şirketlere pazar payı kaybının Amerika’nın “ulusal güvenliğini” tehlikeye attığını söylüyor). Son olarak, yapay zeka karmaşık ve hızla gelişen bir teknolojidir ve bu nedenle onu düzenlemek neredeyse imkansızdır.
Evet, yapay zekanın kullanımı ve emdiği kaynaklara ilişkin geniş kapsamlı düzenlemeler uygulanabilir ve mümkün olan en kısa sürede yürürlüğe konulmalıdır. Şahsen ben, mesajlarında birinci şahıs zamirini kullanan herhangi bir sohbet robotu veya benzer programın yasaklanmasıyla başlardım: “Ben” bir yalandır. Ancak modellerin nasıl eğitildiği, komutlara nasıl yanıt verdikleri ve yakında akıl yürütme motorlarıyla nasıl entegre edilebilecekleri gibi konuların dışarıdan düzenlenmesi neredeyse imkansızdır. Bu, düzenleyicilerin (ne kadar agresif ve iyi niyetli olsalar bile) kazanma ihtimalinin düşük olduğu, bitmek bilmeyen bir yakalama oyunudur.
Öyleyse, nedenini özetlemek gerekirse, serveti paylaşmalı, kâr güdüsünü azaltmalı ve yapay zekayı geliştiren ve uygulayan işletmelerin içine kamu düzenlemelerini dahil etmeliyiz.
Bu da bizi “nasıl” sorusunun kritik sorununa getiriyor. Kamu mülkiyeti ilk sorunu çözecektir ve şüphesiz bu, Sanders ve diğerlerinin bu adımı atmak istemelerinin başlıca nedenlerinden biridir. Üçüncü soruna da yardımcı olabilir; zira en azından hükümet, sermaye yatırımcısı olarak düzenlemeyle ilgili tüm bilgilerin gerçek zamanlı olarak kamuya açıklanmasını talep edebilir. Bunlar, küçümsenmemesi gereken önemli avantajlardır.
Ancak kamu mülkiyeti de kendine özgü sorunlar yaratır. Bunlardan biri, daha önce Jacobin dergisinde bir yazarın haklı olarak vurguladığı gibi, hükümet kontrolü ile demokratik kontrolün genellikle birbirinden oldukça uzak olmasıdır. En iyi koşullarda bile, insanlar siyasi temsilcileri için yalnızca belirli aralıklarla oy kullanabilirler. Karar alma süreci bürokrasinin alt kademelerine doğru ilerledikçe demokratik yetki zayıflar. Ve bugün bu koşullar, demokratik mükemmellikten ışık yılları kadar uzaktır.
Kamu Çoğulculuğu
Oysa kamu mülkiyetiyle ilgili sorun çok daha temel niteliktedir. Bunu görebilmek için, yapay zekanın ne yapmasını (ve ne yapmamasını) istediğimizi somut bir şekilde düşünmemiz ve mülkiyet modellerinin tek başına olası çatışmaları nasıl çözebileceğini sorgulamamız gerekir. Aklıma gelen birkaç sorun alanı şunlardır:
- Gizlilik ve kişisel özgürlük. Yapay zeka, insanlık tarihinde eşi benzeri görülmemiş özel ve kamusal gözetim sistemleri oluşturmak için kullanılıyor. Bu, ödediğimiz tutarın bir yapay zeka ajanın bizim ne kadar ödemeye istekli olduğumuza dair belirlediği değere bağlı olduğu gözetim fiyatlandırmasından, toplumsal kontrol amacıyla devletin siyasi değerlerimize ilişkin profil oluşturmasına kadar uzanıyor. İsrail’in Lavender programında örneklendiği gibi, insan denetiminin ötesindeki yerleri ve insanları hedef almak ve yok etmek için yapay zekanın kullanılması korkutucu bir ihtimaldir.
- Yönetim ve istihdam. Yapay zekanın varsayılan ekonomik değerinin büyük bir kısmı, şu anda ya da yakın gelecekte işletmelerin, devlet kurumlarının ve diğer kuruluşların doğrudan yönetimini üstlenebileceği iddiasından kaynaklanıyor; bu da şu anda bu işi yapan insanların toplu olarak işten çıkarılması anlamına geliyor. Bu durum, sinir bozucu derecede tepkisiz ya da yararsız hizmetlere yol açabilir (Cory Doctorow’un “enshittification” kavramının bir yönü) ve elbette kitlesel işsizlik hayaletini gündeme getirir. Yine de, ağır işlerin otomasyonla değiştirilmesi de muazzam bir toplumsal nimet olabilir; daktilo yazma, dosyalama ve diğer tekrarlayan büro işleri kelime işleme uygulamaları tarafından devralınan milyonlarca sekreteri düşünün. (Ben de bir zamanlar onlardan biriydim.) Kuruluşların nasıl yönetilmesi gerektiği ve bunları yönetmek için kime ihtiyaç duyulacağına dair kilit kararlar söz konusudur.
- Çevre ve kaynaklar. Dijital teknolojinin önceki versiyonlarından farklı olarak, yapay zeka su kaynaklarımız, enerji sistemlerimiz ve nadir minerallerimiz üzerinde muazzam, neredeyse akıl almaz taleplerde bulunuyor. Bu durum, yapay zekanın kaba kuvvet temelli eğitim yöntemlerinden kaynaklanıyor ve daha özel eğitim ile mantığın daha fazla kullanılmasıyla hafifletilebilir. Her halükarda, bilgi işlem kapasitesi ile kaynak kullanımı arasında nasıl bir denge kurulacağı, kimin kaynaklarından yararlanılacağı ve bu kaynaklar karşılığında nasıl bir tazminat ödeneceği konusunda çözülmesi gereken önemli sorunlar bulunmaktadır.
- Toplum genelindeki uygulamalar. Dikkatler yukarıdaki konulara odaklanmış olsa da, bu konu uzun vadede en az onlar kadar önemli olabilir. Eğitimciler şimdiden yapay zekanın sınıflar üzerinde yarattığı yıkıcı etkilerle mücadele etmektedir. Yazma, müzik ve görsel kültür üzerindeki etkiler son derece olumlu, olumsuz ya da (büyük olasılıkla) her ikisi birden olabilir. Yapay zeka araştırma alanında büyük umut vaat ediyor, ancak bunun büyük ölçüde, uyguladığımız alanlara ilişkin anlayışımızı derinleştirip derinleştirmeyeceğine ya da sadece bir kara kutudan sonuçlar çıkarıp çıkarmayacağına bağlı olacaktır. Bu durum, yapay zeka ajanları tamamen güvenilir olsalar bile önem arz eder; ki öyle değiller. Öğrenci ve yaratıcı olarak potansiyelimizi genişletecek şekilde bu uygulamaları tasarlaması için kime güvenebiliriz?
Bu üstünkörü incelemeden bile çıkarılacak önemli sonuçlar vardır. Bunlardan biri, pek çok farklı türde seçim yapılması gerektiğidir. Bunların bazıları dağıtımla ilgilidir (kim kazanır, kim kaybeder) ancak diğerleri temel değerleri içerir. Bir diğeri ise, yapay zekanın gelecekteki gelişiminin pek çok boyutu göz önüne alındığında, hepimizin kabul edeceği tek bir kamu yararı belirlemenin imkânsız olduğudur. Bunu anlamanın ne kadar önemli olduğunu ne kadar vurgulasak azdır. Bizi yönlendirmesi gereken kamu, tutum ve önceliklerindeki tüm çeşitliliğiyle gerçekte var olan kamudur; herkesin sizin ya da benim gibi düşündüğü hayali bir kamu değil.
ABD’deki herkes ilerici değerleri benimsese bile, yine de birbiriyle rekabet eden öncelikler arasında seçimler yapmak zorunda kalınacaktır. Mesele, her yerde veri merkezleri mi yoksa hiç mi, ya da yapay zeka tarafından üretilen belgeler mi yoksa sadece insanlar tarafından yazılanlar mı gibi ikili seçimler değildir. Mesele öncelikler, vurgular, ayarlamalar ve yeniden tasarlanmış tasarımlarla ilgilidir. Mevcut seçenekler çıkarcı ve berbat olsa da, herkesin üzerinde anlaşacağı basit bir alternatif yoktur.
Amaç Odaklı Mülkiyet
Dolayısıyla, yapay zeka dünyasında sadece demokrasiye değil, aynı zamanda gerçek bir çoğulculuğa da ihtiyacımız var: aralarından seçim yapabileceğimiz, yan yana var olan farklı uygulamalar. Bu, standart ekonomik nedenlerden ötürü de gereklidir; zira yapay zekanın geliştirilmesine yönelik hangi yaklaşımların teknik ya da sosyal açıdan en iyi sonuç vereceğini önceden bilemeyeceğiz. Yine, çoğulculuk.
Neyse ki, ihtiyacımız olan alternatifin temelleri şimdiden atılmıştır: amaç odaklı vakıflar aracılığıyla mülkiyet. Şimdiye kadar bu süreç, Patagonia’nın kurucusu Yvon Chouinard gibi kamu yararını gözeten sahiplerin, şirketlerinin kontrolünü belirli amaçları korumakla yasal olarak yükümlü olan vakıf yöneticilerinin eline vermeyi tercih etmesiyle, her bir emeklilik vakası üzerinden ilerlemiştir. Patagonia örneğinde bu, çevreye yönelik bir taahhüttü.
Burada önerilen modelin daha güçlü versiyonunda kâr, bir amaç değil, bir araç haline gelecektir. Vakıf sözleşmesi, gerekli yeniden yatırımların ardından elde edilen kârın özel yatırımcılara dağıtılmak yerine şirketin öncelikli amaçlarını ilerletmeye ayrılmasını şart koşacaktır. Bu tür şirketlerin listesine bakarsanız, çalışanların refahından toplumsal kalkınmaya ve yerel gıda sistemlerinin geliştirilmesine kadar uzanan çeşitli zorunlu amaçlar bulacaksınız; bunların çoğu birden fazla amacı belirlemiştir. Olması gereken de budur: Biz çeşitlilik içeren bir toplumuz ve amaçlarımız çoktur; bu amaçlar her zaman aynı seçimlere yol açmaz.
Ancak, bu modeli yapay zekaya uyarlamak için iki çok büyük değişiklik yapmamız gerekiyor. İlk olarak, halk, seçilmiş temsilcileri aracılığıyla hareket ederek, mevcut şirketlerin amaç vakıflarına dönüştürülmesini başlatmak zorunda kalacaktır. Bu, vakıf yöneticilerinin seçilmesi ve her şeyden önce şirketlerin hisselerinin satın alınmasının finanse edilmesi için bir süreç gerektirecektir. Kârlar üzerinde bir tür vergi uygulanması elbette kaçınılmaz olacaktır. İkincisi, amaçların aydınlanmış, yaşlanan girişimciler tarafından değil, toplumun kendisi tarafından seçilmesi gerekir. Birden fazla vakıf bir arada var olabileceğinden, bunlar her zaman birbiriyle uyuşmayabilecek çeşitli amaçlar peşinde koşabilirler. Vakıflar arasında fon dağılımının, ilgili amaçları destekleyen toplum kesiminin oranına uygun olmasını sağlamak için kabaca demokratik bir yöntem gerekli olacaktır.
Bir yan not: Anthropic’in kendisi bir vakıf değildir, ancak yönetişim yapısı uzun vadeli bir fayda vakfını içermektedir. Bu model, burada açıklanan modelden birkaç önemli açıdan farklılık gösterir: yatırımcılar kâr haklarını elinde tutar; Anthropic’in misyonu, yapay zekanın oluşturduğu uzun vadeli risklere odaklanmış olup, iş ile ilgili çoğu konuyu ele almamıştır. Hisse sahiplerinin istedikleri zaman vakfı feshetmeleri nispeten kolaydır. Anthropic’in halka arz için hazırlık yaptığı bir sır değildir.
Amaç Odaklı Vakıf Yaklaşımının Avantajı
Amaç odaklı vakıf yaklaşımının kamu mülkiyetine kıyasla bir diğer büyük avantajı, küresel ekonominin itici ve çekici güçleriyle başa çıkmaya çok daha uygun olmasıdır. İstersen yabancı firmalarla ortaklık kurabilir. Politikacıların geçici tercihlerinden bağımsız olarak, amaçlarıyla tutarlı uluslararası stratejiler izleyebilir. Çin’in de kilit bir aktör olması nedeniyle bu çok önemli bir husustur. Ayrıca bu ilişkileri, sınırlarımızın ötesinde insanlara hizmet eden amaçları desteklemek için kullanabilir; bu da küreselleşmeye potansiyel olarak ilerici bir boyut kazandırabilir. Bu esneklik, modelin doğasından kaynaklanmaktadır: sermaye sağlandıktan sonra, vakıf mülkiyetindeki şirketler operasyonel olarak özerktir ve yasal olarak bağlayıcı amaçları tarafından yönetilir.
Bu son nokta kilit önemdedir. Yasal olarak bağlayıcı amacı, kullanıcıların daha yaratıcı ve üretken olmalarına yardımcı olmak olan, bir tröstün sahip olduğu bir yapay zeka şirketini düşünün. Bu, şirketi, kullanıcıların kapasitelerini artıran araçlar geliştirmeye ve işleri rutinleştiren ya da yetkilerini elinden alan uygulamaların geliştirilmesini yasaklamaya mecbur kılar. Ancak böylesine geniş kapsamlı bir amaç, ancak kullanıcılarla sürdürülebilir bir etkileşim yoluyla gerçekleştirilebilir. Bunun bir kısmı, bir bahçıvanın bahçeciliği daha keyifli hale getiren bir yapay zeka yardımcısı satın alması veya yeni bir dil öğrenen birinin yapay zeka öğretim aracı satın alması gibi, standart piyasa geri bildirimi şeklinde gerçekleşecektir. Varsayımsal tröst mülkiyetindeki işletmemiz, tıpkı diğer herkes gibi, maliyetlerini karşılamak için yine de yeterli gelir elde etmek zorunda kalacaktır.
Şimdi, bu şirketin araçlarının işyerindeki insanlar tarafından kullanılmak üzere tasarlandığını ve bu sayede sendikaların, meslek gruplarının veya savunuculuk gruplarının bu araçların tasarımı ve uygulaması konusunda söz sahibi olabileceğini hayal edin. Güven mülkiyeti, şirketin bağımsızlığını koruyan bir sosyal mülkiyet biçimi olduğu için her türden kuruluş, yapay zeka geliştiricimizle ortaklık kurabilir. Bir güven mülkiyetindeki şirket, misyonları örtüştüğünde veya ekonominin ilgili alanlarında faaliyet gösterdiklerinde başka bir şirketle işbirliği yapabilir; örneğin, her ikisi de amaç güden vakıflara ait olan bir yapay zeka geliştiricisi ile bir ilaç şirketi güçlerini birleştirebilir. Ve yukarıda da belirtildiği gibi, bu tür ortaklıklar için özel yasalar çıkarılmadıkça ulusal sınırlar bir engel teşkil etmez.
Tersine, misyonları zıt olan iki amaç vakfına ait şirket, aynı pazarda yer alıyorsa rekabet edebilir; ancak bu, mümkün olan en yüksek kârı elde etmek için değil, kendi misyonlarını ilerletmek içindir. Bu, homojen ve tek düşünceli bir toplum efsanesinden arınmış bir sosyal mülkiyet modeli olacaktır.
Elbette, kamu mülkiyetinden farklı olarak, amaç vakıfları aracılığıyla sosyal mülkiyet hazır bir çözüm olarak ortaya çıkmaz. Yararlanabileceğimiz deneyimimiz sınırlıdır ve önemli sorular hâlâ cevapsız kalmaktadır. Kesinlikle bir öğrenme süreci olacaktır. Ancak canlı, çeşitlilik içeren ve amaç odaklı alternatif bir ekonomiye duyulan ihtiyaç her zamankinden daha acildir ve bunu çözmenin yolu, onu yaratmaya başlamaktır.
KAYNAK: Peter Dorman / Jacobin
