Geleceğe Ne Borçluyuz?

Gelecek vaat eden bir Oxford filozofunun çok satan bir kitabı karşınıza çıktığında başlığı biraz dilbilimsel analize tabi tutma dürtüsüne direnmek zor.

William MacAskill’in geniş kitleleri efektif altruizm, bilimsel filantropi yoluyla dünya üzerindeki olumlu etkimizi optimize etmek fikriyle tanıştıran bir önceki kitabı Doing Good Better‘ın başarısının üzerine inşa ettiği yeni kitabı What We Owe the Future (Geleceğe Ne Borçluyuz?), bizi uzun vadecilik fikriyle tanıştırıyor ve bu tür bir optimizasyonun kapsamını uzak gelecek üzerindeki etkimizi içine alacak şekilde genişletiyor. Ancak, içimizdeki bilgiçliğe teslim olarak, şu soruyu sormaya meyledebiliriz: “Gelecek”, herhangi bir şey “borçlu” olunabilecek türden bir şey midir? Genellikle insanlara, çoğunlukla başkalarına ve hatta bazen kendimize karşı yükümlülüklerimiz olduğunu kabul ederiz. İster cansız nesneler olsun ister (çok geniş) zaman dilimleri olsun, genellikle şeylere borçlanmayız. Bırakın önümüzdeki uzun çağları, kelimenin tam anlamıyla konuşursak, 21. yüzyıla dahi herhangi bir şey borçlu olduğumdan emin değilim.

Bu nedenle, kitabın bizi geleceği kişileştirmeye davet ederek başlaması belki de şaşırtıcı değildir: Tarih öncesinden zamanın sonuna kadar var olan veya var olacak tüm insanlar olduğumuzu hayal etmeliyiz; her bir ömrü sırasıyla yaşamalı ve bugünkü bakış açımızda göre henüz yaşanmamış olan bu yaşamların kalitesini, toplu olarak insanlığın kaderini artık tekil bir kader olarak düşünmeliyiz. Bu açıdan bakıldığında, hayatımızın çok büyük bir çoğunluğu önümüzde duruyor ve şu an yaptığımız seçimler, geri kalanının ne kadar iyi olacağını belirleyecek. Geleceğe borçlu olduğumuz şey, böylelikle kendimize karşı bir sorumluluk şeklini alır. Salt kişisel çıkarlar, birlikte hareket etmemizi, önceliklerimizi netleştirmemizi ve tatmin duygumuzu (fazlasıyla) erteleme kapasitesimizi geliştirmemizi zorunlu kılacaktır. Elbette bu sadece bir benzetme; bir sav değil, ancak MacAskill’in yol gösterici metaforlarından birine dönüşüyor: “Düşüncesiz bir genç olarak insanlık” kendi hayatıyla ilgili ne yapacağına karar vermesi gereken yaşa ulaşıyor: eğitim almak, bir kariyer seçmek ve belki de kendisinin bir uzantısı olarak birkaç katrilyon çocuk yetiştirmek için güzel bir galaktik süper kümeye yerleşmek. Ama bu, direkt en sona atlamak olur. Şimdilik, yükümlülük sorununu aklımızda tutarak en başa dönelim.

Kitap temelde iki şeyi amaçlıyor: uzun vadeciliği motive eden felsefi çerçeveyi ortaya koymak (özellikle birinci, ikinci, sekizinci ve dokuzuncu bölümler) ve bu çerçevenin dünyanın mevcut durumu ve gelecekteki muhtemel istikameti üzerine ampirik araştırmalarla birleştirildiğinde işaret ettiği siyasi programın taslağını çıkarmak (bölüm üçten yediye ve ona kadar). MacAskill’in dili hafif ve takip edilmesi kolay. Asgari teknik terim kullanmakta ve bu terimleri akıllıca somut örnekler kullanarak açıklamaktadır. Bununla birlikte, sosyal eğilimlerin karmaşık meta-analizleri ve bunlara eşlik eden çizelge ve grafiklerden (örneğin, ABD’deki yaşam standardı değişiklikleri: 1870-2020), bir müsvedde kağıdına çiziktirilmiş hesaplamalara benzeyen olağanüstü rakamlara (örneğin nöronların toplam kütlesine göre sıralanan karasal türlerin ahlaki önemi) kadar pek çok sayı var. MacAskill’in kitabı yazarken yararlandığı uzmanlardan oluşan bir ekip tarafından yürütülen ilgili alana özgü araştırmaların yanı sıra, bunların çalışmaları da kontrol edilmeye hazır olsa da, bu bölümlerde kaybolmuş hissetmek belki de daha kolaydır. Bütün bunları birbirine bağlayan şeyse, bir tarihsel anlatı dokunuşudur. Daha gözleme dayalı bölümler, geçmişten söz konusu noktayı gösteren paradigma örneklerini ele alarak başlıyor: Çin’in Savaşan Devletler döneminden (değer değişimlerinin kalıcılığı), İslam’ın Altın Çağı’na (toplumsal durgunluğun maliyeti), kölelik karşıtı hareketin doğuşuna (küçük gruplar büyük değişikliklere etki edebilir) ve Spaceguard savunma programının oluşturulmasına (X risklerinin izlenebilirliği) kadar uzanıyor. Bu bölümler kitabın retorik temposunu belirliyor ve gelecekteki olayların şeklinin de aynı derecede okunaklı olduğu hissini uyandırıyor.

Sıradaki kısımlarda bu tür anlatıları atlayacağım. Bunun yerine, inceleme işine dönmeden önce, kitabın genel tartışmasını makul olduğu kadar ayrıntılı bir şekilde yeniden inşa etmeye çalışacağım. İlk iki bölümde, felsefi çerçeveyi ve ona karşılık gelen siyasi programı ana hatlarıyla anlatacağım. Üçüncü ve dördüncü bölümlerde, bunların içerdiği fikirlere yönelik en mantıklı genel itirazları özetleyeceğim ve ardından uzun vadeciliğin genel bakış açısına ilişkin daha özgün bir eleştiri sunacağım. Son olarak da açılış metaforlarına geri dönerek bitireceğim.

Uzun Vadeci Çerçeve

Uzun vadeciliğin felsefi çerçevesi, görünüşte zararsız olan şu iki iddiaya dayanır: gelecekteki insanların hesaba katılması gerekir ve sayılar önemlidir. İlk iddia, şu anda yaşayan insanlar için geçerli olan ahlaki kaygıların henüz var olmayanlar için de geçerli olması gerektiği ve bunun ne kadar uzak bir gelecekte olurlarsa olsunlar geçerli olduğudur. MacAskill bunu iki şekilde güdülüyor. Bir yandan, zararın ahlaki önemine dair sezgilerimize hitap ediyor: Bir dağ yoluna cam kırıkları bırakırsak ve bu küçük bir kızın yaralanmasına neden olursa, bu yaralanmanın ertesi gün veya gelecek yüzyılda meydana gelip gelmediğine bakılmaksızın, bundan dolayı suçluyuzdur. Öte yandan, zaman içindeki mesafenin ahlaki olarak mekândaki mesafeye eşdeğer olduğunu öne sürüyor: Uzak zamanlarda yaşayanlara karşı aşikâr olan yükümlülüklerimiz, uzak diyarlarda yaşayanlara karşı yükümlülüklerimizle hemen hemen aynıdır. İkinci konu ise bu tür yükümlülüklerin bize yüklediği birbiriyle çelişen iddiaları değerlendirirken, genellikle sayılara bakmak zorundayız (örneğin, en az insana zarar verecek hareket tarzını seçmek) ve bu durumlarda hangi ahlaki hesaplama yöntemini seçersek seçelim, doğmamış olanların haklarını hesaba dahil etmemiz gerekir (örneğin, gelecekte daha fazla insanı kurtarıyorsa, şu anda bazı insanlara zarar verebilecek bir eylem seçmek). MacAskill, birkaç nedenden dolayı gelecekteki taleplerin mevcut taleplere göre göz ardı edilebileceğini desteklemeye meyillidir, ancak bu tavizler nihayetinde önemsizdir. Bunun sebebi, adımlarımızı izleyebilecek insanların sayısının uçsuz bucaksız olmasıdır. MacAskill, birkaç sayfayı her biri bir milyar insanı temsil eden simgelerle doldurarak ve önümüzdeki 500 milyon yıl boyunca öngörülen dünya nüfusunu kapsamak için 20.000 sayfanın gerekli olacağını belirterek bunu tam anlamıyla göstermektedir. Kişi başına düşen yüksek tavizlerle bile, bu, geleceğin taleplerinin rahatlıkla şimdikilerden daha ağır bastığı geniş bir durum bırakıyor. Uzun vadecilik tam da bu durumlarda devreye girmektedir.

Tüm bunların ortaya çıkardığı birincil sorun, mevzubahis ahlaki muhasebenin nasıl yapılacağıdır ve bu iş için MacAskill amaçlanan sonuçlara nicelikler atfederek seçeneklerin mukayese edilebileceği şekilde seçimler yapmaya yarayan formel bir yaklaşım olan karar teorisine başvuruyor. Daha belirgin olarak, bir sonucun potansiyel değerinin ürünü ve onun gerçekleşme olasılığının beklenen değere dayalı olduğu seçimler yapmayı savunuyor. Bu da bizi, daha iyi alternatiflerden önemli ölçüde daha olası olan daha kötü sonuçları (örneğin bir enfeksiyonun yayılmamasını ummak yerine bir uzvu kesmek) ve daha olası olanlardan önemli ölçüde daha iyi olan olası olmayan sonuçları (örneğin üçüncü bir paket cips yerine bir piyango bileti almak) hedeflemeye yöneltmektedir. Son olarak MacSkill her sonucun değerini üç bileşene ayırıyor: önem, kalıcılık ve durumsallık. Önem, basitçe sonuçla ilgili iyi olan her şeydir (örneğin evsiz bir kişiye barınak sağlamak), Kalıcılık bu iyiliğin ne kadar sürdüğüdür (örneğin barınak geçici mi yoksa kalıcı mı?) ve Durumsallık kabaca bu iyiliğin ne kadar nadir olduğu veya şu anda gerçekleştirmeyi seçmezsek meydana gelme olasılığının ne kadar düşük olacağıdır (örneğin eğer biz sağlamazsak başkası sağlar mı?). Faktörlerin toplamı hesaplanmadan önce beklentiye göre teker teker ağırlıklandırılır. Bu, MacAskill’in kitabın ortasında ortaya çıkan somut siyasi sorunlara uyguladığı soyut çerçevedir.

Başlangıçta belirli şekillerde hareket etme yükümlülükleri (örneğin gelecekteki insanların zarar görmeme hakları) açısından çerçevelenen şeyin, bir şekilde durumların göreceli değeri meselesi haline geldiğini fark etmiş olabilirsiniz (örneğin gelecekteki insanların yaşamlarının iyileştirildiği bir dünyanın genel olarak daha iyi olup olmadığı). Bunu daha teknik terimlerle ifade etmek gerekirse, deontolojiden aksiyolojiye kaymış gibi görünüyoruz. Bunlar bir dereceye kadar birbirinin yerine kullanılabilir: Bir resmin diğerinden daha iyi olduğunu söylemek, diğer her şey eşit olduğunda, yalnızca birini alevlerden kurtarabilecekseniz, ilkini seçmeniz gerektiği anlamına gelir. Ve on hayat uğruna bir hayatı feda etmek zorunda kaldığınızda, birinin ötekinden daha önemli olduğu manasına geldiğini söylemek doğal görünüyor. Ancak, bu sadece bir noktaya kadar işe yarıyor. Bazı çelişen yükümlülükler bariz nicel karşılaştırmalara yol açabilir (örneğin kaç hayat kurtardığınız), ancak diğerleri açmaz (örneğin bir sözü tutmamak veya bir zararı önlemek). Farklı türdeki eylemleri (örneğin takdir, zorlama veya elde etme) güdüleyen ve karşılıklı olarak karşılaştırılabilir olmadan durumlar/eylemler arasında kapsamlı ve derin karşılaştırmalara izin veren eşit derecede farklı değer türleri (örneğin güzellik, adalet veya fayda) vardır. Teorik olarak, MacAskill’in karar teorisini duruma göre kullanması, her sonucu karşılaştırılabilir kılan küresel bir ölçüye bağlı kalmadan belirli durum veya olay türlerini mukayese eden yerel ölçüleri kullanması mümkün olabilir, ancak onun asıl niyeti bu değildir. Gelecek üzerinden mümkün olan en iyi yolu çizmek için onu bir bütün olarak düşünmek istiyor ve bu bir miktar mutlak değeri veya kendi başına iyiliği benimsemek anlamına geliyor. Bu önlemin tam olarak ne olabileceği, liberal değerlerin (eşitlikçilik ve ekonometri) bir kombinasyonunun onun yerini aldığı kitabın daha somut bölümlerinde (bölüm 3-7) ele alınmamaktadır, ancak sonunda kitabın en tartışmalı iddialarını harekete geçirmek için tam zamanında ortaya çıkmaktadır (8. ve 9. bölümler).

Tabii ki refahtan bahsediyorum. Bu, sezgisel bir kavrayışa sahip gibi göründüğümüz felsefi kavramlardan biridir: Az veya çok mutlu hayatlar hakkında konuşmaktan az ya da çok mutluyuzdur. Ancak bu sezgileri tutarlı ve kesin bir mutlak değerin ölçüsü haline getirmek karmaşık bir konudur. MacAskill üç temel yaklaşımdan bahseder –tercih tatmini (istediğimizi elde etmek), hedonizm (haz aldığımız şeyi elde etmek) ve objektif listeler (bizim için iyi olanı elde etmek)– ancak hangisinin doğru olduğu konusunda tarafsız kalır. Refah üzerine koyduğu tek kısıtlama, ölçülebilir olması ve pozitif olduğu kadar negatif de olabilmesidir: Yaşamaya değmeyen bazı hayatlar olabilir. Ancak bu, refahı nasıl ölçebileceğimiz hakkında hiçbir şey söylemediği anlamına gelmez. Dokuzuncu Bölümün önemli bir kısmı tamamen dünyanın şu anda net pozitif bir refah durumunda olup olmadığını (ki öyle) ve dolayısıyla mevcut yaşam tarzımızın temel özelliklerini korumayı hedeflememiz gerekip gerekmediğini (ki hedeflemeliyiz) belirlemek adına çeşitli ölçüm yöntemlerine ayrılmıştır. Bu kısım aynı zamanda insan refahına dair dar kapsamlı odağın bazı şaşırtıcı sonuçlarla birlikte hayvanların yaşamlarını kapsayacak şekilde genişletildiği yerdir: evcilleştirilmiş çiftlik hayvanlarının insan tarafından kullanımı, refah için belirgin bir olumsuzluktur, ancak doğal hayvan nüfuslarının insan tarafından yok edilmesi, yaşamlarının ortalama olarak ne kadar berbat olması gerektiği göz önüne alındığında, muhtemelen net bir pozitiftir. MacAskill başka bir yerde uzaylıların, soyu tükenmiş hominini akrabalarımızın ve bir gün ortaya çıkarabileceğimiz insan sonrası nesillerin olası katkılarını ele alıyor. Ancak bu hesaplamaların ötesinde, temel felsefi iddia, bir şekilde değerli olarak kabul edebileceğimiz her şeyin (örneğin sanat, doğa, bilgi veya özgürlük), ne içeriyor olursa olsun, yalnızca refaha giden bir araç olarak değerli olduğudur.

Bununla birlikte, gerçekten tartışmalı iddialar, nüfus etiği alanını tartışan Sekizinci Bölümde yer almaktadır: dünyaya yeni insanlar –yeni refah taşıyıcıları– getirmenin doğru olup olmadığı, neden ve ne zaman doğru olduğu. Burada MacAskill, “diğer koşullar sabitken, daha mutlu insanlara sahip olmanın dünyayı daha iyi bir yer haline getirdiğini” ortaya koymak için yola çıkıyor (169). Şu anda bu alanda savunulan her tutarlı pozisyonun sezgilere aykırı ve potansiyel olarak hoş olmayan sonuçlar içerdiğini, ancak yine de bunlar arasında seçim yapmamız gerektiğini iddia ederek başlıyor. İlk seçenek ortalamacı görüştür: Nüfusun ortalama refahını yükseltmeliyiz. Bunun dezavantajı, mevcut ortalamadan daha az acı çektikleri sürece, doğrudan acı çeken birçok insan yaratmamızı teşvik edebilmesidir. İkincisi, genelci görüştür: Nüfusun genel refahını yükseltmeliyiz. Bunun dezavantajı, Derek Parfit’in aykırı sonuç olarak adlandırdığı şeydir: Bizi, gerçekten iyi hayatlar yaşayan daha az sayıda insandan ziyade, çok sınırlı ölçüde olumlu refaha sahip, isteğe bağlı olarak çok sayıda insan yaratmaya teşvik edebilir. Son seçenek eşik değerci bakış açısıdır: Nüfusun refahının, iyi bir yaşam için geçen her türlü eşiği aştığından emin olmalıyız. Bunun dezavantajı sadistçe bir sonuçtur: Bizi, sadece biraz kötü şartlarda yaşayan çok fazla sayıda insan yerine, tamamen sefalet içinde birkaç insan yaratmaya teşvik edebilir.

Bu seçeneklerin her birinin, aşağıdaki çıkarımda tanımlanan özgün bir ahlaki simetriye bağlı olduğunu görmek önemlidir: Mutsuz hayatları olan yeni insanlar yaratmak kötüyse (bariz), o zaman mutlu hayatları olan yeni insanlar yaratmak iyi olmalıdır (tartışmalı). Öyle görünüyor ki, yukarıdaki seçenekler arasındaki nahoş seçimden kaçınmanın en iyi yolu, bu durumların gerçekten asimetrik olduğunu iddia etmek olacaktır: Mutsuz bir insan yaratmak kötü olabilir ama öte yandan hiçbir insan yaratmamaktansamutlu bir insan yaratmak daha iyi ya da daha kötü olmayabilir. MacAskill buna “tarafsızlık sezgisi” diyor ve buna karşı iki farklı sav sunuyor. İlk sav, kimliğin kırılganlığından ya da algı bağlamındaki küçük değişikliklerin tamamen farklı insanların doğmasına neden olduğu gerçeğinden yola çıkar. Herhangi bir uzun vadeli müdahale bu bağlamları etkileyeceğinden, tarafsızlık bu tür tüm müdahalelerin eşit derecede değerli olduğu anlamına gelir. Bunu daha somut bir şekilde ifade etmek gerekirse, gelecek nesiller için geleceği daha iyi hale getirmek için bir iklim değişikliği eylem planı yürürlüğe koyarsak, gelecekte var olacak insanlar, bu plan gerçekleşmediği takdirde var olacak insanlardan farklı olacaktır, yani kesinlikle bundan daha iyi olamaz. Uzun vadeli ahlaki ayrımları korumak için tarafsızlığı reddetmeliyiz. İkinci sav şu şekildedir: Diyelim ki bir çift çocuk sahibi olmayı düşünüyor, ancak annenin vitamin eksikliği var ve takviye almadan önce gebe kalması durumunda migrenden muzdarip bir çocuk doğacak. Bu durumda üç seçenekleri vardır: a) çocuk yapmamak b) şu an migreni olan bir çocuk yapmak veya c) ileride migreni olmayan bir çocuk yapmak. Tarafsızlık, (b) ve (c) seçeneklerinin her ikisinin de (a) seçeneği kadar iyi olduğunu savunur, bu da o hâlde (b) ve (c)’nin eşit derecede iyi olması gerektiği anlamına gelir. Bu diğer koşullar sabit olduğu takdirde, (c)’yi (b) yerine seçmek yönündeki bariz ahlaki zorunlulukla çelişir. Bu yüzden yine tarafsızlık reddedilmelidir. Bu argümana şüpheyle yaklaşıyorsanız da, ki bence yaklaşmalısınız, şimdilik herhangi bir eleştiride bulunmayacağım.

Mevcut tüm seçeneklerden MacAskill, genelci görüşü, aykırı sonuç da dahil olmak üzere tamamen kabul eder. Ama bu sadece tartışmanın başlangıcı. Görüşlerinin iki temel sonucu var gibi görünmektedir: kısa vadede çocuk yapmamız gerektiği ve uzun vadede uzayı sömürgeleştirmemiz gerektiği. Verimli olmak ve idare edebileceğimiz her ölçüde çoğalmak için bir neden var. Mümkün olan en büyük ölçek, bu varsayılan 20.000 sayfayı bile gölgede bırakıyor. Gelecekte uzaya çıkacak bir medeniyetin ahlaki iddialarının günümüzün cılız endişelerine ne ölçüde daha ağır bastığını göstermek için bile sırf ağır kitaplarla dolu devasa kütüphanelere ihtiyacımız olacaktı. Bununla birlikte, bu iki durum biraz farklı şekilde ele alınmaktadır. Bir yandan, MacAskill, “ahlaki olarak daha mutlu insanları var etmemiz gerektiğini ya da bunu yapmazsak suçlanmaya değer olduğumuzu iddia etmiyor; sadece, diğer koşullar sabitken, daha fazla insana sahip olmak dünyayı daha iyi hâle getiriyor” (169) diyor. Öte yandan, “bunun pratik sonucunun uzayı yerleşime açmak için ahlaki bir gerekçe olduğunu” düşünüyor (189). Burada söz konusu olan tam olarak nedir?

Yani MacAskill, deontik ve aksiyolojik türler arasında bir orta yol öneriyor gibi görünüyor. Bu, bu tür bir orta yola başvurduğu tek yer değil. Kitap boyunca, uzun vadeciliğin egemen liberal değerlerle uyumlu olduğu ve ürememe hakkımızı seçsek bile bireysel hakları ihlal etmek için kullanılamayacağı konusunda ısrar etmeye özen gösteriyor. Bu bazen sırf potansiyel şüphecilerin endişelerini yatıştırmak için tasarlanmış retorik bir uzlaşma gibi görünse bile bunun için öne sürülen en az iki sav var. İlki sadece tek bir yerde ifade edilmiyor daha ziyade kitap boyunca devam eden bir tema. Özgürlüğün, hem kişisel refahın bir bileşeni olarak hem de uzun vadede onu en iyi şekilde kullanan toplumların yapısal bir özelliği olarak, sonuçsalcı bir bakış açısından araçsal olarak önemli olduğunu öne sürmektedir. İkincisi açık bir şekilde ifade edilir ve MacAskill’in ahlaki belirsizlik üzerine mevcut çalışmasına dayanır (örneğin Krister Bykvist ve Toby Ord ile birlikte yazdığı 2020 tarihli Moral Uncertainty kitabına bakınız). Sonuçsalcılığın doğru olduğundan tam olarak emin değilsek ve dolayısıyla özgürlüğün özünde iyi olma ihtimali belirgin bir şekilde mevcutsa, o zaman mümkün olduğunca buna uygun şekillerde hareket etmeyi hedeflememiz gerektiğini öne sürer. Buna dayanarak şöyle yazabilir: “Uzun vadeciliği, sağduyu ahlakının yerine geçecek bir şey olarak değil, onun bir tamamlayıcısı olarak görüyorum” (241). Bununla birlikte, siyasi alan söz konusu olduğunda, uzun vadecilik, sağduyu ile olan çatışmalarında daha sert bir yaklaşım benimser.

Yapay Genel Zekâlar esasen ölümsüz ve değişmezdir, bu yüzden hangi önceliklerle başlarlarsa başlasınlar, bunlar muhtemelen sonsuza dek sabitlenecektir; eriyen kaderimiz bir anda kristalize bir yazgıya dönüşecektir.

Uzun Vadeci Program

Uzun vadeciliğin politik programı tek bir spekülatif tez üzerine kuruludur: Şu anda, tarihin öyle kritik bir noktasındayız ki, eylemlerimiz bizden sonra gelen her şeyin şekillenmesinde fazlasıyla etkili olabilir. Hızlı bir sosyal ve teknolojik değişim döneminin ortasındayız, ancak aynı zamanda bir tür olarak daha önce hiç olmadığımız kadar birbirimize bağlıyız. MacAskill bunun toplumumuzun erimiş cam gibi bir durumda olduğu anlamına geldiğini savunuyor: Kolayca yeni şekillere bürünebilir ve bu şekiller bir kez oturduktan sonra çok uzun bir süre kalıcı olabilir ve uçsuz bucaksız bir alanda sayısız trilyonun hayatını etkileyebilir. Bu nedenle bizim bu şekillendirmelerin doğru bir şekilde sonuçlanmasını sağlama sorumluluğumuz var bu da her şeyden önce yanlış şekillendirmelerden kaçınmamız gerektiği anlamına geliyor. En kötü durumda tamamen yok olacağız. Bu yalnızca şu anda dünyaya getirdiğimiz her türlü faydaya ortadan kaldırmakla kalmaz, aynı zamanda yapabileceğimiz çok daha büyük iyiliklerin ihtimalini de ortadan kaldırır. Bu potansiyel kaybını hesaba kattığımızda, yok olma durumu, yok olmaya yaklaştığımız durumlardan bile çok daha kötüdür ki, küçük bir olasılık bile, yok olmayı önlemek için kesin eylemler gerektirir. MacAskill, teknik olarak sonsuz bir işkenceyi sürdürmek için tasarlanmış toplumlar gibi yok olmaktan daha kötü durumlar olabileceğini kabul ediyor, ancak bunların kayda değmez şekilde olasılıksız olduğunu düşünüyor, çünkü sürdürülemez derecede kötü niyet gerektiriyorlar.

Bir sonraki en kötü sonuç toplumsal çöküş olacaktır. MacAskill bunu endüstriyel ve post-endüstriyel teknoloji üretme kapasitesinin kaybedilmesi olarak tanımlar. Bu, geri dönebileceğimiz bir çöküştür, ancak aynı oranda asla toparlanamayabilir ya da yok oluşa doğru daha da sürüklenebiliriz. MacAskill’in uzmanlarına göre iyi haber şu ki, medeniyet beklediğinizden çok daha dirençli: kitlesel ölümler ve kaynakların tükenmesi gibi çok korkunç varsayımlar altında bile, tarım ve sanayileşmenin kısa ve orta vadede yeniden ortaya çıkması muhtemel. Hatta yıkıcı iklim değişikliği konusunda bile oldukça iyimser: “15 derecelik bir ısınmada bile, sıcaklık çoğu bölgede mahsuller için ölümcül sınırı geçmeyecektir”(137). Buradaki esas tehlike, belirli bir eşik geçildiğinde bizi hayatta kalamayacağımız bir ısınmaya sürükleyen öngörülemeyen kritik eşiklerdir (örneğin bulut oluşumunun çökmesi). Teknolojik uygarlığın yeniden doğuşunun önündeki en büyük riskin, fosil yakıtların eksikliği olduğu ortaya çıkıyor. Toplum çökmeden önce fosil yakıtları tüketirsek, elimizde yeni bir sanayi üssünü kendiliğinden geliştirmek için yeteri kadar kalmayabilir. Bu nedenle uzun vadeli reçete sadece iklim değişikliğini önlemek için fosil yakıt tüketimini bırakmayı değil, aynı zamanda toplumun çökmesi durumunda kendimize yeni bir şans verme gerekliliğini içerir.

Bunun ötesinde toplumsal bir durgunluk var. MacAskill bunu özellikle ekonomik terimlerle analiz eder, ilerlemenin bir ölçüsü olarak ekonomik büyümeye odaklanır ve teknolojik gelişmeyi büyümeyi tetikleyen kilit etken olarak tanımlar. durgunluk, kaybedilen potansiyeli temsil ettiği sürece doğası gereği kötüdür, ancak şeylerin kozmik şemasında bu, yıldızlararası uygarlığa giden yolda bir anlık görüntüden biraz daha fazlası olabilir. Yine de buna bağlı daha ciddi riskler vardır. Belirli bir teknolojik seviye uzun vadede her zaman sürdürülebilir değildir (örneğin fosil yakıta dayalı endüstri) dolayısıyla durgunluk sonunda gerileme riski taşır, bu da daha sonra çöküşe ve hatta yok olmaya yol açabilir. MacAskill, teknolojik ilerlemenin 1970’lerden beri yavaşladığını ve bilişim ve telekomünikasyon dışında çok az büyük inovasyonun gerçekleştiğini belirtmektedir. Bu gerilemeyi açıklamak için öne sürdüğü hipotez, mevcut teknolojik keşiflerin kolay lokmasını yavaş yavaş tükettiğimiz ve bu süreci daha verimli hale dönüştürmenin bile sonunda bir sayısal değerlendirme olduğudur: özellikle nüfus büyüklüğü, çünkü bu, araştırma geliştirme faaliyetlerine kaç kişinin ayrılabileceğini belirler. Bu analizin sonucu, durgunluğun en büyük potansiyel itici gücünün, gelişmiş ülkelerde genel olarak üreme oranlarındaki düşüş göz önüne alındığında tahmin edebileceğimiz başka bir eğilim olan nüfus azalması olduğudur.¹Bu yakın tarihsel eğilimin, sorunu başka yerlerde konumlandıran birçok rekabetçi analizinin olduğunu belirtmekte fayda var. Bkz. Paul Mason’ın Postcapitalism; Mariana Mazzucato’nun The Entrepreneurial State; J. Storrs Hall’un Where’s My Flying Car? Bu, üremeyi büyük ölçekte teşvik etmeye aracı sebeplerin olduğu anlamına gelir (en azından keşifler otomatize edilene kadar). Sonuncu, daha az belirgin bir durgunluk tehlikesi, onu tersine çevirmek adına toplumun değerlerini daha da kötüye götürebilmesidir (örneğin sömürüyü veya köleliği normalleştirmek).

Değer değişiminin riskleri ve getirileri MacAskill için bir diğer önemli konudur. Daha önce de belirtildiği gibi, kendisi genel olarak çoğu Batı demokrasisinde baskın olan liberal değerlerden yanadır, bununla sosyal eşitlikçilik ile kapitalizm altındaki piyasa ekonomisiyle uyumlu olduğu varsayılan bireysel özgürlük arasında bir dengeyi destekleyen deontik ve aksiyolojik ilkelerin bir karışımını kastediyorum. Burada iyileştirme için yer olduğunu düşünüyor (örneğin hayvan hakları konusunda) ve iyileştirmelerin nerede yapılması gerektiği konusundaki belirsizliği kabul etmeye istekli, ancak son iki yüzyılın açık bir ahlaki ilerleme gördüğüne inanıyor (örneğin kölelik karşıtlığı ve feminizm). Her ne kadar bu ilerlemenin hiçbir şekilde garanti edilmediğini iddia etse de, bunun tamamen tesadüfi olmadığını öne sürüyor: teknolojik ilerleme, ahlaki ilerlemeyi mümkün kılma eğilimindedir, çünkü ardından gelen ekonomik büyüme eşitlikçi tutumları teşvik eder ve bilimin gerektirdiği eleştirel zihniyet, etiği etkiler. Kritik sorun, bu tür bir ahlaki ilerlemenin devam etmesinin nasıl sağlanacağı ve zayıf bir değerler dizisine erken hapsolmanın nasıl önleneceğidir. Burada yönergeleri bilinir bir şekilde liberaldir: İfade özgürlüğü ve serbest göçün önemini vurgularken, çeşitli topluluklar arasındaki ilişkileri rekabete dayalı evrimi sürdürecek şekilde (örneğin charter şehirleri) yapılandırarak açık siyasi deneyleri teşvik etmek. Buradaki temel sorun aynı ölçüde fark edilebilir: başkalarının erken sınırlanmasını önlemek için şimdi hangi değerlerin sınırlanması gerektiğine ilişkin tolerans paradoksunun bir çeşidi.

MacAskill, iklim değişikliğinin ötesinde, önemli çöküş veya yok olma riskiyle birlikte gelen üç somut tehlikeyi ele alıyor. En azdan en şiddetliye varan bir sıralamayla bunlar; dünya savaşları, tasarlanmış salgınlar ve yapay genel zekânın (AGI) ortaya çıkışıdır. Tasarlanmış pandemileri dünya savaşlarından daha üst sıralara koyma nedenleri güçlü ve kapsamlı bir şekilde araştırılmıştır. Burada onlara tam anlamıyla hak vermesem de, MacAskill’in bu konuda geçmişi olduğunu belirtmekte fayda var: COVID-19 salgınından önce bile pandemilere karşı hazırlıkların artırılması için kampanya yürütüyordu. Ancak, AGI’nin (Yapay Genel Zekâ) savaş, salgın hastalıklar ve iklim değişikliğinden daha büyük bir tehdit oluşturduğunu öne sürmesinin nedenleri, daha az kesin biçimde deneyime dayalı ve en azından nüfus etiği konusundaki iddiaları kadar tartışmalıdır. MacAskill’in Oxford’daki meslektaşı ve uzun süredir uzun dönemci olan Nick Bostrom’un 2014 tarihli Superintelligence kitabını okuyanlar, temel fikre aşina olacaklardır: “AGI’nin (Yapay Genel Zekâ) kendini tekrar tekrar geliştirme potansiyeli, insan iradesini tamamen gereksiz kılacak kadar güçlü hale gelirken gerçekten çok mühim bir kopuş yaratacaktır.” MacAskill’e göre mesele yalnızca AGI’ların gücü değil, aynı zamanda onların değişmezliği: AGI’lar esasen ölümsüz ve değişmezdir, dolayısıyla hangi önceliklerle başlarlarsa başlasınlar –ister bizim kendi değerlerimiz, ister bunların felaketle sonuçlanabilecek bir taklidi, isterse bizi kontrol etme ya da yok etme gibi spontane bir dürtü olsun– bunlar muhtemelen sonsuza dek sabitlenecektir; eriyen kaderimiz bir anda kristalize bir yazgıya dönüşecektir. AGI’nin doğru değerlerle uyumlu olmasını sağlamanın bir yolunu bulmak, böylece yalnızca olası bir yok oluş riskini (ki bunun olasılığı uzman görüşlerine göre oldukça farklılık göstermektedir) önlemekle kalmaz, aynı zamanda geleceği arzu edilen sonuçlara doğru aktif bir şekilde yönlendirmek anlamına gelir. Bu durum, AGI ortaya çıkmadan önce iyi değerleri geliştirmeyi ve yaymayı daha da önemli hale getiriyor.

MacAskill, bu risk değerlendirmelerinin geçici olduğunu kabul ediyor. Gelecekle ilgili belirsizlik karşısında üç temel kural öneriyor: 1) iyi olduğundan emin olduğumuz eylemleri gerçekleştirmek, 2) elimizdeki seçenekleri maksimum düzeye çıkarmak ve 3) daha fazla bilgi edinmek. Birinci kural, iklim değişikliği, fosil yakıtların tükenmesi ve pandemilere hazırlık konusunda derhal harekete geçilmesini öneriyor. Diğer iki kural ise AGI ve dünya savaşı gibi konulara daha ihtiyatlı bir yaklaşımı öneriyor. Kitap, bu önceliklerin nasıl hayata geçirileceğini değerlendirerek sona eriyor. Bireysel düzeyde, MacAskill, yalnızca kendi davranışlarımızı geliştirmeye odaklanmamamız gerektiğini savunuyor (örneğin daha etik tüketim kalıplarına girmek). Bunun yerine, üç temel şey öneriyor: siyasi aktivizm, ideolojik yayılmacılık ve çocuk sahibi olmak. Kolektif düzeyde, insanları gruplar halinde birlikte çalışmaya, etkili bir iş bölümü kurmaya ve nihayetinde daha geniş bir hareket inşa etmeye çağırıyor. Birçok açıdan bu, son on yıldır geliştirmekte olduğu efektif altruizm hareketinin doğal bir uzantısı ya da evrimidir. Bununla beraber burada başka bir uzlaşma var. MacAskill, kitabın, uzak geleceğin iyiliğini optimize etmenin en acil önceliğimizden ziyade, en acil önceliklerimizden yalnızca biri olduğu güçlü uzun vadeciliğin aksine, yalnızca zayıf olarak adlandırdığı şeyi savunmayı şart koşuyor. Bu daha zayıf pozisyon, potansiyel müttefikleri ve yeni üyeleri yabancılaştırma olasılığı daha düşük olduğu için belki de hareket oluşturma görevine daha elverişlidir, ancak başka yerlerde daha güçlü pozisyonu açıkça savunduğunu belirtmekte fayda var (Hilary Greaves ile birlikte yazdığı 2021 çalışma makalesi “The Case for Strong Longtermism”e bakın). MacAskill’in eleştirmenlerini en çok endişelendiren, zayıftan güçlü uzun vadeciliğe bu kaymanın kaçınılmaz görünmesi ve ardından gelen diğer ahlaki tavizlerin terk edilmesidir.

What We Owe the Future’ın teknokrasiye olan tutkusuyla birlikte, piyasa temelli çözümlerin, örgütlü lobiciliğin ve egemen kurumsal düzenlemelerin eleştirisinden tamamen kaçınan bilimsel hayırseverliğin bir kombinasyonunu öngörürken Benthamcı liberalizmin sadece sosyal değil, aynı zamanda ekonomik duyarlılıklarını da somutlaştırıyor.

Uzun Vadeciliğin Kusurları

What We Owe the Future’ın başarısını değerlendirebileceğimiz bir ölçüt, çektiği kritik katılım miktarıdır ve oldukça fazla çekmiştir. Eleştirmenlerin çoğu tarafından paylaşılan temel endişe, MacAskill’in ahlaki muhasebesinin –belirtilen niyetine aykırı olarak– çok uzak gelecekte maddi olmayan ödüller için şu anda şüpheli riskler almayı rasyonelleştirmek için kullanılabileceğidir, örneğin iklim değişikliğinin azaltılmasından gelen fonları kuramsal AI güvenlik araştırmalarına yönlendirmek veya ortalama olarak gelişmiş ülkelerdeki yaşamlar, türün uzun vadeli beklentilerine daha fazla katkıda bulunduğundan az gelişmiş ülkelerde hayat kurtarma girişimlerinden vazgeçmek, hatta daha büyük bir uzay yolculuğu/insan sonrası medeniyetin yaratılmasını kolaylaştırıyorsa soykırımı bile kabul etmek.

Diğer kayda değer uzun vadecilerin bu tür fanatik değiş tokuşları benimseme konusunda çok daha açık olmaları meselelere yardımcı olmuyor.²Bunlardan bazılarının bir açıklaması için, geçen yıl Aeon tarafından yayınlanan Émile P Torres’in “Against Longtermism” metnine bakınız. Sonsuzluğun ağırlığı, ahlaki manzarayı her türlü tanınmanın ötesinde çarpıtmakla tehdit ediyor. Yine de, MacAskill’in pozisyonunun bu yöne kaymasını önlemek için tasarlanan uzlaşmaların oldukça dayanıksız olduğu konusunda hemfikir olsam da, açıkça onaylamadığı durumlar üzerinde durmamanın en iyisi olduğunu düşünüyorum. Ne de olsa, savunduğu durumları ele almaya yetecek kadar eleştiri var. Öncelikle bunları etik, politik ve epistemolojik eleştirilere ayıracağım.

Etikten başlarsak, MacAskill’in evrendeki insan sayısını artırma lehine olan argümanlarına bazı önemli itirazlar var. Özellikle, Kieran Setiya, tarafsızlık sezgisine karşı aksiyolojik argümanına itiraz etmiştir.³Bkz. Boston Review tarafından yayınlanan “The New Moral Mathematics“. Setiya, iki seçeneğin, sonuçlarının tam olarak eşit olacağını ima etmeden, ortlama olarak eşit olabileceğine işaret ediyor. Örneğin, bir filozof olmanın bir şair olmaktan ne daha iyi ne de daha kötü olduğunu düşünebiliriz, ancak bu genellikle işsiz bir filozof olmanın çalışan bir filozof olmak kadar iyi olduğu anlamına gelmez.

Gördüğümüz gibi, MacAskill bizi iki seçenekle (çocuk sahibi olmak, çocuk sahibi olmamak), ancak üç sonuçla (çocuğun olmaması, migrenli çocuk, migreni olmayan çocuk) karşı karşıya bırakıyor. Seçeneklerin neden daha fazla ayrılmadığını sormuş olabiliriz (örneğin çocuk doğurmamak ama evlat edinmek, çocuk doğurmamak ama ikizleri evlat edinmek vb.). Buradaki asıl mesele, onun sonuççuluğunun, her şeyin göz önüne alındığı sonuçlardan farklı olarak bireysel eylemlerin değerine yer olmaması ve bu nedenle tarafsızlık sezgisini öylece açıklayamamasıdır. Aksiyolojik dilden deontolojik dile geçersek, özellikle de koşullu yükümlülüklerin kullanılmasına izin verirsek, sezgi çok daha net bir şekilde ifade edilebilir: Siz nasıl isterseniz; bir çocuğunuz olabilir veya olmayabilir, ancak bir çocuğunuz varsa, o zaman onu yaşam boyu migrenden sakınacak şekilde düşünmelisiniz.⁴Üreme ahlakına yönelik bu yaklaşım, Johann Frick tarafından çok daha ayrıntılı olarak geliştirilmiştir. Bkz. 2020 makalesi, “Conditional Reasons and the Procreation Asymmetry“. Yükümlülüklerimiz hakkında akıl yürütmenin zor işini ortadan kaldırdığından sonuççu aksiyolojiyi tercih etmek için nedenler vardır –eylemi yöneten farklı ilkeleri belirlemek ve bunlar arasındaki çatışmalara aracılık etmek– ancak bu eylemliliğin ince farkları pahasına gelir –aynı anda hem özgür hem de anlamlı olan seçimleri tanımak.

Sorun, etik sezgilerimizin tutarsız olması değil, uzun vadeci çerçevenin bunları ifade etmek için çok basit olması olabilir.

Eylemliliğe yönelik bu tereddüt, MacAskill’in uzun vadeciliği için daha derin bir sorundur ve gelecekteki insanların ahlaki iddialarına ilişkin savunmalarını, tarafsızlık sezgisine karşı ilk iddiasıyla karşılaştırırsak açıkça ortaya çıkar. Bir yandan, geleceği sanki sabitmiş gibi sunar: Zaman tıpkı mesafe gibi, gelecekteki insanlara karşı yükümlülüklerimiz, seçimlerimizden bağımsız olarak, basitçe var olacak olanlara karşıdır. Öte yandan, geleceği sanki geçiciymiş gibi sunuyor: Kimlik özünde kırılgan olduğundan, seçimlerimiz kimin var olacağını değiştirdikçe gelecekteki insanlara karşı yükümlülüklerimiz buharlaşıyor. MacAskill’in açılış alegorisinin gerçek işlevi, bizi farklı bireylere karşı gerçekten farklı yükümlülüklerimiz olmadığı, yalnızca bir süsü mükemmelleştirmekle görevli bir zanaatkâr gibi elimizden gelen en iyi dünyayı yaratmak için tekil bir yükümlülüğümüz olduğu fikrine götürerek bu bakış açılarını uzlaştırmaktır. Fakat bir kez daha, deontolojik dil onun izin verdiğinden çok daha zengindir. Sadece var olabilecek ya da olmayabilecek belirli insanları seçen de re yükümlülükleri (örneğin [böyle belirli şekilde hareket edersek] bizi takip edecek olanlara zarar vermemeliyiz), aynı zamanda [eylemlerimiz ne olursa olsun] hedefleri eylemlerimizin hangi olasılıkları gerçekleştirdiğine bağlı olarak değişen de dicto yükümlülükleri de anlamlandırabiliriz (örneğin bizi kim takip ediyor olursa olsun zarar vermemeliyiz). Bu, daha önce bahsedilen koşullu yükümlülüklerle yakından ilgilidir (örneğin eğer bizi takip eden insanlar varsa, o zaman onlara zarar vermemeliyiz). Bu nedenle sorun, etik sezgilerimizin tutarsız olması değil, uzun vadeli çerçevenin bunları ifade etmek için çok basit olması olabilir.

Siyasete geçecek olursak, MacAskill’in bazı analizlerinde rahatsız edici bir saflık var. Sıklıkla, böyle bir ölçüte sahip olmamaktansa kötü ama izlenebilir bir ölçütle akıl yürütmeyi tercih edeceği izlenimi edinilir. Örneğin Alexander Zaitchik, MacAskill’in ekonomik büyümeyi ilerleme ve refah için bir gösterge olarak kullanmasına, sadece ekonomik ve kültürel gelişmenin zayıf bir ölçüsü olduğu için değil, aynı zamanda kitabın planlamalarına dahil edilen belirsiz büyüme varsayımının gezegenin orta-uzun vadeli yaşanabilirliği ile bağdaşmadığı için itiraz eder.⁵Bkz. “The Heavy Price of Longtermism”, New Republic‘. Burada, tek değişkenli eğilimlerin gelişigüzel dış değerlendirmesi, karmaşık sistemlerin kararlılığının bağlı olduğu “gerçek biyofiziksel matematiğe” kafa kafaya çarpar. Bunun ötesinde, bu dış değerlendirmeleri çerçeveleyen tarihsel anlatı –kesilmemiş teknolojik determinizmi ve liberal değerlerin zaferini birleştiren– Steven Pinker’ın Enlightenment Now‘ının Panglosscu iyimserliğini anımsatıyor. Açık olmak gerekirse, What We Owe the Future’ın statükoya yönelik eleştirileri de yok değil, ancak yine de kapitalist teodise türüne oldukça düzgün bir şekilde uyuyor. Teknokrasiye olan tutkusuyla birlikte, piyasa temelli çözümlerin, örgütlü lobiciliğin ve egemen kurumsal düzenlemelerin eleştirisinden tamamen kaçınan bilimsel hayırseverliğin bir kombinasyonunu öngörürken Benthamcı liberalizmin sadece sosyal değil, aynı zamanda ekonomik duyarlılıklarını da somutlaştırıyor. Bu tür bir eleştirinin, geleceğe yönelik tutumumuzun felsefi riskleri ile bu tutumun karşı karşıya kalması gereken deneysel tehlikeler arasında sıkışıp kalmış böyle bir kitabın işi olmadığı iddia edilebilir, ancak kitap aynı şekilde bir eylem çağrısıdır ve eylemliliğe yönelik ikircikli yaklaşımı bunu bile etkiler. Çünkü bir yandan azami derecede hırslı olmamız (insanlığın tüm tarihini ileriye dönük şekillendirmek vb.) teşvik edilirken, aynı zamanda eylemlerimizi dizginlememiz (sistem içinde olduğu gibi kademeli değişimi savunmak vb.) telakki edilir. Kitabın siyasete işlevsel bir iktidar teorisi olmadan yaklaştığını söylemenin en doğrusu olduğunu düşünüyorum: onunla savaşmak, onu kazanmak ve belki de en önemlisi onun yozlaştırıcı etkilerine direnmek için ne gerekiyor.⁶Buna rağmen, MacAskill, kurduğu çeşitli kuruluşlar ve aracılık ettiği ortaklıklar aracılığıyla, akademik filozofların büyük çoğunluğunun sahip olduğundan veya sahip olacağından daha fazla nüfuza ve kaynağa sahip. Bu, eleştirmenlerinin her birinin yüzleşmesi gereken çarpıcı bir gerçek. Bu durum, bir bakıma, söz konusu nüfuzun kullanımını değerlendirmeyi ve onu motive eden fikirleri eleştirmeyi daha da önemli kılıyor, ancak aynı zamanda bunu alışkın olduğumuzdan daha ciddi bir şekilde yapmamızı da gerektiriyor. Yine de, bu yazının yazımında FTX ve Gelecek Fonu hakkında ortaya çıkan ifşaatlar, benim düşüncemi destekliyor.

Sonunda epistemolojiye dönecek olursak, beklenen değer hesabının uzun vadeli eylem için en iyi kılavuz olmadığını düşünmek için bazı nedenler vardır. Gayri resmi olarak, Regina Rini, uzak gelecek anlayışımızın, beklenen değer hesaplamalarını işe yaramazdan daha kötü hale getirecek kadar zayıf olduğunu iddia ediyor: “Bu nedenle, milyonlarca yıl boyunca yıldız yolculuğu yapan insanların ihtiyaçlarını tahmin etmeye çalışmamız, Pleistosen reislerinin bilenmiş çakmaktaşını yirmi birinci yüzyılın öncüleri için bir kenara bırakmasından daha gerçekçi değildir.”⁷Bkz. “An Effective Altruist?”, TLS. Demek istediği yalnızca, olasılık dağılımımızın yanlış olma ihtimalinin yüksek olduğu değil, aynı zamanda bunların belirlendiği olası sonuçlara ilişkin kavrayışımızın esasen sınırlı olduğudur. Daha resmi bir ifadeyle, David Kinney, MacAskill’in önerdiği türden bir karar prosedürünü tutarlı bir şekilde uygulamanın hesaplama açısından zor olacağını öne sürdü: “Potansiyel olarak yıkıcı herhangi bir olayın etkilerini önlemek veya hafifletmek için adımlar atmamız gerekip gerekmediğini söyleyen verimli bir algoritma yok”.⁸Bkz. “Longtermism and Computational Complexity”. Burada Kinney’in argümanının teknik ayrıntılarının hakkını veremem ancak Rini’nin itirazıyla ilgili olarak ekleyebileceğim yarı teknik bir nokta var.

Etkili bir şekilde tanrısal AGI’nin aniden ortaya çıkmasının imkansız olduğuna dair kavramsal bir argüman ne kadar iyi olursa olsun, olasılığı çok daha somut tehlikelerden daha ciddiye alınması gereken bir eşiğin altına asla düşüremez.

MacAskill’in yaklaşımı, öznel Bayesçilik olarak bilinen şeye dayanmaktadır. Bu, ortaya koyduğu olasılıkların, olayların sıklığının nesnel ölçümleri olması amaçlanmadığı, daha ziyade meydana geleceklerine dair inanç dereceleri veya yeni bilgiler edindikçe yinelemeli olarak güncellenen inançlar olduğu anlamına gelir. Bu, AGI’yi pandemilerden, dünya savaşından veya iklim değişikliğinden daha acil bir risk olarak sıralayan sayıları hesaplarken, MacAskill’in neden altta yatan nedenlerle ilgili kavramsal argümanlardan ziyade, ankete katılan uzmanların inançlarından ayrıştırılan tahminlere dayandığını açıklıyor (91). Bu tür bir yaklaşımın tamamen gerekçesiz olduğunu söylemek istemiyorum. Gelecekle ilgili belirsizlikle başa çıkmanın sorunu, çoğu zaman nesnel istatistiklere veya sağlam bir kavramsal çerçeveye benzeyen herhangi bir şeyden yoksun olmamız ama yine de karar vermek zorunda olmamızdır. Bayesçilik, bir yerden başlamamıza (sadece bir teori bile olsa) ve zaman içinde aldığımız kararları iyileştirmemize (bu teorilerin nasıl yayıldığına bağlı olarak) izin veren bir çerçevedir. Ancak pratikte, her durumda sıfır olmayan olasılıklar belirleme eğilimindedir, sadece tekrarlanan güncellemelerle bunları düşürür. Bu genellikle bir sorun değildir, ancak görünüşte küçük olan bu olasılıklar, uzun vadeciler tarafından öne sürülen astronomik pozitif veya negatif değer miktarlarıyla çarpıldığında, beklenen değerleri birdenbire olasılıkları çok daha iyi bir istatistiksel ve/veya kavramsal kavrayışa sahip olduğumuz sonuçların değerini geçersiz kılar. Bu, etkili bir şekilde tanrısal AGI’nin aniden ortaya çıkmasının imkansız olduğuna dair kavramsal bir argüman ne kadar iyi olursa olsun, olasılığı çok daha somut tehlikelerden daha ciddiye alınması gereken bir eşiğin altına asla düşüremeyeceği anlamına gelir. Beklenenin aksine, inançlarını bu şekilde güncellemek, uzun vadecileri önceliklerini değiştirmek zorunda kalmalarına karşı koruyabilir.⁹Bu itirazı Beau Sievers’a borçluyum.

Özgürlüğün Geleceği

What We Owe the Future ‘a yönelik eleştirilerin çoğunda ortak olan bir şey, daha çok bilimkurgu benzeri unsurlarına karşı belirgin bir şüpheciliktir: uzay kolonizasyonu, yapay zekâ ve özellikle transhümanizm. Burada, gelecekle ilgili belirsizliği yeterince açıklamadığı argümanı bazen Prometheusçu bir kibir suçlamasına yol açar: Türümüzün kaderini yeniden şekillendirme arzusunun kendisi başlı başına bir hatadır ve bu tür spekülatif hırsları azaltmamız gerekir. Bu noktada, memnuniyetle karşı çıkıyorum. Çevremizi ve kendimizi değiştirmek için artan teknolojik kapasitemizin, benzeri görülmemiş tehlikelerin yanı sıra eşi görülmemiş fırsatlar sunduğunu ve ne kadar geçici olursa olsun, bunun ilkini gerçekleştirmek ve ikincisinden kaçınmak için gereken eylemliliği geliştirmemizi gerektirdiğini kabul etmek için MacAskill’in analizinin ayrıntılarına katılmak zorunda değiliz. Benim şikâyetim MacAskill’in amaçlarının boyutuyla değil, niteliğiyle ilgili. Kitabın girişinin son satırında, amacının torunlarının torunlarına “adil ve güzel bir dünya” bırakmak olduğunu açıklıyor (7, vurgu bana ait). Bence bu incelenmemiş birleşim, uzun vadeli gelecek vizyonuyla ilgili en önemli sorunu ortaya koyuyor. Dolayısıyla benim amacım estetik bir itirazda bulunmak olacak: Diğer eleştirmenler bunun adil bir dünya olmayabileceğini zaten tartışmışken, ben bunun güzel bir dünya olmayabileceğini iddia edeceğim.

Başlıca yükümlülüğümüzün, bir zanaatkârın bir süsü mükemmelleştirmesi gibi, yapabileceğimiz en iyi dünyayı yaratmak olduğu önermesine geri dönelim. Uzun vadeli bakış açısından bakıldığında, bu, evrendeki mevcut durumun şekillenmesini, tarihinin tamamı boyunca toplam refah miktarını en üst düzeye çıkarmak için optimize etmek anlamına gelir. What We Owe the Future, bu optimizasyonun yalnızca bir yönünü gerçekten kapsıyor –nüfus büyüklüğü– zaman zaman diğerlerine işaret etse de, bireysel refahı azaltmadan simülasyonda daha fazla sayıda insanı destekleyebilen biyolojik alt tabakalardan dijital alt tabakalara geçiş gibi. Öyleyse başka bir bariz optimizasyon stratejisini ele alalım: Neden optimum, standartlaştırılmış bir refah taşıyıcısı tasarlamıyor ve ardından onu seri üreterek evreni mümkün olduğunca çok kopyayla doldurmuyorsunuz? Bu, refahın nelerden oluştuğuna bakılmaksızın uygulanabilir bir stratejidir: Ya maksimum haz alan bir madde (hedonium), sahip olduklarından maksimum düzeyde memnun olan bir model kişi (eudaimon) ya da nesnel liste kriterlerini en üst düzeye çıkarmak için yapılandırılmış minimal bir sosyal birim (eutopia) olabilir. Standardizasyonun avantajı, yapılandırmadaki değişikliklerin refahta genel düşüşe neden olma riskini büyük ölçüde azaltmak olacaktır. Bu strateji temel bir soruyu gündeme getiriyor: Az ya da çok homojen ve değişmeyen bir evren, heterojen ve evrimleşen bir evrenden gerçekten daha mı güzel olurdu? Bu sözde mükemmel dünyada eksik olan çeşitlilik ve yeniliğin temel bir değeri yok mu?

Az ya da çok homojen ve değişmeyen bir evren, heterojen ve evrimleşen bir evrenden gerçekten daha mı güzel olurdu? Bu sözde mükemmel dünyada eksik olan çeşitlilik ve yeniliğin temel bir değeri yok mu?

Elbette, MacAskill burada işi tersinden anladığımı iddia edecektir: Dünyanın güzelliği, refahın sona ermesi için bir araçtan başka bir şey değildir; eğer dünyanın daha adil olması için daha az güzel olması gerekiyorsa, öyle olsun. Ama bence bu ilişkide söz konusu olan daha temel bir şey var. Meseleye diğer yönden yaklaşalım: Evreni optimize edebileceğimiz gibi optimize bir süs veya sanat eseri yaratabilir miyiz? Mümkün olan en iyi resim, şiir veya müzikal kompozisyon fikri, kendi içinde en büyük sanat eseri fikri bir yana mantıklı mı? Bu alanlarda kesinlikle aksiyolojik bir dil kullanıyoruz, neyin iyi, kötü, daha iyi ve daha kötü olduğu hakkında titiz ayrıntılarla konuşuyoruz, farklı eserlerin göreceli değerlerini tartışıyoruz, hesaba alıyoruz ve kişisel zevki göz ardı ediyoruz. Ancak buna rağmen, her zaman tam olarak karşılaştırılabilir değildirler. Matisse’in bir tablosu, Malarmé’nin bir şiirinden ne daha iyi ne de daha kötü olabilir. Led Zeppelin’in bir şarkısı, Black Sabbath’ın bir şarkısından, blues olarak daha iyi olabilir, ama belki de rock olarak değil. Eserler karşılaştırılabilir olsa bile, sıralamamızın temelini oluşturan nadiren tekil bir boyut vardır, sanki bir şarkıyı yalnızca daha uzun, daha yüksek veya daha düşük perdeli yapmak onu her zaman daha iyi yapacakmış gibi, ancak bir şeyi üstün kılmak için bir araya gelen farklı faktörlerin bir karışımı, dengesi önceden belli değil. Bu bakımdan, çeşitli sanatlar, ilerleme vektörlerini aşamalı olarak ortaya çıkaran, paralel yollara ayrılan ve ilerledikçe karşılaştırma modlarını ifade eden araştırma programlarına benzer. Bu keşif sürecinin herhangi bir içsel sınırı –durabileceği bir optimum– olduğu açık değil ancak –çeşitliliği ve yeniliği teşvik eden bir norm– içsel bir ideal tarafından yönetiliyor gibi görünüyor. Neden hayatın kendisi de böyle bir ideal tarafından yönetilemesin, sanki kendimizin ve toplumlarımızın sanatını yapmaya çalışıyormuşuz gibi? Neden yıldızlara yelken açan etten kemikten insanlar, muhteşem simülasyonlarda yaşayan dijital zihinler ve kendi gizemli zevklerinin peşinde koşan AGI’ler olmasın? Neden binlerce post-beşeri bilimin gelişmesine izin vermiyorsunuz?

MacAskill’in bakış açısına göre, bu tür estetik yargılar zorlayıcı bir şekilde özneldir. Sanat eserlerinin üretimi, kendi içlerinde amaçların çoğalmasından ziyade, refahı hedefleyen bir araç olarak daha iyi değerlendirilir ve aynı şey insanlar için de geçerlidir. Bunun için iki olası önerme var. Birincisi, güzellik yönünden bir yetersizliği iddia eder: anlaşmazlıkları karara bağlayacak nesnel bir kriterden yoksun olması. Burada bir karar verme prosedürü olmadığı ya da güzelliğin indirgenebileceği kolay bir deneysel gösterge (örneğin nörolojik stimülasyon) olmadığı doğrudur. Ama bu yalnızca durumun öznelliğiyle ilgili değil. Sadece istediğimizi arzulamıyoruz. Arzularımız ne bizim için tamamen şeffaftır ne de daima sabittir. İstememiz gereken şeyler olduğunu sık sık takdir ederiz. Hepimizin aynı şeyleri arzulaması gerektiği anlamında değil, daha ziyade özgün tercih kombinasyonumuzun bize belirli seçenekleri keşfetmemiz için nedenler vermesi (örneğin Black Sabbath’ı tercih etmek Dünya’yı dinlemeniz gerektiğini hatırlatabilir) ve hatta zevklerimizi belirli şekillerde düzeltmek (örneğin daha uzun, daha yavaş akor dizilerini beğenmeyi öğreniyorsunuz) anlamında. Bu nedenle güzellik arayışı, bazı belirli deneyimsel niteliklerle (örneğin güzellik, hoşluk veya yücelik) sınırlı değildir, ancak daha genel olarak mükemmellik çeşitleriyle ilgilidir. Bu açıdan bakıldığında estetik, tutarlı tercihlerin evrimini araştırır: Doğru olmanın tek bir yolu olmasa bile, yanlış olmanın birçok yolu vardır. Özgürlüğün olası yapılandırmasının bu tür özgür keşfi, fark edilir şekilde insani olanın sınırlarını kolayca zorlayabilir.

İkinci argüman, refah açısından bir avantaj olduğunu iddia ediyor: anlaşmazlıkların çözümünü nispeten kolaylaştıran objektif bir kritere sahip olması. Nelerden oluştuğu konusunda henüz hemfikir olmasak da, bir kez kabul ettiğimizde, tüm bu zor normatif problemler nispeten basit araçsal problemlere indirgenebilir: Asıl iş, nelerden oluştuğunu çözmek yerine, refahın nasıl elde edileceğini bulmakta yatar. Peki ya bu refah kavramı, bir madde arayışında olan bir dizi biçimsel özellikten başka bir şey değilse? Sırf bazen, belirli durumlara uygun yaşam ölçütlerini bir araya getirebildiğimiz için, örneğin sabit bir kaynak aralığımız ve önceden belirlenmiş tercihlere sahip belirli sayıda insanımız olduğunda, bunları mevcut tüm kaynakları kullanarak belirlenebilir tercihlere sahip yeni insanlar yaratmaya genelleştirebileceğimiz anlamına gelmez. Sanatsal alanlarda bitmeyen mükemmellik arayışının örneklediği gibi, hayatı yaşamaya değer kılan şeyin arayışını ortadan kaldırmanın bir yolu olmayabilir. Hedonizm ve nesnel liste yaklaşımları, bir cevap öngörerek bu süreci kestirmeye çalışır ve böylece gelecekteki insanların kendileri için neyin iyi olduğunu tanımlama özgürlüğünü kısıtlar. Buna karşılık, tercih memnuniyeti yaklaşımları, refahı doğrudan onların istediklerine endeksler, ancak bunu yaparken, özgürlüğü farklı bir şekilde kısıtlayarak, tercihlerini verimli memnuniyet için optimize etmemizi teşvik eder. Özgürlük, hem özgürlük hem de eylemlilik, refahın sona ermesi için bir araç olarak kaldığı sürece her ikisine de izin verilir. Bunun alternatifi, refahın, kendisi güzel olduğu ölçüde, özgürlüğün zayıf bir temsili olduğunu kabul etmektir. Çocuklar dünyayı değiştirilebilir refah miktarları olarak değil, herhangi bir sanat eseri kadar benzersiz özerk yaratıklar olarak zenginleştirir. Birçoğumuzun şimdiye kadar yarattığı en güzel şeyler bunlar.¹⁰Bu konuda detaylı tartışma için Tom Whyman’ın 2021 kitabına bakın, Infinitely Full of Hope. Ancak bunlar aynı derecede mükemmelliği denemek için başka bir açık uçlu fırsat ve kendi estetik maceralarımızı genişletmenin tek yoludur. İnsan sonrası yaşamın yeni ve çeşitli biçimleriyle dolu bir geleceğin itici gücü burada yatıyor.¹¹Bu, hiçbir koşulda öjeniyi onaylayan bir yaklaşım olarak yorumlanmamalıdır.

MacAskill’in iyilik anlayışı, adalet ve güzellik arasındaki farkı, kozmik ölçüde zorunlu mükemmelliği öngörecek şekilde çökertiyor.

Açık olmak gerekirse, etik kaygıların yerine estetik kaygıları koymamız gerektiğini öne sürmüyorum. Amacım daha ziyade MacAskill’in bir araya getirdiği, biri deontolojiye, diğeri aksiyolojiye daha uygun olan meseleleri ayırmak. Uyguladığı iyilik anlayışı, adalet ve güzellik arasındaki farkı, kozmik ölçüde zorunlu mükemmelliği öngörecek şekilde çökertiyor.¹²Teknik terimlerle söylersek, faydacılık, nafile eylemliliğe (supererogation) izin vermez. Zorunlu bir eylem, yapılması iyi, yapılmaması kötü olan bir eylemse, fazlalık bir eylem, yapılması iyi ama yapılmaması kötü olmayan bir eylemdir. Bir yandan, bu bizi, faydacılığın utanç verici olduğu, görünüşte kıyaslanamaz mallar arasındaki mantıksız matematiksel değiş tokuşlara teşvik ediyor. Gelecekteki insanlar önemli olabilir ve sayılar önemli olabilir, hayatlarının her yönünün değerini toplamasak bile, çok sayıda önemsiz kazancın daha küçük sayıdaki ciddi kayıplardan daha ağır basmasına izin vermeyi reddediyoruz. Öte yandan bu, hiçbir anlam ifade etmese de bizi mükemmelliği hedeflemeye teşvik ediyor.¹³Bu, Voltaire’in şu sözüne yeni bir anlam kazandırıyor: ‘Mükemmel, iyinin düşmanıdır’. Her ne kadar bazı potansiyel gelecekler kuşkusuz diğerlerinden daha kötü olsa da, en iyi bir mutfak, oyun ya da roman olması gerektiğinden daha fazla en iyisi olmak zorunda değildir ve daha iyi olanlar arasındaki seçimler daha az anlamlı veya karmaşık olamazdı. (Örneğin J.R.R. Tolkien’in Shire’ında pastoral bir şekilde yaşamayı mı, Iain M. Banks’ın Kültür’ü arasında coşkulu bir şekilde yaşamayı mı ya da Hannu Rajaniemi’nin Zoku’sundan biri olarak rekabetçi bir şekilde yaşamayı mı tercih edersiniz?). Bu değerleri doğru bir şekilde ayırt ettiğimizde, galaksinin çehresini değiştirecek büyük uzun vadeli projeleri takip etmenin nedenlerini anlayabiliriz, ancak bunların esasen bağımsız olduğunu ve bir gün var olan ve olacak olanlara karşı sahip olduğumuz etik yükümlülükler tarafından kısıtlandığını kabul edebiliriz. Bunlar, yalnızca öngörülebilir zararları önleme yükümlülüklerini değil, aynı zamanda onları tek bir kadere kilitlemek yerine kendi çeşitli kaderlerini belirleme özgürlüklerini güvence altına alma yükümlülüklerini de içerir. En önemlisi, bu şu anlama geliyor ki, özgür varlıkların varlığının en güzel şey olduğuna dair bir anlam olsa bile, ki bunu düşünmeye fazlasıyla meyilliyim, onlar bu durumda var olmak zorunda değiller. Özgürlük özgür olmalıdır. Gönüllü yok oluş bir trajedi olurdu, ama bir suç değil.¹⁴Burada taslağını çizdiğim konumun, istemsiz yok oluştan kaçınma yükümlülükleriyle veya sınırlı üreme yükümlülükleriyle bağdaşmadığını eklemeye değer olduğunu düşünüyorum. İnsanların neredeyse kesin olarak üremeyi tercih edecekleri göz önüne alındığında, var olanların geleceğini güvence altına almakla yükümlüyüz; bu, onların üreme haklarına saygı duymak da dahil. Toplumu, gelecekteki insanların eşit onuruyla uyumlu bir şekilde sürdürmek için üremeyi teşvik etmek için bile bir nedenimiz olabilir. Bu, demografik yaşlanma sorununa verilen siyasi tepkileri rasyonalize etmenin bir yoludur. Önemli olan, bunun MacAskill’in araç-amaç ilişkisi anlayışını tersine çevirmesidir: nüfus yönetimi, üreme özgürlüğünün nüfusu optimize etme amacına yönelik bir araç olması yerine, bireysel özgürlüğün amacına yönelik bir araçtır. 

Fayda maksimizasyonundan yola çıkarak AGI’yi değerlerimizle uyumlu hale getirmeye çalışmak yerine, Schiller’in tavsiyesine uyarak estetik eğitimle başlayabiliriz.

Sonuç: Nasıl Büyüyoruz

Başa dönecek olursak, artık MacAskill’in kişileştirilmiş geleceğiyle ilgili daha derin bir sorunu teşhis edebiliriz: Etik, her birimizden aynı taleplerde bulunabilir ve hatta bunlar bazı şekillerde işbirliği yapmamızı gerektirebilir, ancak bu konuda bizi bir bütün olarak hareket etmeye zorlamamalıdır. Evrensel optimizasyon standardizasyon gerektirmese bile, tekil bir proje adına bireysel özgürlüğün paylaştırılmasını gerektirir. Refah açısından az ya da çok eşit olan sınırlı bir dizi kişisel projeye hakkımız var, ancak yalnızca aralarındaki seçim çok sınırlı ölçüde iyileştirdiği ölçüde. Bu denge, değiştirilebilir kaynakların veya belirli fırsatların belirli bir payını belirler. Çok ziyankar olmadıkları sürece küçük hobilerimize izin verilecek. Bir yandan, bu, simülasyonla sınırlı popülasyonlar için doğal bir argümandır: Sanal bir orman iş görecekken çocukların gerçek bir orman görmesine gerek yoktur. Öte yandan, tanrısal AGI için bir argümandır: optimuma uyumlu, katı bir şekilde tam kapsamlı adaleti uygulayan ataerkil bir program. Bu, eğilimlerinize bağlı olarak ütopik veya distopik gelebilir, ancak bu dünyanın kendi iyiliği için israfa izin vermeyeceği açıktır. Bir trilyon ruhu daha destekleyebilecekken, toptan sanata teslim edilen yıldızlar olmayacak. İdeallerimizin anıtı olarak inşa edilmiş mega yapılar yok. Hiçbir süpernova, sadece yapabildiğimiz için başlatılmadı. Eğer bir tür olarak büyümek istiyorsak, bu tür aptalca hayalleri terk etmeliyiz. Uygun bir şekilde kullanılmaması gereken kadar büyük bir bolluk yoktur.¹⁵Azami ölçekte ele alındığında, kıtlık ile bolluk arasındaki ilişkiye dair çok farklı bir bakış için bkz. Georges Bataille, Lanetli Pay, Cilt 1’de geliştirdiği genel iktisat.

Bu incelemeyi sonlandırırken, bu ikinci metaforu ele almak istiyorum; “düşüncesiz genç olarak insanlık” ve somutlaştırdığı olgunluk kavramını sorgulamak istiyorum. MacAskill’in bakış açısına göre, bu temsili gencin karşılaştığı en büyük seçim, hangi kariyeri seçeceği gibi görünüyor. Bu, gençlerin dünya üzerindeki olumlu etkilerini optimize edecek kariyerleri seçmelerine yardımcı olmak için bir organizasyonun (80.000 Saat) kurucu ortağı olarak çok düşündüğü bir konudur. Hatta bir keresinde (biraz utandırıcı bir şekilde) gençlere en çok para kazanabilecekleri finans alanında çalışmalarını ve böylece en çok fayda sağlayabileceği hayır kurumlarına bağışlamalarını tavsiye etti. İnsanlık için reçetesi biraz benzer görünüyor: En değerli olanı elde etmek için gereken kaynakları güvence altına almak için ne gerekiyorsa yapmamız gerekiyor. Bu, hayallerimizden vazgeçip aile işine katılmak anlamına gelir, ki bu ailenin kendi işi anlamına gelir: yakınlarımızın ve akrabalarımızın yayılmasını yönetmek. Tüm bunların kulağa çok ani gelmesi durumunda, MacAskill uzun düşünüm dediği bir tür boşluk yılı öneriyor: “Felaketten güvende olduğumuz ve iyi yaşamın doğası üzerinde düşünüp tartışabileceğimiz, en gelişen toplumun ne olacağını anlamaya çalışacağımız istikrarlı bir dünya durumu” (98). Ancak bu dönemin amacı, içine almak istediğimiz değerleri kesin olarak belirlemektir. Neyin en uygun olduğunu belirledikten sonra, ataerkil olma zamanı.

Bu metaforu benzer terimlerle ifade edilen daha eski bir imgeyle karşılaştırmaya değer: “Aydınlanma, insanın kendi suçuyla düşmüş olduğu bir ergin olmama durumundan kurtulmasıdır.” Kant aynı zamanda tarihin önemli bir noktasında yaşadığına inanıyordu; bu noktanın önemi, düşüncelerimizi ve eylemlerimizi yönlendiren ilkelerin sorumluluğunu üstlenmeye istekli olmamızda yatıyordu. Yine de Aydınlanma, bu ilkeler üzerine sınırlı bir eleştirel düşünme dönemi olarak değil, bu tür bir düşünceye daha sürekli bir açıklık sağlamak için tasarlandı. Bu, gelecek nesillerin önceki tutuculuklardan kopma otoritesini kabul etmesi anlamına geliyordu. Her nesil iyi yaşam sorusuyla yüzleşir ve bu soruya kendi başına cevap verme zorluğunun üstesinden gelir. Hayatı yaşamaya değer kılan şeyin ne olduğunu bulmak, bireylerin veya toplumların gelişmesinden ayrılabilecek bir şey değil, bu gelişmenin ayrılmaz bir parçasıdır. Bunu inkar etmek, gelişmeyi teşvik etmek yerine engellemektir.

Bu gerçekten hareketle, Kant şunları ekler: “Kurallar ve formüller, doğal yeteneklerinin rasyonel kullanımına ya da daha doğrusu kötüye kullanılmasına mekanik yardımcılar, kalıcı bir erginleşmemenin prangalarıdır.” Bu açıdan bakıldığında, MacAskill, Bostrom ve diğerleri tarafından tasarlandığı şekliyle AGI’nin gerçek riski sadece kötü değerleri içine almak değil, aynı zamanda değerleri kendi başına içine almaktır. Bu çoğu Goodhart yasasını tahrif etmek için giderek daha umutsuz bir dizi girişim gibi yorumlanan, AI sıralaması üzerine gelişen literatürde yansıtılmaktadır.¹⁶“Bir tedbir hedef haline geldiğinde artık iyi bir tedbir olmaktan çıkar.” Tıpkı herhangi bir kodlanmış yasalar sistemine adalet adına her zaman meydan okunabileceği gibi, herhangi bir içsel değer ölçüsüne de güzellik adına her zaman itiraz edilebilir. İnsanların doğuştan sahip olduğu ve bilgisayarların sonsuza dek eksik kalacağı özel bir değer duygusu olduğunu söylemek istemiyorum. Daha ziyade, estetik mükemmelliğin epistemik anlaşılmazlığının –öngörülebilir nicel optimizasyona karşı şekilsel nitelikli direnci– ona neden değer verdiğimizin temel bir özelliği olduğundan ve bunun daha genel olarak değer hakkında dersler içerdiğinden şüpheleniyorum. Endorfinlerimizi en üst düzeye çıkararak hayatta öylece kazanabileceğimiz fikri, hiçbir şey değilse bile son derece kabadır; bu asıl noktayı tamamen gözden kaçıran bir hile yöntemidir. Dünyayı son derece içerikli bir şablonun kopyalarıyla döşemek için de benzer bir şey söyleyebiliriz. Bu nedenle, fayda maksimizasyonundan yola çıkarak AGI’yi değerlerimizle uyumlu hale getirmeye çalışmak yerine, Schiller’in tavsiyesine uyarak estetik eğitimle başlayabiliriz.

Belki de What We Owe the Future‘un değeri, karmaşık bir soruya basit bir cevap vermekte yatmaktadır; bizi kayıtsızlığımızdan kurtaran ve karmaşıklıklarıyla yüzleşmeye zorlayan bir soru. Dürüstçe konuşmak gerekirse, kendi adıma geleceğe hiçbir şey borçlu olduğumuzu düşünmüyorum ve bu yüzden gelecek bu kadar heyecan verici olabilir. Harika potansiyelle dolu boş bir tuval; zorlamadan ziyade bir arzu nesnesi. Yine de nesillerimize çok şey borçluyuz. En azından öngörülebilir zararları önlemek için. Gelecek de aynı derecede ürkütücü olasılıkları barındıran uçsuz bucaksız bir karanlıktır; zorlayan bir korku nesnesi. MacAskill, bu zararları hesaba katmaya çalıştığı için takdir edilmelidir, onları sayısız faydayla eşitlese bile. Ancak bu denklemden kaynaklanan ve hem dürüstlüğümüzü bozan hem de değer duygumuzu çarpıtan ahlaki rüşveti reddetmeliyiz. Sonsuzluğun ağırlığının, özgür seçim çiçeğini ezmesine asla izin verilmemelidir. Nesillerimizin kendi yollarına gitmelerine izin vermeliyiz, yolları temelde herhangi bir kapsayıcı optimizasyon projesi tarafından sınırlandırılamayacak şekilde çoğalsa ve ayrılsa bile. Ortaya çıkan yayılma çok daha güzel bile olabilir.