Yuval Noah Harari, yapay zekânın birkaç yıl içinde tüm insanlığın zihinsel kapasitesini aşacağını dile getiriyor. Titus Blome ve Volker Weidermann ile yaptığı söyleşide siyasi düzenlemelerin zorunluluğuna işaret ediyor. Henüz çok geç değilken…
Sayın Harari, yeni bir kitabınız yayımlandı. İçinde başka kitaplara dair uyarılarda bulunuyorsunuz. Neden?
Uyarım sadece kitaplara ilişkin değil, genel olarak enformasyon teknolojileriyle ilgili. Bilhassa Silikon Vadisi’nde enformasyonun hakikat olduğuna dair oldukça çocukça bir bilgi anlayışı hâkim. Buna göre yeni bir enformasyon yayma yöntemi iyidir, çünkü bu, daha fazla hakikat, bilgi ve bilgelik doğuracaktır. Ama tarihsel olarak baktığımızda durum hiç de böyle olmamıştır. Enformasyonun çoğu doğru değildir. Hakikat maliyetli ve zaman alıcı bir şeydir. İhtiyacımız olan şey kendini hakikate adamış kurumlardır. Çoğu insan matbaanın bilimsel devrimi tetiklediğini düşünmektedir, ancak Leibniz, Newton ve onun gibiler Gutenberg’den 200 yıl sonra yaşamıştır.
Peki o zaman aralığında ne olmuştu?
O zaman aralığında tarihin en kötü din savaşları cereyan etmişti. Bu savaşlara Avrupa nüfusunun üçte birini yok etmiş 30 Yıl Savaşları nokta koymuştu. Ardından cadı avları başlamıştı. En çok satan kitaplar Kopernik’in eserleri değil, köktendinci yazılar ve cadı avı el kitaplarıydı.
Bu tür metinler neden insanlara çekici gelmişti?
İnsanlar karmaşık varlıklardır; erdem de erdemsizlik de insan içindir. İyi bir toplum erdemi teşvik eder ancak erdemsizliği beslemek iktidara giden yolu çoğu zaman daha düz kılar. Zamanın en popüler kitaplardan biri [16. yüzyılda yazılmış bir demonoloji eseri olan] komplo teorileriyle dolu Malleus Maleficarum’du. Örneğin bu kitapta, cadıların erkeklerin cinsel organlarını nasıl çaldıklarına ilişkin ayrı bir bölüm vardı. Eh, insan bu kitabın Kopernik’ten nasıl daha çok sattığını anlayabilir sanırım. Sonuçta insanların korkularını besleyen bir kitaptı.
Hangi kurumlar bizi penis çalan cadılardan kurtarıp Kopernik’le tanıştırdı?
Bilimsel araştırmalar yayımlayan kurumlar. Bunların yayımlanmasının sebebiyse satmaları değil, daha ziyade ele aldıkları konuların gayet doğru olabileceğinin kanıtlanmış oluşuydu. Kendilerini sürekli iyileştiriyorlardı: Ya Einstein’ın yanıldığı bir noktayı ya da Einstein’ın henüz bilmediği bir şeyi, bir hatasını ya da boşluğunu buluyorlardı. Bu yeni bir teşvik yapısıdır.
O halde sorun belki de yanlış bilgi anlayışında değil kapitalizmdedir?
İnsanlar kapitalizm derken genellikle açgözlülüğü kasteder. Tarihsel olarak baktığımızda ise kapitalizm yeni bir fenomendir. Savaşlar, kölelik ve sömürü kapitalizmden önce de vardı, tıpkı insanların açgözlülüğüne karşı söylenenler gibi. O zaman fark nerede? İnsanlar uzun süre dünyanın bir mutfak ve kendilerinin de mutfakta pişen yemeğe katkıda bulunan aşçılar olduğunu düşündü. Eğer birinin aldığı pay bir başkasının aldığı paydan fazlaysa, bu ancak o kişi diğerinin elinden onun hakkını aldığı için olabilirdi, yani fena bir açgözlülükten dolayı. Ama kapitalist devrim özünde etiktir, zira bazı insanlar artık şöyle demişti: “Bunun yerine hepimiz serbest piyasada ortaklaşa çalışssak ve daha büyük bir yemek pişirmeyi denesek? Böylece herkesin alacağı pay çok daha büyük olur.” Kapitalizmin ana fikri şudur: Herkesin yararınaysa, açgözlü olmanda bir sakınca yoktur. Buradaki tartışma konusuysa bunun her zaman işe yarayıp yaramayacağı üzerinedir. Bir tarihçi olarak ben şöyle düşünüyorum: Kapitalizm bu noktada kimi zaman işe yaramasa da çoğu zaman yaramıştır. O yüzden ben olsam kapitalizmi suçlama konusunda dikkatli olurdum.
Ancak bazen kısmen aşırı sonuçlara dikkat çekmek için bunu yapmak zorunda değilsiniz.
Sonuçları göz ardı etmek kapitalizmin sorunlarından biri. Örneğin şirketleri algoritmalarının eylemlerinden sorumlu kılmak bunun bir yolu olabilir. Teknoloji firmaları yeni bir algoritma bulduklarında ve her şey yolunda gittiğinde tüm kârı kendi ceplerine atıyorlar. Sonuçta algoritmayı bulan onlar. Ama bir şeyler ters gittiğinde sorumluluk almaktan kaçınıyorlar. Dolayısıyla en başta yapılması gereken onları eylemlerinden sorumlu kılmak olabilir.
Sizce yapay zekânın arkasındaki teknoloji devleri artık düzenlemelere tabi kılınamayacak kadar büyük müdür?
Umarım değillerdir. Siyasi bir irade bunu mümkün kılmalıdır. Şayet Avrupa Birliği algoritma ve yapay zekâyı düzenleme hakkında ortak bir karara varırsa bunun gerçekleştirilme oranı oldukça yüksektir.
Teknoloji sektörünün yakında Elon Musk’ın elinde olacak ABD’de bu pek olası görünmüyor. O zaman Avrupa Birliği bizim tek umuduz mu?
Avrupa ve Çin. Her ne kadar amaçları farklı olsa da, ikisi de teknoloji alanındaki düzenlemeleri son derece ciddiye alıyor.
Neleri düzenlemelere tabi kılmalıyız?
Bugüne kadar yapay zekâ oldukça “zayıftı.” Satranç gibi, sadece belli alanlarda bizden daha zekiydi. Ama gün gelecek -OpenAI’dan Sam Altman üç, beş yıl veriyor- “genel” ve “güçlü” bir yapay zekâ geliştirmiş olacağız.
Tüm alanlarda bizden daha zeki bir yapay zekâ.
Yapay zekânın hangi noktada yeterince “genel” olduğuna dair kimsenin bir fikri yok. Ama en zayıf ve kısıtlı yapay zekâ programları bile uzun süredir dünyayı değiştiriyor. Sosyal medyayı düzenleyen ya da dünya çapında ordulara entegre edilmiş ve operasyonların komuta edilişinde devrim yapmış yapay zekâ örneklerine bakmak yeterli. Ukrayna’ya ya da Orta Doğu’ya bakın. Bir iki yıla kalmadan tüm orduların yerini dronlar alabilir.
Geçenlerde Hamas lideri Sinvar’ın ölmeden önceki son anlarının görüntüleri yayımlandı. Sanki insanla robotların savaşı gibi drona sopa fırlatıyordu.
Evet. Yapay zekâ savaşın yüzünü değiştiriyor. Artık tetiğe basmadan önce yapay zekâ o kurşunun nereye isabet edeceğini biliyor. Tabii bunlar Matrix ya da Terminatör’deki katil robotlar gibi olmadığından insanları rahatsız etmiyor. Ama ben gerçek tehlikenin her zaman iktidarı elinde tutan yapay zekâ bürokratları olduğuna inanıyorum.
Ne demek istiyorsunuz?
Savanaya bir avukat yollayın, aslanlar onu yer. Ancak bürokratik yapılarımız çerçevesinde, inşa ettiğimiz yasal ve ekonomik sistemde, tek bir avukat dünyadaki tüm aslanlardan daha güçlüdür. Zira bir avukat iktidarın kollarını bir aslana nasip olamayacak şekilde kullanabilir. Yapay zekâysa bunu çok daha etkili bir hale getirebilir. Yasal ve ekonomik sistemlerimiz sadece yazı ve rakamlardan ibarettir, bunlar bilgi sistemleridir.
Yani yapay zekâ ekonomik sistemimizi de manipüle edebilir mi?
Elbette, hem de bunu o kadar iyi yapabilir ki! Yapay zekâ sayesinde ekonomik sistemimiz öyle karmaşık bir hal alabilir ki, kimse ne olduğunu artık anlayamaz duruma gelir. 2007/8 krizinde sorun, düzenleyicilerin ekonomik araçları anlamamasından kaynaklıydı. Bankalar bunu alıp sattı ve milyar dolarlar kazandı. Herkes bunun normal olduğunu sanmıştı fakat ardından piyasalar çöktü. Peki ya yapay zekâ bu duruma müdahil olmuş olsaydı?
21. Yüzyıl İçin 21 Ders kitabınızın 2019 tarihli Rusça çevirisinde Rusya’daki dezenformasyon kısmını kaldırıp yerine Donald Trump’ın yalanlarıyla ilgili bir kısım koymuştunuz. Neden böyle bir şey yaptınız?
Önümde iki seçenek vardı. Ya kitabım Rusya’da basılacaktı ya da basılmayacaktı. Kitabım militarizm ve diktatörlük karşıtı bir eser. Aynı zamanda Rus hükümetinin yaptıklarına da karşı bir duruşu var. Ama halka mesajımı ulaştırmak için ayıya dayı demek zorundaysam bunu yaparım. Ama benden demokrasiye övgümü kaldırıp onun yerine otokrasiye övgü dolu bir kısım yazmamı isteselerdi, bunu elbette yapmazdım.
Neksus için de böyle bir şey yaptınız mı?
Hayır, hatta böyle bir şey olmadığı için şaşırdım bile. Kitabım komünizme karşı bir eser, ama Çin’de yayımlandı. Fakat bu Rusya’da bugün mümkün değil.
Çin’de eserinizin yayımlanması sizin için önemli miydi?
Evet, bu bilhassa dünyanın bugünkü bölünmüşlüğünü aşmak için önemli. Dünyanın hiçbir sorununu -yapay zekâ, iklim değişikliği, nükleer savaş tehlikesi- tek başımıza çözemeyiz. Çinliler de tıpkı Amerikalı ve Avrupalılar gibi yapay zekânın kontrolümüz dışına çıkacağına dair endişe içinde. Hatta belki de daha çok endişeliler, zira orada bir şeylerin kontrol dışına çıkması daha büyük bir korku yaratıyor.
Yani Çin Komünist Partisi’nden daha güçlü bir şeyin olacağı korkusu mu?
Evet. O yüzden Amerikalı bilim insanları yapay zekânın kontrol sorununu çözerlerse, bunu Çinlilerle paylaşmalılar ya da tam tersi olmalı. Çünkü ABD yapay zekâyı kontrol edebilirken Çin bunu başaramaz ya da tam tersi bir durum söz konusu olursa sonuçları tüm insanlık için facia olur.
Orijinal Başlık: “Sie ist intelligenter als wir”
Türkçeye Çeviren: Tunç Türel
Editör: Bekir Demir
