Eski tip yapay zekâdan derin öğrenmeye
2022 yazında mühendis Blake Lemoine, Google’ın geliştirme aşamasındaki sohbet robotu LaMDA‘yla gerçekleştirdiği konuşmanın bir kopyasını Medium‘da paylaşmıştı. Lemoine, Google tarafından bu sohbet robotuyla ilgili arızaları gidermek için işe alınmıştı. Paylaştığı bu yazıysa içerdiği iddialardan ötürü manşetlere çıkmıştı. Çünkü Lemoine, bu sohbet robotunun “duygu sahibi” ve “bir ruhu” olduğunu iddia etmişti. Lemoine’ın iddiaları başta şüpheyle karşılanmış fakat kamuoyu Open AI grubunun ChatGPT programıyla tanışınca, birçok insan bu yazılım mühendisinin iddialarında doğruluk payı olabileceği sonucuna varmıştı.
Çoğu zaman akıcı ve tutarlı bir konuşma becerisine sahip ChatGPT, insanların olağan konuşma şeklini oldukça iyi taklit etmektedir. Kendi görüşlerini de ifade edebilen yazılım, nispeten başarılı denebilecek araştırma makaleleri de hazırlayabilmektedir. Hatta zihin felsefecilerinin insan zekâsının eşsiz kabiliyetlerinden saydıkları, “kendi hatalarını hemen fark etme ve düzeltme” yeteneğine ChatGPT’nin sahip olduğuna dair bazı kanıtlar da bulunmaktadır. Sonunda düşünen bir makine inşa etmeyi başarabilmiş miydik? Yine de felsefe tarihi, yapay zekânın insan benzeri bir zekâya doğru övgü dolu yürüyüşünde potansiyel bir engel oluşturmaktadır. Yapay zekânın gelişiminin önündeki bu zorlukların hiçbiri aslında yeni değildir. Örneğin Huber Dreyfus 1972 yılında What Computers Can’t Do? [Bilgisayarlar Neyi Yapamaz?] başlıklı kitabını yayımlamıştı. Yazar bu kitabında, Wittgenstein ve Heidegger’in fikirlerine dayanarak 1970’li yıllardaki yapay zekâ araştırmalarının zekâ kavramını doğru bir şekilde kavramadığını ortaya koymuştur. Ancak bu tür felsefi girişimlerde bulunan beklenmedik biri daha vardır: 19. yüzyılda yaşamış Alman filozof G.W.F. Hegel, Dreyfus’tan yaklaşık 100 sene önce bu tartışmayla alakalı sıradışı yaklaşımlara sahiptir. Hegel’in yaşam ve zihin arasındaki ilişkiyle ilgili düşünceleri, Dreyfus’un “yapay zihnin eleştirisi” fikirlerinin başarılı biçimde üstesinden gelmekte ve sözde yapay zekânın değerlendirilmesinde yeni bir kıstas sunmaktadır.
Chat GPT gibi Geniş Dil Modellerini (Large Language Models), “Eski Tip Yapay Zekâdan” (Good Old Fashioned AI) ayıran yegâne özellik, bunların Yapay Sinir Ağlarına dayalı Derin Öğrenme (Deep Learning Neural Networks) özelliğine sahip olmalarıdır. Bu yapay sinir ağları, bazı örüntüleri tanıyacak şekilde “eğitilmiştir” ve çok miktarda veriyi değerlendirerek bazı öngörülerde bulunabilirler. Mesela Geniş Dil Modelleri, X (eski adıyla Twitter) yazışmaları, Vikipedia makaleleri gibi veri tabanlarının konuyla alakalı verilerin çözümlemesini yaparak yazı yazmayı ve sohbet etmeyi öğrenebilirler. Bunu yaptıkları zaman da GDM’ler, doğruluk payı mümkün olduğu kadar yüksek olan cümleler kurmalarını sağlayacak bazı kalıplar oluştururlar. Bunun gibi derin öğrenme teknikleri Eski Tip Yapay Zekâlarda hiç var olmayan bir özelliktir. ETYZ’ler sembolleri yönetirken veya mevcut verileri işlerken değişmez özelliğe sahip katı kurallara dayalı biçimde çalışırlar. GDM’lerse bu tür katı kurallara ihtiyaç duymadan konuşmayı ve mevcut verilere uyum sağlamayı “öğrenebildiklerinden”, bunların sürekli değişim halindeki bir dünyanın karmaşık özelliklerini ele alma konusunda daha başarılı olacakları düşünülmektedir.
Yapay zekânın kabiliyetleri konusunda bu ani sıçrama makinelerin insan zekâsını taklit edip edemeyeceği konusundaki tartışmayı yeniden alevlendirmiştir. Birçok insan Yapay Sinir Ağlarına dayalı Derin Öğrenmenin nihayetinde insan zekâsını yakalayacağını, hatta bir noktadan sonra onu geçeceğini düşünmektedir. Öte yandan, birkaç istisna dışında, zekânın gerçekte ne olduğuna dair çok fazla tartışma da yoktur.
Dreyfus: Zekâ aslında ne demek?
Dreyfus’un Bilgisayarlar Neyi Yapamaz? veya John Haugeland’ın Yapay Zekâ: Düşüncenin Kendisi (1985) gibi felsefe temelli yapay zekâ eleştirileri Derin Öğrenme teknolojisinin bulunmadığı yalnızca tarihsel öneme sahip eserler gibi görülmektedir. Ancak bu çalışmalar her ne kadar ETYZ’lerle ilgili olsalar da, yapılan eleştirilerin çoğu geçerliliklerini halen korumaktadır. Dreyfus, ilk olarak EYTZ programlarıyla ilgili “alışıldık varsayımları” eleştirmektedir. Bu eleştirinin temelinde “her türlü akıl yürütmenin açık seçik kurallara indirgenebileceği ve dünyanın sadece bu tür kuralların geçerli olduğu değişmez olgulara dayandığı” varsayımı vardır. Eğer insanların akıl yürütme yeteneğini bu şekilde tanımlarsak, sayısal, bitmiş halde bir makinenin son kertede buna benzer kabiliyetleri sergileyebilecek şekilde programlanabileceğini varsaymak oldukça mantıklıdır. Ancak Dreyfus’a göre bu tür varsayımlarda, sıradan insanların hayatındaki “zekâ” olgusunda sürekli gözlemlediğimiz istemli davranışlara yer verilmemesi bir sorun olarak belirir. Bu yüzden alışıldık varsayımlardan farklı olarak, Dreyfus gerçek bir zekâya bağlı davranışları şu üç temel kıstasa göre yapmaktadır:
- Düşünen ya da bilinçli bir varlık her şeyden önce fiziksel bir bedene sahip olmalıdır. Fiziksel bir varlığa sahip olmak ve fiziksel bir bedenin içinde olmak çeşitli engeller ve araçlarla dolu bir dünyanın etkisinde olmak ve bu dünyanın içinde hareket etmeyi öğrenmek demektir. Biz insanların karşılaştığımız problemlere uygulayabileceğimiz zihnimize önceden kodlanmış sabit yanıtlarımız yoktur. Bunun yerine haiz olduğumuz şeylerle karşılaştığımız her yeni ortam içerisinde duyusal farkındalığımızı biçimlendiren bir bilgi birikimine sahibizdir.
- Düşünen ya da bilinçli bir varlık olmanın ikinci koşulu, bazı nesnelerin buna dâhil olduğu ve diğer bazı nesnelerin buna dâhil olmadığı “anlamlı bir genel durumun” içerisinde bulunmaktır. Sadece bu türden bir genel bağlamın içerisinde çeşitli nesneler karşımıza birer araç veya birer engel olarak çıkabilmektedir. Örneğin bizler bir otomobili kullanmayı öğrendiğimizde, belirli bir durumla ilgili sorunların üstesinden gelebilmemizi sağlayan bir uygulamaya yönelik algısal-yetenekler geliştiririz. Buradaki “yol bulma” dürtümüz gaz pedalını frenlerden ayırt etmemizi, motorun ihtiyacını hissederek aracın vitesini arttırmamızı veya düşürmemizi, kalabalık bir trafiği boş bir yoldan ayırt etmemizi sağlamaktadır.
- Bu “amaca bağlı olma” durumu da bizi Dreyfus’un gerçek bir zekâyı tanımlamada kullanacağımız üçüncü kıstasa getirmektedir. Dreyfus buna kısaca “ihtiyaç” demektedir. Biz insanların amaçları, ihtiyaçları ve hedefleri sahip olduğumuz bedenlerden ve içinde bulunduğumuz “durumlardan” daha önce veya bunlardan bağımsız olarak var olamamaktadır. Yönelimsellik –yani dikkatimizi belirli nesnelere yöneltme ve kendi irademize göre hareket etme yeteneğimiz– daha en başta bu türden amaçlara veya hedeflere bağlı olarak ortaya çıkmaktadır ve bu şekilde mümkün olabilmektedir. Böylece bu projelerimiz ve hedeflerimiz “durum” olarak tanımladığımız gerçek koşulların ortaya çıkmamalarını ve bizim de bunları çevremizdeki durumlardan ayırt etmemizi sağlamaktadır.
Dreyfus’un bu eleştirileri, gerçek zekânın (yani düşünme yetisi veya bilincin) gerçekte ne olduğunu anlamamızı sağlamaktadır ve ne ETYZ’lerin (Good Old Fashioned AI) ne de GDM’lerin (Large Language Models) bu özelliklere sahip olmadıkları kesindir. ETYZ’nın ilk kurucuları tasarladıkları yazılımların esnek, değişmez bir yapıya sahip olmayan “sorun çözebilme” kabiliyetiyle övünürler. GDM’lerin tasarımcılarıysa, içinde bulundukları duruma göre, algısal farkındalığa dayalı kararlar alabilen yazılımlar geliştirmeyi başarmışlardır. Daha temel bir düzeyde şunu söyleyebiliriz: Yapay zekânın, örneğin bir deneme yazmak gibi, yerine getirmesi gereken birtakım “hedefleri” olabilir. Bu hedeflerin hepsi yapay zekânın programlanmasına dayanmaktadır ve buna bağlı olarak meydana gelmektedir. Bu bağlamda hem klasik bilgisayar donanımları ile hem de daha yeni insan beynindeki nöron ağlarını taklit eden yenilikçi bilgisayar donanımları ile çalışan yazılımların beşeri varlıkların sahip olduğu iradeye bağlı karar alma yeteneğinin var olmasını sağlayan bağımsız bir istence sahip olma durumundan yoksun olduklarını söyleyebiliriz.
Ancak Dreyfus’un düşünce biçiminin bazı eksik tarafları da bulunmaktadır. Dreyfus “bedenlenmiş olma” konusuna bu kadar odaklanmış olmasına rağmen, buradaki “beden” kavramı ilginç bir şekilde bedensizdir. Dreyfus doğanın geri kalanıyla bağlantılı fizyolojik mekanizmalardan ibaret biyolojik beden ile bütün deneyimlerin kendisinde meydana geldiği ve problem çözme yeteneğinin kendisinden kaynaklandığı fenomenal beden arasında belirgin şekilde ayrım yapmaktadır. Peki bu iki farklı bedenin birbiriyle etkileşimi nasıl gerçekleşmektedir? Dreyfus bu soruya cevap verememektedir. Dreyfus bunun dışında sorun çözme/uyum sağlama kabiliyetinin asla yapay şekilde taklit edilemeyeceğini, çünkü insanların bu kabiliyetinin “kurallara ihtiyaç duymayan düzenli bir davranış biçimi” olduğunu savunmaktadır. Biz yine de şu soruyu sorabiliriz: Eğer insanların istemli davranışları belirli bir düzeyde kurallara bağlı olarak ortaya çıkmıyorsa, bu davranışlar nasıl oluyor da belirli durumların dışında, birçok farklı durumda ortaya çıkabiliyorlar? Ve nasıl oluyor da bizler, birbirinden farklı durumların içerisinde, başarılarımızı başarısızlıklarımızdan ayırt edebiliyoruz? Örneğin başarılı bir araç kullanmayı aynı araçla kaza yapmaktan veya arabayı istop ettirmekten nasıl ayrıt edebiliyoruz?
Hegel: Zekânın toplumsal yaşamı
1812’de Mantık Bilimi (Wissenschaft der Logik) ve 1817’de yayımlanmış Felsefi Bilimler Ansiklopedisi (Enzyklopädie der philosophischen Wissenschaften) kitaplarında Hegel bir yandan ussal yaşam düşüncesini geliştirirken öte yandan da dolaylı olarak bu konulara değinmektedir. Hegel, kendi çağdaşları tarafından, maddi evrenin Geist (Tin, Ruh, Bilinç veya Zihin) olarak adlandırdığı bir kozmik Mutlak Tin’in kendini dışavurması olduğuna inanan bir çeşit aşırı-idealist olarak algılanırdı. Ancak bu düşünce biçimi esasında yanlış bir okumadır. Aristoteles’in metafizik hakkındaki fikirlerinden ve Immanuel Kant’ın organizma hakkındaki görüşlerinden büyük oranda etkilenmiş olmasına rağmen, Hegel her zaman aklın/bilincin ve niyet etme/irade sahibi olmanın doğada ilk kez yaşamın ortaya çıkması sayesinde var olabildiğini savunmuştur. Hegel’e göre yaşayan organizmalar öncelikle kendi biçimlerini sürdürme ve her birinin temsil ettiği farklı yaşam formlarının gelişip çeşitlenmesi amacına sahiptirler. Herhangi bir yaşayan organizmanın yaşam amacı “içsel” bir amaç olarak tanımlanmaktadır, çünkü bu organizmaların varoluşu dışsal bir tasarımcının düşüncelerinden veya amaçlarından kaynaklanmamaktadır. Hegel’in yazılarında söz ettiği “Evrensel Saatçi” burada etki sahibi değildir. Yaşayan organizmalar içlerindeki kendilerini koruma dürtüsüne bağlı olarak parçalarını düzenleyip muhafaza ederler. Bu parçalar (bireyler) bütünün (organizma türünün) iyiliği için mevcuttur ve bütünün (türün) başarısı parçanın (bireyin) kendini sürdürebilmesine bağlıdır.
Dreyfus’un düşünce sistemindeki fenomenal bedenin biyolojik bedenden farklı olduğu iddiasından ayrı olarak, Hegel’in düşünce sisteminde daha büyük bir organizmanın birer parçası olarak bireyler, temelde daha büyük bir bütünün başarılı olmasını sağlamak için mevcutturlar. Doğada var olan canlı bireylerin hepsi belirli bir hayvan ya da canlı türünün üyesidir. Bir türün gelişen veya yok olan bir tür olması, o türün bireylerinin sağlıklı veya sağlıksız olmasıyla doğrudan bağlantılıdır. Hayvanların sahip oldukları kendi türlerine özgü içsel yönelimleri sahip oldukları bedenlere sahip olmalarını ve içinde bulundukları çevreye bu içsel iradeye bağlı olarak uyum sağlamalarını sağlamaktadır. Hegel’in de söylediği gibi, acı veya haz duyguları bir canlı türünün içinde bulunduğu çevreye ussal bir şekilde yanıt vermesinin en ilkel biçimidir. Çoğu hayvanın çevresinde bulunan nesnelerin türün o ortamda başarılı olması açısından yararlı mı yoksa zararlı mı olduğunu anlamasının en iyi yolu bu acı ve haz duygularıdır. Bir parça demir nemli bir ortamda kalırsa paslanır. Ancak demirin paslanmak gibi bir amacı yoktur. Fakat bir aslanın eylemleri doğrudan onun arzularından ve algılarından kaynaklanmamaktadır. Aslan koşan bir antilopu av olarak, büyük bir ağacın altını dinleneceği yer olarak seçer, çevredeki bir sırtlan sürüsünü tehdit olarak algılar. Böylece organizmanın bütünü aslanın içinde bulunduğu bu ortamın “işleyiş biçimini anlar” ve böylece aslanların çevreleriyle uyum içinde yaşamasını sağlayıp –mesela Serengeti Ovasında– tanık olduğumuz hayvan çeşitliliğinin var olmasına olanak sağlar.
Eğer Hegel’in burada tarif ettiği zekâ/bilinç yaşayan bir organizma tarafından sergilenebiliyorsa, bunun yapay zekâ araştırmacıları açısından çok önemli sonuçları vardır: Bizler yapay yaşamı yaratmadan, yapay zekâyı yaratamayız. Dreyfus’un gözden kaçırdığı şey, onun üçüncü kriterinin, yani “bir şeye ihtiyaç duyma” kriterinin kökeninin gelişim olgusunun organik bölümünde yer alıyor olmasıdır. Şimdi zekânın/bilincin yaşam olgusu içerisinde ortaya çıkma nedenini anladığımıza göre, insan benzeri bir bilince sahip bir makine yaratmak için nelere ihtiyaç duyduğumuzu anlamak için kendimiz gibi daha gelişmiş organizmaları incelemeye başlayabiliriz.
Hegelci felsefede insan aklına dair oldukça güçlü bir anti-Kartezyen kavrayış bulunmaktadır. Hegel’e göre duygu, arzu ve ilkel “hayvani işlevlerden” ayrı bir şekilde, biçimsel bir akıl yürütme süreci diye bir şey yoktur. Bunun yerine insan aklı, onun hayvani doğasını yansıtan en önemli özelliklerinden biri olarak kabul edilmektedir. Yeryüzünde yaşayan diğer türler ait oldukları türün amaçlarına uygun olarak kendilerini muhafaza eder ve bu türlere ait olan bireyler türün bu amacını sorgulayamaz ya da onu değiştiremezler. Biz insanlarsa kendi içlerinde sorgulanabilir ve gözden geçirilebilecek olan diğer bireylerle de paylaştığımız toplumsal kaidelere uyarak bu dünyadaki fiziksel varlığımızı sürdürürüz.
Dreyfus’un insan zekâsının/bilincinin tamamen kurallara bağlı olarak çalışmadığını ve bu yüzden sayısal olarak taklit edilemeyeceğiyle ilgili düşüncesini hatırlayalım. Bu düşünce kavramsal bir kargaşaya neden olmaktadır, çünkü kurallar olmadığında bizim pratikteki eylemlerimiz belirliliğe sahip olamamaktadır. Böyle olduğunda, bir faaliyetimizi diğerinden ayırt edemez ve aynı uygulamanın içerisinde başarıyı başarısızlıktan ayırt edemeyiz. Bu sorunu çözmek için Hegel “somut evrensellikler” (konkretes Allgemeines) savını öne sürmektedir. Hegel’e göre, bir otomobili sürmek ya da bir yemeği pişirmek kişinin araba sürdüğünün veya yemeği pişirdiğinin farkında olmasını gerektirir. Bu da kişinin aracı iyi sürmek/yemeği güzel yapmak için çaba gösterdiğini ve bunun için gerekli unsurlara dikkat ettiğini göstermektedir. Bu kendinin bilincinde olma düşüncesi insanların zaman zaman gerçekleştirdikleri içebakış eylemine benzemektedir, fakat bu özbilinçlilik hali, yerine getirdiğimiz bütün eylemler açısından gereklidir. Hegel açısından asıl sorun, benim araba kullanırken soyut bir farkındalık listesindeki kutucukları işaretlemem değildir. Asıl mesele, benim bu eylemi gerçekleştirirken başarılı olmamı sağlayacak bütün unsurları yerine getirip getirmediğimdir. Nihai olarak, asıl sorun, benim gerçekleştirdiğim bu eylemlerin değişmez bir grup kural haline getirilip getirilememesi değildir, esas sorun, benimle aynı anda araç veya bisiklet süren kişilerin benim eylemlerimi anlamlandırıp anlamlandıramamasıdır. Hegel felsefesinde kurallar sadece diğerleri tarafından da benimsendiklerinde “evrensel” hale gelebilmektedirler. Aynı şekilde, bu kuralların “somut” olabilmeleri için, şimdi ve burada anlam taşımalarıyla yakından ilişkilidir.
Dreyfus’un yarattığı bulmacayı çözmenin yanı sıra, Hegel’in kurallara uyma modeli hem eski tip yapay zekâ hem de derin öğrenme paradigmalarını ters düz etmektedir. Dreyfus’a göre, akıl yürütme klasik bir yapay zekâdan bekleneceği şekilde belirli bir biçime sahip olmak zorunda değildir. Aynı şekilde akıl yürütme “gayri bilişsel” (non-cognitive) ve kodlanamaz (uncodifiable) bir süreç de değildir. Hegel’in ortaya koyduğu kurallar çeşitli eylemleri ve inançları belirleyen birer tarif veya plan olmaktan öte, toplumsal yaşamın sonucu olarak ortaya çıkan özbilinçlilik biçimleridir. İnsanın, diğer türlerden farklı olarak ve akıl yürütme kabiliyetine sahip bir tür olarak ortaya çıkabilmesini sağlayan şey, kendimizi yeniden meydana getirmemize imkan veren bu kurallardır. Bu tür kurallar bize zaman içinde eylemlerimizi ve inançlarımızı birleştirme gücü vermekte, aynı zamanda içinde bulunduğumuz dünyanın önümüze her gün getirdiği durumların içerisinde yararlı olanı zararlı olandan ayırt etmemizi sağlamaktadır. Buradaki nihai amacımız da, toplumsal varlıklar olarak başarılı olabilmektir.
Aynı zamanda, Hegel’in “somut evrenselliklerin” esnekliği, yakın zamanda ortaya çıkan yapay zekânın özelliklerini anlamakta kullanılan olasılıksal yaklaşım biçimiyle karıştırılmamalıdır. “Bugün hasta babamı ziyaret mi etmeliyim yoksa çok önemli bir sınava girecek olan arkadaşıma yardımcı mı olmalıyım?” gibi “gerçek” etik sorularla karşı karşıya olduğumuzda,biraz geri çekilip insanların çoğunun böyle bir durumda ne yapacağını hesaplamaya çalışmayız. Böyle bir durumda bizim etik akıl yürütme yeteneğimiz herhangi bir “öngörüsel hesaplama” yapmaya çalışmaz. Bunun yerine böyle yeni bir durum karşısında hem kendimiz açısından hem de çevremizdeki insanlar açısından bize açıklanabilir görünen bir seçim yapmak için kendi yargılama ve ahlaki değerlendirme yapma yeteneğimizden yararlanırız.
Marx: Teknolojinin özgürleştirici potansiyeli
Peki bu türden bir Hegelci müdahalenin getirdiği daha önemli riskler hangileridir? Silikon Vadisinde çalışan bir kıyamet tellalının Terminatör filmlerindeki Skynet türünden bir yapay zekâ yazılımının gelecekte tüm dünyayı ele geçireceğine dair öngörüsünü ele alalım. Bu tür filmlerde gelecekte ortaya çıkacakları öngörülen makinelerin genellikle modern yapay zekâ yazılımlarının var olmasını sağlayan “zihnin” veya “bilincin” biçimsel ve olasılıksal modelleriyle bir alakası yoktur. Yapay zekânın insan zekâsının önüne geçtiği “tekillik” durumundan bile daha endişe verici olan şey, var olan yapay zekâ teknolojilerinin, temel verilerini elde edeceği günümüz dünyasının korku dolu, endişe verici, tutarsız ve şiddet dolu gerçeklerinden etkilenerek şekillenmesi olasılığıdır.
Her ne kadar yapay zekâya dayalı otomasyonun gerçekleştirilmesi zor ve günümüzün ekonomik gerçeklikleriyle uyumlu olmayan bir olasılık olduğunu ifade edenler olsa da, GPT-4 gibi dil modellerinin çalışma temposunu arttırmak ve üretim maliyetlerini azaltmak için sonunda ekonominin birçok sektöründeki üretim süreçleri ile zamanla bütünleştirileceği kesindir. Karl Marx’ın da belirtmiş olduğu gibi, günümüz kapitalist ekonomi şartları içerisinde, bu türden makinelerin kullanılmaya başlanması, sıradan insana daha anlamlı faaliyetlerde bulunabileceği daha fazla boş vakit sağlamak yerine “onu en basit ve ilkel aletlerle çalışan ilkel insanlardan bile daha uzun süre çalışmak zorunda bırakacaktır”. Ancak bunun olması kaçınılmaz değildir. Karl Marx aynı zamanda kapitalist rekabet duygusunun sebep olduğu teknolojik gelişimin dizginlenemez ve özgürleştirici potansiyeline de değinmektedir. Öyleyse yapılması gereken, yapay zekâyı insan zekâsıyla rekabete sokacak bir güç yerine, insan zekâsının uzantısı olacak bir güç olarak görmeye başlamaktır. Fakat insan aklının süregelen makineleşmesinin sona ermesi, sadece daha iyi bir felsefi kuramın geliştirilmesiyle meydana gelecek değildir. Bunun için her şeyden önce, –dikkatli bakan herkesin bu aşamaya zaten gelindiğini fark etmiş olacağı üzere– makinelerin evrimsel süreçlerinin belli bir noktaya gelmesini beklemek yerine, kontrolsüz üretim biçimini durduracak “acil durum freninin çekilmesi” gerekmektedir.