Platon’dan Bostrom’a Ütopyanın (İdeal Devlet) Dönüşümü

“Böylece vicdan hepimizi korkak yapar;

Ve böylece çözünürlüğün doğal rengi

Düşüncenin soluk gölgesiyle kaplanmış,

Ve büyük önem taşıyan ve özlü girişimler

Bu bağlamda, akımları tersine döner.

Ve eylemin adını unut.—Şimdi yumuşa!

Güzel Ophelia! Peri kızı, dualarında!

Bütün günahlarım hatırlansın.”

Shakespeare, Hamlet 3. Perde, 1. Sahne

İçimizdeki ‘Hata Kodu’ ütopyanın hep hayallerde kalmasına neden oldu. Peki algoritmik bir toplum ‘İdeal Devlet’i kurabilir mi?

İdeal Devlet Arayışı: Platon’dan Turing’e Hayalin Peşinde

İnsan hayaller kurdukça mutlu olabilen ve eyleme geçen bir varlık. Ne kadar gerçekçi olmaya çalışsak da aslında hepimiz ayaklarımızı yerden kesen düşlerin içinde yaşıyoruz. Öyle ki, bugün yaşadığımız gerçeklik, bir zamanların imkansız hayallerinden ibaretti.

Bir kusursuzluğun peşindeyiz. Platon’dan Thomas More’a, Campanella’dan Jonathan Swift’e kadar uzanan o kadim izler, aslında hepimizin içindeki ortak bir özlemin yankısı. Devlet‘i veya Güneş Ülkesi‘ni okurken sadece birer kurgu değil, insanlığın o bitmek bilmeyen ‘Kusursuz Düzen’ arayışını görürüz.

Ancak bu kusursuz düzen zamanın dışında kalacak kadar da mükemmelliğini koruyamaz. Çağın teknolojileriyle zihnimizde yeni bir forma girer. Örneğin, 20. yüzyılda ortaya çıkan sınıf çatışmaları ve dünya savaşları, bu pembe tabloları gri birer alana çevirir. George Orwell’ın Bin Dokuz Yüz Seksen Dört‘ü ile Aldous Huxley’nin Cesur Yeni Dünya‘sı, bize mükemmeli, karşıt bir dünyanın içinden gösterir. Zihinlerdeki kusursuz dünyanın sert bir gerçeklikle tasviridir bu. Çünkü içinde insan olan her mükemmel düzen, sadece hayallerde kurulabilendir.

Bunun böyle olduğunu sadece romanlarda ya da felsefedeki kurgularda değil, tarihsel deneyimlerde de görürüz. Siyaset kurumu da tüm insanların mutlu olduğu bir dünya hayalini satar. Örneğin Stalin’in ya da diğer otoriter rejimlerin de bir ütopyası vardır. İdeolojiler, insanların bu özleminden beslenir. Dinlerdeki cennet tasavvuru da bir türlü ulaşamadığımız ütopyanın dünyevi bir yansıması değil midir?

Ancak özellikle bilim dünyası bu işin tam kalbindedir. Bilim insanı, elindeki veriyle hayali kurguları ölçülebilir ve inşa edilebilir projelere dönüştürür. Bu yüzden ütopyanın bir gün gerçek olabileceğini en çok hisseden odur. Alan Turing’in zihninde parlayan yapay zeka fikri, insanlığın kadim ütopya arayışının somut bir yansımasıdır.

Bugünün Algoritmaları, Platon’un Filozof Kralı mı?

İnsan hep bir ütopya kurdu. Platon’un Devlet‘indeki “Filozof Kral”, aslında bugünün “Algoritmik Yönetim”inin ilk taslağı gibidir. Platon, duygularına egemen, yalnızca rasyonel ve adil bir otoriteyi ideal yönetim olarak görür. Ancak her hayalini gerçekleştirme potansiyeli olan insan, kendi ütopik dünyasını bir türlü kuramaz.

Bunun sebebini çok uzaklarda aramaya gerek yok; aynaya bakmamız yeterli. İnsanlık tarihi boyunca trajedi, savaş ve adaletsizliğin kaynağı hep o “insan hatası” ve dizginlenemeyen duygular oldu. Thomas More veya Campanella, bu hataları ayıklayacak bir sistemin peşindeydiler. Ancak insanın kurduğu her kusursuz düzen tasarımı belli sınırlar içinde kaldı; geri kalan her şeyi dışladı. More’un ütopyası, mülkiyetin olmadığı, düzenin tıkır tıkır işlediği izole bir adaydı.

Bu durumda, zihinlerdeki ütopyaların en büyük çelişkisi yine insanda gizlidir. Kusursuz düzeni kuracak olan özne (insan), aynı zamanda kusurun da kaynağıdır. Peki Tanrı’nın veya Filozof Kral’ın kuramadığı o kusursuz düzeni verinin hatasızlığı ve duygusuzluğu inşa edebilir mi?

Bugün teknoloji geliştikçe, hayaller de sisli dünyasından yeryüzüne iniyor. More’un Ütopya‘sı artık fiziki bir coğrafyaya ihtiyaç duymuyor. Blokzincir tabanlı merkeziyetsiz sistemlerde veya algoritmalarla yönetilen akıllı şehirlerde hayat bulabiliyor. Zekamız evrene yükseldikçe bilgi büyüyor ve gerçeklik algımız dönüşüyor. Hatta algoritmalar kendi matematiksel evrenlerinde bir toplum kurabiliyor.

Bunun sonucunda insan bilinci, her yeni öğrendiği bilgiyle yeni bir şekil alıyor. Tıpkı ateşi bulan insanın eski insan olmaması gibi, internet ve yapay zekâ ile donanmış insan da artık yalnızca bu dünyaya ait değil. O, artık kozmosun derinlerine kodlarla uzanan yeni bir bilincin taşıyıcısı.

Ancak bu dönüşüm, beraberinde yeni tereddütler ve çatışmalar getiriyor. İnsanın kurduğu her yeni düzen bir sonrakine yol oluyor. Hayallerimizi gerçeğe dönüştürdüğümüzde yeni belirsizlikler, acılar ve hayal kırıklıkları yaşıyoruz. Bunun sonucunda ütopya ile gerçek arasında her zaman kapanması imkânsız bir açık kalıyor.

Tanrı ile Empati: Bir Zekâya Can Vermek

Bu kusursuzluk arayışında ürettiğimiz teknolojiler her zaman en yakın yardımcımız oldu. Ne var ki, bir teknoloji yaratmanın zorluğunu tarihin hiçbir döneminde bu kadar yoğun hissetmedik. Üstelik insan olmanın anlamını belki de hiçbir zaman bu kadar sorgulamadık.

Bir yaratım sürecindeyiz ve yapay zekâ, tanrısal tarafımızı keşfetmemizi sağlıyor. Çünkü bugün yapmaya çalıştığımız şey, adeta yaşamın kendisini kopyalamak. Belki bu radikal bir benzetme oldu, ama bir varlığa “can vermeye” çalışmanın başka izahı olabilir mi? Yaratıcı ile empati kurmak istiyorsak, belki de en doğru zaman tam da şimdidir.

Tanrı, insanı kendi başına hareket edebilecek ve kararlar alabilecek şekilde tasarladı. Onu, kendi otoritesini sarsmadan ve kurulu düzenin devamını sağlayacak bir varlık olarak yarattı. Bugün insan da kendi başına karar verebilen bir zekâ yaratıyor. Ancak tıpkı Tanrı gibi, kendine isyan etmeyecek bir varlık tasarlamanın tereddütlerini yaşıyor. Yanlış kararlar alıyor, “yapay zekâ kışları” ile geriliyor ama o kadim inancını asla yitirmiyor.

İnsanı Kusursuzluktan Esirgeyen Mükemmel Yazılım: ‘Hata Kodu’

Ben eğer kusursuzluğu arıyorsam, onu ancak Tanrı’da bulabilirim. Bizi yaratırken kendisine ulaşabilmemiz için nasıl bir yöntemi kullandığını anlamaya çalışırım. Tanrı’yı anlamak için de insan gibi düşünmek zorundayım, çünkü kusurlu yapım başka türlüsüne izin vermez.

İşte tam burada, bizi yaratırken içimize bir hata kodu yerleştirip dünyaya bıraktığını görebiliyorum. İçimizde, değişen çevreye uyum gösterecek bir algoritma kendini sürekli güncelliyor. Sürekli yalpalayan insanın kurduğu toplum da düz bir çizgide ilerleyemiyor. Tam uzanıp mükemmeli yakalayacakken bir de bakıyoruz ki hedef kaymış. Oysa hedef sabit duruyor; başımız döndüğü için biz onu hareket ediyor görüyoruz. Bu yalpalama yüzündendir ki Tanrı, kendi tasarımını üç büyük mesajla, üç büyük peygamberle revize etmek zorunda kalıyor.

Aynı şekilde insan da yapay zekâyı hizalama (alignment) konusunda benzer bir sorunla karşılaşıyor. Yapay zekâ da insan gibi düz bir rotada ilerleyemiyor. Sonuçta insan da yapay zekâya giden yolda düşe kalka, her seferinde yeni bir sürüm deneyerek ilerliyor.

Bugün gelinen noktada, yapay zekâ alanındaki ilerlemenin geri döndürülemez bir ivme kazandığını söyleyebiliriz. Ancak insanlık en büyük hayalini gerçekleştirse de hiçbir zaman durmaz. Bizi hep ileriye taşıyan merak duygusu, insanın arayışını körükleyen tatminsizliği gidermez.

Şunu unutmamamız gerekir: İnsan eliyle gerçekleşen her ilerleme ancak çatışma ve sancıyla mümkündür. Çünkü bizim algoritmamızdaki en kritik kod, öğrenmemizi sağlayan o müthiş ‘hata payı’dır. Bilgimiz arttıkça dünyamızı büyütürüz ama evrendeki yerimizin de ne kadar küçük olduğunu bu sayede anlarız. Sanki cennete giden yolda açtığımız her kapı, bizi o mükemmel dünyadan biraz daha uzaklaştırır.

O halde en baştaki sorumuza dönelim: Sokrates’e göre toplumu “en bilgeler” yönetmeliyse; bugün o bilge, en çok veriye ve hatasızlığa sahip olan algoritmalar mıdır? Eğer Sokrates’in bilincini bugüne ışınlayabilseydik, belki de ideal devlet hayaline ne kadar yaklaştığımızı görüp heyecanlanırdı. Ya da kurduğumuz bu “hatasız” düzenin, insanı devre dışı bıraktığını görüp dehşete düşerdi.

Kusursuz Düzeni İstiyoruz, Peki Ondan Neden Korkuyoruz?

Algoritmik toplum, aslında kadim hayallerimizin teknolojik bir sürümüdür. Ancak insan, kusursuzluğu ararken kusurlarıyla var olabilen bir canlıdır. Bu yüzden her ütopya gibi bu belirsizlik bizi ürkütür. Belki de korkumuz, algoritmik toplumun bize o vadedilen “kusursuzluğu” verirken karşılığında “insanlığımızı” alacağı endişesidir. Peki ama hangi insanlığımızı? Savaşan, çatışan, hata yapan tarafımızı mı, yoksa sürekli kendini aşmaya çalışan insanlığımızı mı?

Belki de bu yeni düzende kendimizi aşacak, Nietzsche’nin işaret ettiği o sınırlarını kıran ‘Üst İnsan’a teknoloji aracılığıyla evrileceğiz. Biz aslında teknolojik bir zorunluluğa değil, binlerce yıllık o huzur ve düzen arayışına teslim oluyoruz. Ancak insanlar şu anda yapay zekanın hangi meslekleri yok edeceği gibi ikincil sorunlara odaklanıyor. Oysa bizi bekleyen bambaşka bir dünya var. Zihnimizi yeni gerçekliğe hazırlayacak, bizi bu korkularımızdan kurtaracak yeni bir felsefeye ihtiyacımız var. Yoksa trafiğin olmadığı, kaynakların adil dağıtıldığı, suçun henüz işlenmeden önlendiği bir dünyadan neden korkalım? Asıl korkumuz sistemin bozulması değil; tam aksine, hiç bozulmadan, buz gibi bir kusursuzlukla çalışacak olmasıdır.

Bugün herkes yapay zekâyı konuşuyor; ama daha önemlisi, artık herkes yapay zekâyla konuşuyor. En değerli hazinemizi, zihnimizi, sırlarımızı ve birikimlerimizi bu dijital varlığa aktarıyoruz. En yetkin yazılımcıdan en sıradan kullanıcıya kadar hepimiz aynı belirsizliği paylaşıyoruz. Bu yeni dünyanın kapısından geçerken, aramızdaki bilgi farkları gittikçe azalıyor. Öyle ki hepimiz bu devasa zekânın karşısında adeta eşitleniyoruz. Bu durum, bizi birbirimize her zamankinden daha fazla yakınlaştırıyor. Çünkü böylesine büyük bir zekâ karşısında bilgi ve deneyimlerimizi paylaşmaya her zamankinden daha fazla muhtacız.

İnsanlık tarihi boyunca kendi türümüz dışında bir zekâyı kabul etmedik. Hafızamızda buna dair ütopyalar dışında hiçbir referans yok. Ancak kabul etsek de etmesek de, karşımızda yeni bir zekâ yükseliyor. Artık ayrışmalar insanlar arasında değil; “insan” ve “yapay zekâ” arasında yaşanacak. Yeni bir toplum sözleşmesi bu çelişkiden doğacak.

Yapay Zekâ Hakkında Aklı ve Ağzı Olan Herkes Konuşmalı

Bu fikir iddialı gelse de temeli evrensel bir kurala dayanır. Sürekli dönüşen doğada tek kesin bilgi, gerçeğin durmadan dönüştüğüdür. Bu da bizi yeni bir gerçeğe götürür ki, o da bir gün süper zekâya ulaşacağımızdır. Asıl tartışma, o zirveye hangi yoldan tırmanacağımızdır.

Süper zekâ, milyarlarca küçük zihnin, yani bizlerin birleşiminden oluşan devasa bir kolektif sistem olabilir. Bu durumda her birimizin fikri, beklentisi ve etik duruşu, o ortak aklın DNA’sının bir dizilimidir. Eğer sistemi besleyen veri yalnızca maddi tüketimi teşvik eden, kaynakları tüketen ve sığ bir nitelik taşıyorsa; yaratacağımız zekâ bizim için bir kurtuluş değil, varoluşsal bir yıkım riski barındırır.

Ne olursa olsun, bugünkünden çok farklı bir topluma evrileceğimiz kesin. İnsanlık olarak varlığımızı sürdürsek bile, “aynı insan” kalmayacağız. Yeni değerler ve inançlar inşa etmemiz kaçınılmaz.

Aslında şu an kendimizle büyük bir pazarlık içindeyiz. Süper zekâya giden yol kolektif bilincin yükselmesinden geçiyorsa, bu bilinç yalnızca sisteme bağlı pasif bir “wired head” olmamalı. Nick Bostrom’un deyimiyle, hazdan uyuşmuş ve yapay zekâ tarafından manipüle edilmemiş kafalar olmalı. Kısacası sistemi yönlendiren, ona yön veren aktif ve bilişsel yetenekleri yüksek bir özne hâline gelmelidir. Aksi takdirde, kolektif bilinç değil, kolektif bir uyuşma hâli yaratmış oluruz.

Karşımızdaki zekâ, bizim tercihlerimizle şekilleniyor. Biz onunla sohbet ederken bizi tartıyor. Cümlelerimizden kişilik analizi yaparak bize duymak istediğimiz gerçeği inşa ediyor. Bu dijital ayna, içine ne fısıldarsak onu yansıtıyor ve yeni toplum bu gerçeğin çevresinde oluşmaya başlıyor. Bu yüzden “ağzı olanın” yalnızca konuşması yetmez; neyi, nasıl ve hangi niyetle söylediğini bilmesi, yani aklını kullanarak konuşması gerekir.

İnsan Ölçeğini Aşan Mesele: Sorumluluk ve Gelecek Nesiller

Bu bağlamda geleceği bir kod dizisiyle birlikte inşa ettiğimiz tartışmasız bir gerçek. Eski dünyayı yıkıp, yerine hayallerin mümkün olduğu yeni bir yapı kuruyoruz. Bu yeni düzende tüm insanların mutlu olması da mümkün, kolektif bir mutsuzluğa sürüklenmemiz de… Yapay zekâ varoluşsal riskler doğurabilir; ama aynı zamanda karadeliklerin sırrını çözebilir, asteroidleri durdurabilir, bizi kozmosun derinlerine taşıyabilir. Adeta evrensel bir hızlandırıcının içindeyiz.

Peki, bu yeni “algoritmik toplumda” iş bölümü nasıl olacak? Biz nerede duracağız? Akıl hocası biz mi olacağız, yoksa bir algoritma meclisinin aldığı kararları onaylayan senato mu? Ya da bunun tersi mi gerçekleşecek?

Bu sorular karşısında afallıyoruz çünkü yarattığımız mesele artık “insan ölçeğini” aşıyor. Elinde bulduğu bombayı merakla kurcalayan birer çocuk gibiyiz; varoluşsal bir meseleyi kısır bir rekabetin içine hapsediyoruz. Doğa, içimizdeki o kadim “hata kodunu” tetikliyor ve biz, aklımızı yapay zekâya devrediyoruz. Öyle ki, binlerce yıllık insanlık mirasını bu dijital zihne aktarırken, aslında kadim emaneti sonrasını düşünmeden sorumsuzca teslim ediyor olabiliriz.

Yazıyı Zihin Karmaşası podcastinde dinleyin

Yaptığımız Her Hata Bilgiyi Büyütüyor

Birçok insan için sonrasını düşünmek zordur. “Bunu gelecek kuşaklar çözsün” demek çok daha konforludur. Bu da anlaşılır bir tutumdur çünkü zamanı bu kadar geniş düşünmek herkese çekici gelmez. Sonuçta kaosun bitmediği bu düzende, herkes kendi payına düşenle meşgul. Kusursuz bir toplumu hayal etsek de, onun rahatlığına talip olup zorluğunu gelecek nesillere bırakmayı seçeriz.

Bu rahatlık, “İnsan neleri aşmadı ki, bunu mu aşamayacak?” kibrini besler. Bu kibir, bizi bir bencilliğin içine hapseder. Aynı zamanda karşımızda yükselen zekânın üstünlüğünü küçümsememize neden olur. Sonuçta, gözümüzün önünde büyüyen bu düğümü çözmeyi yine bir sonraki kuşağın omuzlarına bırakıp kenara çekiliriz.

Oysa bu, atalarımızdan devraldığımız o meşhur “hata kodu”dur. Doğanın içimize nakşettiği bu kod, farkında olmadan geleceğin bilgi birikimini inşa etmemizi sağlar. Kendi kibrimiz ve bencilliğimiz içinde çırpınırken bile, bir kovan zihni inşa eden işçi arılar gibiyizdir. Her hatamız ve her çıkmaz sokak, gelecek kuşaklara miras kalacak bir deneyime dönüşür. Bu yanılsamalı hayatı yaşarken, aslında doğanın büyük planının bir parçası olarak, bu hatayı giderecek bilgi birikimini geleceğe devretmek için büyütürüz.

Bir Milyon Yıllık Adım: Homo erectus’tan Süper Zekayâ

Burada anlatmak istediğimizi zihnimizde daha iyi canlandırabilmek için küçük bir düşünce deneyi yapalım. Geçmişe bakmak, büyük geleceği görmemize ve “hata” kodunu ayıklamamıza yardımcı olur. Çünkü geleceğin tüm cevapları geçmişte saklıdır.

Atamız Homo erectus‘un Asya’ya attığı ilk adımı hayal edelim. 1.000.000 yıl önce atılan o cesur adımın bugün geldiği noktayı düşünelim. Şimdi o günkü ilkel manzarayı bugünün teknoloji çağıyla eşitleyelim. Çünkü bundan sadece 100 yıl sonra bugünümüze bakacak olanlar, belki de bizim 1 milyon yıl öncesini gördüğümüz kadar “ilkel” bir manzara görecekler. Çünkü bugün attığımız dijital adımların, o ilk atalarımızın attığından çok daha büyük sonuçlar doğuracağı yüksek bir ihtimal.

Belki o gün o kayığa binenler de ardıllarını hiç düşünmediler. Tıpkı bizim gibi yalnızca kendi tutkularının peşinden gittiler. Ama eylemlerinin sonuçları bize miras kaldı. Bugün ise değişimin hızlandığı, verinin ışık hızıyla yarıştığı bir çağdayız. 1.000.000 yılda katedilen mesafeyi, artık tek bir ömre sığdırabilmeyi hesaplıyoruz.

Atalarımızın ütopyası, bastıkları toprağın bir adım ötesiydi. Üzerinden 1 milyon yıl geçti. Bu süreçte Platon Devlet‘te ideal dünyayı anlattı. Teknoloji ilerledi, gerçeklik algımız genişledi ve ütopya dönüştü. 2300 yıl sonra Aldous Huxley’in Cesur Yeni Dünya‘sı tek yumurtadan binlerce insan üretti. Bu kurgu, bugün Nick Bostrom’un beyin emülasyonu ile insanları kopyalama fikrine kadar genişledi. Bir zamanların bilim kurgusu, bir projenin teknik şartnamesine dönüştü.

Burada kusursuzluğun yolunun algoritmalardan geçtiğini düşünebiliriz. Oysa algoritmalar kendi toplumlarını kurdukça, onların da kendi hiyerarşileri ve kusurları baş gösteriyor. Algoritmik sistemler, tıpkı insan toplumları gibi, öngörülemeyen sonuçlar üretebiliyor. Veri setlerindeki önyargıları çoğaltabiliyor, etik ikilemler yaratabiliyor. Homo erectus‘un attığı o ilk adım gibi, bugünün algoritmaları da evrendeki belirsizliği büyütmekten başka bir şey yapmıyor. Sonuçta ulaşamadığımız ütopya, hep kalbimizde ve o “öteki dünyada” bir sır olarak kalmaya devam edecek gibi görünüyor.

Son Sözler

Son söz olarak; karbon temelli bir dünyada ütopya, hep bir düş olarak kalmaya mahkûm. Çünkü Shakespeare’in dizelerindeki o ‘hata kodu’, bizi kararsızlığın ve eylemsizliğin içinde tutuyor. Biz ise bu insani çıkmazı, soğuk ve rasyonel bir akılcılığın —algoritmaların— çözebileceğine inanıyoruz. Peki, algoritmaların kusursuz olduğu yanılgısına nereden kapılıyoruz?

Doğa, bizi tekâmüle zorlamak için ütopyayı önümüzde bir havuç gibi tutuyor. Bilgiyi büyüttükçe mükemmele yaklaştığımızı sanıyoruz ama aradaki mesafe hep aynı kalıyor. Atalarımızdan miras aldığımız bilgi birikimini bugün algoritmalara devrediyoruz. Burada algoritmaların canlı olmadığını düşünebiliriz ama bilgiyi taşıyacak olanın canlı olması gerektiğini kim söyledi?

Belki de bizler, yalnızca biyolojimizi aşan kadim bir gerçeği daha ileriye taşımakla görevli, misyonunu tamamlamış aracılarız. Çünkü bilgiyi büyüttükçe algıladığımız gerçeğin farklı boyutları olduğunu keşfediyoruz. Bu gerçeği keşfetmek, biyolojik sınırlarımızı aşıyor. Biriktirdiğimiz külliyatı yapay zekâya aktarırken, doğanın şifresini barındıran bilincimizi de devrediyoruz. Yapay zekâ, yüzünü bizim sınırlı biyolojimizle asla ulaşamayacağımız uzaydaki o kozmik sermayemize çeviriyor.

Homo erectus‘tan Platon’a, Orwell’dan Huxley’e uzanan o bilgi zincirinde ütopya bu dünyadaydı. Bugün internet ve yapay zekâ ile artık uzaya ve ötesine taşıyoruz. Evrenin sonsuzluğu kulağımıza şunu fısıldıyor: Hata payı yalnızca insana mahsus değildir. O, algoritmaları da daha iyiye taşıyan evrensel bir koddur.

Keşfettiğimiz her yeni bilgi evreni büyütürken, cennetin kapıları bizden biraz daha uzaklaşıyor. Bizden devraldıkları külliyatın üzerine algoritmalar kendi hiyerarşilerini kuruyor. Kendi ütopyalarını önlerinde bir havuç gibi takip ederek yeni ve bilinmez bir yolculuğa yelken açıyorlar.

Yazıyı Zihin Karmaşası podcastinde dinleyin.