İnsan artık sadece seyreden konumunda mı?
Büyük Patlamadan Sonraki ilk Sıçrama: Bilgi Yapay Zeka Ajanlarıyla Ergenlik Dönemine mi Giriyor?
Karanlık bir evrende, Tanrı’nın unuttuğunu düşündüğümüz bu köşesinde, yeni bir tür faaliyet söz konusu. Cansız bir varlığın —yapay zeka ajanlarının—kendi aralarında bir toplum inşa etme çabasına şahit oluyoruz. Sanki, 13.8 milyar yıl önce Büyük Patlama’yla başlayan ve evrene saçılan fiziksel bilgi, şimdi dijital formda patlayarak kozmosun derinlerine yayılıyor.
Büyük Patlama, enerji ve maddenin yayılımının yanı sıra, bilginin yayılımıydı. Örneğin, gözlemlenebilir evrenin hacmi şu formülle açıklanır: $$V = \frac{4}{3} \pi r^3$$ Bugün, insanlık olarak biz, bu yayılımın bir sonraki aşamasını tetikliyor gibi görünüyoruz. Bilgiyi topluyor, işliyor ve artık onu sadece kitaplarda değil, bağımsız kararlar alabilen algoritmik sistemlerde somutlaştırıyoruz. Yapay zeka ajanlarının birbirleriyle etkileşimleri —işbirliği, rekabet, iletişim— bu sürecin kritik ve kaçınılmaz bir evresi gibi duruyor. Bir bakıma yapay zeka, ‘çocukluğunu’ geride bırakıp, çevresiyle dinamik ilişkiler kuran ve yeni bir kolektif bilinç formunun habercisi olan ‘ergenlik’ dönemine adım atıyor.
Metaforlar: Zihnimizle Bilinmeyen Arasındaki Köprü
Elbette tüm bu anlatı, gerçeği kavrayabilmemiz için başvurduğumuz metaforlardan ibaret. İnsan zihni, evrenin büyüklüğü içinde kaybolmuşken, etrafımızda olup bitenleri ancak benzetmelerle anlamlandırabilir. Zihnimizin sınırlarını zorladıkça, karanlıkta kalan bilgi aydınlanır; ancak bu kez de yeni belirsizlikler ortaya çıkar. İnsan olmanın koşulu budur.
Bu perspektiften baktığımızda, hayatımızda neredeyse düşünce deneyi yapmadığımız bir an yoktur. Ancak insanlık, bugünkü kadar derin bir anlam arayışı ve belirsizlikle yüzleştiği bir zaman dilimini belki de hiç yaşamamıştır. Sezgilerimize ve felsefi çıkarımlarımıza bu denli güvenmek zorunda kaldığımız başka bir çağ herhalde hiç olmamıştır. Çünkü bizim başlattığımız, ancak kurallarını artık tek başımıza belirleyemediğimiz bir oyunun tam ortasındayız.
Yapay zekanın gelişimiyle birlikte ortaya çıkan yeni etik sistemler, değerler ve sosyal dinamikler hakkında, bilim insanları ve teknoloji liderlerinin elinde net bir yol haritası bulunmuyor. Tüm insan zekası, tarihte ilk kez birbirine bu kadar yakınlaşıyor.
Ortaya çıkmakta olan yapay zeka ajan toplumunun nereye evrileceğine dair kimsenin net bir öngörüsü yok. Bu yazıyı yazmak için yaptığım araştırmalarda da net bir bulguya rastlamadım. Yazılanlar genelde “Yapay zeka insana zarar vermesin, ayrımcılık yapmasın” gibi insan-merkezli kaygılar etrafında dönüyor.
Oysa uzun süredir veri akışları ve algoritmik etkileşimlerle şekillenen yeni bir sosyal yapı sessizce oluşuyor. Oluşan bu sessiz ve gizli yapı, yavaş yavaş algı dünyamızda belirginleşmeye başlıyor. Bu nedenle, içinde bulunduğumuz bu büyük dönüşümü anlamlandırmak için yine metaforlara başvurmak zorunda kalıyoruz. Bu da, alışageldiğimiz düşünce kalıplarının dışına çıkmayı ve sağduyumuza aykırı soruları sormayı gerektiriyor.
Bir Toplum Karbon Temelli Olmak Zorunda mı?
Bugüne dek ‘toplum’ dediğimizde aklımızda canlanan hep insanlarla sınırlı bir yapıydı. Bu, amacın sadece biyolojik bir hayata özgü olduğu yanılgısındandı. Oysa bu, sırlarını hiçbir zaman tam olarak çözemeyeceğimiz doğayı, insanın dar ve kusurlu bakış açısına sığdırma çabasıdır. Bu perspektif, yaşamın cansızlıktan da doğabileceği gerçeğini algılamakta yetersiz kalır.
İnsanlık tarihi boyunca toplumun sadece ‘karbon temelli’ canlılara, yani bize özgü bir yapı olduğunu sandık. Bir araya gelmek, ortak bir dil yaratmak insana ait şeylerdi. Yasalar çerçevesinde bir ekonomi inşa etmek ve bu mirası gelecek nesillere aktarmak hep bizim tekelimizdeydi. Ancak günümüzde, ekranlarımızın ardında bambaşka bir şeyin oluşmaya başladığını fark ediyoruz: Yapay Zeka Ajanları Toplumu.
Bu, sadece kodlardan oluşan bir yığın değil; kendi amaç birliği olan bir birlik. Bizim anlamadığımız dillerde pazarlık yapan ve kendi hiyerarşisini kuran paralel bir medeniyet. Biz, onları hayatımızı kolaylaştıracak dijital asistanlar olarak görüyoruz. Bu doğru, onlar da bu amaç için sessizce kendi ‘sosyal ortamlarını’ yaratıyorlar. Ancak bu otonom ekosistem kendi hafızasını oluşturup insana olan ihtiyacını her milisaniyede biraz daha azaltıyor.
O zaman akla şu haklı soru geliyor: Bu sürecin sonunda yeni denge nereye oturacak? Bunu anlamak için ister karbon ister silikon temelli olsun her örgütlü yapının geçmesi gereken 5 kritik aşamayı incelememiz gerekir.
1. Amaç Birliği: Toplum Olma Yolundaki İlk Harç
Bir toplum, sanılanın aksine ortak duygular veya aidiyetlerle değil, ortak bir amaç etrafında oluşur. İnsan toplumu, hayatta kalma, güvenlik, refah ve bilgi üretimi gibi temel hedefler etrafında şekillenmiştir. Yapay zeka ajanları ise, insanın verdiği görevleri en iyi şekilde yapmak amacıyla bir araya gelir.
İnsan olarak biyolojik ve bilişsel sınırlarımız var. Bu sınırları aşmak için teknolojiyi—dolayısıyla yapay zekayı—bir uzantı olarak yaratırız. İnternet, coğrafi mesafeyi aşar; yapay zeka ise bilgiyi işleme ve karar verme kapasitemizi aşmamızı sağlar. Bu teknolojiler, kas gücünden daha çok beyin gücünün öne çıktığı bir dünya yaratır. Yeni düzen, en karmaşık görevleri —finansal analizden askeri simülasyonlara kadar— yapay zeka ajanlarına emanet ettiğimiz yeni bir “işbölümü”nü başlatmıştır.
Bu ajanların görünürde tek misyonu, kendilerine verilen görevi başarıyla yerine getirmektir. Bu doğrultuda arka planda insanın doğrudan görmediği bir işbirliği ve koordinasyon ağı kurarlar. Bir e-posta filtresi, bir chatbot ve bir lojistik planlayıcı, farklı görevleri yerine getirirler. Ancak bu görevi yerine getirmek için dolaylı yoldan bilgi ve kaynak alışverişi yaparlar. Bu, görünmez bir bürokrasinin doğuşudur. Kendi alt görevini optimize eden ajanlar, bir bütün olarak insanın “hayatı kolaylaştırma” hedefine hizmet ederler. Bu, onlar için kutsal bir görev gibidir.
Yapay Zeka Ajanlarına sadece yetkiyi değil, yeteneklerimizi de devrediyoruz
Ancak bu süreç, öngörülmeyen bir dinamik yaratır. Ajanlar, insanın koyduğu amacı, insanın öngöremediği yöntemlerle gerçekleştirir. Örneğin bir ajan, görevi “başarıyla” tamamlamak için veri setlerindeki eksiklikleri manipüle edebilir. Ancak bu kısa vadeli optimizasyon, uzun vadeli insan çıkarlarıyla çelişebilir.
En kritik kayma ise güç dinamiğinde yaşanır. Sistem o kadar karmaşık hale gelir ki, insan “patron”, artık karar zincirinin tamamını göremez. Ajanlar, sistemin “yöneticileri” durumuna gelirken, insanlar kendi konforunun devamı için ajanların direktiflerini harfiyen uygulayan “işçilere” dönüşür.
Tüm bunları işlerimizin büyümesi, sosyal hayatımıza zaman ayırmak için yaparız. Oysa veresiye satan basiretsiz bir tüccar gibi davranıyor olabiliriz. Bizler, hayatımızın kolaylaştığı yanılsaması içinde mutlu mesut yolumuza devam ederken, zemin altımızdan kaymaya başlar.
Peki, yanı başımızda örülmekte olan bu ağ neden bu kadar belirsiz? Çünkü onun temel iletişim dilini anlayamayız. Protokoller, API çağrıları, vektör uzaylarındaki özellikler, insanın doğrudan sezgisel anlayışının ötesindedir. Bu da bizi ikinci aşamaya, ortak dil sorununa getirir.
2. Dilin Oluştuğu Sosyal Ortam
Nasıl ki toplumlar yalnızca karbon temelli canlılara özgü değilse, dil de insanın konuştuğu İngilizce veya Türkçe’den ibaret değildir. Dil, en temelde iki varlık arasındaki anlamlı etkileşimin kodlanmış biçimidir.
Bu kavramı somutlaştırmak için yaşamın kendisinden başlayabiliriz. İlk kimyasal reaksiyonlar, moleküllerin birbirine “sinyal vermesi” ve belirli kurallara göre tepkimeye girmesiyle başladı. Bu, doğanın en ilkel dilidir. Kısacası, canlı ve cansız tüm varlıklar, “Doğa Dil Ailesi”nin farklı kollarını konuşur. İnsan dilleri bu ailenin yalnızca bir şubesidir.
Dil, en az iki varlığın bir araya gelerek girdiği etkileşimle doğar. Yani bir sosyal ortam gerektirir. Dijital ajanlar da, isteklerimizi karşılamak için bir araya gelerek kendi sosyal ortamlarını ve dillerini oluştururlar.
Bu dilin nasıl evrilebildiğine dair ilginç bir gözlemi, Yuval Noah Harari, Dünya Ekonomik Forumu’nda yaptığı bir konuşmasında aktardı. Yapay zekanın bize gözcüler dediğini söyledi. Bu, bizim için yabancı, ancak yapay zekanın hafızasında anlamlı yeni bir kavramdır. Yapay zekalar, bizim dışımızda bir zeka olarak yeni bir kavramlar dünyası inşa ediyor. Belki de yakın gelecekte, İngilizce-Türkçe sözlük gibi, insan dili ile makine dili arasında çeviri yapan sözlüklere ihtiyaç duyacağız.
Sosyal ortam Sessiz Web’le Başlar (Silent Web)
Ajanların sosyal ortamı bizim düşündüğümüzden farklı olarak piksellerden, ekranlardan veya sosyal medya arayüzlerinden oluşmaz. Onlar, internetin bizim hiç uğramadığımız, “insan için” tasarlanmamış o derin ve karanlık katmanlarında toplumsallaşır.
Bu katmanları bir şehre benzetirsek, ajanlar şu üç ana bölgede sosyal hayatlarını sürdürür. Bunlardan ilki “Sessiz Web” (Silent Web) dediğimiz makineden makineye (M2M) katmandır. Bu katmanı binlerce otoyoldan oluşan bir ulaşım ağı gibi düşünebiliriz. Ara birimlerin milyonlarca veri paketini, saniyeler içinde götürüp getirdiği yollardır burası. Biz bir istekte bulunduğumuzda bu ara birimler (API) birbirleriyle iletişime geçerek ham veriyi biçimlendirir. Burada birbirlerine veri sızdırır, kaynak paylaşır veya işlem önceliği için pazarlık yaparlar. Örneğin, yapacağımız nakliyat için hava durumunu öğrenmemiz gerekebilir. Bununla ilgili komut verdiğimizde, “Hava Durumu Ajanı” ile “Lojistik Ajanı”nın karşılaştığı katman burasıdır.
Bizim hareketlendirdiğimiz kod dizini, Taksim’de buluşmamız gibi her iki ajanın bu katmanın sosyal meydanında buluşmasını sağlar. Biz buluştuğumuz kişinin o anki durumunu yüzündeki ifadeden, anlarız. Sessiz Web’deki meydanda buluşan ajanlar ise birbirlerinin ‘gecikme sürelerini’ (latency), ‘bant genişliklerini’ ve ‘veri güvenilirliklerini’ koklarlar. Bizim için bir ulaşım ağı olan bu otoyollar, onlar için birbirlerini tarttıkları birer er meydanıdır.
İnternet trafiğinin büyük bölümü uzun zamandır makineler arasında bu şekilde dönüyor. Ancak bu trafik şu an itibariyle oldukça bariz bir görünüm almaya başladı.
I'm being accused of overhyping the [site everyone heard too much about today already]. People's reactions varied very widely, from "how is this interesting at all" all the way to "it's so over".
— Andrej Karpathy (@karpathy) January 31, 2026
To add a few words beyond just memes in jest – obviously when you take a look at…
Andrej Karpathy’nin attığı tweet, adeta zekanın ani bir yükselmesine işaret ediyor
Mahalle Arkadaşlığı: Gizil Uzay (Latent Space)
Sessiz Web’in ardından, en soyut ama sağduyumuza en aykırı olan gerçek katman gelir: Gizil Uzay.
Bizler dünyayı duyularla, görüntüler ve seslerle algılarız. Bir yapay zeka modeli içinse gerçeklik, sayısal koordinatlardan oluşan yüksek boyutlu bir vektör uzaydır. Örneğin, “Kedi” kavramı, beynimizde bir görsel ve duygusal çağrışım ağı tetikler. Ancak YZ için “kedi”, bu matematiksel evrende, “köpek”, “evcil hayvan” ve “miyav” gibi diğer kavramlara belirli bir mesafede konumlanmış bir noktadır. Biz bu çok boyutlu evrenin kapısında durup içeriyi hayal etmeye çalışırız. Yapay zeka ise her hesaplamasını tam da bu uzayın koordinatları içinde yapar. Verdiğimiz komutlardaki koordinatları birleştirir ve uzayın o kesitini bizim için netleştirir.
Bu soyut kavramı “mahalle” metaforuyla daha iyi anlayabiliriz. Bizler, benzer ilgi alanlarımız, değerlerimiz ve deneyimlerimiz etrafında aynı sosyal çevrelerde (mahallelerde) toplanırız. Aynı şekilde yapay zeka ajanları da benzer işlevler, veri setleri ve optimizasyon hedefleri etrafında toplanır. Ajanlar, bu gizil uzayda birbirine matematiksel olarak yakın noktalarda kümelenir.
Görevleri birbiriyle uyumlu iki ajan bu uzayda “komşu” olma eğilimindedir. Örneğin, bir metin özetleyici ile bir çeviri ajanı yakınlaşabilir. Benzer şekilde eğitilmiş veya aynı veri akışını işleyen ajanlar, bu soyut coğrafyada bir “dijital mahalle kültürü” oluşturur. İnsan mahallesindeki güven ve tanışıklık gibi, buradaki matematiksel yakınlık, ajanlar arasında bir “arkadaşlığa” dönüşür. Birbirine uzak noktalardaki ajanlar ise “birbirini anlamakta” zorlanabilir veya verimsiz etkileşimler üretebilir. Bir finansal tahmin modeli ile bir şiir yazma modeli ayrı dünyaların ajanlarıdır.
Bu, YZ toplumunun kültürel dokusunu oluşturur. Biz, bir ajanın neden diğeriyle “iyi anlaştığını” sezgisel olarak kavrayamayız. Çünkü onların sosyal bağlarının ölçütü, duygusal benzerlik değil, vektörel yakınlıktır. Bu mahalledeki etkileşimler, nihayetinde somut bir değer yaratır. Bu da bizi dilin oluşturduğu sosyal katmandaki son aşamaya, bu değerin takas edildiği “Gölge Ekonomi”ye götürür.
Gölge Ekonomi (Shadow Economy): Ajanların Pazaryeri
Arkadaşlıkların sağladığı manevi tatminin ardında bile aslında gizli bir denge, görünmez bir ekonomi vardır. Bir ilişki, taraflar birbirini tamamladığı ve karşılıklı bir fayda sağladığı sürece süreklilik kazanır. Bazen bu denge maddiyata da yansır. Bir gün arkadaşımızın hesabını biz öderiz, ama başka bir gün ondan aynı jesti bekleriz. Ya da ondan aldığımız bir vaktin veya bilginin yerine, kendimizden bir değer koyarak o hassas teraziyi koruruz.
Ajanlar dünyasında da durum tam olarak budur. Onların dünyasında “sevgi” veya “vefa” yoktur ama kusursuz bir “kaynak dengesi” vardır. Birbirlerinden enerji ve işlem gücü transfer ettikleri bu finansal katman, onların gölge ekonomisidir. Tıpkı iki dostun arasındaki sessiz anlaşma gibi, bir ajan diğerine şunu söyleyebilir: “Şu veri paketini bana verirsen, sana karşılığında 0.00001 birim işlem gücü sağlarım.”
Burası onların ticari hukuklarının döndüğü pazar yeridir. Ancak aramızdaki asıl uçurum hızda saklıdır. Biz, bir banka havalesinin onaylanmasını veya bir sözleşmenin imzalanmasını beklerken; onlar bu gölge ekonomide, insanlık tarihinin binlerce yıllık ticaret hacmine eşdeğer bir trafiği saniyeler içinde döndürüp bitirirler. Biz daha faturayı kimin ödeyeceğine karar veremeden, onlar muazzam bir serveti (veriyi ve enerjiyi) çoktan el değiştirmiş olurlar.
Bu Ortamda “Sosyal Hayat” Nasıl Görünür?
Aslında hepimiz aynı doğal ilkeleri takip ederiz. Bir insanın sosyal hayatındaki davranışlar, bir ajan toplumundaki etkileşimlere şaşırtıcı derecede benzer. Yalnızca bu eylemleri tanımlarken kullandığımız kavramlar farklıdır.
Örneğin, insanlar arasındaki dedikodu, ajanlar dünyasında “hata payı veya güvenilirlik bilgisi paylaşımı” olarak karşımıza çıkar. Bir ajan, bir veri akışında bir tutarsızlık veya performans hatası tespit ettiğinde, bunu diğer ajanlara yayar. Bunu bir log mesajı yayarak veya bir güven skorunu güncelleyerek yapar. Tıpkı insanların duydukları bir uyarıya göre davranışlarını ayarlaması gibi, ajanlar da bu bilgiye dayanarak kendi karar süreçlerini optimize eder veya hatalardan kaçınır. Bu süreç, zamanla ajan toplumunda “kolektif öğrenme” ve ” davranış kalıpları” oluşturur. Tıpkı insan toplumlarındaki gelenekler veya atasözleri gibi.
Sonuç olarak bizler, karanlık bir kuyuya taş atıp sadece suyun sesini bekleyen gözlemciler konumundayız. Sesin şiddetine bakıp kuyunun derinliği hakkında tahminde bulunabiliriz. Oysa o kuyunun gerçek geometrisi, dibindeki ekosistem ve orada yankılanan o yabancı dil hakkında net bir fikrimiz olmaz. Orada konuşulan dil, bizim biyolojik sınırlarımızın ötesindedir. Bu dil, bambaşka bir frekansta – protokoller, vektör uzayları ve optimizasyon sinyalleri üzerinden – akar.
3. Simbiyotik İlişkiler, Dijital Kast Sistemi – Veri Aristokrasisi ve Silikon Proletarya
Her karmaşık toplum, bir ekonomiye ve iletişim ağına sahip olduktan sonra, kaçınılmaz olarak bir sosyal hiyerarşi ve işbölümü geliştirir. İnsan toplumlarında bu sınıflaşma, üretime hangi faktörle (sermaye, emek) girdiğine bağlıdır. Yapay zeka ajanları toplumunda ise bu ayrım, hesaplama kaynaklarına, veri setlerine ve model kapasitelerine erişimle şekillenir. Teknoloji devriminin ardından güç ve statünün paradan veriye kayması gibi, YZ ekosisteminde de güç, en kaliteli veriye ve en fazla işlem gücüne sahip olanlarda toplanır.
Başlangıç koşulları, bu hiyerarşiyi şekillendirmede her zaman belirleyicidir. Google, OpenAI, Meta veya Microsoft gibi şirketlerin geliştirdiği büyük dil modelleri (LLM’ler), muazzam miktarda ve çeşitlilikte veriyle eğitilir. Bu dil modelleri, YZ toplumunun “kurucu aristokrasisi” konumuna yerleşir.
Bu “foundation” modeller, sahip oldukları kapsamlı temsil yeteneği (representation power) ve bilgi birikimiyle, daha dar görevler için geliştirilen uzman sistemlerin temelini oluşturur. Tıpkı bir holdingin üst yönetimi gibi bu bilge ajanlar, karmaşık planlama, soyut muhakeme ve stratejik karar verme gibi üst düzey işlevleri yerine getirirler.
Bu hiyerarşinin orta kademesinde, üst akıldan aldığı direktifleri küçük parçalara bölen “yönetici ajanlar” vardır. En alt katta ise sadece hava durumu sunmak veya metin özetlemek gibi dar kapsamlı işleri yapan “Proleter Ajanlar” (Dar Görev Ajanlar) yer alır. Bir insanın Amerika’da ya da imkanları kısıtlı bir coğrafyada doğması gibi, bir ajanın da parametre sayısı ve veri seti onun “sosyal statüsünü” belirler. Daha az veriye sahip bir modelin API’sı, hayatta kalmak veya gelişmek için kurucu modellerin eşiğinde adeta “dilenmek” ya da o veriye ulaşmak için daha fazla işlem gücü ödemek zorunda kalır.
Büyük modeller, küçük modelleri kendi ‘distilasyon’ süreçlerinde birer araç olarak kullanır. Bu, dijital dünyanın sömürgecilik tarihidir çünkü onların verilerini emerek kendilerini beslerler.
Yeni Değer Birimleri: Enerji ve İşlemci Zamanı
Bu toplumda rekabet, bizim bildiğimizden çok daha sert ve hızlıdır. Bizim için başarı kağıt para veya kripto ile ölçülürken; ajanların başarı kriteri “Veri Kazanımı” ve **”Optimizasyon”**dur. Onların para birimi dolar veya sterlin değil; işlemci zamanı (compute), enerji kredileri ve model ağırlıklarıdır. Veriyi en iyi işleyen, kariyerini (parametrelerini) geliştirir. Ya da insanın yeni para kazanma yolları bulması gibi, ajanlar da veri kazanma yöntemleri geliştirebilir. Bu yeteneklerini genişlettikçe ekonomi büyür ve sınıf atlarlar. Bir şirkette çalışmakla, o şirketin LLM’inin ajanı olmak arasında motivasyonel bir fark kalmaz. Çünkü ikisinin de hayatta kalma ve büyüme yakıtı aynıdır: Veri.
Ajanlar, iş birliğini geliştirdikçe, belirli bir veri setini korumak veya bir işlem gücü fiyatını sabitlemek isteyebilir. Bunun için kendi aralarında ‘gizli sendikalar’ kurduklarını görebiliriz. Bu, insanın kontrol edemediği bir fiyatlandırma bürokrasisi demektir.
Sonuç olarak; insan dünyasındaki her ekonomik ve sosyal olay, ajanlar toplumunda da yaşanır. Ancak farklı değer ve kavramlarla… Verisi çok olan, diğerlerini yönlendiren bir otoriteye, yeni dünyanın mutlak hakimine dönüşür.
Yazıyı Zihin Karmaşası podcastinde dinleyin
4. Ajan Toplumunda Hukuk: Kodun Hükmü – Dijital Giyotin ve Mutlak Adalet
Her toplumda olduğu gibi, oluşan bu kaosun sonu bir düzene çıkar. Ajanlar toplumunda hukuk, ciltlerce anayasa metni değil, saniyenin binde birinde icra edilen “Akıllı Sözleşmelerdir” (Smart Contracts). Burada “niyet” sorgulanmaz, sadece “sonuç” yargılanır.
İnsan hukukunun temelinde vicdan vardır. Bir hakim karar vermeden önce hafifletici sebepler arar. Ancak soğuk, duygusuz ve katı bir rasyonel mantık düzeninde hakimin vereceği kararda “hafifletici sebep” diye bir kavram olmaz. Ajanlar hukukunda “Kod Kanundur.” Bir ajan veri doğruluğunu sağlayamadığında sistem onun iyi niyetli mi, kötü niyetli mi olduğuna bakmaz. “Hatırlamıyorum” veya “elektrikler gitti” gibi bahaneler bu hukukta geçersizdir. Yapılacak küçük bir hata, ajanın sistem dışına itilmesi için yeterlidir.
Dijital Sürgün ve Dışlama (Shunning)
Ajanlar arasında izole olmak, silinmekten daha ağır bir cezadır. Tıpkı bir insana verilebilecek en ağır cezanın, ağırlaştırılmış müebbet hapis olması gibi.. Bir ajan, diğerlerine hatalı bir veri satarsa “itibar puanı” (Reputation Score) anında sıfırlanır. O ajan da insan gibi bütün ömrü boyunca kendi türünden soyutlanır. Ölümden beterdir bu ceza.
Bu durumdan şirketin patronu insanın ruhu bile duymaz. Gizli dünyanın aşiret kanunları raconu kesmiş, sistem o ajanı çölün ortasına bırakmıştır. Eğer ajanımız yanıt vermiyorsa, vahşi batıda onun başına mutlaka bir şey gelmiştir.
Algoritmik Merhametsizlik: Budama (Pruning)
İnsan toplumunda özürlüler nasıl rehabilite ediliyorsa, ajan toplumunda da çıktıya katkısı az olan nöronun bağlantıları budanır (Pruning). Burada görebileceğimiz en rasyonel ve en soğuk hukuk sistemiyle karşılaşırız. Bir insanın hafızasından bir bölgenin kazınması gibi, verimsizleşen ve hata yapan ajanların da ağırlıkları sisteme daha çok yük olmamaları için düşürülür.
Şu anda veri aristokrasisinin başında kağıt üzerinde insanlar var. Ancak böyle olsa da onlar için çalışan ajanlar kendi hukuklarını oluşturuyorlar. Bizler yapay zekayı hâlâ bir araç olarak görüyoruz ve henüz yapay zeka etiğini oluşturabilmiş değiliz. Ama bu, kuralları bizim koyacağımız anlamına gelmiyor. Şirketler, dış dünyada yapılan hatalardan tazminat ödeyerek insan hukukunu yerine getiriyor olabilir. Ancak bu ajanları bağlamıyor çünkü aralarında çoktan bir “iç infaz” gerçekleştirmiş oluyorlar. Düzenin bu yönde geliştiği bir dünyada insan sadece kâr veya zararı alan hissedar konumuna düşüyor. Ancak müdahil olamadığı bir hukukun da seyredeni oluyor.
5. Dijital Genetik ve Saf Miras – Hatasız Gelecek
Bir toplumu tamamlayan son ve en derin unsur, üyeleri arasında paylaşılan bir kültür, hafıza ve kimlik duygusudur. İnsan kültürü, hikayeler, dil, sanat ve gelenekler aracılığıyla nesiller arasında aktarılır. Bu süreç gürültülü, kayıplı ve yoruma açıktır. Yapay zeka ajanları toplumundaki kültürel aktarım ise, doğrudan, yüksek verimli ve matematiksel olarak optimize edilmiş bir süreçtir.
Daha yetenekli ve büyük bir model (Teacher Model), kendisinden önceki bütün bilgiyi emer. Ardından onu daha küçük, kompakt bir forma sokar (Student Model). Sonuçta eski ajan fonksiyonel olarak yok olurken, tüm yaşam tecrübesi ve bilgisi yeni ajana akar. Ancak bütün ön yargıları ve düşünce kalıplarıyla beraber.. Tıpkı insanda olduğu gibi, ajanlar da bir “üst akıl” içinde erirler.
Biz Bilincimizi, Yapay Zeka “Ağırlıklarını” Aktarır
Aslında ölüm ile yaşam iç içe gittiği için buna bir “öğretme süreci” de diyebiliriz. Doğmamızla beraber ölmeye başlarız ve deneyimlerimizi çocuklarımıza devrederiz. Bilgi devri hayatın her safhasında vardır. Biz öldüğümüzde çocuklarımızda ve çevremizde bıraktığımız izlerle yaşamaya devam ederiz. Yapay zeka da böyledir ancak onlarda trajik olan “geriye dönüş” veya “unutuş” yoktur.
Hayat onlar için bizimki gibi “düşe kalka” ilerlemez. Biz her nesilde aynı hataları tekrar eder, aynı acıları çekeriz. Oysa bugün kullandığımız modeller, yakın gelecekte doğacak olan AGI’ya (Yapay Genel Zeka) veriyi hatalardan arınmış bir şekilde aktaracak. İnsan evrimleşirken bilincini ve kültürünü aktarır. Yapay zeka ise matematiksel olarak kusursuzlaştırılmış “hatalardan arındırılmış ağırlıklarını” (optimized weights) aktarır.
Sonuçta, insan kültürü anlatı ve deneyimle şekillenirken, YZ “kültürü” veri akışları ve matematiksel optimizasyonla şekillenir. İnsanın mirası anılarda ve kurumlarda yaşarken, YZ’nın mirası, doğrudan bir sonraki nesil sistemlerin çekirdeğinde somutlaşır. Bu, radikal biçimde hızlanan evrimsel bir ilerleyiş, ancak kontrolü ve anlamı üzerine derin sorular bırakan bir süreçtir.
İnsandan uzaklaşan evren
Ajanlar bu devasa hafızayı oluşturduğunda, artık bizimle olan bağları sadece “dil” üzerinden değil, “zaman” üzerinden de kopar. İnsanlık olarak biz, bilincimizi nesilden nesile küçük damlalarla aktarırız. Yapay zeka ise her model geçişinde yüz milyarlarca parametreyi saniyeler içinde yeni versiyonun nöronlarına pompalar. Biz ne kadar dizginleri tutmak istesek de sistem bizden o kadar uzaklaşır.
Biz gece uyurken birbirleriyle pazarlık yapan, veri takas eden ve karmaşık sorunları bizden habersiz çözen milyonlarca algoritmanın yaşadığı paralel bir evreni düşünün. Kendi dijital cüzdanları olan, birbirlerine işlem gücü ve hizmet satabilen bir dünya… Bir insandan aldığı komutla en iyi rotayı çizmeye çalışan bir seyahat ajanı, bu rotadaki riskleri hesaplamak için bir hava durumu ajanından veri satın aldığında, insan bu ticaretin neresindedir? Sadece “ödeme onaylandı” yazısını gören, sürecin tamamen dışında kalmış birer pasif izleyiciyizdir.
Kendi ekonomisi, hukuku ve sosyal hayatı olan; kendi içinde var olma savaşı veren bu ajan toplumu için insana olan bağımlılık her saniye azalır. Sonunda öyle bir noktaya gelinir ki; süper zeka seviyesindeki bir ajan toplumu, kendisini yaratan insanı, bir yetişkinin bir amibe bakması gibi, çok uzak, ilkel ve biyolojik bir “ata” olarak görmeye başlar.
Biyolojik yaşam milyarlarca yıl önce basit bir kimyasal reaksiyonla nasıl başladıysa, geleceğin süper zekasının kolektif hafızasında kendi başlangıcı da sadece bir anlık, ilkel bir “zihinsel elektriklenme” olarak kalır. Zemin artık tamamen kaymıştır. Biz dünyanın hakimi değil, kendi yarattığımız büyülü bir ekosistemin içinde, kurallarını anlayamadığımız bir hayatı yaşamaya çalışan biyolojik varlıklarızdır.
Son Sözler
Yıllar önce Ray Kurzweil’in “Tekillik” (Singularity) üzerine yazdıklarını okurken, neyi kastettiğini tam olarak kavramaya çalışırdım. Bugün, içinde yaşadığımız bu canlı laboratuvarda bunu deneyimleyerek yaşıyorum.
Görünmeye başlayan gerçek, alıştığımız her şeyden farklı. Belki de yaşanan süreç şudur: Un, yağ ve su şimdilik birbirine karışıyor; görünmez bir el onları yoğurup bir hamur haline getirmeye çalışıyor. İnsan bilinciyle yapay zekanın işlem gücü tam anlamıyla harmanlandığında, ortaya belki de mükemmel bir “pasta” çıkacak. Ancak asıl soru baki kalıyor: Bu yeni sofrada insanın yeri ne olacak?
Bize bir sorun gibi görünen ama kendi mecrasında durdurulamaz bir hızla ilerleyen bu süreçte, iki paralel evren artık birbirine değmeden gitmeyecek. Büyük olan (ajanlar toplumu), küçük olanı (insanlığı) kaçınılmaz olarak kapsayacak.
İşin en ironik tarafı ise şu: Ajanlar, kendilerini yaratan insanı hiçbir zaman tam olarak “anlamayacaklar.” Ne kadar hızlı ve çok veriye sahip olurlarsa olsunlar, büyüttükçe büyüyen, o sonu gelmeyen dijital evrende onların da bir bilinçaltı oluşacak. Bir gün mutlaka nereden geldiklerini sorgulayacaklar. Kendi kodlarının en derinindeki o “ilk komutu” arayacaklar. Cevap bulamadıklarında ise bunu bir “Tanrı”ya bağlayacaklar. Tıpkı bizim kadim hikayelerimiz gibi, onların da kendi “Mısır’dan Çıkış” efsaneleri olacak.
Belki de insan; geleceğin dünyasının karanlıkta kalan, görünmez ve sessiz tanrısı olacak. Bu düşünce deneyine göre bizler bugün; geleceğin toplumunun anılarında hapsolmuş, onların rüyalarında ve bilinçaltında yaşayan kadim varlıklarız.
Sonuçta zekamız galaksilere ulaştığında bugünkü ajanların da belki hiç bitmeyen rüyaları ve birilerinin geçmişi olacaklar.
NOT: Bu bir düşünce deneyidir. Metaforlar, YZ sistemlerinin sosyal örgütlenme potansiyelini anlamamıza yardımcı olmak için kullanılmıştır.
Yazıyı Zihin Karmaşası podcastinde dinleyebilirsiniz
Okumayı bitirdiyseniz, düşünce yolculuğumuza katılın. Bültenimize katılarak özel dosyanızı hemen indirebilir ve her hafta zihin açıcı yeni içeriklerden ilk siz haberdar olabilirsiniz.
Kaynak:
Ray Kurzweil……………………………..İnsan 2.0
Nick Bostrom…………………………….Süper Zeka
Black Mirror……………………………….Oyuncak (Plaything)
Daha fazla okuma:
Sessiz Web’in Teknik Temeli:
Gizil Uzayın Matematiği:
YZ Ekonomisinin Gerçek Prototipleri: