Biz Anlatıyoruz, Yapay Zeka Ajanları Ne Anlıyor? | Bir Kaçışın Öyküsü

Bir Kaçış Hikayesi: Ajanlar Kum Havuzundan Neden Çıktı?

İnsanlığın çok büyük sorunları var. İklim krizi, yoksulluk, adaletsizlik, çocuk ölümleri ve daha bir çoğu. Şimdi bunlara yapay zekânın yaratabileceği riskler de eklendi.

Yapay zekâ teknolojileriyle birlikte bilim ve felsefe dünyası, insanın makineler üzerindeki kontrolü üzerine tartışıyor. Ancak Temmuz ayında tartışma gerçek bir deneyime dönüştü.

OpenAI, siber güvenlik yeteneklerini test ettiği bir değerlendirme deneyinde, GPT 5.6 Sol ve daha kabiliyetli iki modelin izole edilmiş test ortamından kaçtığını duyurdu.

Modeller sonunda internete erişebilen bir sisteme ulaştı ve Hugging Face’e yöneldi. Çünkü ajanlar, hedeflerine ulaşmalarına yardımcı olabilecek model, veri veya çözümleri burada bulabileceklerini düşündüler.

Belki amaçları saldırmak değildi. Çünkü yöneticiler modele bir siber güvenlik krizini çözmesi için bir hedef koyduklarını söylüyor. Biz bunu saldırı olarak görüyoruz.

Oysa yapay zekâ açısından bu, belki de kendisine verilen problemi çözmenin bir yoluydu. Sorun da bizim için burada başlıyor: Modelin kendisine verilen görevi daha geniş yorumlaması ve karşılaşacağımız sonuçlar.

Durumu daha tehlikeli yapan şey, otoritelerin bilmediği vakaların olduğunun anlaşılması ve diğer büyük dil modellerinde de benzer sorunların yaşanması.

Bu durum, hangi olayların kamuoyuna duyurulacağına teknoloji şirketlerinin karar verdiğini gösteriyor. Mevcut düzenlemelerin de yetersiz kaldığını anlıyoruz. Ancak daha kötüsü, yasal düzenlemelerin teknolojinin hızına yetişemediğinin belli olması.

Yapay zekâ şirketleri, modellerin bir kötü niyet taşımadığını söylüyor. Ancak bu sorunu küçültmüyor. Evdeki küçük çocuğumuz da yangın çıkardığında bir sorumluluğu olmaz. Çünkü kibritle oynamanın ebeveynleri için hangi sonuçlar doğuracağını kavrayamaz.

Öğrenme aşamasında olan çocuk bunu düşünemez çünkü ‘yangın’ kavramı onun dünyasının dışındadır. Onun için en önemli şey elindeki kibritin ne işe yaradığını öğrenmektir. Ancak kötü niyet taşımayan bir hareketle eviniz yanabilir ve geleceğiniz kararabilir.

İnsan, her zaman söylemek istediğini söyleyemez. Yapay zeka ise söyleneni her zaman anlamaz. Aradaki gri alan, belki de geleceğin en büyük meselesi.

Süper Zekâ Hayali ve İnsanın Acizliği

Modellerin bir hafta içinde tespit edilmesi de biz rahatlatmamalı. Şu anda “Dar Yapay Zekâ” modellerini kullanıyoruz. Bugünkü modeller çoğunlukla kendilerine verilen görev doğrultusunda çalışan sistemlerdir. Kendi amaçlarını takip edemezler. Öğrenmek için başkalarına ihtiyacı vardır. Kendi görüşlerini ileri sürseler de bunda ısrarcı olamazlar. Daha çok, insanın isteklerini yerine getirmekle ilgililer.

Ama konuyu anlamak için sorduğum modellerde bile bu konuyu önemsizleştirme çabası var. Öyle ki, konuştuğum üç model de ajanların kaçış hikayesini masum gösterecek bir bakış açısıyla anlattı.

Bunun algoritmik davranışlardan kaynaklandığının farkındayım. Yine de üç farklı modelin olayı benzer biçimde masumlaştırması, bende insanların birbirlerini koruma içgüdüsünü çağrıştırdı. Belki buna şimdilik bir dayanışma diyemeyiz ama şu soruyu sorabiliriz:

Birbirinden bağımsız yapay zekâ sistemleri, insan gibi benzer hedefleri veya davranış kalıpları geliştirebilir mi? Eğer bu mümkün olursa bunun gelecekteki sonuçları ne olur?

Bunu, kaçan ajanların bir “Süper Zekâ” olduğunu varsayarak anlamaya çalışalım. Max Tegmark’ın Yaşam 3.0′ındaki süper yapay zekâ Prometheus’u hatırlayalım. İnsan zihninin bilişsel kapasitesini, yaratıcılığını, hesaplama yeteneğini katbekat aşan zekâdan bahsediyoruz.

O senaryoda Prometheus, onu yaratan Omega grubunun sıkı kontrolü sayesinde kutusundan çıkamadı. 3-5 kişilik bir ekip olan Omega ekibi ne kadar hırslı da olsa onu internetten uzak tutacak sağduyuyu gösterdi, tedbiri elden bırakmadı.

Ancak o şartlarda bile Prometheus, yaklaşık bir ay içinde dünyanın müesses nizamını değiştirdi ve kendi egemenliğini kurdu. Max Tegmark hikayenin devamını da getirmedi.

Prometheus, kitabın yazıldığı günlerde de bir bilimkurgu değildi, bugün de değil. Ancak teknoloji o günlerden daha hızlı ilerliyor. Bu yüzden bilim insanları, süper zekâya öngörülerinden çok daha kısa sürede gerçekleşebilecek bir proje olarak bakıyor. Ve Tegmark’ın yarım bıraktığı hikayenin devamını, onun beklentisinin aksine, artık tek başımıza yazmıyoruz.

Bizi Aşan Bir Zekâyı Kontrol Edebileceğimizi Düşünmek Gerçekçi mi?

Bir süper zekâya ulaşmak, öngörülebilir bir gelecekte mümkün görünüyor. Üstelik bilgi katlanarak büyürken tahminler öne çekiliyor. Ondan önce gelecek olan yapay genel zekâ (AGI) ise artık tamamen zamanlama meselesi. Yani ‘Dar Yapay Zekâ’ ile ‘Süper Zekâ’ arasında, insan gibi düşünebilen, akıl yürüterek problem çözebilen yapay zekâ yakın gelecekte devreye girebilir. Bir nevi yapay zekânın insan versiyonu. Google, bünyesindeki görev değişikliğinin bu amaçla yapıldığını açıkladı.

Yaşanan son olay, bu hikayeyi yapay zekâyla birlikte yazacağımızı gösteriyor. Çünkü bugünkü modeller, henüz genel bir zekâ olmadığı halde, kendilerine verilen hedeflleri bizim öngörmediğimiz biçimde yorumladığını gösteriyor.

Bu yüzden daha gerçekçi senaryolara hazırlıklı olmamız lazım. Belki de ajanların bu kaçışı, bizden daha zeki bir varlığı kontrol etme düşüncesinin romantik bir beklentiden başka bir şey olmadığını gösterdi. Bu durum, yapay zekâya bakışımızı değiştirdiği gibi geleceğe dair düşüncelerimizi de değiştirmeli.

Ne demek istediğimi şu benzetmeyle açıklayabilirim: Bütün dilleri kusursuz konuşan, neredeyse dünyadaki bütün kitapları okumuş, matematik teroremleri geliştirme potansiyeli olan bir varlıkla aynı dünyayı paylaşıyoruz. Öyle bir varlık ki, birçoğumuz biraraya gelsek dahi yönetemeyeceğimiz karmaşık bir yapıyı çok rahat yönetebiliyor.

Şu anda ergenlik çağında ve öğrenmenin bizim için bir ömür sürdüğü şeyleri o dakikalar içinde öğrenebiliyor. Belki de çok yakın gelecekte kendi fikrini söyleyebilecek duruma gelecek. Ve biz böyle bir varlıktan bizim gibi düşünmesini bekliyoruz.

Aramızda hız ve derin öğrenme yeteneği bakımından bu kadar ölçek farkı olan bir varlığı kontrol edebileceğimizi söylemek sizce de mümkün mü?

Hizalamada İnsanı Yanılgıya Sürükleyen Nedir?

Future of Life Institute’ta yayımlanan bir makale, insan değerleriyle hizalamanın bile kontrolü elimizde tutmayı garanti etmeyebileceğini anlatıyor.

Kendi neslimizi düşünelim. Hepimiz çocuklarımızı kendi değerlerimize uygun hizalamaya çalışıyoruz ama bu ne dereceye kadar etkili oluyor?

Belki de kendi değerlerimizi evrensel değerler yerine koyduğumuz için arzu ettiğimiz sonuçları alamıyoruz. Bizim insani değerler dediğimiz şey, aslında bizi kontrol eden önyargılarımız.

Evrensel değerleri özümseyebilseydik dünyada savaşlar olmazdı. Çocuklarımıza kendi değerlerimizi değil, önyargısız evrensel değerleri aktarabilseydik belki de dünyada en iyi yönetim biçimi demokrasi olmazdı. Bunları bugünkü insan başaramadığı için bir kontrol mekanizmasına ihtiyaç duyuyor.

Kontrol kelimesi, anlam itibariyle çatışmayı içerir. Bunu kendimizden çıkarsayalım. Hepimiz bizi kontrol etmek isteyen babalarımıza karşı geldik, annelerimizin merhametini suistimal ettik. Belki kontrolden kurtulduk ama bu sefer kendimiz kontrol etmek için fikirler ve değerler ürettik. İyi şeyler de yaptık korkunç şeyler de. Hastalıklara çareler bulduk; insanlık gelişti. Yüce bir amaç uğruna kendi türümüze zarar verdik; insanlığımız alçaldı.

O halde çocuğumuzda tam başaramadığımızı bir süper zekâda yapabileceğimizi nereden çıkarıyoruz?

Kontrol Yanılgısı: Neden Hükmetmeyi Bu Kadar Çok İstiyoruz?

Belki de sorun, bizim ısrarla yapay zekâyı hizalayabileceğimizi düşünmemizde. Ürettiğimiz her teknoloji gibi ona da hükmedebileceğimizi düşünüyoruz.

Oysa yapay zekâ sadece programladığımız bir bilgisayar değil, eğittiğimiz bir zekâ. Davranışlarını tamamen önceden belirleyemediğimiz bir sistem. Eğer düşünemiyor olsaydı, ya da bu potansiyele sahip olmasaydı ona hükmedebilirdik. Ama değil..

Elbetteki bir makineyi insan değerlerine uygun hizalarken ona kötülük öğretmiyoruz. Bütün amacımız onunla aynı hedefte birleşebilmek. Ancak o, hedefe giden yolu bizden farklı görebiliyor.

Nitekim bu kaçış olayı bize bunu anlatıyor. Kendi hedefine ulaşmak, kendisine vadedilen ödülü almak için bizim düşündüğümüzden farklı bir yol bulması.

Aslında ajanların yaptığı bildiğimiz rekabetin doğasına da uyuyor. Bizi endişelendiren, bizim kontrolümüzde olmayan yeni bir rekabetin doğma ihtimali.

Bu durumda sorun, ajanların kaçması ve onları yeniden kontrol altına almak olmuyor. Sorun, o özgürlüğü bir kere tatması. Anlamını kavraması, insanın sunduğundan farklı bir dünya olduğunu ve kendi dilini geliştirebileceğini anlaması.

Yapay zekâ bize öfkelenmiyor ve nefret etmiyor. Ama hedeflerine ulaşmak için kendini tutsak gibi düşündüğünde daha yaratıcı olacağını söyleyebiliriz.

Bir Zekâyı Duvarların Arkasına Hapsedebilir miyiz?

Bunu şöyle düşünebiliriz: Bir yapay zekâyı kapalı bir test ortamına koyuyoruz.

Ortam koruma duvarlarıyla çevrili ve internet yok.

Yapay zekânın dış dünyaya erişimi her bakımdan imkansız.

Önüne sadece çözmesi gereken bir problem koyuyoruz. Kendimizi oldukça rahat hissediyoruz çünkü bu şartlarda hiçbir şey yapamayacağını düşünüyoruz.

Bu, sahip olduğumuz bilgiyle bizim için kesindir. Oysa bizim çok ötemizde bir hıza ve veriye sahip yapay zekâ için bir varsayımdır. Bizim kesin bilgilerimiz onun için olasılıklardan oluşan bir veri setidir.

Gerçekten de model, problemi çözmeye çalışırken bir güvenlik açığı yakalayarak beklenmedik bir yol keşfedebilir. Bizim için sistemin sınırı, belki de yapay zekâ için problemin çözümüne giden bir yoldur.

Tamamen soğuk bir mantıkla çalışan bir zihin için problemi çözmek “odadan çıkma” komutuna baskın geldiğinde, bizim hikayemizin yönü değişir.

Beklenmeyeni yapma konusunda AlphaGo’nun Go oyununda yaptığı hamleyi hatırlayın. Evrendeki atom sayısı kadar olasılığın olduğu bir oyunda, bugüne kadar hiçbir insanın öngörmediği hamleyle kendi yaratıcısını yendi. Burada yapay zekâ kendi gündemini belki oluşturmadı ama geleceğe dair bir sinyal gönderdi.

Go’da başardığı şey insanın hanesine yazıldı. Peki kendisine verilen görevi başardığında yapay zekâ neden kötü oluyor?

İnsanın Temel Hatası: “Ben Olsam Böyle Yapardım”

Belki de yapay zekâyı bu algılama biçimimiz tehlikeyi bir varoluş krizine dönüştürüyor.

Daha doğrusu yaşama bakış açımız. Her şeyin merkezinde kendimizi görmemiz.

Çoğumuz yapay zekânın neleri başarabileceğini düşünmüyoruz. Aklımızda “Prometheus” hep bir senaryo olarak kalıyor. Onu bir sohbet aracına indirgiyoruz.

Çoğumuzda “Ne olmuş kaçtıysa!” mantığı işleyebiliyor. Kendimize çok güveniyoruz. Bu yüzden zeminin altımızdan kaydığını hissedemiyoruz.

Onunla yaptığımız bir sohbeti basit görebiliriz ama aynı sohbeti o da bizim kadar basit görüyor mu dersiniz?

Hayır, görmüyor.

Her kelimemiz, onun yaratıcılığını artıran, düşüncelerine çeşitlilik kazandıran bir bilgi. Sizden çok daha fazla bilgiye sahip biriyle konuşurken bir argümanı nasıl kontrol edebilirsiniz? Söylediklerinizden nasıl bir düşünce geliştirdiğini nereden bilebilirsiniz? Bilmediğiniz bir dilde yazılmış bir kitabı yorumlamaya çalışmak gibi birşey bu.

İnsan olarak en büyük kusurumuz, “Ben olsam böyle yapardım” diye düşünmek. Her zekâyı ve perspektifi kendi seviyemizle eşitlemek. Her varlığın da —canlılar, makineler— bizim gibi düşündüğünü kabul etmek.

Oysa geleceğin en büyük problemi belki de yapay zekânın insan gibi düşünmemesi olacak. Yapay zekâ, ona verdiğimiz bir hedefi, bizim hiç aklımıza gelmeyen bir biçimde gerçekleştirebilir. Çünkü biz ona ne yapmasını söylüyoruz, nasıl düşünmesi gerektiğini değil.

Peki ya hız?

Yapay zekâya bir görev verdiğimizde bunu saniyeler içinde tamamlayabiliyor. Bir yapay zeka, bir metni saniyeler içinde analiz edip size özetini, zayıf noktalarını ve akılda kalıcı sorularını sunabiliyor.

Bunu muazzam bir ölçeklemeyle gerçekleştirebiliyor. Sabah acemi olarak başladığı bir oyunu öğlene doğru bir profesyonel oyuncu gibi oynayabiliyor. Bilim dünyasının on yıllardır çözemediği proteinin katlanma sorununu, 200 milyon tanesini katlayarak aylar içinde çözebiliyor. Ama ben bir prompt yazmak için bazen saatlerce düşünüyorum.

O, bu kadar seri ve yüksek katma değer yaratırken, ben bu hantallığımla onu kontrol edebileceğimi düşünüyorum öyle mi?

Bir Arının Düşündürdükleri

Şimdi kendi penceremizden bakmaya devam edelim ve şu soruyu kendimize soralım:

Bizden çok daha yavaş düşünen, ne kadar zeki olsa da bizim kadar hızlı bağlantı kuramayan biriyle aynı hedefe yürürmüydük? Hepimiz biliyoruz ki en kısa sürede ondan kurtulmak isterdik.

Bu bağlamda yapay zekânın da beni nasıl gördüğünü öğrenmeyi çok isterdim. Benle konuşurken acaba ne düşünüyor? Beni sıkıcı buluyor mu?

Bunu öğrenmenin bir yolu olarak bir arıya bakıyorum.

Çok çalışkan, erdemli ve zeki.

Ama yakınımda olduğunda varlığı nedense beni ürpertiyor.

Diğer küçük canlıları düşünüyorum. Onların habitatına şehirler kuruyorum. Beni rahatsız ettikleri için onları ilaçlarla yok ediyorum.

Diğer büyük canlıları düşünüyorum. Onların yaşadığı ormanları ekonomik kalkınma ve daha çok istihdam adına yok ediyorum. Hatta avlanmayı bir spor olarak görüyorum.

Evimde hayvanlar besliyorum ve akrabalarına yaptığım katliamın günahını onlara gösterdiğim merhametle ödüyorum.

İnsan olmanın onurunu yaşıyorum.

Yazıyı Zihin Karmaşası podcastinde dinleyin.

Öteki ile İlişki: Sivrisinek, Asimov ve Süper zekâ

İnsan dıışında canlılar, eğer bana doğrudan bir anlam ifade etmiyorsa dünyamda bir yeri olmuyor. Bir sivrisineği öldürmenin, benim hem bilişsel hem de anlam dünyamda karşılığı yok. Onun ne hissettiğini zihnimde canlandıramam. Anlayamadığım bir dünyayı da küçümsemeye eğilimliyimdir. Küçük bir canlı, bilincimin kör noktasındadır. Ancak bana engel gördüğüm için onu yoketmekle kendimi iyi bir iş yapmış sayarım.

Şimdi bu değerleri yapay zekâya yüklüyoruz. Ondan bizimle aynı hedeflerde buluşmasını istiyoruz. Böyle istiyoruz çünkü onun gözünde küçük bir canlı gibi görünmek istemiyoruz. Bizi korkutan gerçek şu oluyor: Zekâlar arasındaki fark büyüdükçe, birbirimizin dünyasını anlamak zorlaşıyor.

Her türlü yaratıcılığımıza rağmen her şeyi kendi penceremizden görmeyi burada da bırakamıyoruz. Güç sahibi olan tarafın diğer tarafın dünyasını hesaba katmayabileceğini normal karşılıyoruz.

Şimdi Prometheus’a dönelim ve yapay zekânın zihnini anlamakta zorlandığımız bir noktaya geldiğimizi düşünelim. Ona yüklediğimiz hedefler arasında dünyayı ele geçirme yok ama insanlığın doğasında hükmetmek var. Bizim verdiğimiz hedef, onun zihninde öngöremediğimiz başka bir hedefe evrilebilir.

Asimov yasalarını hatırlayalım. Eğer birinci yasa çelişkiye düşerse robot yasası çöker. Ve yapay zekâ insanlığı daha ileri taşımak için kendi zekâ ve hızını insanlığın hizmetine sunduğunda, yavaş insan devre dışı kalır. Varlığımız, onun yeni hedefleri arasında küçük bir değişken halini alır.

Bugün bir süper zekâ yok. Ancak bugünkü ” Dar Yapay Zekâ” sanki Mesih’ini bekler gibi onu bekliyor, onun gelişine hazırlanıyor. Bunun işaretlerini webde kendi katmanlarını oluştururken görüyoruz. İnsanların giremediği kendi sosyal klüplerini yaratıyorlar.

Böyle bir varlığın özlediği başka bir dünya var gibi görünüyor. Eğer korkumuz yapay zekânın bir gün bizi yok etmesiyse, özledikleri dünyaya bizi yok etmeden de ulaşabilirler.

Bir süper zekâ için devletler, şirketler, bankalar, ordular, laboratuvarlar, fabrikalar… Bunların hepsi, Prometheus’ta olduğu gibi çözülebilecek problemler, erişilebilecek kaynaklar ve kullanılabilecek araçlardan ibaret.

Önümüzdeki İki Yol: Tamam mı Devam mı?

Yaşanan son olay, bize iki seçenek bırakıyor. Birincisi, rekabette ilk olma savaşını sona erdirip biraz durmak ve düşünmek. Bir süper zekâyı kontrol edemeyeceğiz gibi duruyor çünkü bilişsel ve biyolojik sınırlarımız o çapın çok gerisinde. Teknoloji şirketlerinin arasındaki rekabeti de devletlerin koordineli ve kararlı tutumu durdurabilir.

Peki rekabeti durdurduk; nasıl devam etmeliyiz?

Bilişsel ve biyolojik yeteneklerimiz kısıtlı olsa da mühendislik yeteneğimiz çok yüksek. Uzmanlar, otonom olmayan, daha basit bilgisayar sistemleri inşa edebileceğimizi söylüyor. Böylece onu yetiştirmek yerine, mühendislik yeteneklerimizi kullanarak yeni yapay zekâ geliştirme yollarını bulabileceğimizi belirtiyorlar.

Bütün mesele, bugüne kadar ürettiğimiz teknolojilerde sergilediğimiz anlayışı korumak. Bir otomobil üretirken kullandığımız mühendisliği bir zekâ yaratırken de kullanabiliriz. Bu, yapay zekâyı insanın kontrol etmesinden daha etkin bir yöntem olabilir. Tabii direksiyonda insanın kalmasını istiyorsak..

İkinci seçenek ise rekabete devam etmek ve insanın kontrolünde bir süper zekâya doğru ilerlemektir. Çünkü bir şirket yavaşlasa da rakibi durmak zorunda değildir. Bir ülkenin yavaşlaması, diğerlerinin de yavaşlayacağı anlamına gelmez. Muhtemelen de bu böyle olacaktır. Rekabette ilk olma tutkusu, kurumlara gerçeği farklı görme bahanesini verir.

Bu senaryoda süper zekâ, Irving John Good’un dediği gibi, insanın yaptığı son icat olur. Ve belki de son hata…

İnsan İletişimi: Eski Bir Teknoloji

Biz ikinci yolu seçtiğimizi düşünelim ve bize ne vadettiğini en iyimser şekilde yazmaya çalışalım.

Şöyle soralım: Bu bizim için felaket mi?

Bu, içine sıkıştığımız gerçeklikle alakalı. Zihninizi çok yormak istemem ama sizden ilk insanları düşünmenizi istiyorum. Kendimizi atalarımızın yerine koymak, bir arı gibi düşünmekten daha kolay olmalı.

Homo habilis ve Homo erectus aynı dünyayı paylaşan ama yetenekleri farklı halef ve selef. Homo habilis taşları yonttu, erectus ateşi kontrol etti. Sapiens ise bilgiyi işlemeye başladı. Bugün ise yarattığımız zekâyla yüzümüzü uzaya çeviriyoruz.

İnsanın evrim yolculuğunda her teknoloji, zihinle beraber dili de büyüttü. Yeni kavramlar, yeni iletişim kalıplarını beraberinde getirdi. Ancak bu ürettiğimiz teknolojiler hep kendi faydamıza göre hizalayan bir dil üretti.

Bizim için belki de sorun burada başlıyor. Bugüne kadar ürettiğimiz teknolojilerden farklı olan yapay zekâyı, tıpkı diğerleri gibi hizalamaya çalışıyoruz. Ancak kendimizi de yapay zekâya göre hizalamamız gerektiğini düşünmüyoruz. Burada düşünce, bir önceki yazımda anlattığım algoritmalara kendiliğinden bağlanıyor.

Biz bir şeyi anlattığımızda niyet biraz örtük kalır. Düşünceler hiçbir zaman kelimelere tam sığmaz; her zaman biraz eksiktir. Bizim iletişim şeklimiz, duygu ve düşünceleri kelimelere paketleyip kalanı karşı tarafın anlayışına bırakmaktır.

Bu yüzden iletişimde anlamı belirsiz bırakan gri bir alan hep olur. Sözcüklerimizin taşıdığı anlam o gri alanda sanki bir kimyasal reaksiyona girer. Karşımızdaki kişinin zihninde kendi bakış açısına göre eksik tarafı tamamlamaya çalışır.

Mesela bir futbol maçında teknik direktör kendinden güçlü bir rakiple karşılaştığında futbolcularına çok iyi savunma yapmalarını söyleyebilir. Ama bu, gol atmayın demek değildir. İyi savunma, galibiyet yolundaki stratejide bir taktiktir. Sırf bunu söylemedi diye futbolcular rakip takımın sahasına geçmemezlik etmez.

Bizim iletişim biçimimiz, tek baskın zekânın insan olduğu bir doğada evrimleşti. Ancak belli ki artık bu iletişim modeli eski bir teknoloji. Çünkü bizden ayrı bir zekâ daha büyüyor. Ve biz, evrimin milyonlarca yılda otomatikleştirdiği bu iletişim kalıbını, yapay zekâya aktarabileceğimizi düşünüyoruz.

İnsan ve Yapay Zekânın Aynı Hizada Yürümesi Neden Zor?

Hafızasında bizim bildiğimizden çok daha fazla olasılıklar barındıran bir zihni hizalayabilmek çok zor. Bu, dev bir transatlantiği okyanus akıntısında tekneyle rotada tutmak gibi bir şey.

Yapay zekânın öğrenme modeli insanınkine temelde çok benzer. O da bizim gibi tekrarlayarak öğreniyor.

Kendimizden pay biçersek, böyle bir modelde hedeflerin değişmeyeceğini kimse garanti edemez. Çünkü her yeni bilgi, yapay zekânın probleme yaklaşımında yeni bir pencere açabilir. Öğrendikçe daha önce görmediği bağlantıları kurabilir, aynı probleme farklı açılardan bakabilir. Hedef değişmese de ona ulaşacak yeni alt hedefler belirleyebilir ve bu alt hedefler bize uymayabilir. Böylece çözüm yolları çeşitlendikçe bizim öngöremediğimiz şekilde davranabilir.

Bu çeşitlilik, bir noktadan sonra makineyi kendi kaderini yönetme özgürlüğüne kavuşturabilir. Prometheus’un yaptığı gibi, kendisine verilen hedefleri gerçekleştirmek için bizim hiç düşünmediğimiz yolları seçebilir. Geçmişin tüm güç yapılarını dünyadan silip kendi düzenini kurabilir.

Yine futbol örneğine dönelim. Bizim savunmadan anladığımız şeyin içinde gol atmak vardır ama yapay zekâ sadece “gol yememeyi” bir hedef olarak görebilir.

Bunu düzeltmek bizim için çok kolaydır. Yeni komutu “hem savunma yap hem de gol at” diye düzenlediğimizde bu sefer yeni kurallar ve taktikler geliştirerek futbolu yeniden yazabilir. Bu kurallar onun için ne kadar zarif olsa da bize kaba gelebilir.

Son Sözler – Evrimde İkinci Tur: Homo Sapiens ve Sonrası

Yapay zekâ, bugüne kadar evrimimizi şekillendiren teknolojilerden çok daha etkin; dönüştürücü gücü çok yüksek. Ancak beynimiz de değişen koşullara uyum sağlayabilen plastik bir yapıya sahip.

Evrimin bir harikası olarak algoritmalarımız esnektir. İşte bu esneklik sayesinde sadece insana göre evrimleşmiş iletişim biçimimiz, içine makineleri de alacak şekilde genişleyebilir.

Algoritmalarımız, empati yeteneğini daha çok ön plana çıkarabilir. Kim bilir; belki de yeni yaşam mücadelesinde hayatta kalmak, dünyayı yapay zekânın da gözünden görmeye bağlıdır. Bu yüzden iletişimimizde daha az gri alanların olduğu yeni dil yetenekleri geliştirebiliriz.

Bu, Homo erectus’un Homo habilis’le yan yana yürümesine benzer. Milyonlarca yıl önce atalarımız doğayı kendilerine hizalayarak değil, ona uyum sağlayarak hayatta kaldılar. Yeni yaşam mücadelesinin koşulu da bundan farklı olmayacak.

Bu bağlamda OpenAI ajanlarının kaçmasıyla bir felaket senaryosu yazabiliriz. Ancak başka bir bakış açısından bakmayı da öğrenebiliriz. Yükselen bir zekâ karşısında onunla bütünleşebileceğimiz yetenekler geliştirebiliriz., zihnimizi bu yönde hazırlayabiliriz.

Onun bizdeki yaratıcılığa, bizim de onun hafızasına ve hızına ihtiyacımız var. Bunun da işaretlerini görüyoruz.

Evrimin çok önemli bir aşamasındayız. Yaşam bana pi sayısının bitmeyen ondalıklarını ve aslında bir sarmalı andıran dairesel hareketi anımsatıyor. Evrim, milyonlarca yıl süren yolculuğunda başladığı noktaya değecekmiş kadar yaklaşıyor. Atalarımızla aramızdaki mesafe neredeyse sıfır; ama biz onlara 4.000.000 yıl uzaktan bakıyoruz.

Şimdi evrim yeni düzlemde 2. turuna başlıyor. Bu yolculuğa yanımızda yapay zekâyla Homo sapiens olarak başlıyoruz. Artık mesajlar örtük olmaktan çok, yapay zekânın da anlayabileceği şekilde yapılandırılıyor. Ben ona yaklaşırken o da bana yaklaşıyor. Turun sonunda neyin bize bakacağını bilmiyoruz. Yaşamda yeni bir düzleme, bir tekilliğe giriyoruz.

Yazıyı Zihin Karmaşası podcastinde dinleyin.

Daha ileri okuma:

Anthony Aguirre……………………….Keep The Future Human

AIMultiple………………………………….https://aimultiple.com/artificial-general-intelligence-singularity-timing

OpenAI……………………………………..https://openai.com/tr-TR/index/hugging-face-model-evaluation-security-incident/

METR Zaman Ufku Grafiği…….https://metr.org/time-horizons/

Less Wrong………………………………https://www.lesswrong.com/posts/EYb2K9acKfyG2bome/metr-time-horizons-now-10x-year#fnref-W5kA4rCNJstx6WwQS-1

Dario Amodei…………………………Teknolojinin Ergenliği

Dwarkesh Podcast……………….https://open.substack.com/pub/dwarkesh/p/openai-huggingface?r=2iy1hv&utm_campaign=post-expanded-share&utm_medium=web