Alfred Hitchcock’un Kuşlar filminde insanı tedirgin eden şey yalnızca kuşların saldırması değildir. Sinema çok daha korkunç yaratıklar, canavarlar ve istilacılar göstermiştir. Kuşları bunca yıl sonra hâlâ rahatsız edici kılan başka bir şeydir: Kuşların neden saldırdığını bilmeyiz. Film bize bu konuda hiçbir açıklama vermez. Ortada insanlıktan intikam almak isteyen üstün bir kuş, kuşların toplandığı gizli bir karargâh, bir lider, bir plan ya da bir amaç yoktur. Hitchcock, seyircinin en temel beklentilerinden birini elinden alır: Nedenselliği. Çünkü insan, karşısındaki tehdidin nedenini öğrenirse onu anlayabileceğini, anlarsa da bir şekilde kontrol edebileceğini düşünür. Kuşlar tam olarak bu güven duygusunu bozar.
Bugün yapay zekâ agentleri etrafında büyüyen tartışmaya Kuşlar üzerinden bakmak bu yüzden ilginç bir imkân sunuyor. Yapay zekâ hakkındaki eski korkumuz büyük ölçüde aynı sorunun etrafında dönüyordu: Makine bilinç kazanacak mı? Bilinç kazandığında bize karşı dönecek mi? İnsan gibi düşünen ama insandan çok daha güçlü bir varlık ortaya çıkacak mı? Oysa bir sistemin bizi şaşırtabilmesi için bilinç kazanmasına, kendisini insan olarak görmesine, insanlardan nefret etmesine, hatta kendi varlığının farkında olmasına bile gerek yok. Yeterince karmaşık bir çevrede yeterince fazla aktör birbirleriyle etkileşime girdiğinde, tek tek aktörlerin amaçlarından çıkarılamayan sonuçlar ortaya çıkabilir.
Yapay zekâ modeli de uzun süre büyük firmaların kontrolü altında geliştirilmeye çalışıldı. İnsan soruyor, makine cevap veriyordu. İnisiyatif büyük ölçüde insandaydı. Agent dediğimiz yeni yapıda bu ilişki değişmeye başladı. Sistemlere artık yalnızca cevap üretme değil; verilen bir hedefi alt görevlere bölme, araç kullanma, bilgi toplama, kod çalıştırma, başka sistemlerden yardım alma ve belirli sınırlar içerisinde karar verme yeteneği kazandırılıyor. Böylece mesele giderek yapay zekânın ne söylediğinden ne yaptığına, oradan da başka yapay zekâların yaptıklarına nasıl tepki verdiğine doğru kayıyor.
Kuşlar filminin en ürpertici sahnelerinden biri tam da böyle işler. Melanie okulun dışında otururken arkasındaki oyun parkına kuşlar teker teker konmaya başlar. Melanie onları görmez. Önce bir kuş vardır. Sonra bir başkası gelir. Birkaç dakika sonra kamera tekrar oyun parkına döndüğünde her yer kuşlarla dolmuştur. Felaket bir anda başlamamıştır. Felaket sessizce birikmiştir. Hiçbir kuş tek başına ürkütücü değildir; ürkütücü olan, tek tek kuşların oluşturduğu ve hiçbir kuşa indirgenemeyen bütündür. Agentik yapay zekâ konusunda da asıl mesele tek bir modelin ne kadar güçlü olduğu olmayabilir. Birbirleriyle konuşan, görev paylaşan, birbirlerinin çıktılarını kullanan, ekonomik işlemler gerçekleştiren ve insanlardan giderek daha az onay isteyen binlerce ya da milyonlarca agentin oluşturduğu alan, tek bir yapay zekâ sisteminden farklı bir şeydir. Çünkü burada davranış artık yalnızca modelin içerisinden çıkmaz. Modeller arasındaki ilişkiden de doğmaya başlar.
Öngörülemezliği de tam burada rastlantısallıktan ayırmak gerekiyor. Bir kasırganın oluşması fizik yasalarına aykırı değildir. Kasırganın içerisindeki hiçbir hava molekülü de “kasırga olmak” istemez. Her parçanın davranışı kendi düzeyinde açıklanabilir olduğu hâlde, belirli koşullar bir araya geldiğinde tek tek parçaların niyetine indirgenemeyecek bir yapı ortaya çıkar. Fırtınanın niyeti yoktur ama yönü vardır. Hareket eder, büyür, başka sistemlerle karşılaşır, bazen güçlenir, bazen yön değiştirir ve sonuç üretir.
Yapay zekâ çağında üzerinde durmamız gereken meselelerden biri de bu niyetsiz yönelimdir. İnsan zihni tehlikeyi çoğunlukla bir fail üzerinden düşünmeye alışkındır. Birisi saldırır, birisi yönetir, birisi karar verir ve sonunda birisi suçludur. Yapay zekâ korkumuzda bile gizlice insan biçimli bir düşman arıyoruz. HAL 9000, Skynet ya da bilinç kazanmış kötü robot bu nedenle garip biçimde rahatlatıcıdır. Karşımızda en azından bir “biri” vardır. Onun ne istediğini anlamaya, zayıflığını bulmaya ve onunla mücadele etmeye çalışabiliriz.Oysa esas korkuyu gerçekleştiren ve esas endişe verici olan “görünmeyen”; gizli olandır
Kuşlar filminde de böyledir.. Ortada böyle bir “biri” yoktur. Gerçekliğin bildiğimiz düzeni içerisinde açıklayamadığımız bir fazlalık ortaya çıkmıştır. İnsanlar sürekli açıklama ararlar fakat hiçbir açıklama yaşananları bütünüyle kapatamaz. Kuşlar sanki hep orada olan fakat insanın gündelik düzeni içerisinde önemsiz saydığı bir şeyin aniden başka türlü görünür hâle gelmesidir. Aynı hayvanlar, aynı kasaba, aynı insanlar ve aynı gökyüzü vardır. Değişen, bunların arasındaki ilişkidir. Tehlike makinenin insan gibi olması değildir , sanıldığının aksine insan gibi olmak zorunda değildir. İnsan bilincini taklit etmeyen, insanın arzularına sahip olmayan, insanlardan nefret etmeyen sistemler de birbirleriyle kurdukları ilişkiler sonucunda bizim başlangıçta öngörmediğimiz davranışlar üretebilirler.
Bu nokta, bugün teknoloji şirketlerinin yapay zekâ üzerindeki büyük rekabetini de başka türlü okumayı mümkün kılıyor. Şirketler dünyanın en güçlü modeline sahip olmak, daha fazla kullanıcıya ulaşmak, daha fazla veri toplamak ve oluşmakta olan yeni ekonomik alanın merkezinde yer almak istiyorlar. İnsan açısından bakıldığında bu mücadele bir tür yapay zekâ tekeli kurma mücadelesidir. Yapay zekâyı elinde tutan, geleceğin önemli bir bölümünü de elinde tutacağını düşünüyor. Fakat burada tuhaf bir tersine dönüş ihtimali vardır. İnsanlar yapay zekâyı tekelleştirmeye çalışırken, yapay zekâ agentlerinin kendi aralarındaki ilişkilerinden insanın dışında işleyen başka bir yoğunlaşma biçimi ortaya çıkabilir. Bunun için agentlerin gizlice anlaşmasına, insanlığa karşı birleşmesine ya da ortak bir bilinç geliştirmesine gerek yoktur. Mesele bundan çok daha basittir. Bazı agentler zamanla belirli agentlere daha fazla güvenebilir, aynı veri kaynaklarını kullanabilir, birbirlerinin kararlarını doğrulayabilir ya da bazı sistemleri tercih edip diğerlerini dışarıda bırakabilir. Böylece insanların doğrudan tasarlamadığı, makinelerin birbirleriyle kurduğu ilişkilerden doğan yeni bir düzen ortaya çıkabilir. Kimse bu sistemi tasarlamamış olabilir. Tıpkı kimsenin fırtınayı tasarlamaması gibi.
Böylece insanın kurmak istediği tekelin içerisinde ikinci bir tekel doğar: sahipliği insanda görünen fakat işleyiş mantığının önemli bir bölümü insan dışı ilişkiler tarafından belirlenen bir ağ. Şirketler modellerin sahibi olabilir, sunucuların fişini çekebilir, kodu değiştirebilir. Buna rağmen ortaya çıkan toplam davranışı her an önceden hesaplayabilecekleri anlamına gelmez. Sahip olmak ile bütünüyle kontrol etmek aynı şey değildir. Bu günlerde ortaya çıkan yaygara ve büyük şirketlerin çığırtkanlığı biraz da bu tekelin kaybıyla ilişkilidir,
Burada bir paradoks ortaya çıkar. İnsan yapay zekâyı kontrol etmek için onu merkezileştirir. Merkezileştikçe daha güçlü sistemler ortaya çıkar. Bu sistemlerden daha fazla yararlanmak için onlara daha fazla yetki verir. Ancak yetki arttıkça yapay zekânın hareket alanı da genişler. Böylece kontrol etme çabası, zamanla kontrolü zorlaştıran koşullardan birine dönüşür.
Bu nedenle “Yapay zekâda frene mi basmalıyız?” sorusu da başka bir anlam kazanır. Fren benzetmesi bize hâlâ bir otomobili ve direksiyonun başındaki bir sürücüyü düşündürür. Sanki ayağımız gazdadır ve istediğimiz zaman çekebiliriz. Oysa ortada tek bir otomobil ve tek bir sürücü yoktur. Şirketler rakipleri devam ettiği için duramaz, devletler diğer devletlerin gerisinde kalmamak için geliştirmeye devam eder. Modeller başka modellerin ürettiği verilerden yararlanır, agentler başka agentlerle çalışır. Böylece sistem giderek yalnızca insanların kararlarıyla değil, kendi içindeki ilişkiler ve rekabetle de hareket eder. Fren hâlâ vardır, fakat direksiyonun başında tek bir kişi yoktur.
Bu noktadan sonra teknoloji problemi aynı zamanda bir politik ekonomi problemine dönüşüyor. Hatta yapay zekâ çağının asıl öngörülemez agenti tek başına yapay zekâ olmayabilir. Yapay zekâ şirketleri, devletler, yatırımcılar, kullanıcılar, algoritmalar ve agentlerden oluşan bütün sistem kendi hareketini üretmeye başlayabilir. Tek tek parçaların hiçbiri bütünü yönetmez. Herkes kendi açısından rasyonel olanı yaparken ortaya kimsenin tek başına istemediği bir sonuç çıkabilir.Fırtına tam olarak böyle oluşur.
Kuşlar filminin finalinin bugün yeniden bu gözle izlenmesi gerekir. Film klasik anlamda bitmez. Kahramanlar kuşları yenmez. Kuşların zayıf noktası keşfedilmez. Bir bilim insanı ortaya çıkıp saldırıların nedenini açıklamaz. İnsanlık karşı saldırıya geçmez. İnsanlar yalnızca evden çıkarlar ve dışarıda binlerce kuş vardır. Arabaya doğru ağır ağır yürürler. Kuşlar her yerdedir. İnsanların yapabileceği tek şey onların arasından sessizce geçmeye çalışmaktır.Burada yenilmiş bir insanlık da yoktur aslında. Daha tuhaf bir şey vardır: konumu değişmiş bir insan vardır. Gökyüzü artık eskiden olduğu kadar ona ait değildir.
Yapay zekâ çağının asıl kırılması da makinelerin bir sabah uyanıp bilinç kazanması olmayabilir. İnsan, kendi yarattığı teknolojik ekosistemin davranışlarını bütünüyle öngörebilen tek merkez olmaktan çıkabilir. Bu insanı merkezden almaya çalışan posthumanist düşüncenin de amaçlarından biridir, en azından görünen resim bize bunu anlatıyor. Birde bu meselede bu yazının konusu olmayan bir görünmeyen yön var ki ,bir doğum öncesi anne karnındaki ceninin hali gibi gizli ve arapça semiyolojisinde cenin kelimesindeki gibi saklı olanı , görünmeyeni imleyen bir yön. Bu durumda özdüşünümsel olarak gizli bir potansiyelle bekliyor. Özetle tasarlanmamış bir fırtınanın öncülleri yavaş yavaş beliriyor.
