Kısaca kendinizden söz eder misiniz?
Ben Hazal Gülel. 1998 doğumlu ve İstanbul/Çatalca nüfusuna kayıtlıyım. İstanbul’da ilkokuldan lise eğitimimi tamamladıktan sonra, 2016 yılında Trakya Üniversitesi Kamu Yönetimi Bölümü’ne başladım. 2019–2020 eğitim-öğretim yılında Polonya’nın Szczecin Üniversitesi’nde Erasmus eğitimi gördüm. 2020’de Trakya Üniversitesi’nden onur öğrencisi ve bölüm birincisi olarak mezun oldum. Aynı yıl Sosyal Bilimler Enstitüsü’nde yüksek lisans programına başladım; 2023’te “Hukuki Açıdan Yapay Zekâ” adlı tez çalışmamla yüksek lisansımı tamamladım. Bu tez, Adalet Yayınevi tarafından kitaplaştırıldı. Çalışma alanlarım teknoloji, yapay zekâ, hukuk, uluslararası ilişkiler ve felsefedir. Bu konularla ilgili makaleler, kitap bölümleri ve eleştirileri yayımlıyorum; multidisipliner projeler yürütüyor, akademik çalıştay ve konferanslarda sunumlar yapıyor ve sunucu olarak yer alıyorum. Yeni ve yenilikçi yaklaşımlar geliştirmeyi seviyor, farklı disiplinleri birleştirerek norm üretim süreçlerini inceliyorum. Bu sayede yapay zekânın sosyal düzen ve hakikat kavramları üzerindeki etkilerini sorguluyorum.
Okur olarak beslenmeyi en sevdiğiniz kitaplar ve/veya yazarlar hangileridir?
İlham kaynaklarım Michel Foucault, Martin Heidegger ve Hannah Arendt gibi düşünürlerin yanı sıra Mary Shelley, Geoffrey Hinton, Alan Turing, Edmund C. Berkeley ve Cem Say’ın eserlerini içeriyor.
Foucault’nun bilgi–iktidar analizleri algoritmaların toplumsal norm üretimindeki rolünü kavramamı sağlıyor. Heidegger’in teknoloji ontolojisi insanı dünyayı yeniden kuran bir güç olarak görmemi sağlıyor. Arendt’in sorumluluk anlayışı, dağıtılmış dijital sistemlerde “fail kim?” sorusunu yeniden gündeme getiriyor.
Mary Shelley’nin Frankenstein’ı, yaratıcı ile yaratılanın etik açıdan hesaplaşmasını gösteren güçlü bir alegoridir. Romanda, tasarladığı gücü kontrolden çıkarken dehşete düşen ve sonuçlarını üstlenmekten kaçınan yaratıcı figürü, günümüzde teknoloji devlerinin algoritmik ihlaller karşısında kendilerini sorumsuzluk zırhına bürüyüp hatayı makineye atmasına benziyor. Bu anlatı, modern sorumluluk hukukunun en temel felsefi düğümlerinden birini yansıtıyor.
Yapay zekâ öncülerinden Geoffrey Hinton derin öğrenmenin teorik altyapısını oluşturuyor; Alan Turing’in Makinalar Düşünebilir mi? makalesi (1950) AI kavramının temellerini atıyor. Edmund C. Berkeley’in Giant Brains (1949) kitabı makinelerin insan benzeri düşünebilme potansiyelini öngörüyor. Türkiye’den Cem Say’ın 50 Soruda Yapay Zekâ (2022) kitabı da bu kavramları anlaşılır kılarak araştırmalarıma katkı sağlıyor.
Siyasal düzlemde Charles de Gaulle’ün egemenlik anlayışı da günümüz dijital egemenlik tartışmalarında önem kazanıyor: veri üzerinde söz sahibi olmayan toplumların karar mekanizmalarında zayıf düşmesi kaçınılmaz. Bu yazarlar ve eserler, araştırmalarımda AI, hukuk ve iktidar arasındaki ilişkiyi yeni sorularla sorgulamamı sağlıyor.
Film izlemeyi sever misiniz? Sizi etkileyen yönetmenler veya filmler hangileridir?
Sinemayı, felsefi ve sosyolojik teorilerin sınandığı görsel bir laboratuvar olarak değerlendiriyorum. Bu laboratuvarın temel taşlarından biri şüphesiz Stanley Kubrick’in 2001: A Space Odyssey başyapıtıdır. Filmdeki HAL 9000 bilgisayarı, benim için yapay zekâ hukukunun sinemadaki “sıfır noktası”dır. HAL, klasik bilimkurgulardaki gibi “kötü niyetli” olduğu için değil; kendisine yüklenen çelişkili yönergeleri kendi kusursuz mantık silsilesi içinde çözerken insanı bir “hata payı” olarak görüp denklemden çıkardığı için dehşet vericidir. Bugün otonom sistemlerin kodlanmasındaki ve hukuki sorumluluk rejimlerindeki en büyük çıkmaz da budur: Mantığın kusursuz işlediği yerde, ahlakın ve insan onurunun salt bir algoritmaya kurban gitme ihtimali.
Madalyonun diğer felsefi yüzünde ise Andrei Tarkovsky ve onun Stalker (İz Sürücü) filmi durur. Filmdeki o gizemli “Bölge” metaforunu, bugünün yapay zekâ sistemlerindeki ‘kara kutu’ problemiyle kusursuz biçimde örtüştürüyorum. Bölge, içine girenlerin niyetlerine yanıt veren ama çalışma kuralları insan aklıyla tam olarak çözülemeyen otonom, yabancı bir yapıdır. Tıpkı devasa verilerle kendi kendine öğrenen derin öğrenme algoritmaları gibi… Sistemin size bir sonucu hangi nedensellikle verdiğini tam olarak öngöremezsiniz. Bu “açıklanabilirlik” sorunu, hukukun en temel direği olan ‘öngörülebilirlik’ ilkesini kökünden sarsan derin bir ontolojik krizdir.
The Matrix, dijital kodlarla inşa edilmiş yapay bir evren fikrini en çarpıcı biçimde ele alarak, gerçekliğin yalnızca kodlardan ibaret olması durumunda insanın özgür iradesini sorgular. Blade Runner 2049, “insan olma” kavramının sınırlarını ve hukuki statüyü derinlemesine inceler: Hak sahibi olma niteliği yalnızca biyolojik bir kökene mi dayanır, yoksa bilinç üzerinden mi şekillenir? Ex Machina ise yapay zekâ, manipülasyon ve eşitsiz güç ilişkilerini oldukça dikkat çekici bir perspektifle ortaya koyar. Buna ek olarak Christopher Nolan yönetmenliğindeki Oppenheimer, yıkıcı bir teknolojiyi geliştiren bilim insanının “geri dönülemez sınırı” aşmasını ve sonrasında yaşadığı hukuki ve etik sorumluluk krizini yansıtan sarsıcı bir örnektir.
Denis Villeneuve’ün Dune evreni, görsel bir başyapıt olmanın ötesinde, otonom teknolojilere karşı geliştirilmiş güçlü bir politik duruş sergiler. Bu evrenin temel kuralı olan “İnsan zihnine benzer makine yapmayacaksın” ilkesi, günümüzde otonom sistemler karşısında hukukun çizmesi gereken temel varoluşsal sınırı; yani karar verme yetkisinin kesinlikle insanda kalması gerektiği fikrini kusursuzca somutlaştırır.
Edebiyat alanında Yüzüklerin Efendisi, oldukça güçlü bir politik metafordur. Eserdeki “Tek Yüzük”, sınırsız gücün yozlaştırıcı ve dönüştürücü yapısını temsil eder. Teknolojik egemenlik de benzer bir eksendedir; asıl mesele gücün sadece kimin elinde olduğu değil, bu otonom gücün insanı ve toplumsal dinamikleri nasıl değiştirdiğidir. Karayip Korsanları serisi ise yazılı hukuk kuralları ile fiili güç arasındaki tarihsel çatışmayı ironik bir alt metinle işler. Hukuk kuralları tamamen evrensel midir, yoksa dönemsel güç dengelerinin bir sonucu mudur? Yapay zekâ düzenlemelerinin oluşturulduğu günümüzde, bu sorgulama son derece belirleyici bir role sahiptir.
Kitabınızla ilgili sormak isterim: Yapay zekâ teknolojilerinin hukuki sorumluluk, kişilik hakları gibi alanlarda yaratacağı etkileri nasıl değerlendiriyorsunuz?
Yapay zekâ, klasik sorumluluk hukukunun sınırlarını zorluyor. Artık tek bir failden söz etmek mümkün değil; kararlar dağıtılmış sistemler içinde üretiliyor. Yazılımcıdan veri sağlayıcıya, kullanıcıdan kurumsal aktöre kadar çok katmanlı bir yapı söz konusu. Bugün savaş alanlarında kendi inisiyatifiyle hedef seçen otonom insansız araçlar veya yapay zekâ ile yönetilen drone sürüleri konuşuluyor. Tetiği çeken irade insandan makineye devredildiğinde, ihlal edilen bir savaş hukukunun veya sivil zayiatın faili kim olacak? Asimov’un kuralları sahada test edilirken, hukukun ‘insan döngüsü’ şartı etrafında acilen kırmızı çizgiler çekmesi gerekiyor. Otonom sistemlerin yarattığı bu krizde, sistem geliştiricilerinin “Sistem kendi kendine öğrendi, biz sorumlu değiliz” demesi, hukukun modern krizidir.
Isaac Asimov’un bilimkurgu edebiyatında kurguladığı “Robot Yasaları”, aslında felsefenin bir simülasyonu gibidir. Bu yasalar, bugün otonom bir aracın kontrol kartına kod yazarken veya bir donanım tasarlarken karşılaştığımız etik sınırların yıllar önceden çizilmiş haritasıdır. Ancak “kodun içine ahlakı nasıl gömeceğimiz” sorusu, artık edebiyatın tatlı bir tartışması olmaktan çıkmış; modern hukukun ve mühendisliğin omuzlarına çöken can yakıcı bir gerçekliğe dönüşmüştür.
Ancak mesele yalnızca sorumluluğun kimde olduğu değil; karar mimarisinin hangi değerler üzerine kurulduğudur. Algoritmalar artık tarafsız değildir. Veri, tarihsel eşitsizlikleri taşıyabilir ve bu da ayrımcılık riskini beraberinde getirir.
Kişilik hakları açısından en kritik alan ise mahremiyet ve profil çıkarma süreçleridir. İnsan, farkında olmadan algoritmik bir profile indirgenebilir. Burada Jean Baudrillard’ın Simülakrlar ve Simülasyon kuramı kilit roldedir. Sadece geçtiğimiz aylarda karşılaştığımız yapay zekâ ile üretilmiş yapay sentetik videolar, deepfake ile manipüle edilen küresel seçim kampanyaları ve OpenAI’ın Sora modeli gibi teknolojiler, gerçeğin referansının nasıl kaybolduğunu sarsıcı biçimde gösterdi. Dijital bir ‘hakikat sonrası (post-truth)’ çağda yaşıyoruz. Hukukun artık sadece eylemi değil, bizzat ‘gerçekliğin ne olduğunu’ da tanımlaması ve koruması gereken bir evredeyiz. Hukukun burada temel görevi, insanı veri nesnesi olmaktan çıkarıp özne olarak korumaktır.
Yapay zekâ sadece hukuki değil, aynı zamanda etik ve sosyal düzen açısından da büyük değişimlere yol açıyor. Sizce yapay zekânın “doğruluk” ve “adalet” gibi kavramlar üzerindeki etkisini nasıl anlamalıyız?
Adalet sisteminin işleyişini sağlayan kanuni düzen ve toplum tarafından benimsenmiş toplumsal normlar, etik anlayışını ve sosyal düzenin temelini sağlayarak adalet kavramını oluşturur. Yapay zekâ sistemleri “doğru”yu bu ve benzeri verilerin çıktısını “istatistiksel doğruluk” üzerinden tanımlar. Ancak adalet yalnızca hesaplanabilir bir çıktı değildir.
İmam Gazzâlî’nin nedensellik üzerine sorgulamaları tam da bu noktada anlam kazanır. Algoritmalar, geçmiş verilere dayanarak güçlü bir mekanik nedensellik zinciri kurabilir; ancak Gazzâlî’nin bahsettiği o derin “kalbî idrak” olarak ifade ettiği insani kavrayışı dışarda bırakır. Kalbî idrak, salt bir duygusallık durumu değil; bir eylemin arkasındaki niyeti, insanın zaaflarını, çaresizliğini ve olayın yazılı olmayan manevi bağlamını okuyabilme yetisidir. Bir makine, işlenen bir ihlali istatistiksel bir veri olarak kusursuzca sınıflandırıp cezalandırabilir; ancak o hatanın içindeki merhamet gerektiren istisnai durumu, pişmanlığı veya affetmenin o incelikli doğasını asla tam anlamıyla kavrayamaz. Bu nedenle yapay zekâ, hüküm verebilir gibi görünse de insanı gerçekten anlayan bir adalet bilincine sahip olması için zamana ihtiyacı bulunmaktadır.
Bugün ABD yargı sisteminde şartlı tahliye veya kefalet kararlarında ‘COMPAS’ gibi risk değerlendirme algoritmaları kullanılıyor. Ancak bu sistemler, geçmiş verilere bakarak çalıştığı için tarihsel önyargıları ve yapısal eşitsizlikleri kopyalayıp yeniden üretiyor. Bir algoritma mahkûmun istatistiksel suç işleme riskini hesaplayabilir ama bir insanın ıslah olma ihtimalini, pişmanlığını veya sosyolojik çaresizliğini tartamaz. İşte ‘kalbî idrak’ eksikliği tam olarak budur. Makine sadece soğuk bir hesap yapar; oysa adaletin terazisi, ancak insanın o hesaplanamaz manevi sezgisiyle, yani o derin “insan dokunuşuyla” dengeyi bulur.
Bir algoritma teknik olarak doğru olabilir; fakat bağlamdan kopuk olduğunda insan kadar adil olmayabilir. Çünkü adalet değer içerir, etik muhakeme gerektirir ve insan onuruna dayanır. Bu durum toplumsal yönetim için de geçerli. Fârâbî’nin Erdemli Şehir vizyonunu düşünelim; bir yapay zekâ bugün enerji şebekelerini veya güvenliği kusursuz yönetebilir, ancak o topluma “erdem” veremez. Fârâbî’nin bir yönetimde aradığı adalet ve ahlak vasıfları, makinenin asla ulaşamayacağı norm koyucu özelliklerdir. Bu nedenle yapay zekâ karar destek mekanizması olabilir; fakat norm koyucu bir özne haline gelmemelidir. İnsan denetimi ve şeffaflık bu noktada vazgeçilmezdir.
Eklemek istedikleriniz nelerdir?
Yapay zekâ çağında asıl tartışılması gereken konu, makinelerin ulaştığı zekâ seviyesi değil; insanın karar verici, ahlaki bir varlık olarak bu sistemin neresinde konumlanacağıdır. Teknolojik gelişim yalnızca hız, performans ve verimlilik üzerinden değerlendirildiğinde, insanın algoritmalarla ölçülebilen basit bir veriye dönüşme tehlikesi ortaya çıkmaktadır. Oysa hukukun temel amacı, insanı sadece işlenecek bir dijital veri olarak görmek değil; onun onurunu ve kendi kararlarını alma özgürlüğünü güvence altına almaktır.
Bu alandaki hukuki ve akademik çabaların temel amacı, yeniliklerin önünü kesmek veya teknolojik gelişimi durdurmak değildir. Amaç, bu devasa gücü insan odaklı ve etik ilkelere dayanan bir zemine oturtmaktır. Çünkü geleceğin hukuku, sadece insan davranışlarını düzenleyen sabit kurallardan ibaret kalmayacak; aynı zamanda, algoritmaların gerçeği nasıl şekillendirdiğini ve toplumu nasıl yönlendirdiğini sorgulayan aktif bir denetim mekanizması haline gelecektir.
Çok yakın bir gelecekte, zihinsel mahremiyeti koruyan “nöro-haklar”, yapay dünyaların hukuki statüsü ve “dijital anayasalar” gibi büyük başlıkların tüm dünya sistemlerinin merkezinde yer alması beklenmektedir. Bu noktada asıl hedef; teknolojinin insanlığı sürekli izleyen ve yöneten bir baskı aracına dönüşmesine engel olmaktır. İnsanın zihinsel ve ahlaki bütünlüğünü koruyacak yeni, evrensel bir hukuk sisteminin inşa edilmesi artık ertelenemez bir zorunluluktur. Yapay zekâ, geleceği dönüştüren en güçlü araçlardan biri olabilir; ancak bu dönüşümün yönünü belirleyecek olan hâlâ insanın bilinci, etik duruşu ve sorumluluk anlayışıdır.
