Bir skandal patlak verir. Binlerce insan yanlış bilgiye inanmış, bir şirketin otomatik sistemi insanlara zarar vermiş veya bir kamu kurumunun kararı ciddi sonuçlar doğurmuştur. Kamuoyu cevap bekler: Kim yaptı? Kim izin verdi? Kim bunu durdurabilirdi?
Fakat yanıtlar geldikçe sorumlular çoğalmak yerine kaybolur. Şirket, kullanılan teknolojiyi işaret eder. Teknolojiyi geliştiren ekip, sistemin belirlenen talimatları uyguladığını söyler. Yöneticiler, kararı alt birimlerin aldığını savunur. Alt birimler ise mevcut prosedürlere uyduklarını belirtir.
Ortada sonuçları gerçek olan bir eylem vardır ama sorumluluğun adresi belirsizleşmiştir.
Sorumluluk boşluğu (accountability vacuum), bir eylemden veya karardan hesap sorulabilecek kişi ya da kurumun belirlenmesinin güçleştiği, hesap verebilirlik mekanizmalarının etkisiz kaldığı durumu ifade eder. Kavram, özellikle kararların çok sayıda aktör, karmaşık kurallar veya otomatik sistemler arasında dağıldığı durumlarda önem kazanır.
Bu boşluk her zaman bilinçli biçimde oluşturulmaz. Ancak manipülasyon söz konusu olduğunda, sorumluluğun belirsizliği güçlü bir avantaja dönüşebilir. Çünkü bir davranışın arkasındaki aktör görünmez hâle geldiğinde, yalnızca onu kanıtlamak değil, tekrarını önlemek ve zarar görenlerin hakkını aramak da zorlaşır.
Sorumluluk Boşluğu Nasıl Oluşur?
Sorumluluk boşluğunun temelinde çoğu zaman eylem ile hesap verme yükümlülüğü arasındaki bağın kopması bulunur. Bir karar alınır, uygulanır ve sonuç doğurur; ancak bu sürecin hangi aşamasından kimin sorumlu olduğu açık değildir.
Bunun birkaç farklı nedeni olabilir.
Sorumluluğun parçalanması: Kararın hazırlanması, onaylanması, uygulanması ve denetlenmesi farklı kişi veya kurumlara dağıtılır. Her aktör yalnızca kendi görev alanına odaklanırken bütünün sonuçları sahipsiz kalabilir.
Bilginin asimetrik dağılması: Kararı alanlar, uygulayanlar ve sonuçlarından etkilenenler aynı bilgiye sahip değildir. Bir şirketin iç işleyişini bilmeyen kullanıcı, kendisini etkileyen kararın nasıl verildiğini anlayamayabilir.
Yetkinin belirsizliği: Bir kurumda kimin müdahale etme, sistemi durdurma veya kararı değiştirme yetkisine sahip olduğu açık değildir. Sorun ortaya çıktığında herkes başka bir birimi işaret eder.
Hesap vermenin ertelenmesi: İncelemeler, iç soruşturmalar, teknik açıklamalar ve bürokratik süreçler birbirini takip ederken somut sorumluluk tespiti gecikebilir. Bu gecikme her zaman kasıtlı olmasa da sorumluların denetimden kaçmasını kolaylaştırabilir.
Manipülasyonla kesişim tam da burada ortaya çıkar. Bir aktör yalnızca insanları yanlış yönlendirmekle kalmaz; bu yönlendirmenin hesabının sorulmasını zorlaştıran bir yapıdan da yararlanabilir.
Yapay Zekâ: “Kararı Sistem Verdi” Savunması
Algoritmalar ve yapay zekâ sistemleri, sorumluluk tartışmasını daha karmaşık hâle getiren örneklerdir. Bir öneri sistemi hangi içeriklerin milyonlarca kullanıcıya gösterileceğini belirleyebilir. Bir sohbet botu yanlış bilgi üretebilir. Bir deepfake videosu, hiç yaşanmamış bir olayı gerçekmiş gibi göstermek için kullanılabilir.
Bu tür durumlarda önemli bir soru ortaya çıkar: Zarar doğuran sonucu kim kontrol ediyordu?
Yanıt, yalnızca yazılımı geliştiren kişiyi veya sistemi kullanan son kullanıcıyı işaret etmekten ibaret değildir. Sistemin hangi amaçla tasarlandığı, nasıl devreye alındığı, hangi denetimlerin uygulandığı, risklerin bilinip bilinmediği ve müdahale imkânlarının kimde bulunduğu da incelenmelidir.
Bir şirketin kullandığı otomatik sistem, belirli içerikleri daha fazla kişiye ulaştırıyorsa, bu içeriklerin toplumsal etkisi yalnızca yazılımın teknik davranışına indirgenemez. Sistemi seçen, hedeflerini belirleyen, çalışma koşullarını düzenleyen ve performansını izleyen insanlar ile kurumlar da değerlendirilmelidir.
Burada kritik bir ayrım var: Bir sistemin sonucu öngörülememiş olabilir; ancak öngörülemezlik, her durumda sorumluluğun ortadan kalktığı anlamına gelmez. Öte yandan, zararlı bir sonuç ortaya çıkması da tek başına belirli bir kişinin kusurlu olduğunu kanıtlamaz. Somut sorumluluk, olayın koşullarına ve geçerli kurallara göre belirlenmelidir.
Manipülasyon açısından asıl risk, teknolojinin karmaşıklığının bir kalkan olarak kullanılmasıdır. “Algoritma böyle çalışıyor” açıklaması, sistemin neden o şekilde tasarlandığına, kimin bundan yarar sağladığına ve riskleri azaltmak için ne yapıldığına ilişkin soruları yanıtlamaz.
Teknoloji bir kararın nasıl üretildiğini açıklamaya yardımcı olabilir. Fakat tek başına, o karardan kimsenin sorumlu olmadığı sonucunu doğurmaz.
Hesap Verebilirlik Tiyatrosu: Sorumluluk Var Gibi Görünürken
Bazen bir kurum, hesap verebilir olduğunu göstermek için raporlar yayımlar, etik ilkeler açıklar, denetim komiteleri kurar ve ihlal bildirim kanalları oluşturur. Bunlar gerçekten işleyen mekanizmalar olabilir. Ancak yalnızca görünürde kalmaları da mümkündür.
Bu durumu açıklamak için hesap verebilirlik tiyatrosu ifadesi kullanılabilir: Kurumun sorumluluk üstleniyormuş izlenimi verdiği, fakat bu görüntünün gerçek denetim, düzeltme veya yaptırımlarla desteklenmediği durumlar.
Örneğin bir dijital platform, yanlış bilginin yayılmasını önlemek için kurallar belirlediğini açıklayabilir. Ancak bu kuralların nasıl uygulandığı, ihlallerin hangi ölçütlerle değerlendirildiği ve yanlış kararların nasıl düzeltildiği belirsizse, kamuoyuna sunulan açıklama yeterli değildir.
Benzer bir tablo şirketlerde de görülebilir. Bir hata sonrasında kurum, “gerekli inceleme yapılmıştır” diyebilir; fakat incelemenin kapsamı, bulunan eksiklikler ve uygulanan düzeltmeler açıklanmayabilir. Böylece hesap verme süreci, sorumluluğu belirlemek yerine kurumun itibarını korumaya hizmet edebilir.
Yine de her kurumsal açıklamayı tiyatro olarak nitelendirmek doğru olmaz. Bir denetimin etkili olup olmadığını anlamak için sonuçlarına bakmak gerekir: Sorun tespit edilmiş mi? Sorumlu süreçler belirlenmiş mi? Zarar azaltılmış mı? Aynı hatanın tekrarlanmaması için uygulanabilir önlemler alınmış mı?
Sorumluluk, yalnızca açıklama yapmakla değil, açıklamanın gerektirdiği sonuçları üstlenmekle anlam kazanır.
Dezenformasyonun Arkasında Kim Var?
Dijital ortamda yanlış veya yanıltıcı bilgi çok sayıda aktörün katkısıyla yayılabilir. Bir içerik ilk olarak anonim bir hesapta paylaşılır, bot ağlarıyla görünürlüğü artırılır, farklı platformlarda yeniden yayımlanır ve sonunda haber tartışmalarına konu olur.
İçerik geniş kitlelere ulaştığında ilk kaynağın kim olduğu belirsizleşebilir. Paylaşan hesaplar silinebilir, aracı ağlar farklı ülkelere yayılabilir veya içeriğin nerede üretildiğini belirlemek teknik açıdan zorlaşabilir.
Bu karmaşıklık, dezenformasyonun arkasındaki aktörlerin tespit edilmesini ve sorumluluklarının kanıtlanmasını güçleştirebilir. Özellikle birbiriyle koordineli çalışan hesaplar, gerçek kişilerin paylaşımlarıyla otomatik faaliyetleri birbirine karıştırdığında, kamuoyu hangi hareketin kendiliğinden, hangisinin organize olduğunu anlamakta zorlanabilir.
Bununla birlikte, bir bilginin yanlış olması, onu paylaşan herkesin aynı amaca hizmet ettiği anlamına gelmez. Bazı kullanıcılar kasıtlı olarak yanıltır; bazıları yanlış bilgiyi doğru sanarak yayar; bazıları ise yalnızca tartışmalı bir iddiayı sorgulamak için paylaşır. Bu davranışların niyeti ve sorumluluğu birbirinden farklıdır.
Manipülatif aktörlerin yararlanabileceği boşluk, bu ayrımların bulanıklaşmasıdır. İçeriği ilk üreten, yayılımını örgütleyen, görünürlüğünü artıran ve ona güvenilirlik kazandıran aktörler birbirinden ayrıştırılamadığında, sorumluluğun belirlenmesi zorlaşır.
Bu nedenle etkili bir inceleme yalnızca “Bu haber yanlış mı?” sorusunu değil, “İçerik nereden geldi, nasıl yayıldı, kimler bundan yarar sağladı ve yayılımı kimler kontrol edebiliyordu?” sorularını da ele almalıdır.
Kurumsal ve Politik Manipülasyon: Herkes Görevini Yaptıysa Hata Nasıl Ortaya Çıktı?
Sorumluluk boşluğu yalnızca dijital teknolojilere özgü değildir. Büyük şirketlerde, kamu kurumlarında ve karmaşık bürokratik yapılarda da ortaya çıkabilir.
Bir kararın hazırlanması danışmanlara, uygulanması taşeronlara, denetlenmesi ayrı bir birime ve sonuçların açıklanması başka bir yönetime bırakılmış olabilir. Böyle bir iş bölümünde her aktör, kendisinin yalnızca belirli bir parçadan sorumlu olduğunu savunabilir.
Bir başarısızlık yaşandığında yöneticiler prosedürlerin uygulandığını, çalışanlar verilen talimatlara uyduklarını, yükleniciler sözleşmedeki görevlerini tamamladıklarını söyleyebilir. Buna rağmen ortaya çıkan zararın bütünüyle kim tarafından önlenebileceği sorusu yanıtsız kalabilir.
Burada sorumluluğun parçalanması ile sorumluluktan bilinçli olarak kaçma arasındaki ayrım önemlidir. Her karmaşık kurum kötü niyetle hareket etmez. Uzmanlık gerektiren görevlerin farklı birimler arasında paylaşılması çoğu zaman zorunludur. Sorun, bu iş bölümünün kararların bütününü denetleyecek ve sonuçların hesabını verecek mekanizmalar olmadan işlemesidir.
Manipülatif bir yapıda ise bu belirsizlik bilinçli olarak kullanılabilir. Yetki dağıtılırken kararın gerçek sahibi gizlenebilir, kritik onaylar sözlü biçimde verilebilir veya başarısızlık sonrasında belgeler yalnızca sorumluluğu alt kademelere yöneltecek şekilde sunulabilir.
Böyle bir durumda bürokrasi, yalnızca işleri yürüten bir sistem olmaktan çıkarak hesap vermeyi zorlaştıran bir perdeye dönüşebilir.
Sorumluluk Boşluğu ile Suçluluk Aynı Şey Değildir
Kavramın yanlış kullanılmaması için bir ayrım yapmak gerekir: Hesap verebilirlik mekanizmalarının yetersiz olması, mutlaka bir suç işlendiğini veya belirli bir kişinin suçlu olduğunu göstermez.
Bazen sorumluluğun belirsizliği kötü tasarlanmış süreçlerden, yetersiz denetimden veya teknolojik sınırlamalardan kaynaklanır. Bazen de birden fazla aktörün farklı düzeylerde sorumluluğu bulunur. Hukuki sorumluluk, ahlaki sorumluluk ve kurumsal sorumluluk her olayda aynı kişiye ait olmayabilir.
Örneğin bir kurumun aldığı karar hukuka uygun olduğu hâlde etik açıdan eleştirilebilir. Bir çalışan kurum içindeki prosedüre uymuş olsa bile ortaya çıkan riskin farkına varması beklenebilir. Bir yazılım geliştiricisi ise ürünün bütün kullanım biçimlerini kontrol edemese de bilinen riskleri azaltmakla yükümlü olabilir.
Bu nedenle sorumluluk boşluğunu incelemek, en kolay hedefi suçlamakla değil, karar zincirini ortaya çıkarmakla başlamalıdır.
Kim karar verdi? Kim onayladı? Kim uyguladı? Kim denetledi? Kim müdahale edebilirdi? Kim riskleri biliyordu? Bu soruların yanıtları, sorumluluğun nerede bulunduğunu ve neden görünmez hâle geldiğini anlamaya yardımcı olur.
Sorumluluk Boşluğu Nasıl Kapatılabilir?
Hesap verebilirliği güçlendirmek için yalnızca bir sorumlu isim belirlemek yeterli değildir. Kararların nasıl alındığının izlenebilmesi, yetki sınırlarının açık olması ve yanlışların düzeltilmesini sağlayacak mekanizmaların işlemesi gerekir.
Bunun için kurumlarda karar kayıtlarının tutulması, denetim yetkisinin açıkça belirlenmesi, bağımsız incelemelerin yapılabilmesi ve zarar gören kişilerin itiraz yollarına erişebilmesi önemlidir. Yapay zekâ sistemlerinde de sistemin kullanım amacı, sınırları, riskleri ve insan müdahalesinin hangi koşullarda mümkün olduğu açıklığa kavuşturulmalıdır.
Dijital platformlarda ise yalnızca yanlış içeriği kaldırmak değil, koordineli manipülasyon şüphesinin nasıl incelendiğini ve kararların nasıl denetlendiğini de değerlendirmek gerekir. Kurumların kendi performanslarını açıklaması yararlı olabilir; ancak etkili hesap verebilirlik, gerektiğinde kurumun kendi iddialarını sorgulayabilecek bağımsız mekanizmalara da ihtiyaç duyar.
En önemlisi, sorumluluk kararın en sonunda ortaya çıkan kişiye otomatik olarak yüklenmemelidir. Sistemi tasarlayan, riski bilen, uygulamayı onaylayan ve müdahale etme gücüne sahip aktörlerin rolleri de incelenmelidir.
Kimsenin Sorumlu Olmadığı Bir Düzen Kimin İşine Yarar?
Sorumluluk boşluğu, modern kurumların ve teknolojilerin karmaşıklığından doğabilen bir hesap verebilirlik sorunudur. Fakat manipülasyon süreçlerinde bundan yararlanan aktörler için önemli bir avantaj sunar: Eylemin sonuçları ortada kalırken, eylemin sahibi belirsizleşebilir.
Bir algoritma içerikleri yayar, bir şirket sistemi işletir, bir yönetici hedefleri belirler ve bir iletişim ağı mesajları geniş kitlelere taşır. Her parça ayrı ayrı incelendiğinde süreç anlaşılabilir görünür; fakat bütünün sorumluluğu sorulduğunda herkes yalnızca kendi küçük bölümünü gösterir.
Böylece sorumluluk, ortadan kaldırılmadan da etkisizleştirilebilir. Kurallar varlığını korur, raporlar yayımlanır ve açıklamalar yapılır; ancak hesap sormak isteyenler karar zincirinin tamamına ulaşamaz.
Manipülasyonun en kullanışlı kalkanlarından biri, tam da bu belirsizlik olabilir. Çünkü gerçeği çarpıtan aktörü bulmak zorlaştığında, ortaya çıkan zararı gidermek ve aynı yöntemin yeniden kullanılmasını engellemek de zorlaşır.
Bir sistemin hata yapması kaçınılmaz olabilir. Asıl soru, hata ortaya çıktığında kimin bunu açıklamak, düzeltmek ve sonuçlarını üstlenmek zorunda olduğudur.
Bir kararın sonuçlarından herkes etkileniyor ama kimse sorumluluk kabul etmiyorsa, gerçekten ortada sorumlu yok mudur; yoksa sorumluluk, bulunamayacak şekilde mi dağıtılmıştır?
