Sistem Sizi Tanımıyorsa Sizi Yok Sayabilir

Bir algoritmanın adaletsiz davranması için sizi yanlış tanıması şart değil. Hakkınızda yeterli veriye sahip olmadığı için sizi hiç değerlendirmemesi de hayatınızı etkileyebilir. Algoritmik dışlama, dijital sistemlerin bazı insanları veya toplulukları yeterli veri bulunmaması ya da sistemin işleyişindeki başka engeller nedeniyle karar süreçlerinin dışında bırakmasıdır. Görünmezliğin bedeli, gerçek dünyada oldukça somut olabilir.

Algoritmik Dışlama Nedir?

Algoritmik Dışlama (Algorithmic Exclusion), bir algoritmanın belirli kişi veya gruplar hakkında anlamlı bir tahmin üretememesi ya da onları algoritmik işlem ve hizmetlerin dışında bırakması durumunu ifade eder. Kavram özellikle veri eksikliği, dijital eşitsizlik ve otomatik karar sistemlerinin toplumsal sonuçlarıyla ilişkilidir.

Catherine Tucker’ın 2023 tarihli araştırması, algoritmik dışlamayı toplumsal eşitsizliklerin devam etmesine katkıda bulunabilen ayrı bir sorun olarak ele alır. Temel mesele yalnızca algoritmanın yanlış tahmin yapması değil, bazı insanlar hakkında güvenilir bir tahmin üretecek verinin hiç bulunmamasıdır.

Bir kredi değerlendirme sistemi, düzenli finansal kayıtları olmayan bir kişiyi yeterince değerlendiremeyebilir. Bir iş başvuru sistemi, alışılmış kariyer yollarının dışında ilerleyen adayları değerlendirmekte zorlanabilir. Bir kamu hizmeti sistemi ise dijital kayıtları eksik veya tutarsız olan bir kişinin durumunu doğru biçimde belirleyemeyebilir.

Bu örneklerde sistemin verdiği sonuç her zaman açık bir ret olmayabilir. Bazen başvuru işleme alınmaz, bazen kişi otomatik değerlendirmeye uygun bulunmaz, bazen de sistem belirsizlik nedeniyle karar üretemez. Sonuç değişse de ortak sorun, kişinin ihtiyaçlarıyla sistemin onu değerlendirme kapasitesi arasındaki boşluktur.

Algoritmik Yanlılık ile Algoritmik Dışlama Aynı Şey Değil

Bu iki kavram birbirine yakın olsa da aynı sorunu tanımlamaz. Aralarındaki fark, bir sistemin kişiyi yanlış değerlendirmesiyle onu değerlendirememesi arasındaki ayrımda ortaya çıkar.

Algoritmik yanlılık (Algorithmic Bias): Sistem, belirli bir kişi veya grup hakkında sistematik olarak hatalı ya da adaletsiz sonuçlar üretebilir. Örneğin bir işe alım modeli, geçmişteki eşitsizlikleri yansıtan veriler nedeniyle bazı adayların başarı ihtimalini düşük değerlendirebilir.

Algoritmik dışlama (Algorithmic Exclusion): Sistem, bazı kişiler hakkında karar vermek için yeterli veya uygun veriye sahip olmayabilir. Örneğin alışılmış finansal kayıtları bulunmayan bir başvuru sahibinin kredi değerliliği güvenilir biçimde hesaplanamayabilir.

Gerçek dünyada bu iki sorun iç içe geçebilir. Veri eksikliği, bazı gruplar için daha fazla hata üretilmesine neden olabilir; sistem de bu hataları gerekçe göstererek o grupları hizmetlerin dışında bırakabilir.

Burada önemli olan, her veri eksikliğinin mutlaka ayrımcılık anlamına gelmemesidir. Bir sistemin bazı girdilerle güvenilir sonuç üretememesi teknik bir sınırlama olabilir. Ancak bu sınırlama belirli toplulukları sistematik biçimde etkiliyor ve alternatif değerlendirme yolları sunulmuyorsa, teknik bir sorun aynı zamanda toplumsal bir adalet sorununa dönüşebilir.

Veri Çölleri İnsanları Nasıl Görünmez Kılar?

Algoritmalar kendiliğinden toplumsal gerçekliği öğrenmez. Eğitim verileri, kayıt sistemleri, ölçüm tercihleri ve tasarım kararları aracılığıyla dünyanın belirli bir temsilini oluştururlar. Bu temsilin bazı bölümleri ayrıntılı, bazıları eksik, bazılarıysa neredeyse tamamen boş olabilir.

Veri çölleri (Data Deserts), belirli kişi, topluluk, bölge veya konular hakkında kullanılabilir verinin yetersiz olduğu alanları anlatmak için kullanılır. Bu ifade her bağlamda tek ve standart bir teknik tanıma sahip değildir; ancak algoritmik dışlamayı anlamak için yararlı bir çerçeve sunar.

Düzenli internet erişimi olmayan, dijital hizmetleri daha az kullanan veya resmî kurumlarla daha sınırlı etkileşim kuran kişiler daha az dijital iz bırakabilir. Kayıt dışı çalışanlar, kırsal bölgelerde yaşayanlar veya yerel dillerde içerik üreten topluluklar da bazı veri kümelerinde yetersiz temsil edilebilir.

Bunun sonucunda sistem, dijital izleri daha yoğun olan gruplar hakkında daha güvenilir tahminler üretirken diğerleri hakkında kararsız kalabilir. Böylece veri bolluğu, sistemin kimi daha iyi tanıdığını; veri kıtlığı ise kimi değerlendirmekte zorlandığını belirler.

Ancak dışlanmanın tek nedeni insanların az veri üretmesi değildir. Kurumların hangi verileri toplamayı tercih ettiği, hangi toplulukların araştırmalara dâhil edildiği ve hangi dillerin teknolojik yatırımlardan daha fazla yararlandığı da önemlidir. Dolayısıyla veri eksikliği yalnızca bireylerin dijital davranışlarından kaynaklanan bir sorun değil, aynı zamanda kurumsal ve yapısal tercihlerin sonucu olabilir.

Görünmezlik Yoluyla Dışlama Nasıl İşler?

Algoritmik dışlama yalnızca bir başvurunun reddedilmesiyle ortaya çıkmaz. Bazen bir insanın dijital sistemlerde daha az görünür olması, erişebildiği fırsatları da sınırlar.

Arama motorları ve tavsiye sistemleri

Bir işletmenin, sanatçının veya içerik üreticisinin dijital izleri azsa, bazı sıralama ve tavsiye sistemlerinde yeterince görünürlük kazanamayabilir. Sistemler çoğu zaman ilgi, etkileşim veya geçmiş performans gibi sinyallerden yararlandığından, başlangıçta az görünür olan bir içerik daha az etkileşim alabilir.

Daha az etkileşim de bazı sistemlerde daha düşük görünürlüğe katkıda bulunabilir. Böyle bir geri besleme döngüsü, zaten az bilinen kişi ve kurumların yeni kitlelere ulaşmasını zorlaştırabilir.

Bununla birlikte, düşük görünürlük her zaman algoritmik dışlama anlamına gelmez. İçerik kalitesi, kullanıcı tercihleri, rekabet ve platformun sıralama kuralları da sonucu etkileyebilir. Sorun, görünürlüğün hangi koşullarda sistematik biçimde belirli grupların aleyhine işlediğini incelemeden yalnızca sonuçlara bakıldığında ortaya çıkar.

İşe alım ve kredi değerlendirmesi

Otomatik karar sistemleri, geçmiş kayıtları gelecekteki sonuçları tahmin etmek için kullanabilir. Ancak standart dışı kariyer yolları, sınırlı finansal geçmiş veya eksik kayıtlar, bazı kişilerin sistem tarafından değerlendirilmesini güçleştirebilir.

Bir adayın geleneksel iş geçmişine sahip olmaması, yeteneksiz olduğunu göstermez. Benzer biçimde, sınırlı kredi geçmişi de tek başına kişinin borcunu geri ödeme kapasitesini kesin biçimde ortaya koymaz.

Sistem, ölçebildiği özellikleri kişinin gerçek kapasitesiyle eş tutarsa veri eksikliği bir fırsat engeline dönüşebilir. Böylece ölçülmesi kolay olan şey, ölçülmesi önemli olan şeyin yerini alır.

Kamu hizmetleri ve dijital erişim

Kamu hizmetlerinin dijitalleştirilmesi işlemleri hızlandırabilir; ancak dijital erişim, kimlik doğrulama veya kayıt güncelleme koşulları bazı kişiler için ek engeller yaratabilir. İnternet erişimi, dijital okuryazarlık veya güncel belge eksikliği nedeniyle başvurusunu tamamlayamayan bir kişi, hak ettiği bir hizmete ulaşmakta zorlanabilir.

Bu tür bir dışlanma her zaman doğrudan algoritmadan kaynaklanmaz. Sorun, dijital altyapıdan, kurumların işleyişinden, veri doğrulama kurallarından veya itiraz mekanizmalarının yetersizliğinden de doğabilir. Otomatik sistemlerin toplumsal etkilerini değerlendirirken bütün bu bileşenleri birlikte incelemek gerekir.

Algoritmik Kapı Tutuculuk ve Dijital Görünmezlik

Geleneksel medyada kapı tutuculuk, hangi haberlerin yayımlanacağına ve hangi konuların kamuoyunun gündemine gireceğine ilişkin seçim süreçlerini anlatır. Dijital platformlarda benzer bir işlev, arama sıralamaları, öneri sistemleri ve içerik denetleme mekanizmaları üzerinden ortaya çıkabilir.

Algoritmalar hangi içeriğin öne çıkacağını, hangisinin daha az görünür olacağını veya hangi kullanıcının belirli bir hizmete erişebileceğini etkileyebilir. Bu kararlar çoğu zaman milyonlarca kullanıcıya aynı anda uygulandığından, küçük tasarım tercihleri bile geniş kapsamlı sonuçlar doğurabilir.

Ancak algoritmik kapı tutuculuk ile algoritmik dışlama birbirinin eş anlamlısı değildir. Kapı tutuculuk, içeriğe veya erişime aracılık eden seçim mekanizmasını anlatırken dışlama, bu mekanizmaların belirli kişileri ya da grupları değerlendirme ve hizmet süreçlerinin dışında bırakmasıyla ilgilidir.

Bu iki süreç kesiştiğinde görünürlük bir güç meselesine dönüşür. Bir grubun deneyimleri dijital sistemlerde yeterince temsil edilmiyorsa, o gruba ilişkin içerikler veya ihtiyaçlar da bazı karar süreçlerinde eksik kalabilir.

Bu durumun kamuoyunu mutlaka manipüle etmek amacıyla tasarlandığını söylemek doğru olmaz. Fakat kasıt bulunmasa bile sistematik görünmezlik, hangi sorunların fark edildiğini ve hangi taleplerin karşılık bulduğunu etkileyebilir.

Yırtıcı Dahil Etme Paradoksu

Dışlanmanın karşıtı her zaman adil bir katılım değildir. Bazen daha önce göz ardı edilen topluluklar dijital sistemlere dâhil edilir; ancak bu katılım, onların yararına olmayan koşullar üzerinden gerçekleşir.

Yırtıcı dahil etme (Predatory Inclusion), özellikle ırk, sınıf, finansal erişim ve platform ekonomisi bağlamlarında tartışılan eleştirel bir kavramdır. Tressie McMillan Cottom’ın çalışmalarında da ele alınan bu yaklaşım, dışlanmış grupların sisteme kabul edilmesinin tek başına eşitlik anlamına gelmediğini vurgular.

Örneğin geleneksel finansal hizmetlere erişmekte zorlanan kişilere yeni dijital kredi ürünleri sunulabilir. Bu hizmetler bazı kişiler için gerçek bir erişim imkânı yaratırken, yüksek maliyetli veya sömürücü koşullarla sunulmaları durumunda aynı kişiler ekonomik açıdan daha kırılgan hâle gelebilir.

Benzer bir çelişki dijital platformlarda da görülebilir. Bir topluluğun sisteme dâhil edilmesi, o topluluğun yalnızca hizmetlerden yararlanmasını değil, aynı zamanda daha yoğun reklam hedeflemesine, veri toplamaya veya ticari istismara maruz kalmasını da beraberinde getirebilir.

Bu nedenle dijital adaletin ölçütü yalnızca kaç kişinin sisteme alındığı değildir. İnsanların hangi koşullarda dâhil edildiği, hangi risklere maruz kaldığı ve sistemin sunduğu faydalardan ne ölçüde yararlanabildiği de hesaba katılmalıdır.

Algoritmik Dışlama Bir Manipülasyon Aracına Dönüşebilir mi?

Algoritmik dışlama her zaman kasıtlı bir manipülasyon değildir. Veri eksikliği, hatalı tasarım, kurumsal ihmal veya teknik sınırlamalar da aynı sonucu doğurabilir. Ancak dışlama mekanizmaları, belirli grupların görünürlüğünü ve seçeneklerini etkileyebildiği için manipülatif süreçlerle kesişebilir.

Bir platformun bazı kullanıcıları sürekli belirli içeriklerden uzak tutması, bir sistemin belirli grupların başvurularını alternatif değerlendirme sunmadan işlem dışı bırakması veya bir tavsiye mekanizmasının yalnızca ticari açıdan avantajlı seçenekleri görünür kılması, karar ortamını daraltabilir.

Bu örneklerin her birini otomatik olarak manipülasyon diye nitelendirmek doğru değildir. Manipülasyon iddiası için tasarımın amacı, uygulama biçimi ve ortaya çıkan etkiler arasında daha somut bir bağlantı kurulmalıdır.

Buna rağmen önemli bir risk vardır: İnsanlar, hangi seçeneklerin kendilerine gösterilmediğini çoğu zaman göremez. Kullanıcılar gördükleri sonuçları karşılaştırabilir; fakat sistemin hiç göstermediği fırsatların, hizmetlerin veya bilgilerin farkına varmak çok daha zordur.

Görünür olanı yönetmek kadar, görünür olmayana karar vermek de güç yaratır. Algoritmik dışlamanın manipülasyonla ilişkisi, tam da bu sessiz seçim alanında belirginleşir.

Algoritmik Dışlama Nasıl Azaltılabilir?

Algoritmik dışlamayı azaltmak için yalnızca daha fazla veri toplamak yeterli değildir. Veri miktarı artarken mahremiyet ihlalleri, yanlış sınıflandırmalar veya sömürücü kullanım biçimleri de artabilir. Asıl hedef, ilgili toplulukların yeterince temsil edildiği, verilerin amaca uygun olduğu ve sistemin belirsizlik karşısında sorumlu davrandığı bir yapı kurmaktır.

Bunun için sistemlerin hangi gruplar hakkında daha sık sonuç üretemediği incelenebilir. Eksik verinin belirli topluluklarda yoğunlaşıp yoğunlaşmadığı değerlendirilebilir ve modelin belirsiz kaldığı durumlarda otomatik ret yerine insan incelemesi veya alternatif değerlendirme yolları sunulabilir.

Ayrıca kullanıcıların karar gerekçelerini öğrenebilmesi, yanlış kayıtları düzeltebilmesi ve sonuçlara itiraz edebilmesi önemlidir. Bu mekanizmalar, algoritmik kararların hatasız olmasını garanti etmez; ancak hataların fark edilmesini ve düzeltilmesini kolaylaştırır.

Veri temsilinin iyileştirilmesi de tek başına yeterli değildir. Bir grubu sisteme daha fazla dâhil etmek, o gruba ait verilerin hangi amaçla kullanılacağını ve hangi ticari veya kurumsal çıkarların hizmetinde olacağını sorgulamayı gereksiz kılmaz.

Asıl Tehlike Sistemlerin Sizi Yanlış Tanıması Değil, Sizi Hiç Tanımaması

Dijital çağda veri, yalnızca geçmişte ne yaptığımızın kaydı değildir. Bazı sistemlerde gelecekte hangi fırsatlara erişebileceğimizi belirleyen bir değerlendirme aracına dönüşür.

Bu nedenle veri eksikliği, görünmezlik ve algoritmik dışlama basit teknik sorunlar olarak görülemez. Bir insanın yeterince ölçülmemesi, onun gerçek kapasitesinin, ihtiyacının veya koşullarının sistem tarafından hesaba katılmaması anlamına gelebilir.

Üstelik dışlanma, her zaman açık bir yasak biçiminde ortaya çıkmaz. Bazen başvurunun sonuçlanmaması, bazen bir seçeneğin hiç sunulmaması, bazen de kişinin sistemin değerlendirme ölçütlerine uymadığı için sessizce geride kalması şeklinde yaşanır.

Dijital adalet, herkesi aynı algoritmaya dâhil etmekten ibaret değildir. İnsanların farklı koşullarını tanımak, verinin nerede eksik kaldığını görmek ve otomatik sistemlerin sınırlarını kabul etmek gerekir.

Çünkü bir sistem sizi değerlendiremiyorsa, bu sizin değersiz olduğunuzu göstermez. Yalnızca sistemin sizi anlamak için kullandığı dünyanın eksik olduğunu gösterebilir.

Zihnini Derinleştirmek İsteyenler İçin Anahtarlar

  1. Catherine Tucker’ın Algorithmic Exclusion: The Fragility of Algorithms to Sparse and Missing Data başlıklı çalışması, eksik ve seyrek verinin algoritmik kararlar üzerindeki etkisini ve bunun eşitsizlikle ilişkisini inceler. Algoritmik dışlamayı doğrudan ele alan temel kaynaklardan biridir: https://www.brookings.edu/wp-content/uploads/2023/02/Algorithmic-exclusion-FINAL.pdf
  2. Tressie McMillan Cottom’ın Where Platform Capitalism and Racial Capitalism Meet: The Sociology of Race and Racism in the Digital Society başlıklı makalesi, dijital platformların dışlanmış grupları sisteme dâhil ederken onları sömürücü koşullara maruz bırakabilmesini tartışır. Yırtıcı dahil etme kavramının toplumsal boyutunu anlamak için yararlıdır: https://doi.org/10.1177/2332649220949473
  3. Social Impacts of Algorithmic Decision-Making: A Research Agenda for the Social Sciences başlıklı araştırma, otomatik karar sistemlerinin toplumsal eşitsizlikleri nasıl etkileyebileceğini ve bu etkilerin sosyal bilimler perspektifiyle nasıl incelenebileceğini ele alır: https://doi.org/10.1177/20539517221089305

Meta Title: Algoritmik Dışlama Nedir? Dijital Görünmezlik

Meta Description: Algoritmik dışlama nedir? Veri eksikliği, dijital görünmezlik, algoritmik yanlılık ve yırtıcı dahil etmenin toplumsal sonuçlarını keşfedin.

Post Excerpt: Yapay zekâ bazı insanları yanlış değerlendirebilir, bazılarınıysa hiç değerlendiremeyebilir. Veri eksikliğinin dijital fırsatları nasıl sınırladığını ve görünmezliğin nasıl eşitsizlik yarattığını keşfedin.

Etiketler: Algoritmik Dışlama, Veri Adaleti, Dijital Eşitsizlik

Kapak Görseli İçin İngilizce Prompt:

Create a dark, cinematic editorial concept image about algorithmic exclusion and digital invisibility. Depict a vast, cold artificial intelligence interface represented by abstract luminous data grids and scanning beams. A diverse group of human silhouettes stands at the edge of the system, with some figures clearly represented in bright data streams while others fade into empty, fragmented spaces where their records should exist. Convey invisibility, unequal access, missing data, and quiet institutional power without using stereotypical robots or puppet-master imagery. Sophisticated investigative-magazine aesthetic, deep black and charcoal tones, muted steel blue, subtle amber highlights, dramatic cinematic lighting, realistic textures, restrained visual complexity. Wide 16:9 composition. Include the exact Turkish word “MANİPÜLASYON” near the center as the only readable text, with correct Turkish characters, crisp and accurate typography. No other text, letters, numbers, logos, watermarks, or interface labels.

Alt Text: Dijital veri sisteminin dışında kalan insan siluetlerini ve algoritmik görünmezliği simgeleyen karanlık konsept görseli.