İçeriğe atla
Manipülasyon

Karar senin mi, sana mı verdirildi?

Etiket: Otomasyon Eğilimi

Otomasyon Eğilimi kavramı, insanların otomatik sistemlerden (yapay zekâ, algoritmalar, yazılımlar) gelen öneri veya kararları, kendi kararlarından veya insan yapımı diğer bilgilerden daha doğru kabul etme eğilimini ifade eder.

Kavramın Temel Özellikleri ve Manipülasyonla İlişkisi

Otomasyon eğilimi, doğrudan bir manipülasyon tekniği olarak doğmamış olsa da, günümüzde kitleleri veya bireyleri manipüle etmek için sıklıkla bir “zayıflık” olarak sömürülmektedir.
• Yanlış Güven Duygusu: İnsanlar bilgisayarların “objektif” ve “hatasız” olduğuna inanma eğilimindedir. Bir algoritma yanlı (manipülatif) bir sonuç ürettiğinde bile, kullanıcılar sistemin tarafsız olduğunu varsayar.
• Arama Motoru ve Sosyal Medya Manipülasyonu: Google aramalarında üst sıralarda çıkan sonuçların veya sosyal medya algoritmalarının önümüze getirdiği içeriklerin “en doğru” içerik olduğunu varsaymamız bu eğilimin bir sonucudur. Algoritmalar manipüle edildiğinde, insanlar otomasyona güvendiği için manipülasyonu fark edemezler.
• İki Tip Hata ile Kendini Gösterir:
• İhmal (Omission): Sistem bir sorunu gözden kaçırdığında veya uyarı vermediğinde, insanın da o sorunu fark edememesi.
• Körü körüne İtaat (Commission): Sistem yanlış veya manipülatif bir yönlendirme yaptığında, insanın kendi mantığına aykırı olsa bile o yönlendirmeyi takip etmesi.

Günlük Hayattan ve Literatürden Örnekler

• GPS Vakaları: Sürücülerin, yolun kapalı veya uçurum olduğunu kendi gözleriyle görmelerine rağmen GPS cihazı “düz git” dediği için kazaya karışmaları klasik bir automation bias örneğidir.
• Havacılık ve Tıp: Pilotların veya doktorların, kendi tecrübeleri aksini söylese bile ekranlardaki verilere/yapay zekâ teşhislerine körü körüne güvenip hata yapmaları literatürde sıkça incelenir.

Manipülasyon

Karar senin mi, sana mı verdirildi?

Tüm hakları saklıdır