Özgür İrade Bir Güncellemeyle Kaldırıldı

Algoritma Distopyası — Bölüm 2/5

Shoshana Zuboff, Harvard Business School profesörü, bunu tek cümleyle özetliyor:

"Deneyiminiz ücretsiz hammadde olarak ele geçiriliyor."

Ürün sen değilsin. Ürün gelecekteki sensin — yarın ne satın alacağın, kime oy vereceğin, ne zaman mutsuz hissedip tıklamaya hazır olacağın.

Zuboff, S. (2019). Harvard Gazette röportajı. — news.harvard.edu

İlk yazıda (Bugün Kaç Kararını Sen Verdin?) günün kaç kararını gerçekten kendinizin verdiğini sorguladık. Bu yazıda bir adım daha derine iniyoruz: bu kararları sizin yerinize veren sistemin mimarisi ne? Kim inşa etti? Neden? Ve bu sistem ne zaman "hizmet"ten "kontrol"e dönüştü?

Gözetim Kapitalizmi: Bedava'nın Gerçek Fiyatı

Google'ı kullanmak için para ödemezsiniz. Instagram, WhatsApp, YouTube, Gmail — hepsi "bedava." Ama bedava olan şeyde ürün sizsiniz sözü artık klişe. Gerçek bundan daha karanlık.

Zuboff'un tanımına göre gözetim kapitalizmi şöyle çalışır:

Aşama 1 — Ele Geçirme: İnsan deneyimi — tıklamalar, konum verileri, arama geçmişi, yüz ifadeleri, ses tonu, yürüyüş hızı — davranışsal veri olarak ele geçirilir. Gönüllü olarak verdiğiniz bilgi, toplanan verinin sadece küçük bir kısmıdır. Asıl değerli olan sizin farkında bile olmadığınız "davranışsal artık" (behavioral surplus): bir sayfada ne kadar süre durduğunuz, hangi kelimede duraksadığınız, hangi reklamı atlayıp hangisinde 0.3 saniye daha kaldığınız.

Aşama 2 — Üretim: Bu veri, makine öğrenmesi ile "tahmin ürünleri"ne (prediction products) dönüştürülür. Yarın ne yapacağınızın, neyi satın alacağınızın, nasıl hissedeceğinizin tahminleri.

Aşama 3 — Satış: Tahmin ürünleri, "davranışsal vadeli işlem piyasalarında" (behavioral futures markets) reklamcılara satılır. Facebook'un gelirinin %97'si, Google'ın %80'i buradan gelir. Müşteri siz değilsiniz — müşteri, sizin gelecekteki davranışınızı satın alan şirkettir.

Bu üç aşamalı döngü her saniye, her tıklamada çalışır.

TechXplore (2024). Algorithms, automation, and loss of freedom. — techxplore.com

Huxley mi Haklıydı, Orwell mi?

George Orwell 1949'da 1984'ü yazdı: devlet gözetliyor, baskılıyor, cezalandırıyor. Aldous Huxley ise 1932'de Cesur Yeni Dünya'yı yazmıştı: devlet eğlendiriyor, uyuşturuyor, kayıtsızlaştırıyor.

Neil Postman, 1985'te Amusing Ourselves to Death kitabında bu iki vizyonu karşılaştırdı:

"Orwell, bizi yok edecek şeyin nefret ettiğimiz şey olacağından korkuyordu. Huxley, bizi yok edecek şeyin sevdiğimiz şey olacağından korkuyordu."

2026'da bakıldığında Huxley açık ara haklı çıktı. Kimse sizi zorla gözetlemiyor — siz gönüllü olarak her anınızı paylaşıyorsunuz. Kimse sizi baskıyla susturmuyor — siz dikkatinizi gönüllü olarak teslim ediyorsunuz. Kontrolün en sofistike biçimi, kontrol edildiğinizi hissetmemenizdir.

Ama Orwell de tamamen yanlış değildi. Onun vizyonu başka bir coğrafyada hayata geçti.

Çin Sosyal Kredi Sistemi: Orwell'in Coğrafyası

Çin'de 2014'ten bu yana inşa edilen Sosyal Kredi Sistemi, vatandaş davranışını AI ve büyük veri ile puanlıyor.

Nasıl çalışıyor: Kameralar yüzünüzü tanıyor. Alışveriş geçmişiniz, sosyal medya paylaşımlarınız, arkadaş listeniz, kredi ödemeleriniz, trafik ihlalleriniz — hepsi bir "güvenilirlik skoru"na dönüşüyor.

Puanınız düşerse:

• Uçak bileti alamazsınız
• Hızlı tren yasağı uygulanır
• Çocuğunuz iyi okula gidemez
• Kredi başvurunuz reddedilir
• İşe alımlarda dezavantajlı konuma düşersiniz

2020 itibariyle 26 milyon uçak bileti satışı Sosyal Kredi Sistemi kaynaklı olarak engellendi. Bu bir bilim kurgu senaryosu değil — şu an çalışan bir sistem.

"Ama bu Çin, bize olmaz" diyebilirsiniz. O zaman Hollanda'ya bakalım.

Hollanda: Bir Algoritma Hükümeti Devirdi

2021'de Hollanda hükümeti istifa etti. Nedeni: Toeslagenaffaire — Çocuk Yardımı Skandalı.

Hollanda vergi dairesi, çocuk yardımı dolandırıcılığını tespit etmek için otomatik bir risk değerlendirme sistemi kurmuştu. Algoritma, binlerce aileyi haksız yere "dolandırıcı" olarak işaretledi.

Sistemin hedeflediği profil: çifte vatandaşlık sahibi aileler, Hollandalı olmayan soyadları taşıyan ebeveynler. Başka bir deyişle — algoritma etnik profilleme yaptı.

Sonuçlar yıkıcıydı:

• Aileler onbinlerce euro borç altına sokuldu
• Evler kaybedildi
• Çiftler boşandı
• Çocuklar koruma altına alındı

Bir algoritma, binlerce ailenin hayatını yıktı. Ve kimse bu algoritmayı "kötü niyetle" programlamamıştı — sistem "verimlilik" için tasarlanmıştı. Ama verimlilik, adalet değildir.

Cathy O'Neil'in Weapons of Math Destruction kitabında uyardığı tam da buydu: "Algoritmalar matematiksel silahlar olabilir — ve en çok güçsüzleri vurur." — amazon.com

Uber ve Amazon: Patron Artık Bir Algoritma

Gözetim kapitalizmi sadece veri toplamakla kalmıyor — yönetiyor da.

Uber sürücüleri kâğıt üzerinde "bağımsız çalışan"dır. Ama ne zaman çalışacaklarını, hangi bölgeye gideceklerini, ne kadar kazanacaklarını bir algoritma belirler. Surge pricing ile belirli saatlerde belirli bölgelere gitmek "teşvik" edilir — aslında algoritmik olarak yönlendirilir. Patronları yok, ama patronlarından daha az özerkliğe sahipler.

Amazon depolarında durum daha açık: çalışanların tuvalet molası dahil her hareketi algoritmik olarak izleniyor. "Verimlilik skoru" düşerse otomatik uyarı, ardından otomatik işten çıkarma. Kararı veren bir insan yönetici değil — bir optimizasyon fonksiyonu.

Grzymek, V. et al. (2025). Algorithmic management and worker autonomy. ArXiv. — arxiv.org

Bu sadece "gig economy" sorunu değil. LinkedIn'in size gösterdiği iş ilanları, Gmail'in sıraladığı e-postalar, Slack'in bildirim önceliği — beyaz yakalılar da algoritmik yönetime sessizce tabi.

"Instrumentarian Power": Kontrol Eden Ama Cezalandırmayan Güç

Zuboff, gözetim kapitalizminin güç biçimini tanımlamak için yeni bir kavram üretti: instrumentarian power — araçsallaştırıcı güç.

Geleneksel otoriter güç (totaliterlik) cezalandırarak kontrol eder: yaparsan hapse atarım.

Instrumentarian güç ise davranış şekillendirerek kontrol eder: seni öyle bir dürtüyorum ki yapma ihtimalin zaten olmuyor. Ceza yok, tehdit yok — ama seçim de yok.

Bir örnek: NIH'de 2025'te yayımlanan çalışma, insanların AI tarafından değerlendirileceğini bildiğinde kendilerini "daha analitik" sunmaya başladığını gösterdi. Kimse onlara "analitik ol" demedi — ama sistemin beklentisi davranışı değiştirdi. Ceza olmadan kontrol.

Shin, D. et al. (2025). AI evaluation changes human self-presentation. PMC / NIH. — pmc.ncbi.nlm.nih.gov

Google'ın otomatik tamamlaması da böyle çalışır: cümlenizi yazmaya başlarsınız, algoritma tamamlar. Cezalandırmaz — ama düşüncenizin yönünü belirler.

Epstein, R. et al. (2024). Search engine manipulation. PNAS. — pnas.org

Korku yok. Baskı yok. Sadece — "sana özel öneriler."

Peki Ne Yapıyoruz Bu Bilgiyle?

Zuboff'un kendisine bu soru sorulduğunda cevabı şuydu:

"İlk adım, adını koymaktır."

Gözetim kapitalizmi kavramının gücü burada: yaşadığımız şeyin adı var. "Bedava internet" değil — "davranışsal veri madenciliği." "Kişiselleştirilmiş deneyim" değil — "tahmin ürünü üretimi." "Kullanıcı sözleşmesi" değil — "rıza ticareti."

Ad koymak, görünmez olanı görünür yapar. Ve görünür olan sorgulanabilir.

Ama sorgulama tek başına yetmiyor. İlk yazıda Harvard Kennedy School araştırmasını paylaşmıştık: bilmek her zaman harekete geçirmez. Bu paradoks — bilmek ama yapamamak — serinin üçüncü yazısının konusu.

Bu yazı, "Algoritma Distopyası" serisinin ikinci yazısıdır. Birinci yazıyı okumadıysanız: Bugün Kaç Kararını Sen Verdin?

Ömer Faruk Gürler — Dijital Pazarlama Uzmanı & Sistem Mimarı

Kaynaklar

1. Zuboff, S. (2019). The Age of Surveillance Capitalism. PublicAffairs. — news.harvard.edu
2. Zuboff, S. (2019). HBS kitap sayfası. — hbs.edu
3. O'Neil, C. (2016). Weapons of Math Destruction. Crown. — amazon.com
4. Postman, N. (1985). Amusing Ourselves to Death. Penguin.
5. Huxley, A. (1932). Brave New World. Chatto & Windus.
6. Orwell, G. (1949). 1984. Secker & Warburg.
7. Grzymek, V. et al. (2025). Algorithmic management and worker autonomy. ArXiv. — arxiv.org
8. Shin, D. et al. (2025). AI evaluation changes human self-presentation. PMC / NIH. — pmc.ncbi.nlm.nih.gov
9. Epstein, R. et al. (2024). Search engine manipulation. PNAS. — pnas.org
10. TechXplore (2024). Algorithms, automation, and loss of freedom. — techxplore.com
11. The Social Dilemma (2020). Yönetmen: Jeff Orlowski. Netflix.
12. The Great Hack (2019). Yönetmen: Karim Amer, Jehane Noujaim. Netflix.