"Algoritmik polisliğin denendiği bir toplum olarak Çin."

Çin'in veri, yapay zekâ ve internet gözetimini nasıl yönettiği anlatılıyor.

Christina Larson

1955 yılında bilim kurgu yazarı Isaac Asimov, “elektronik demokrasi” denilen bir deney hakkında kısa bir hikâye yayımladı. Bu hikâyede, tüm nüfusu temsil etmek üzere seçilen tek bir vatandaş, Multivac adlı bir bilgisayarın ürettiği sorulara cevap veriyordu. Makine bu verileri aldı ve buna bağlı olarak hiçbir zaman gerçekleşmesi gerekmeyen bir seçimin sonuçlarını hesapladı. Asimov’un hikayesi Indiana, Bloomington'da geçiyordu ancak bugün Çin'de Multivac'ın bir benzeri inşa ediliyor.

Siyaset bilimci ve Philadelphia'daki Villanova Üniversitesi'nde Çin uzmanı olan Deborah Seligsohn, herhangi bir otoriter rejim için “alt düzeylerde ve toplum genelinde neler olup bittiğini anlamamak gibi temel bir problem var” diyor. Eğer halkın tartışmasına, sivil aktivizme ve seçim geri bildirimlerine izin vermeyeceksen giderek karmaşıklaşan bir ekonomi ve topluma sahip, gezegendeki insanların beşte birinin yaşadığı bir ülkeyi etkili bir şekilde nasıl yönetebilirsin? Peki doğru kararı vermek için yeterli bilgiyi nasıl toplayabilirsin? Ve vatandaşlarını katılımda bulunmaya davet etmeyen bir hükümet ve polis korkusunu yaymadan bir devlet, halkına nasıl güven verebilir? Bunları yapmadan bir devlet halkın davranışlarını nasıl etkileyebilir veya kontrol edebilir?

2002'den 2012'ye kadar Çin’e liderlik yapan Hu Jintao, ılımlı bir demokratik çözülmeye ve şikâyetleri yönetici sınıfa ulaştıracak kanallara izin vererek bu sorunları çözmeye çalışmış. Ondan sonraki lider Xi Jinping, bu eğilimi tersine çevirdi. Bunun yerine O’nun stratejisi, 1,4 milyar nüfuslu bir ülkede neler olup bittiğini anlamak, bunlara yanıt vermek ve insanların yaşamlarını ve davranışlarını küçük ayrıntılarına kadar izlemek için gözetim, yapay zekâ ve büyük veri kombinasyonuna dayanan bir sistem yaratmak oldu.

Dünya demokrasilerindeki çalkantılı birkaç yıl, Çin siyasi seçkinlerinin seçmenleri durdurmada giderek daha haklı hissetmelerini sağlamıştır. Donald Trump’ın seçilmesi, Brexit, Avrupa'daki aşırı sağcı partilerin yükselişi ve Rodrigo Duterte’nin Filipinler'deki terör saltanatı gibi gelişmeler sebebiyle eleştirmenler; demokrasiye içkin özellikle popülizm, istikrarsızlık ve güvencesizce kişiselleştirilmiş liderlik olarak gördükleri problemlerin altını çiziyor.

2012 yılında Çin Komünist Partisi genel sekreteri olduktan sonra Xi, 2030 yılına kadar yapay zekada dünya lideri olma hedefi de dahil olmak üzere ülke için birçoğu teknolojiye dayanan bir dizi hırslı plan ortaya koydu. Xi, sansürü artırmak ve yerel internet üzerinde tam kontrol sağlamak için “siber egemenlik” çağrısında bulundu. Mayıs ayında Çin Bilimler Akademisi toplantısında teknolojinin, “sosyalist ve modern bir ulus inşa etme büyük hedefine” ulaşmanın anahtarı olduğunu söyledi. Ocak ayında, televizyondan ulusa hitap ettiğinde her iki tarafındaki kitap raflarında hem Das Kapital gibi klasik başlıklar hem de yapay zekâ hakkında iki kitap da dahil olmak üzere birkaç yeni ek yer aldı: Pedro Domingos'un The Master Algorithm (Uzman Algoritma)’sı ve Brett King'in Augmented: Life in the Smart Lane (Artırılmış: Akıllı Kulvarda Hayat)’ı.

Washington DC'deki Peterson Uluslararası Ekonomi Enstitüsü'nden Martin Chorzempa, “Hiçbir hükümet, yönetme şeklini değiştirmek için verinin gücünden yararlanma konusunda Çin hükümetinden daha iddialı ve kapsamlı bir plana sahip değildir.” diyor. Bazı yabancı gözlemciler bile uzaktan izlerken bu tür veri odaklı yönetimin, giderek işlevsiz görünen seçim modeline uygun bir alternatif sunup sunmadığını merak edebilirler. Ancak teknoloji ve verinin bilgeliğine aşırı güvenmek kendi risklerini beraberinde taşır.

Diyalog yerine veri

Çinli liderler, uzun zamandır yetkililerin sıcak bir şekilde tartışılmalarına ve eleştirilmelerine kapı açmadan halkın duyarlılığını ve düşüncesini tartmak istiyorlardı. İmparatorluk ve modern Çin tarihinde çoğu zaman hükümetlerden memnun olmayanlar, kırsal kesimlerden Pekin'e seyahat edip protesto yapmışlardır ve bu protestoları devlete açık bir talep görevi görmüştür. Hedefleri, yerel yetkililerin şikayetlerini anlamadığı veya umursamadığı durumlarda imparatorun daha iyi bir karara varabilmesiydi.

Hu Jintao yönetiminde, Komünist Partinin bazı üyeleri sınırlı bir açıklığı devletin belirli sorunları ortaya çıkarmasının ve çözmesinin olası bir yolu olarak gördüler. Bloglar, yolsuzlukla mücadele gazetecileri, insan hakları avukatları ve yerel yolsuzluğu ön plana çıkaran çevrimiçi eleştirmenler, kamusal tartışmayı Hu’nın saltanatının bitişine doğru sürükledi. Konuyla ilgili bilgi sahibi olan eski bir ABD yetkilisine göre Xi, döneminin başlarında sosyal medyadaki kamu kaygıları ve rahatsızlıkları hakkında günlük brifing alırdı. Son yıllarda talep sahipleri, başkente yerel yetkililer tarafından yapılan yasadışı arazi ele geçirmeleri ve bozulmuş süt tozu gibi skandallara dikkat çekmek için gittiler.

Ancak polis, talep sahiplerinin Pekin'e ulaşmasını giderek daha fazla durduruyor. İnsan Hakları İzleme Örgütü üst düzey Çin araştırmacısı Maya Wang’in söylediklerine göre, “Şimdi tren bileti satın almak için kimlik soruluyor. Bu da yetkililerin geçmişte hükümete karşı protestoları olan potansiyel ‘sorun çıkarıcıları’ tanımlamasını kolaylaştırıyor. “Birkaç talep sahibi, tren platformlarında durdurulduklarını söyledi”. Blogcular, aktivistler ve avukatlar da sistematik olarak susturuluyor veya hapsediliyor; sanki veriler, hiçbir özgürlük sorunu yaşamadan hükümete aynı bilgiyi verebilirmiş gibi davranıldı.

Ağa bağlı teknolojiyi Çin'de bir yönetim aracı olarak kullanma fikri en azından 1980'lerin ortalarına kadar uzanıyor. Harvard tarihçisi Julian Gewirtz'in açıkladığı gibi, “Çin hükümeti, bilgi teknolojisinin günlük yaşamın bir parçası haline geldiğini görünce Çin'i, -liderliğin takıntısı olan- daha modern ve yönetilebilir hale getirmek için bilgi teknolojisinin hem bilgi toplamak hem de kültürü kontrol etmekte güçlü ve yeni bir araç olacağını fark etti. Yapay zekâdaki ilerleme ve daha hızlı işlemciler de dahil olmak üzere sonraki gelişmeler, bu vizyonu daha da yakınlaştırdı.

Bildiğimiz kadarıyla Çin'de teknoloji ve yönetimi birbirine bağlayan tek bir ana plan yok. Ancak karar vermeyi etkilemek ve davranışı etkilemek için teşvik ve ceza sistemleri oluşturmak üzere insanlar ve şirketler hakkında veri toplama konusunda ortak bir stratejiyi paylaşan çeşitli girişimler var. Bu girişimler arasında Danıştay'ın 2014 “Sosyal Kredi Sistemi”, 2016 Siber Güvenlik Kanunu, “sosyal kredi”, “akıllı şehir” planları ve Sincan'ın batı bölgesinde teknoloji güdümlü kontrol gibi çeşitli yerel düzey ve özel teşebbüs deneyleri bulunmaktadır. Bu girişimler, genellikle Çin hükümeti ve Çinli teknoloji şirketleri arasındaki ortaklıkları içerir.

En geniş kapsamlı olan Sosyal Kredi Sistemidir, oysa İngilizce‘de bunun yerine “trust” (“güven”) veya “reputation” (“itibar”) sistemi daha iyi bir çeviri olabilir. Hem insanları hem de işletmeleri kapsayan hükümet planı, hedefleri arasında “devlet işlerinde samimiyet inşası, ticari samimiyet ve yargı güvenilirliği” ni sıralamaktadır. (“Çin'deki herkesin dolandırılan bir teyzesi var. Kamu güvenindeki bir kırılmayı ele almak meşru bir ihtiyaç.” diyor Avrasya Grubu danışmanlığında jeoteknoloji uygulaması başkanı Paul Triolo.) Bu hala devam eden bir çalışmadır fakat çeşitli pilot uygulamalar, tam olarak uygulanacağı 2020’de nasıl çalışabileceğini göstermektedir.

Kara listeler sistemin ilk aracıdır. Geçtiğimiz beş yıl boyunca, Çin’in mahkeme sistemi para cezasını ödemeyen veya hükümlere uymayan kişilerin isimlerini yayımladı. Yeni sosyal kredi düzenlemeleri kapsamında, bu liste çeşitli işletmeler ve devlet kurumlarıyla paylaşılmaktadır. Listedeki insanların kredi almaları, uçuş rezervasyonu yaptırmaları ve lüks otellerde kalmaları engellendi. Çin’in ulusal ulaşım şirketleri, yolcuların tren kapılarını engelleme veya bir yolculuk sırasında kavga etme gibi davranışları nedeniyle yolcuları cezalandırmak için ek kara listeler oluşturdu; suçlular, gelecekteki bilet alımlarından altı veya on iki ay süreyle men edilecekler. Bu yılın başlarında Pekin, “dürüst olmayan” işletmelerin gelecekteki devlet ihalelerini veya arazi hibelerini almasını yasaklamak için bir dizi kara liste sundu.

Bazı yerel yönetimler, ulusal planın bir parçası olup olmayacağı açık olmasa da sosyal kredi “puanları” nı denedi. Örneğin, Foreign Policy’nin raporuna göre kuzeydeki Rongcheng kenti, 740.000 sakininin her birine bir puan verir. Ve herkes 1.000 puanla başlar. Eğer bir hayır kurumuna bağış yaparsanız veya hükümet ödülü kazanırsanız puan kazanırsınız; sarhoş araba kullanırsanız veya yaya geçidinden hızlı geçmek gibi bir trafik yasasını ihlal ederseniz puan kaybederseniz. İyi skorları olan kişiler kış ısıtma malzemelerinde indirim kazanabilir veya ev kredilerinde daha iyi şartlar elde edebilir; puanları kötü olanlar, banka kredilerine veya devlet işlerindeki promosyonlara erişimini kaybedebilir. Belediye Binası, “erdem” sergileyen ve yüksek puanlar alan yerel rol modellerinin posterlerini sergiliyor.

Berlin'deki Çin Araştırmaları Mercator Enstitüsü'nden Samantha Hoffman’a göre, “sosyal kredi fikri, insanların ve kurumların nasıl davrandığını izlemek ve yönetmek içindir.” ‘’Sistemin bir bölümüne bir ihlal kaydedildiğinde, sistemin diğer bölümlerinde bir karşılığı olacaktır. Hem ekonomik kalkınmayı hem de sosyal yönetimi desteklemek için tasarlanmış bir kavram ve doğası gereği politik.” Çin’in bu planının bazı kısımları ABD’de zaten uygulanıyor: Kötü bir kredi puanı, ev kredisi almanızı engelleyebilir ve örneğin ağır bir mahkûmiyet, oy kullanma hakkınızı askıya alır veya iptal eder. “Ama hepsi aynı şekilde bağlı değil, ABD’de kapsayıcı bir plan yok” diyor Hoffman.

En büyük endişelerden biri, Çin'in bağımsız bir yargıya sahip olmaması nedeniyle, vatandaşların haksız veya yanlış iddialara itiraz etmek için hiçbir başvuru hakkına sahip olmamasıdır. Mesela, bazı vatandaşlar, mahkeme kararından sonra habersiz bir şekilde isimlerinin seyahat kara listelerine eklendiğini fark etti. Dilekçe verenler ve araştırmacı gazeteciler başka bir sisteme göre izlenirken uyuşturucu rehabilitasyonuna giren insanlar daha farklı bir izleme sistemi tarafından izleniyor. İnsan Hakları İzleme Örgütü’nden Wang, “Teorik olarak, uyuşturucu kullanıcısı veritabanlarının beş veya yedi yıl sonra isimleri silmesi gerekiyor ancak bunun gerçekleşmediği birçok durum gördüm” diyor. “Kendinizi bu listelerin herhangi birinden çıkarmak da son derece zordur.”

Ara sıra çevrimiçi öfke patlamaları halkın kızgınlığına işaret ediyor. Bir öğrencinin, babasının kredi kara listesine dahil olması nedeniyle bir kolej tarafından reddedildiği haberi, son günlerde internette tepkilere neden oldu. Üniversitenin kararı hükümet tarafından resmi olarak onaylanmamış veya düzenlenmemişti. Aksine, yeni politikaları destekleme hevesiyle, okul yöneticileri, bunu mantıklı bir sonuç olarak gördüklerinden benimsediler.

Sistemin şeffaflıktan uzak olması, Rongcheng deneyi gibi deneylerin ne kadar etkili olduğunu değerlendirmeyi zorlaştırıyor. Parti 2012'den bu yana neredeyse tüm kritik sesleri bastırdı ve sisteme - nispeten küçük şekillerde bile - meydan okuma riskleri arttı. Hangi bilgilerin mevcut olduğu derinden kusurludur; GSYİH büyümesinden hidroelektrik kullanımına kadar her şey hakkındaki verilerin sistematik olarak tahrif edilmesi Çin hükümeti istatistiklerinin bir özelliği. Avustralya Ulusal Üniversitesi araştırmacısı Borge Bakken, hükümetin küçümsemeyi açıkça teşvik ettiği resmi suç rakamlarının, tüm cezai davranışların yüzde 2,5 kadarını temsil edebileceğini tahmin ediyor.

Teorik olarak, veriye dayalı yönetim, merkezi hükümetin doğrudan bilgi toplamasına izin veren veri akışı çarpıtmalarını önleyerek bu sorunların çözülmesine yardımcı olabilir. Örneğin, kirletici endüstrilerin cebinde olabilecek yerel yetkililere güvenmek yerine merkezi makamlara veri gönderen hava kalitesi monitörlerinin arkasındaki fikir buydu. Ancak iyi yönetimin birçok yönü, bu tür doğrudan izlemeye izin vermek için çok karmaşıktır ve bunun yerine o güvenilmeyen yerel yetkililer tarafından girilen verilere dayanır.

Bununla birlikte Çin hükümeti yabancıların bu sistemleri değerlendirmek için kullanabilecekleri performans verilerini nadiren yayınlar. Bazı şehirlerde trafik kurallarına uymayanları tanımlamak ve utandırmak için kameraların, o kişilerin yüzlerini halka açık reklam panolarına yansıtması durumuna ya da Batı Çin'deki Müslümanların ibadet alışkanlıklarını takip etme durumuna bakın. Yüz tanımanın etkili yapılıp yapılmadığı hala sorgulanıyor. Özellikle, Han Çinliler'in yüzlerini tanıma üzerine eğitilmiş yüz tanıma yazılımı Avrasya azınlık gruplarının üyelerini ne kadar iyi tanıyabilir ki? Ayrıca veri toplama yanlışsız olsa bile hükümet, bu tür bilgileri gelecekteki davranışları yönlendirmek veya engellemek için nasıl kullanacak? Kimin suçlu olacağını tahmin eden polis algoritmaları veya suç ve terörizmin arttığını ya da azaldığını gösterecek istatistikler kamu incelemesine açık değildir. (Örneğin, Sincan’ın ın batı bölgesinde, eldeki bilgiler, sadece polis tarafından gözaltına alınan kişilerin sayısının 2016'dan 2017'ye yüzde 731 artarak çarpıcı bir şekilde arttığını gösteriyor.) 

Lowy Enstitüsü'nün kıdemli üyesi ve The Party: The Secret World of China’s Communist Rulers (Parti: Çin komünist partisi yöneticilerinin gizli dünyası) kitabının yazarı Richard McGregor: “Politikaları oluşturan teknoloji değil, teknoloji Çin hükümetinin bireyler üzerinde toplayabileceği veri türlerini büyük ölçüde genişletiyor. Çin'deki internet, gerçek zamanlı ve özel olarak işletilen dijital istihbarat servisi gibi kullanılıyor.”

Algoritmik polislik

Bu yılın başlarında, Washington Post'ta yazan California Üniversitesi Berkeley'de iletişim profesörü olan Xiao Qiang, Çin’in veri destekli yönetimini “dijital totaliter bir devlet” olarak adlandırdı. Çin'in batısında, bu distopik özellikler açıkça sergileniyor.

Sincan (“Yeni Bölge”), Çin’in Uygurlar olarak bilinen Türk ve Müslüman azınlığının geleneksel yurdudur. Bölgeye çok sayıda Han Çinli göçmen yerleştikçe – bazıları  “sömürgeleştirilmiş” diyor-  yerel Uygur nüfusuna sağlanan iş ve dini fırsatlar da azaldı. 2009 yılında başkent Urumçi'de 200 kişinin öldüğü 2009 isyanı da dahil olmak üzere, Han ve Uygur topluluklarının hedeflendiği şiddet olaylarında bir artış oldu. Hükümetin artan gerilimlere verdiği tepki ise görüş ya da politika tavsiyesi almak için herkese açık forumlar düzenlemek olmadı. Bunun yerine devlet, gelecekteki şiddet veya meydan okuma eylemlerini kimin gerçekleştirebileceğini belirlemek için veri toplamayı ve algoritmaları kullanıyor.

Sincan hükümeti, çeşitli veri akışlarını değerlendiren, tahmin yapan algoritmaları tasarlamak için özel bir şirketi görevlendirdi. Bu hesaplamaların nasıl yapıldığına veya neye dayandığına dair genel bir kayıt veya hesap verebilirlik söz konusu değil. Sincan'ı inceleyen ve gözetim sistemini inşa ederken verilen hükümet alım bildirimlerini gören Loyola Üniversitesi'nden antropolog Rian Thum, “bu sistem altında yaşayan insanlar genellikle kuralların ne olduğunu bile bilmiyorlar” diyor.

Kaşgar şehrinin batısında, ana caddelerde bulunan aile evlerinin ve dükkanların çoğu kapatıldı ve halka açık meydanlar boş. 2013'te ziyaret ettiğimde Kaşgar'ın zaten bölünmüş bir şehir olduğu açıktı - Han ve Uygur nüfusu şehrin farklı bölgelerinde yaşıyor ve çalışıyordu. Fakat akşamları, canlı ve sık sık gürültülü bir yerdi aynı zamanda, ezan seslerinin yerel kulüplerden gelen dans müziği sesine ve verandalarda plastik sandalyeler üzerinde geç saatlere kadar oturan yaşlı adamların konuşmalarına karıştığı bir yerdi. Bugün şehir ürkütücü bir şekilde sessiz; mahalle yaşamı neredeyse yok oldu. Financial Times gazetecisi Emily Feng, Haziran ayında Kaşgar'ı ziyaret etti ve Twitter’da boş sokakların yeni fotoğraflarını yayımladı.

Bazı tahminlere göre bunun nedeni; Sincan'daki Uygur ve Kazak yetişkinlerin onda birinden fazlasının dikenli tellerle çevrilmiş “yeniden eğitim kamplarına” gönderilmeleri ve geride kalanların da büyük ölçüde korkmalarıdır. 

Son iki yılda, yoldan geçenlerin otoyolda ilerlemek, camiye girmek veya bir alışveriş merkezini ziyaret etmek için hem yüzlerini hem de ulusal kimlik kartlarını sunmaları gereken binlerce kontrol noktası kuruldu. Uygurların akıllı telefonlarına, çevrimiçi kişilerini ve ziyaret ettikleri web sayfalarını izleyen, hükümet tarafından tasarlanmış izleme uygulamaları yüklemeleri gerekiyor. Polisler, evde kaç kişinin yaşadığı, komşularıyla ilişkilerinin nasıl olduğu, insanların günde kaç kez namaz kıldıkları, yurt dışına seyahat edip etmedikleri ve sahip oldukları kitaplar hakkında daha fazla veri toplamak için düzenli olarak evleri ziyaret ediyor.

Tüm bu veri akışları, Sincan’ın kamu güvenliği sistemine akıyor ve bu sistem, bankacılık geçmişinden aile planlamasına kadar her şey hakkında bilgi toplayan diğer kamu güvenlik veri tabanlarından da besleniyor. Wang’a göre “bilgisayar programı bu farklı kaynaklardan gelen tüm verileri topluyor ve ‘tehdit’ olabilecekleri işaretliyor.” Algoritmanın kesin mantığı bilinmemekle birlikte, belirli bir camiyi ziyaret etmek, çok kitap sahibi olmak, çok miktarda benzin almak veya yurtdışındaki kişilerden telefon görüşmeleri veya e-posta almak gibi davranışları baz alarak çalıştığına inanılmaktadır. Polisler algoritma tarafından öne çıkarılan kişileri, onlara yönelik resmi bir suçlama olmamasına rağmen gözaltına alıp hapishaneye ya da yeniden eğitim kamplarına gönderebilecek yetkiye sahipler.

Almanya, Korntal'daki Avrupa Kültür ve Teoloji Okulu'nda siyaset bilimci olan Adrian Zenz, Sincan'daki azınlıkların toplama kamplarına konulma oranının oradaki yetişkin nüfusun yüzde 11,5'i kadar olabileceğini tahmin ediyor. Bu kamplar, vatanseverliği aşılamak ve insanları dini inançlardan uzaklaştırmak için tasarlanmıştır.. (Ölü yakma işinden sorumlu güvenlik görevlilerini işe almadaki artış, hükümetin bölgedeki geleneksel Müslüman mezar uygulamalarını da ortadan kaldırmaya çalıştığını gösteriyor.)

Sincan acımasız bir uç noktayı temsil ederken, Çin'in başka yerlerinde vatandaşlar bazı gözetim türlerine karşı baskı yapmaya başladılar. Kapalı devre TV görüntülerini çevrimiçi olarak yayımlayan bir internet şirketi, halkın tepki vermesinden sonra bu yayınları kapattı. Şanghay şehri, yakın zamanda insanların sosyal kredi kayıtlarını derlemek için kullanılan yanlış bilgilere itiraza izin veren düzenlemeler yayımladı. New York'taki CSIS Teknoloji Politikası Programında kıdemli bir üye olan Samm Sacks, “Çinli internet kullanıcılarından gizlilik için artan talepler var” diyor ve “tam olarak tasarlandığı gibi her şeyin serbest” olmadığını açıklıyor.

Christina Larson, çoğunlukla Çin ve Asya hakkında yazan ödüllü bir yabancı muhabir ve bilim gazetecisidir.

Yazının orjinali için tıklayın.