BİRİ BİZİ GÖZETLİYOR: YAPAY ZEKÂ VE GÖZETLEME TEKNOLOJİLERİ
Yapay zekâ, günümüzde en çok konuşulan konulardan birisi haline gelmiştir. Aslında farkında olsak da olmasak da bir devrimin eşiğindeyiz. Yeni bir teknoloji olmasına rağmen sağlık hizmetlerinden eğitim sektörüne, kamu politikalarından iş dünyasına kadar pek çok alanda daha etkili, verimli ve doğru kararlar alabilmek için kullanılmaktadır.

Örneğin, tıbbi teşhislerde kullanılan yapay zekâ destekli algoritmalar, geleneksel yöntemlerle tespit edilmesi zor olan hastalıkları daha hızlı ve doğru bir şekilde belirleme kapasitesine sahiptir. İngiltere’nin Ulusal Sağlık Hizmeti (NHS), Imperial College London ve DeepMind gibi teknoloji şirketleri arasındaki iş birlikleri, yumurtalık ve meme kanseri gibi hastalıkların erken teşhis oranlarını artırarak halk sağlığında önemli bir katkı yapmaktadır. Bu tür projeler, kanser teşhislerindeki eksiklikleri azaltırken yapay zekâ teknolojilerindeki gelişmelerin insan yaşamı üzerindeki olumlu etkilerini gözler önüne sermektedir.
Ancak, bu teknolojilerin sağladığı faydaların ötesinde, büyük veri ve yapay zekânın birleşimiyle ortaya çıkan gözetleme teknolojilerinin bireysel özgürlükler ve mahremiyet üzerinde oluşturduğu tehditler, giderek artan bir endişe kaynağıdır. Yapay zekânın tıbbi teşhisleri iyileştirdiği bir dünyada, aynı teknolojilerin, bireylerin konumunu, iletişimlerini ve alışkanlıklarını izlemek için kullanılabileceği bir başka potansiyel mevcuttur.
Günlük hayatımızda kullandığımız neredeyse tüm elektronik cihazlar, kullanıcı davranışlarını ve kişisel verileri toplayarak analiz etmekte ve çoğunlukla ticari amaçlarla kullanılmaktadır. Bu durum, teknolojik ilerlemelerle birlikte mahremiyet ve veri güvenliği tartışmalarını da beraberinde getirmektedir. Örneğin, Ocak 2025’te sonuçlanan bir davada Apple, Siri gibi sanal asistanlarla kullanıcıların konuşmalarını izinsiz kaydettiği ve bu verileri reklamcılarla paylaştığı iddiaları üzerine 95 milyon dolarlık bir tazminat ödemeyi kabul etmiştir. Günlük yaşamda sıkça karşılaştığımız ve çoğunlukla farkında olmadan ya da okumadan onayladığımız gizlilik politikaları, bu tür veri ihlallerine kapı aralamakta ve şirketlere kişisel bilgilerimize kontrol yetkisi vermektedir. Ancak bununda ötesinde, bireylerin günlük yaşamlarından toplanan verilerin yalnızca ticari amaçlarla değil, aynı zamanda gözetleme ve denetim mekanizmalarının bir parçası olarak da kullanılma potansiyeli, bu teknolojilerin etkilerini daha geniş bir çerçevede ele almayı gerektirmektedir.
Geleneksel kamera ve ses kaydetme teknolojileri, görüntü ve ses verilerini toplamakla birlikte, bu verilerin analiz edilmesi genellikle sınırlı bir odakla ve büyük zorluklarla mümkün oluyordu. Ancak yapay zekâ ile gözetleme yoluyla toplanan tüm veriler, tanımlanmış kişiler üzerinde kapsamlı bir şekilde analiz edilebilmekte; bu durum, devletlerin vatandaşlarını sürekli olarak değerlendiren ve denetleyen bir yapıya olanak tanımaktadır. Bu sistemler, suç önleme gibi amaçlar için kullanılabildiği gibi, baskıcı politikalar için de bir araç haline gelmiştir.
Bu durum, George Orwell’in 1984 romanında tasvir ettiği “Big Brother” kavramının çağdaş bir yansımasını akıllara getirmektedir. Orwell, bireylerin sürekli izlenmesiyle karakterize edilen bir toplum modelini kurgusal olarak ortaya koymuştu. Günümüzde ise bu distopik senaryo, otoriter rejimlerde yapay zekâ destekli gözetleme sistemleri aracılığıyla gerçeğe dönüşmektedir. 2000’li yıllarda ülkemizde yayınlanan “Biri Bizi Gözetliyor” programlarının bir tür gerçeklik haline gelmiş versiyonu olan bu sistemler, özellikle sosyal kredi sistemi gibi uygulamalarla vatandaşların davranışlarını izlemek ve derecelendirmek için yapay zekâ teknolojilerinin kullanılmasını içermekte ve Orwell’in öngörülerinin somut bir örneğini gözler önüne sermektedir.
Özellikle, bu teknolojilerin otoriter rejimlerde nasıl bir kontrol aracı haline geldiği ve demokrasiler için hangi riskleri beraberinde getirdiği kritik bir tartışma alanı oluşturmaktadır.
Çin’in Gözetleme Teknolojilerine Yatırımı
Çin, yapay zekâ ve büyük veri destekli gözetleme teknolojilerinin geliştirilmesinde ve uygulanmasında öncü bir konumda yer almaktadır. Ülke, 2005 yılında başlattığı "Skynet" ulusal güvenlik ağıyla, yollar, okullar, ticari kuruluşlar ve yerleşim bölgelerini sürekli izlemeyi amaçlayan bir kamu gözetim sistemini hayata geçirmiştir. 2017 yılına gelindiğinde, bu ağ 170 milyon kamerayı kapsarken, 2020 yılına kadar 400 milyon yeni cihazın eklenmesi planlanmıştır. Skynet yalnızca kameralarla sınırlı kalmamış; yapay zekâ teknolojisi sayesinde cinsiyet, kıyafet ve boy gibi bilgileri analiz ederek görüntüleri veriye dönüştürme kapasitesine ulaşmıştır.
Skynet'in yalnızca bir başlangıç olduğu görülmektedir. Çin Komünist Partisi, bu sistemi daha ileriye taşıyan Sharp Eyes programını 2015 yılında tanıtmıştır. Sharp Eyes, Skynet girişiminin kentsel alanlardaki altyapısını kırsal bölgelere genişleterek gözetim ağını daha da güçlendirmiştir. Sharp Eyes, kamuya ait ve özel gözetim kameralarından yüz tanıma, araç ve plaka bilgileri gibi geniş bir veri yelpazesi toplarken, hastaneler, okullar, eğlence mekanları, oteller, internet kafeler ve yol kavşakları gibi önemli alanlardan görsel veriler elde etmektedir. Bunun yanı sıra, MAC adresleri, telefon numaraları ve WeChat hesapları gibi dijital kimlik bilgilerini de izleme ağına dahil ederek, fiziksel ve dijital gözetimi bütünleştiren kapsamlı bir sistem sunmaktadır. Washington Post’un haberine göre, bu sistem, yüz tanıma ve yapay zekâ teknolojilerini kullanarak devasa miktarda video kanıtını analiz etmekte ve anlamlandırmakta, şüphelileri takip etmekte, şüpheli davranışları tespit etmekte ve hatta suçları öngörmektedir. Ayrıca, acil servislerin çalışmalarını koordine edilecek ve ülkenin 1,4 milyar insanının hareketlerini izlemesine imkan tanıyacaktır.
Çin’in bu gözetleme yatırımları, yalnızca iç güvenliği artırma amacı taşımamakta, aynı zamanda vatandaşların davranışlarını denetleyerek toplumsal kontrolü sağlamayı hedeflemektedir. Bu durum, vatandaş-devlet ilişkisini yeniden şekillendirmekte, bireysel mahremiyet ve özgürlükler üzerinde ciddi etkiler yaratmaktadır. Örneğin, kamu alanlarında yüz tanıma sistemleri küçük çaplı suçların tespiti için kullanılırken, ihlal yapan bireylerin kimlikleri dijital ekranlarda ifşa edilmektedir. Daha da ötesi, bu teknolojiler, otoriter rejimlere ilham kaynağı olabilecek bir model sunmakta ve bireylerin yaşamlarının tüm yönlerini izlemek için yeni bir paradigma yaratmaktadır.
Çin, yapay zekâ ve büyük veri teknolojilerini yalnızca kamu güvenliğini artırmak için değil, aynı zamanda toplumsal kontrolü derinleştirmek amacıyla da kullanmaktadır. Bu çabaların bir parçası olarak, Çin Komünist Partisi (ÇKP), Avustralya Stratejik Politika Enstitüsü’nün 2020 raporunda belgelenen bir genomik gözetleme programını hayata geçirmiştir. Bu girişim, 100 ila 140 milyon arasında DNA profili barındıran, dünyanın en büyük DNA veri tabanını oluşturmuştur. Örnekler, azınlık toplulukları ve sıradan vatandaşlardan, uygun bilgilendirilmiş onay olmaksızın toplanmış, Thermo Fisher Scientific gibi uluslararası biyoteknoloji firmaları bu projeye katkı sağlamıştır.
Yapay zekâ destekli gözetim sistemlerinin yaygınlaşması, Çin halkının mahremiyet algısını kökten değiştirmiştir. Pek çok şehirde, yaya geçidinde kuralları ihlal eden veya borçlarını ödemeyen bireylerin yüzleri ve kimlik bilgileri, kamuya açık dijital ekranlarda teşhir edilmektedir. Tren istasyonlarında kullanılan yüz tanıma kameraları, gelen yolcuları tarayarak onları aranan suçlular listesiyle eşleştirebilmektedir. Yüz tanıma teknolojisi, Zhengzhou’da bir uyuşturucu satıcısını tespit etmek veya Qingdao’da suç şüphelilerini bir festival sırasında yakalamak gibi amaçlarla başarıyla kullanılmıştır. Bu gelişmeler, Çin’de vatandaş ile devlet arasındaki güç dengesini kökten değiştirmiş, bireysel özgürlükler üzerinde yeni bir baskı mekanizması oluşturmuştur.
Gözetleme Teknolojilerinin Demokrasiye Etkisi
Çin’in gözetleme teknolojisi ihracatındaki politik yönelim, dikkat çekici bir farklılık göstermektedir. Araştırmalar, Çin’in yüz tanıma teknolojisi gibi yapay zekâ destekli gözetleme araçlarının ihracatının %45’inin otoriter rejimlere ve zayıf demokrasilere yapıldığını ortaya koymaktadır. Bu, Amerika Birleşik Devletleri’nin benzer teknolojilerdeki ihracatında görülen %23 oranından oldukça yüksektir. Bu fark, iki ülkenin ihracat politikalarının politik rejimlerle ilişkisini ortaya koymaktadır. Çin’in bu teknolojilere yönelik talep yaratan ülkelerle kurduğu ilişkiler, yalnızca ekonomik bir strateji değil, aynı zamanda dış politikada otoriter rejimleri destekleyen bir araç olarak değerlendirilmektedir.
Çin’in bu üstünlüğü, büyük ölçüde hükümetin teknoloji geliştirme ve ihracatını destekleyen politikalarına dayanmaktadır. Çin hükümeti, gözetleme teknolojilerinin ihracatını finanse etmek ve bu teknolojilere olan talebi artırmak için Belt and Road Initiative (BRI) gibi girişimlerle devlet destekli krediler sunmaktadır. Bu durum, özellikle ekonomik sıkıntılar yaşayan otoriter rejimlerin ve zayıf demokrasilerin, Çin teknolojilerini tercih etmesine olanak tanımaktadır. Örneğin, bu ülkeler arasında Venezuela, Zimbabve ve Uganda gibi devletler bulunmaktadır. Bu rejimlerin, Çin’den ithal ettikleri gözetleme teknolojilerini yalnızca kamu güvenliğini sağlamak için değil, aynı zamanda politik muhalifleri izlemek ve bastırmak için kullandıkları bilinmektedir.
Daha da ötesi, Çin’in ihracat politikasındaki bu yönelim, otoriter rejimlerin kendi baskıcı yöntemlerini daha etkin hale getirmelerine olanak sağlamaktadır. Çin’in bu teknolojilerle sağladığı destek, yalnızca fiziksel gözetimi değil, aynı zamanda geniş çaplı veri analizi ve yapay zekâ temelli öngörü sistemleriyle politik kontrolü artırmayı mümkün kılmaktadır.
Ancak, ABD’nin otoriter rejimlere yönelik teknolojik ihracatta Çin’e kıyasla daha sınırlı bir etkiye sahip olduğu görülmektedir. Bununla birlikte, Çin’in gözetleme teknolojilerindeki ihracat stratejisi yalnızca ekonomik bir avantaj sağlamakla kalmayıp, aynı zamanda küresel otoriterleşme eğilimlerini destekleyen bir araç haline gelmektedir. Aşağıdaki tablolar, Çin’in bu alandaki stratejik üstünlüğünü ve diğer ülkelerin gözetleme teknolojileri ihracatında daha sınırlı kaldığını açıkça ortaya koymaktadır.
Tablo 1. En büyük yüz tanıma yapay zekâ ihracatçıları (ticaret anlaşmalarının sayısına göre)
Kaynak: Beraja, M., Kao, A., Yang, D. Y., & Yuchtman, N. (2023, January). Exporting the surveillance state via trade in AI [Working paper]. Center on Regulation and Markets, Brookings Institution. https://www.brookings.edu/center/center-on-regulation-and-markets/
Tablo 1’e baktığımızda, yüz tanıma yapay zekâ teknolojileriyle ilgili ticaret anlaşmalarında Çin’in 250 anlaşmayla lider konumda olduğunu, ABD’nin ise 215 anlaşmayla ikinci sırada yer aldığını görüyoruz. Çin ve ABD, teknoloji ihracatında açık ara liderdir. Çin’in bu alandaki liderliği, uygun fiyat ve maliyet politikalarıyla desteklenmektedir. Diğer öne çıkan ihracatçılar arasında Almanya, İsrail, Rusya ve Fransa bulunuyor.
Tablo 2. En büyük yüz tanıma yapay zekâ ihracatçıları (ticaret ortaklarının sayısına göre)
Kaynak: Beraja, M., Kao, A., Yang, D. Y., & Yuchtman, N. (2023, January). Exporting the surveillance state via trade in AI [Working paper]. Center on Regulation and Markets, Brookings Institution. https://www.brookings.edu/center/center-on-regulation-and-markets/
Tablo 2’ye baktığımızda, Çin'in yapay zekâ teknolojilerini 89 farklı ülkeye ihraç ederek bu alanda lider olduğunu göstermektedir. ABD ise 60 ticaret ortağı ile ikinci sırada yer alıyor. Rusya, Almanya ve Fransa da yüksek sayıda ticaret ortaklarına sahip. Bu durum, Çin’in geniş bir coğrafyaya yayılan etkisini ve yapay zekâ teknolojilerinde liderlik konumunu desteklemek için yoğun bir diplomatik ve ekonomik strateji izlediğini ortaya koymaktadır.
Tablo 3. Çin’in ve ABD’nin Yapay Zekâ Destekli Gözetleme Teknolojilerini Benimseyen Rejim Türleri (2022)
Not: Bu tablo’da AI Global Surveillance Index 2022 (https://data.mendeley.com/datasets/gjhf5y4xjp/4) raporundan yazar tarafından oluşturulmuştur. Ülke değerlendirmesine GSMH’si en büyük 100 ülke alınmıştır.
Tablo 3’e baktığımızda ise, Çin ve ABD’nin yapay zekâ teknolojilerinin benimsenmesinde hangi rejim türleriyle daha fazla etkileşimde bulunduğunu gösteriyor. Tablo, yalnızca GSYH’si en büyük 100 ülke içindeki değerlendirmelere dayanmaktadır. Çin’in gözetleme teknolojilerini benimseyen 68 ülke bulunurken, ABD’nin bu teknolojileri benimseyen 31 ülkesi var. Çin, özellikle seçimli otokrasiler ve kapalı otokrasilerle yoğun bir ilişki kurmuş durumda. ABD ise daha çok liberal demokrasilere yönelmiştir. Bu tablo, Çin’in otokratik rejimlerle daha yakın bir ticaret ilişkisi geliştirdiğini, ABD’nin ise demokrasilere yönelik bir eğilime sahip olduğunu göstermektedir. Bu durum, iki ülkenin gözetleme teknolojilerinin ihracatında benimsedikleri stratejik farklılıkları ve bu teknolojilerin demokrasi ile otokrasi arasındaki güç dengesine etkilerini gözler önüne sermektedir.
Yapay Zekâ Yoluyla Gözetim: Güvenlik için mi, Otokrasi için mi?
Yapay zekâ destekli gözetim ve tahmine dayalı polislik teknolojileri, suç oranlarını azaltma ve kamu düzenini koruma iddialarıyla hızla yaygınlaşmıştır. Örneğin, Vancouver’daki polis güçleri, tahmine dayalı modelleri kullanarak soygunların meydana gelebileceği bölgeleri tespit edip önlem alırken, Singapur bu teknolojileri sınır güvenliği ve kalabalık yönetimi gibi alanlarda aktif olarak kullanmaktadır. Bu sistemlerin şehirlerdeki suç oranlarını %30-40 oranında azaltabileceği öne sürülmektedir.
Ancak, Tablo 3’te de görüldüğü gibi, yapay zekâ destekli gözetim teknolojileri yalnızca güvenlik sağlama amacıyla değil, aynı zamanda otokratik rejimlerin toplumsal kontrolü artırması için bir araç olarak da kullanılmaktadır. Çin, bu alandaki lider konumuyla yüz tanıma ve büyük veri analizine dayalı sistemlerini geniş ölçekte uygulayarak, azınlık gruplarına yönelik ayrımcılık ve baskı politikalarını desteklemektedir. Sincan’daki Uygur Türkleri üzerinde kullanılan gözetim sistemleri, bu teknolojilerin otoriter kontrolü artırmadaki rolünü çarpıcı bir şekilde ortaya koymaktadır.
Batı ülkelerinde ise bu teknolojilerin kullanımı etik ve mahremiyet tartışmalarını gündeme getirmiştir. Örneğin, Kaliforniya’daki Santa Cruz şehri, tahmine dayalı polislik araçlarını mahremiyet kaygıları nedeniyle yasaklamış, New York City ise bu sistemlerin kullanımını şeffaflık ilkesiyle denetim altına almıştır. Avrupa Birliği ve Kuzey Amerika gibi bölgelerde bu teknolojilere temkinli yaklaşılırken, Latin Amerika ve Asya gibi bölgelerde daha yüksek kabul görmektedir. (Deloitte. (2021). Urban future with a purpose report: Surveillance and predictive policing through AI. Deloitte)
Sonuç
Yapay zekâ destekli gözetim teknolojilerinin kullanımı, güvenlik ve mahremiyet arasında bir denge kurulmasını zorunlu hale getirmiştir. Tablo 3’ün de gösterdiği gibi, bu teknolojiler otokratik rejimlerde toplumsal baskıyı artırmak için bir araç haline gelirken, demokratik sistemlerde daha çok etik kurallar çerçevesinde sınırlandırılmaktadır. Ancak, bu teknolojilerin yalnızca otoriter rejimlerde değil, demokratik sistemlerde de otoriterleşmeye zemin hazırlayabileceği unutulmamalıdır. Bu nedenle, özgürlüklerin korunması ve teknolojinin sorumlu kullanımını sağlamak için şeffaflık ve hesap verebilirlik ilkelerine dayalı yasal düzenlemelerin hayata geçirilmesi hayati önem taşımaktadır. Aksi halde, bu sistemler güvenliği artırmaktan ziyade otoriter kontrolün bir aracı haline dönüşebilir.
Öte yandan, bu teknolojiler yalnızca birer kontrol aracı değil, aynı zamanda yeni bir küresel ideolojinin pazarlanmasında da kritik rol oynamaktadır. Çin, yapay zekâ destekli gözetim teknolojilerini otokratik kapitalizmin başarısını göstermek ve demokrasinin tek yol olmadığını kanıtlamak için kullanmaktadır. Böylelikle, ülkeleri kendi otoriter modeline çekmeye çalışmakta ve teknolojiyi bir "yumuşak güç" aracı olarak etkili bir şekilde kullanmaktadır. Bu durum, dünya çapında demokratik değerlerin karşı karşıya olduğu yeni bir meydan okumayı işaret etmektedir.
Gözetim teknolojilerinin zararlarına odaklanırken, bu sistemlerin suç önleme gibi olumlu potansiyellerini de göz ardı etmemek gerekir. Dar yapay zekâ ile yalnızca suçluların kimliklerinin tanımlandığı ve hareketlerinin izlendiği bir sistemin kurulması, suç oranlarında kayda değer düşüşler sağlayabilir. Bu tür uygulamalar, gözetim teknolojilerinin etik ve kontrollü bir şekilde kullanıldığında toplumsal fayda sağlayabilecektir. Ancak, bu teknolojilerin kontrolsüz kullanımı, bireysel özgürlükler ve toplumsal güven üzerinde olumsuz etkiler yaratabilir. Örneğin, Hong Kong'da 2019’daki gösteriler sırasında sosyal medya paylaşımları üzerine yapılan polislik çalışmaları kısa vadede düzen sağlanmasına katkı sunmuş, ancak insanların sürekli gözetim altında olma duygusuyla kayıtsızlaşmasına neden olmuştur. Bu durum, sürekli gözetlenme hissinin toplumda uzun vadede tepkisizlik ve duygusal kopuş yaratabileceğini ortaya koymaktadır. Bu nedenle, gözetim teknolojilerinin yalnızca güvenlik sağlama aracı olarak değil, bireysel hak ve özgürlükler üzerindeki etkileri çerçevesinde ele alınması gerekmektedir.
Gözetim teknolojilerinin siyasi muhaliflerin bastırılmasında ve Çin’deki Uygur ile Türk Müslüman topluluklarının sistematik bir şekilde kontrol altına alınmasında kullanılması, bu teknolojilerin baskıcı rejimler için birer güç aracı haline geldiğini açıkça göstermektedir. Bu bağlamda, Avrupa Parlamentosu’nun kamusal alanlarda yüz tanıma teknolojisinin kullanımını ve özel yüz tanıma veri tabanlarının oluşturulmasını yasaklayan kararı, teknolojinin sınırlandırılması adına önemli bir duruş olarak değerlendirilebilir. Bu karar, Avrupa’da yüz tanıma teknolojilerine yönelik daha katı düzenlemeler yapılması gerektiğine dair güçlü bir mesaj vermektedir.
Sonuç olarak, Yapay zekâ destekli gözetim teknolojileri özgürlük ve güvenlik arasındaki o ince çizgiyi iyice belirginleştiriyor ve "ne kadar özgürlük, ne kadar güvenlik" sorusunu daha çok tartışacağımızı gösteriyor. Bu teknolojilerin gelecekte nasıl yönlendirileceği, yalnızca bireylerin haklarını değil, aynı zamanda küresel düzeyde demokrasi ve otoriterlik arasındaki dengeyi de şekillendirecektir. Teknolojinin bu çift yönlü etkisini anlamak ve buna uygun düzenlemeler yapmak, toplumların özgür ve güvenli bir geleceğe sahip olabilmesi için zorunludur.