DEMOKRATİK YAPAY ZEKANIN YÖNETİŞİMİ

Teknoloji, demokratik katılımı kolaylaştırmak yerine, çoğu zaman demokratik yönetimin temel taşlarını zayıflatan bir unsura dönüşmüştür. Yapay zeka (AI) ve demokrasinin kesişimi bu noktada, kapsamlı bir inceleme gerektiren karmaşık bir manzara sunmaktadır. AI teknolojileri ilerledikçe, demokratik süreçler ve kurumlar için hem fırsatlar hem de zorluklar ortaya çıkarmaktadır.

Demokratik bağlamlarda AI ile ilgili temel endişelerden biri, karar verme için algoritmalara giderek daha fazla bağımlı hale gelen yönetişim sistemlerini tanımlayan bir terim olan “algokrasi(algoritma ile yönetim)”nin ortaya çıkmasıdır. Konunun önemli isimlerinden bir olan Danıel Innerarity, algokrasinin yarattığı tehditleri tartışırken, AI'nin yönetişimde verimliliği artırabileceğini ancak aynı zamanda demokratik hesap verebilirliği ve şeffaflığı zayıflatma riski taşıdığını vurguluyor. Algoritmalara güvenmek, demokratik müzakereden ziyade verimliliğe öncelik veren, potansiyel olarak vatandaşların seslerini marjinalleştiren ve demokratik kurumlara olan güveni aşındıran bir yönetişim biçimine yol açabilir. Bu endişe, AI sistemlerinin demokratik değerleri koruyacak şekilde tasarlanmasını ve uygulanmasını sağlayan sağlam çerçevelere duyulan ihtiyacı vurgulayan literatürde de yankılanmaktadır. Ayrıca, AI'nin kamu yönetişiminde kullanılmasının etik sonuçları da göz ardı edilemez. Amerika Birleşik Devletleri ve Avrupa Birliği'nden çeşitli politika belgeleri, AI teknolojileriyle ilişkili riskleri azaltmak için sıkı düzenlemelere duyulan ihtiyacı kabul etmektedir. Bu belgeler, insan haklarına ve kamu refahına öncelik veren bir çerçeveyi savunmakta ve AI'nin mevcut eşitsizlikleri daha da kötüleştirmek yerine ortak iyiliğe hizmet etmek için kullanılması gerektiğini öne sürmektedir. AI'yi çevreleyen etik söylem, özellikle AI sistemlerinin kolluk kuvvetleri veya sosyal hizmetler gibi bireylerin yaşamlarını etkileyen kararları nasıl aldığı konusunda hesap verebilirliğin önemini vurgulamaktadır.

AI'nin demokratik süreçlere entegrasyonu, gözetim ve sivil özgürlüklerle ilgili soruları da gündeme getirmektedir. Yeni teknolojiler, hükümetlere bireyleri izlemek ve takip etmek için benzeri görülmemiş yetenekler sağlar ve bu da güçlü yasal çerçevelere sahip demokrasilerde bile gücün kötüye kullanılmasına yol açabilir. Örneğin gözetim teknolojilerinin yaygınlaşması, teknoloji ve demokrasi ilişkisine yeni bir karmaşıklık boyutu eklemiştir. COVID-19 pandemisi sırasında halk sağlığını koruma amacıyla devreye alınan çeşitli gözetim önlemleri, sivil özgürlükler ve mahremiyet konularında ciddi endişelere yol açmıştır. Bu durum yapay zekanın kitlesel gözetimi kolaylaştırma potansiyeli, demokratik toplumların temelini oluşturan mahremiyet ve bireysel özgürlükler için önemli bir tehdit oluşturduğu yönündeki fikri desteklemektedir. Bu endişe, AI sistemlerinin genellikle şeffaf olmayan bir şekilde çalışması, vatandaşların kararların nasıl alındığını anlamasını ve yetkilileri sorumlu tutmasını zorlaştırması gerçeğiyle daha da artmaktadır. Dahası, AI'nin kamusal söylem ve sivil katılım üzerindeki etkisi derindir. AI güdümlü platformlar bilgi ortamını şekillendirebilir, hangi haberlerin ve görüşlerin kamuoyuna yayıldığını etkileyebilir. Bu durum, yankı odalarının güçlenmesine ve yanlış bilginin yayılmasına yol açarak kamusal tartışmanın kalitesini zayıflatabilir

AI algoritmaları aracılığıyla bilginin manipüle edilmesi, vatandaşların oy verme davranışlarını ve sivil katılımlarını etkileyen önyargılı veya yanıltıcı içeriğe maruz kalabilecekleri için demokratik süreçleri bozabilir. Buradaki zorluk, AI teknolojilerinin demokratik katılımı azaltmak yerine geliştirmek için kullanılmasını sağlamakta yatmaktadır. Verilerin metalaşması ve platform kapitalizminin yükselişi, kamusal söylem alanını kökten değiştirmiştir. Birkaç teknoloji şirketinin güç yoğunlaşması, bu şirketlerin kamusal alan üzerindeki etkisini artırarak, kârı demokratik değerlerin önüne koymalarına neden olmaktadır. Bu durum, görüş çeşitliliğini tehdit etmekle kalmaz, aynı zamanda sansür ve kamuoyu manipülasyonu risklerini de artırır.

Veriye dayalı algoritmaların yönetimde kullanılması, vatandaşlar tarafından insan iradesinin yerini otomatik karar alma süreçlerinin aldığı "büyük birader" devletine doğru bir kayış olarak algılanabilir. Bu algı, demokratik süreçlere yönelik hayal kırıklığını artırarak bireylerin seslerinin yönetim etkinliği uğruna göz ardı edildiği hissini güçlendirebilir.

Bu zorluklar ışığında, teknolojinin demokratik bağlamda kullanımını düzenleyen çerçevelerin oluşturulması gereklidir. Mevcut politikaların yetersizliği, demokratik normları zayıflatmak isteyenlerin bu boşluğu kötüye kullanmasına olanak tanımaktadır. Şeffaflık, hesap verebilirlik ve kamu güvenini esas alan sağlam düzenleyici mekanizmalar geliştirilmelidir.

Bireysel Özgürlükler ve Toplumsal Sorumluluklar

Bu noktada eleştirilmesi gereken temel meselelerden biri, teknolojinin nötr bir araç olarak görülmesi ve toplumsal sonuçlarının yeterince tartışılmamasıdır. Teknoloji, belirli güç odaklarının elinde kontrol mekanizmasına dönüşebilir ve bu da demokratik değerlerle çelişen sonuçlara yol açabilir. Örneğin, dijital platformların algoritmalar aracılığıyla kamuoyunu yönlendirmesi, yalnızca bireysel tercihleri değil, aynı zamanda toplumun genel yönelimlerini de şekillendirebilir. Bu durum, demokrasinin özündeki kolektif karar alma sürecini zayıflatır ve kamusal tartışmanın derinleşmesini engeller.

AI'nin demokratik süreçleri desteklemesi için fırsatlar da vardır. Örneğin, AI daha iyi kamu katılımı ve müzakere için araçlar sağlayarak daha kapsayıcı ve katılımcı yönetişimi kolaylaştırabilir. Kamu duyarlılığını analiz eden veya vatandaş geri bildirimlerini toplayan teknolojiler, bireylerin politika tartışmalarına katkıda bulunmalarını sağlayarak demokratik meşruiyeti artırabilir. Bununla birlikte, bu teknolojilerin manipülasyonu önlemek ve tüm vatandaşlar için eşit erişim sağlamak için önlemler alınarak düşünceli bir şekilde uygulanması çok önemlidir.

AI ve demokrasiyi çevreleyen söylem, etik standartların ve düzenleyici çerçevelerin oluşturulmasında uluslararası iş birliğinin önemini de vurgulamaktadır. Avrupa Konseyi tarafından önerilen AI anlaşması ve OECD'nin AI ilkeleri gibi girişimler, AI yönetişimine yönelik koordineli bir küresel yaklaşıma duyulan ihtiyacın giderek artan bir şekilde kabul edildiğini yansıtmaktadır. Bu çabalar, demokratik değerlerin sınırlar ötesinde korunmasını sağlayarak etik AI kullanımı konusunda ortak bir anlayış oluşturmayı amaçlamaktadır. Küresel standartların oluşturulması, demokratik yönetişimi geliştirme potansiyelini teşvik ederken AI ile ilişkili riskleri azaltmaya yardımcı olabilir. Bağımsız gözetim organlarının kurulması, AI'nin yönetişiminde çok önemli bir rol oynayabilir. Bu organlar, AI teknolojilerinin dağıtımını izlemek, demokratik süreçler üzerindeki etkilerini değerlendirmek ve etik standartlara ve düzenlemelere uyumu sağlamakla görevlendirilebilir. Bu gözetim organları, AI'nin kullanımı konusunda bağımsız bir kontrol sağlayarak, gücün kötüye kullanılmasını önlemeye ve AI teknolojilerinin dağıtımında hesap verebilirliği teşvik etmeye yardımcı olabilir.

Son olarak, demokratik değerleri teknoloji karşısında korumak için yalnızca düzenleyici çerçeveler yeterli değildir. Toplumların da dijital okuryazarlıklarını artırmaları, bilinçli ve eleştirel bir şekilde teknolojiyi kullanmaları gerekmektedir. Bireylerin bilgiye erişim, dezenformasyonu ayırt etme ve dijital haklarını savunma konusundaki farkındalığı, demokrasinin geleceği açısından hayati önemdedir. Dijital çağda demokrasinin geleceği, teknolojiyi yalnızca bir araç olarak görmekle kalmayıp, bu aracın toplumsal sonuçlarını eleştirel bir şekilde değerlendirerek, demokratik değerlerle uyumlu hale getirme becerimize bağlıdır. Bu nedenle, teknoloji ve demokrasi arasındaki ilişkiyi sürekli olarak sorgulamak, denetlemek ve geliştirmek, demokrasinin sürdürülebilirliği için zorunlu bir gerekliliktir.

Yapay zekâ teknolojilerinin gelişimi, toplumsal yapıları derinden etkileyen hem önemli riskler hem de umut verici fırsatlar sunmaktadır. Bir yandan, bu teknolojiler demokratik süreçleri zayıflatma potansiyeline sahipken, diğer yandan demokratik kurumları güçlendirme ve kamu yararına hizmet etme konusunda da büyük bir potansiyel taşımaktadır. Bu ikilem, politika yapıcılar, teknoloji uzmanları ve sivil toplum için zorlu ama kritik bir diyalog alanı yaratmaktadır. AI'nin demokratik değerlere zarar vermemesini sağlamak için, şeffaflık, hesap verebilirlik ve etik ilkeler üzerine kurulu güçlü bir yönetişim çerçevesinin oluşturulması elzemdir.

AI'nin demokrasi üzerindeki etkilerini yönlendirmek ve demokratik ilkeleri korumak için bir dizi strateji önerilmektedir. Bu stratejiler arasında, kapsamlı düzenleyici çerçeveler geliştirmek, uluslararası iş birliğini teşvik etmek ve halkın katılımını artırmak önemli yer tutar. AI'nin toplum üzerindeki etkilerinin yönetilmesi, yalnızca düzenleyici çerçevelerin varlığıyla değil, aynı zamanda hesap verebilirlik mekanizmalarının etkin bir şekilde uygulanması ve yanlış bilgilendirme ile gözetim potansiyelinin ele alınmasıyla mümkün olacaktır. Bu bağlamda, demokratik toplumlar, yapay zekanın kamu yararına hizmet etmesini sağlamak için, AI teknolojilerinin etik kullanımı ve demokratik değerlerin korunması adına sürekli iş birliği ve diyalog içinde olmalıdır. Böylece, AI'nin sağladığı fırsatlarla demokratik kurumların güçlendirilmesi ve toplumsal refahın artırılması sağlanabilir.

Kaynaklar

UNESCO (2024). ‘’Artificial intelligence and democracy’’. (2024 yılında Birleşmiş Milletler Eğitim, Bilim ve Kültür Örgütü, Fransa ve Montevideo'daki UNESCO Bölge Ofisi, Uruguay ve Latin Amerika Sosyal Bilimler Konseyi (CLACSO) tarafından yayınlanmıştır.)

Hill, S. (2019, April). How artificial intelligence systems could threaten democracy. Carnegie Endowment for International Peace. https://carnegieendowment.org/posts/2019/04/how-artificial-intelligence-systems-could-threaten-democracy?lang=en