Olimpiyatlar sırasında yapay zeka gözetimi için Fransız planları tehlikelidir

Bu ay, Fransız milletvekillerinin, Fransa tarihinde ilk kez yapay zeka (AI) sistemleriyle desteklenen toplu video gözetimine izin verecek olan 2024 Paris Olimpiyatları için yasayı geçirmesi bekleniyor.

Hükümetler gözetim yetkilerini genişletme yönünde kaygan bir yokuşa girdiklerinde, bunun mahremiyet, eşitlik ve ayrımcılık yapmama hakları ile ifade özgürlüğü ve barışçıl toplanma hakları da dahil olmak üzere temel insan hakları için lanetleyici sonuçları olur. Fransız makamları, güvenliği sağlama ve terörle mücadele kisvesi altında, dünyanın dört bir yanından milyonlarca insanın stadyumlara gidip gelmediğini veya stadyumlara giren veya çıkan toplu taşıma araçlarını kullanarak hareketlerini izleyebilecek. büyük spor olayı.

Oyun sırasında güvenlik ihtiyacı anlaşılabilir, ancak yolun her adımında şeffaflık ve yasal gerekçe gereklidir. Güvenlikle ilgili herhangi bir teklif temel haklara uygun olmalıdır. Uluslararası insan hakları hukuku, Olimpiyatlar için hala geçerlidir ve bu tür önlemlerin titiz bir şekilde gözden geçirilmesi hayati önem taşımaktadır.

Tasarı şu ana kadar yapay zeka destekli video gözetiminin insan hakları standartlarıyla nasıl tutarlı olacağını gösteremiyor. Fransız hükümeti, önlemlerin orantılılık ilkesini nasıl karşıladığını ve kalıcı bir gözetim altyapısını önlemek için mahremiyet koruma önlemleri, katı kısıtlamalar ve amaç ve veri minimizasyonu üzerindeki sınırlamalar gibi hangi önlemlerin alınacağını göstermedi.

Bu, yapay zeka güdümlü kitlesel gözetimin haklı gösterilemeyecek kadar zararlı, kapsamlı bir uygulamasıdır. Yapay zekanın Avrupa Birliği’ndeki özel şirketler ve kamu yetkilileri tarafından geliştirilmesi ve kullanılmasından kaynaklanan insan hakları tehditleri iyi belgelenmiştir. Teknoloji, göçmenler ve Siyah ve Kahverengi insanlar da dahil olmak üzere marjinal grupların zararına kullanılıyor. Uluslararası Af Örgütü de dahil olmak üzere 38 sivil toplum örgütü, Avrupa Kâr Amacı Gütmeyen Yasa Merkezi tarafından başlatılan açık bir mektupta , Fransız politika yapıcıları, temel haklar için devasa bir tehdit oluşturacağı için istilacı gözetime izin veren yasa tasarısını reddetmeye çağırdı. ve özgürlükler.

Yasa taslağı, Paris’teki spor etkinliklerine giden seyircileri, her yerde bulunan sabit CCTV kameralardan kalabalıklardaki “anormal veya şüpheli” faaliyetleri tespit etmek için ayarlanmış insansız hava araçlarına kadar haksız gözetlemeye tabi tutacak. Bu tür aşırı geniş tanımlara itiraz edilmeli ve kendimize bazı acil sorular sormalıyız: “Normal” olanın normunu kim belirliyor? “Anormal veya şüpheli” faaliyetlerin belirlenmesini kontrol eden yetkililerin ayrıca, muhalefet ve protestolar üzerinde caydırıcı bir etkiyi şiddetlendirme ve halihazırda hedef alınan topluluklara karşı ayrımcılığı artırma gücü de vardır.

Devletler, toplumları Orwellvari bir distopyaya doğru hareket ettiren bir gözetim önlemleri panoptikonunu tanıtmak ve yerleştirmek için büyük spor etkinliklerini kullandılar. Fransız yetkililer bunun kısa vadeli deneysel bir hareket olduğunu iddia ederken, Uluslararası Af Örgütü bu yasa tasarısının Fransa’da kitlesel gözetleme ve polis yetkilerini sessizce kalıcı olarak genişleteceğinden korkuyor.

2012 Londra Olimpiyatları, devletlerin müdahaleci, kalıcı ve baskıcı gözetim önlemleri kurmak ve genişletmek için büyük spor etkinliklerini nasıl kullandığının canlı bir örneği olarak duruyor. 2017’de Cardiff’teki UEFA Şampiyonlar Ligi finalinde Güney Galler Polisi yüz tanıma kameraları kullandı ve 2.000 kişiyi hatalı bir şekilde olası suçlu olarak işaretleyerek bu tür önlemlerin ne kadar müdahaleci ve güvenilmez olduğunu gösterdi.

Uluslararası Af Örgütü’nde, binlerce yüz tanıma özellikli CCTV kameranın New York City’de nasıl konuşlandırıldığını kapsamlı bir şekilde belgeledik – bunların çoğu beyaz olmayan topluluklara ve artan ırk ayrımcılığına dayalı polis teşkilatına. Teknoloji, Black Lives Matter protestocularının taciz edilmesine ve ağırlıklı olarak Siyah sakinlerin haksız yere tutuklanmasına yol açtı.

Bu yasa tasarısı yalnızca mahremiyet ve insan haklarıyla ilgili tehlikeli bir adım olmakla kalmıyor, aynı zamanda yapay zekayı düzenlemeyi ve AB’de temel hakları korumayı amaçlayan küresel olarak önemli bir mevzuat parçası olan Avrupa Birliği’nin (AB) Yapay Zeka Yasası’nın ruhuna da ihanet ediyor. Fransa’nın etkili bir üyesi olduğu.

Fransa’nın Olimpiyat Oyunları sırasında bu tür sarsıcı önlemleri uygulamaya koyma planı, AI sistemlerinin ve toplu gözetimin AB’de nasıl düzenlendiğini ve yönetildiğini şekillendirebilir. Uluslararası Af Örgütü, AB’nin Yapay Zeka Yasası müzakereleri yoluyla, toplu gözetleme için kullanılan tüm yüz tanıma sistemlerinin kullanımı da dahil olmak üzere yaygın, taciz edici ve ayrımcı yapay zeka temelli uygulamalara son vermesi gerektiğine inanıyor.

Uluslararası Af Örgütü, insan haklarıyla uyumlu bir Avrupa AI Tüzüğü için kampanya yürüten sivil toplum aktörlerinden oluşan bir koalisyonla birlikte, kitlesel ve ayrımcı gözetlemeye olanak tanıyan yüz tanıma teknolojilerinin yanı sıra insanları korunan özelliklerine göre kategorize eden sistemlerin tamamen yasaklanması çağrısında bulundu. veya cinsiyet kimliği. Ayrıca, bu teknolojilerin bilimsel geçerliliği olmadığı ve aşırı derecede müdahaleci oldukları göz önüne alındığında, insanların duygularını ve zihinsel durumlarını anladığını iddia eden duygu tanıma sistemlerinin yasaklanması çağrısında bulunduk.

Bir AB üye devleti olarak Fransa, AB’nin AI yönetmeliğine uymak zorunda kalacaktı. Bu yeni yasa tasarısı, Fransız yasasını bekleyen AB mevzuatıyla doğrudan çatışmaya sokacak. Bu arada, etkili bir üye devlet olarak Fransa, AB AI Yasasının insan haklarının korunması için koymayı amaçladığı yüksek çıtayı düşürmeye çalışıyor.

Fransa, kitlesel gözetimi ulusal düzeyde yasallaştırmaya devam ederse, dünyadaki en büyük spor etkinliklerinden biri, küresel olarak mahremiyet hakkının en önemli ihlallerinden biri haline gelme riski taşır.