Yazar : Will Knight, MIT Technology Review, 7 Aralık 2018
Çeviren : Ercan Caner, Sun Savunma Net, 12 Şubat 2019
Yüz Tanıma Sistemlerinin Tehlikeleri
Halkın korunması maksadıyla; yüz tanıma sistemlerinin kullanımı hakkında yasal düzenlemelerin vakit geçirilmeden yapılması gerekmektedir. Yoksa çok geç mi kalındı?
Yapay zekâ alanında son yıllarda çok büyük adımlar atılmış, fakat bu hızlı ilerlemeler günümüzde bazı büyük etik açmazlara da neden olmaya başlamıştır. Bunların en başta geleni, makine öğrenmesinin fotoğraf ve video görüntülerinden insanların yüzlerini büyük bir doğrulukla tanımlama yöntemidir. Yüz tanıma sistemleri telefonunuzu bir gülücükle açmanıza izin verebilir, fakat bu aynı zamanda, hükümetler ve güçlü şirketlere yeni bir gözetim ve izleme aracının verildiği anlamına da gelmektedir.
New York merkezli bir düşünce kuruluşu olan AINow Institute tarafından hazırlanan yeni bir rapor, yüz tanıma sistemlerinin toplum ve politika yapıcıları açısından önemli bir zorluk olduğunu ifade etmektedir.
Yüz tanıma sistemlerinin büyüme hızı, derin öğrenme olarak bilinen bir makine öğrenme tipinin hızlı gelişmesiyle sonuçlanmıştır. Derin öğrenme, biyolojik bir beyindeki bağlantılara çok benzer bir şekilde, verideki paternleri tanımak maksadıyla büyük hesaplama gruplarını kullanmaktadır. Günümüzde patern tanıma işlemlerini insanı hayrete düşüren bir hassasiyetle yapabilecek duruma gelmiştir.
Derin öğrenmenin mükemmel bir şekilde yaptığı işler arasında, düşük kalite fotoğraf ve video görüntülerinden dahi nesnelerin veya yüzlerin tanımlanması bulunmaktadır. Şirketler, hızla bu tür sistemlerin tedarikine yönelmiş durumdadır.
Chine Southern Airlines, Çin’de, uçağa biniş işlemlerinde yüz tanıma sistemilerini
kullanan ilk havayolu şirketi olmuştur. Foto: South China Morning Post
Rapor, özel hayatın gizliliğine yönelik tartışmaların ortasında, bu çok hızlı gelişen teknolojiyle ilgili düzenlemeleri geliştirmesi maksadıyla Birleşik Devletler yönetimine gerekli adımları atması çağrısında bulunmaktadır. AINow Institute düşünce kuruluşu tarafından hazırlanan raporda; yeterli yönetişim, gözetim ve hesap verilebilirlik düzenlemeleri yapılmadan, yapay zekâ sistemlerinin kullanımının çok hızlı bir şekilde yaygınlaştığı ifade edilmektedir.
Raporda örneğin; yüz tanıma sistemlerinin kullanılmasında dâhil yapay zekâ meselelerinin düzenlenmesi için mevcut hükümet organlarının yetkilerinin genişletilmesi önerilmektedir. Sağlık, eğitim, ceza adaleti ve sosyal refah gibi alanların tamamının kendi geçmişleri, düzenleyici çerçeveleri ve tehlikeleri bulunmaktadır.
Rapor bunun yanı sıra yapay zekâ ile ilgili yanıltıcı iddialara karşı tüketicilerin korunması çağrısı da yapmakta ve üretici firmaları yapay zekâ sistemlerinin hesap verebilirliği söz konusu olduğunda (örneğin kritik kararlar verilirken algoritmaların kullanılması durumunda), ticari gizli olduğunu öne sürdükleri iddialarından vaz geçmeleri konusunda uyarmaktadır. Rapor ayrıca; yapay zekâ kullanımı söz konusu olduğunda, firmalara daha sorumlu hareket etmeleri çağrısında bulunmaktadır.
AINow Institute düşünce kuruluşu tarafından hazırlanan rapor bunun yanı sıra, yüz tanıma sistemlerinin insanların izlenmesi maksadıyla kullanıldığı durumlarda halkın uyarılmasını ve bireylerin bu tür teknolojinin kullanılmasını reddetme hakkına sahip olmaları gerektiğini de ileri sürmektedir.
Raporda tavsiye edilen bu önerilerin uygulamaya koyulması zor olabilir, bununla birlikte diş macunu çoktan tüpten çıkmış durumdadır. Yüz tanıma sistemleri inanılmaz bir hızla benimsenmiş ve kullanılmaya başlanmıştır. Yüz tanıma, Apple tarafından geliştirilen son iPhone cihazlarının açılmasında ve ödemelerin yapılmasında dahi kullanılmaktadır.
Yüz tanıma sistemleri Çin Halk Cumhuriyeti’nde binlerce suçlunun
yakalanmasına yardımcı olmuştur. Foto: itv.com
Facebook ise her gün belirli kullanıcıları tanımlamak maksadıyla milyonlarca fotoğrafı taramaktadır. Ve sadece bu hafta içinde, Delta Airlines havacılık şirketi, Atlanta havaalanında yeni bir yüz tarama sisteminin uçağa biniş işlemlerinde kullanılmaya başlandığını duyurmuştur.
California Üniversitesi tarafından bildirildiğine göre; Birleşik Devletler Gizli Servisi de Beyaz Ev için bir yüz tanıma sistemi geliştirmektedir. Raporda, yaygın gözetimde yapay zekâ kullanımının, Birleşik Devletler, Çin ve dünyanın her yerinde birçok ülkede yoğun bir artış gösterdiği ifade edilmektedir.
Aslında bu teknoloji, Çin’de çok daha yaygın bir şekilde kullanılmaya başlanmıştır. Çin’deki uygulamalarda genellikle yapay zekâ firmaları ile hükümet organlarının iş birliğiyle hareket ettikleri görülmektedir. Emniyet güçleri yapay zekâ sistemlerini suçluların belirlenmesinde kullanmaktadır ve bu sistemlerin muhaliflerin izlenmesinde kullanıldığına yönelik sayısız iddialar da bulunmaktadır.
Etik olarak şüpheli şekillerde kullanılmıyor olsa da teknoloji zaten yerleşik meselelerle gelmiş durumdadır. Örneğin bazı yüz tanıma sistemlerinin ayrımcılığı kodladığı gösterilmiştir. California Üniversitesinden araştırmacılar, Amazon bulut programı tarafından sunulan bir sistemin, azınlıkları suçlu olarak yanlış tanımlama ihtimalinin daha yüksek olduğunu göstermiştir.
Rapor ayrıca yüz tarama ve ses tanıma sistemlerinde duygu izleme kullanımı hakkında da uyarıda bulunmaktadır. Duyguların bu şekilde izlenmesi kanıtlanmamış olsa da potansiyel olarak ayrımcı şekilde, örneğin öğrencilerin dikkatlerinin izlenmesinde kullanılmaktadır.
Microsoft firmasında araştırmacı olarak çalışan ve raporun önde gelen hazırlayıcılarından olan Kate Crawford; yüz tanımayla ilgili düzenlemelerin yapılması ve tanıma özelliklerinin belirlenme zamanının geldiğini vurgulamaktadır. Crawford’a göre; insanların iç durumlarına nüfuz edilmesi ne bilimsel ne de etik bir yaklaşımdır.
Çevirenin Notları: Yazı aslına sadık kalınarak çevrilmiştir, orijinal metne aşağıdaki link üzerinden erişebilirsiniz.
