Sosyal medya sitesinde yüklediğiniz bir selfie ne olacağını hiç merak ettiniz mi? Aktivistler ve araştırmacılar, veri gizliliği konusunda uzun zamandır uyardılar ve internette yüklenen fotoğrafların yapay zeka (AI) elektrikli yüz tanıma araçlarını eğitmek için kullanılabileceğini söyledi. Bu AI özellikli araçlar (örneğin ClearView, AWS Roknition, Microsoft Azure ve Face ++ gibi), hükümetler veya diğer kurumlar tarafından insanları takip etmek ve hatta konunun dini veya politik tercihleri gibi sonuçları elde edebilirler. Araştırmacılar, bu AI araçlarını, bir Selfie'yi bir selfie'yi tanımadan, hatta tespit ederek, olumsuz saldırıların - veya derin öğrenen bir modelin hata yapmasına neden olan giriş verilerini değiştirmenin bir yolunu kullanarak bu AI araçlarını değiştirmenin veya havuz yapmanın yollarını ortaya çıkardılar.
Bu yöntemlerden ikisi, geçen hafta uluslararası öğrenme temsilleri konferansında (ICLR), neredeyse düzenlenen önde gelen bir AI konferansı sunuldu. MIT Technology Review tarafından yapılan bir rapora göre, bu yeni araçların çoğu Dupe yüz tanıma yazılımı için, insan gözüyle görünmeyen bir görüntüde küçük değişiklikler yapar, ancak bir AI'yi karıştırarak, yazılımı açıkça tanımlamak için bir hata yapmaya zorlayabilir. Resimdeki kişi veya nesne veya görüntüyü gerçekleştirmekten bile vazgeçmek bir selfiedir.
Chicago Üniversitesi'nden Emily Wenger, meslektaşlarıyla Fawkes adlı bu 'görüntü gizliliği' araçlarından birini geliştirdi. Diğer diğeri, Lowkey, Valeriia Cherepanova ve Maryland Üniversitesi'ndeki meslektaşları tarafından geliştirilmiştir.
Fawkes, yüz tanıma sistemlerinin kendilerinde kişileri tanımlamasını engelleyen görüntülere piksel düzeyinde rahatsızlıklar ekler, ancak görüntüyü insanlara değişmeden bıraktı. 50 görüntüden oluşan küçük bir veri seti olan bir deneyde, fawkes ticari yüz tanıma sistemlerine karşı yüzde 100 etkili olduğu bulundu. Fawkes, Windows ve Mac için indirilebilir ve yöntemi, 'yetkisiz derin öğrenme modellerine karşı kişisel gizliliğin korunması' başlıklı bir kağıda ayrıntılı olarak verilmiştir.
Bununla birlikte, yazarlar notlar Fawkes, korunmasız görüntülerinizde zaten eğitilmiş mevcut sistemleri yanlış yönlendiremez. Görünleyicinin sisteminde, görüntüyü yapabileceklerini bir dereceye kadar değiştirerek, görüntüsündeki kişiyi tanımasını engelleyerek, görüntüleri en az değiştirerek, Wenger'ın sistemine genişleyen Lowkey. Lowkey, 'sosyal medya kullanıcılarını yüz tanımadan korumak için rakip saldırıların kaldırılması' başlıklı bir kağıda detaylandırılmış, çevrimiçi kullanım için kullanılabilir.
Yine bir başka yöntem, 'UNLARNABLE ÖRNEKLERİ: KABUL EDİLMESİNDE KABUL EDİLDİ) DANIEL MA ve diğer araştırmacılar tarafından Avustralya'daki Daniel MA ve diğer araştırmacılar tarafından, bir adım daha ileride, bir AI modelini zorlayan görüntülerdeki değişiklikleri tanıtan "veri zehirlenmesi" dedi. Eğitim sırasında atılmak, değerlendirme sonrası eğitimin önlenmesi.
Wenger, Fawkes'in Microsoft Azure'yı kandıramadığını, "Aniden bir şekilde ürettiğimiz pluaked imgelerine dayanıklı hale geldi ... Ne olduğunu bilmiyoruz." Artık AI'ye karşı bir yarış olduğunu söyledi, fawkes daha sonra tekrar maskeli maskeli yapabilmek için güncellendi. "Bu başka bir kedi ve-fare silah yarışı" diye ekledi.
Raporda ayrıca, Wenger'ın bu tür AI araçlarına karşı düzenlemenin gizliliğin korunmasına yardımcı olacağını söyleyerek, her zaman yasal olarak kabul edilebilir olanlar arasında her zaman bir "bağlantı kesilmesi" olacaktır ve insanların ne istediğiyle ve fawkes gibi sahte yöntemlerin "bu boşluğu doldurmasına" yardımcı olabilir. Bu aracı geliştirmenin motivasyonunun basit olduğunu söylüyor: insanlara "bazı güç" vermek için zaten sahip olmadıklarını söylüyor.
Kaynak: Gadgets 360