Webhocam

Çağımızın yükselen teknolojisi yapay zekâ, sivil planlamadan sağlık hizmetlerine ve siber güvenliğe kadar tüm endüstrilerde bir dönüşümü vadediyor. Lakin gizlilik, özellikle uyum ve düzenleme söz konusu olduğunda sektörde çözülemeyen bir zorluk olmaya devam ediyor. Hatta pek çok şirket, kişisel verilerin sızdırılması nedeniyle gündeme geliyor.

Bu noktada Apple ve Google gibi pek çok devasa şirketin bu konudan muzdarip olduğunu söylemek mümkün. Hatırlarsanız Apple, Siri kayıtlarının dinlenmesi skandalıyla bir süre gündemden düşmemişti. Nisan ayında Bloomberg, bilişim devi Amazon’un Alexa destekli cihazlardan binlerce saatlik ses kayıtlarını dinlemek için taşeron işçiler kullandığını ortaya çıkarmıştı.

Son dönemlerde bunun gibi binlerce farklı olayın yaşandığını ve pek çok dev firmanın bu olaylarla gündeme geldiğini söyleyebiliriz. Evet, yasalar gizliliği korumak için çalışıyor ancak yeterli değil. Peki yapay zekanın gizlilik sorununu hangi teknikler çözebilir? Gelin, bunlara biraz daha yakından bakalım.

İnsan beyni ve sinir sisteminden esinlenerek oluşturulmuş bu modelde, ilk katman girişi son katman ise çıkışı temsil eder. Ortada bulunan katmanlar ise gizli katmanlardır ve her katmanda belirli sayıda nöron (neuron/sinir hücresi) bulunur. Çoğu yapay zekâ sisteminin merkezinde bulunan sinir ağları, diğer nöronlara sinyal ileten katmanlarda düzenlenmiş fonksiyonlardan oluşur.

Bu sinyaller, katmandan katmana geçer ve her bağlantının sinaptik kuvvetini ayarlayarak ağı yavaşça ayarlar. Sinir ağları ham görüntüleri, videoları sesi ve metni almaz. Daha ziyade alıştırma yapılarından örnekler; tek sayılar, vektörler ve matrisler gibi cebirsel olarak çok boyutlu dizilere dönüştürülür. Tüm bunları kapsayan dördüncü bir varlık türüyse geçerli doğrusal dönüşümlerin açıklamalarına eklenir.

Bu dönüşümlere rağmen potansiyel olarak hassas bilgileri, sinir ağının çıktılarından ayırt etmek çoğu zaman mümkündür. Ayrıca veri kümelerinin kendileri de savunmasızdır çünkü genelde gizlenmezler ve veri ihlallerine karşı savunmasız olan merkezi depolarda depolanırlar.

Şimdiye kadar en yaygın tersine mühendislik makine öğrenimi olarak bilinen “membership inference attack” ve bu teknikle bir saldırgan, hedef modelin eğitildiği yapıya ait olup olmadığını belirler. Anlaşılacağı üzere hassas bilgileri bir veri kümesinden kaldırmak, yeniden çıkarılamayacağı anlamına gelmez çünkü yapay zekâ örnekleri yeniden oluşturmada son derece başarılıdır.

Bir çalışmada Wisconsin Üniversitesi'nden araştırmacılar, tıbbi dozajı tahmin etmek üzere eğitilmiş bir makine öğrenme modelinden hastaların genomik bilgilerini aldılar. Bir diğer çalışmada ise Carneige Mellon ve Wisconsin-Madison Üniversitesi araştırmacıları, yüz tanıma yapmak için eğitilmiş bir modelden belirli kafa çekimi görüntülerini yeniden oluşturmayı başardılar.

Daha karmaşık bir veri çıkarma saldırısı, üretilen örnekleri ve gerçek dünyadaki örnekleri birbirinden ayırmaya çalışan ve birbirine zıt şekilde çalışan iki parçalı yapay zekâ sistemleri olan generative adversarial networks’ü (GAN) kullanır. Bu sistemde generator sürekli yeni data üretirken discriminator ise generator tarafından üretilen datanın gerçekliğini kontrol eder.