OpenAIın Son Teknoloji Yapay Görüş Sistemi Basit Bir Yöntemle Kandırıldı
San Francisco merkezli yapay zekâ araştırma şirketi OpenAI'dan araştırmacılar, şirketin son teknoloji yapay görme sisteminin kalem ve kâğıt gibi çok da karmaşık olmayan araçlar aracılığıyla kandırılabileceğini keşfetti. Test için bir nesnenin üzerine başka bir nesnenin adını yazan araştırmacılar, yazılımı kandırarak gördüklerini yanlış tanımlamasını sağladı.
San Francisco merkezli yapay zekâ araştırma şirketi OpenAI'dan araştırmacılar, şirketin son teknoloji yapay görme sisteminin kalem ve kâğıt gibi çok da karmaşık olmayan araçlar aracılığıyla kandırılabileceğini keşfetti. Test için bir nesnenin üzerine başka bir nesnenin adını yazan araştırmacılar, yazılımı kandırarak gördüklerini yanlış tanımlamasını sağladı.
Paylaşılan blog gönderisinde "Bu saldırılara tipografik saldırılar diyoruz" diyen araştırmacılar, konu hakkında "Modelin metni güçlü bir şekilde okuma yeteneğinden yararlanarak, elle yazılmış metin fotoğraflarının bile çoğu zaman modeli yanıltabileceğini gördük" ifadelerini kullandı. Bu tür saldırıların, yapay görme sistemlerini kandırabilecek ancak üretilmesi çok daha basit olan "adversarial" görüntülere benzediğini belirtiyorlar.
Modelleri şaşırtmak ve aldatmak için kasıtlı olarak bozulmuş piksellere sahip "adversial" görüntüler, makine görmesine dayanan sistemler için gerçek bir tehlike oluşturuyor. Bir örnek vermek gerekirse araştırmacılar, Tesla'nın sürücüsüz araçlarındaki yazılımının, yola belirli etiketler yapıştırarak uyarı vermeden şerit değiştirmek için kandırılabileceğini göstermişti. Dolayısıyla bu tür saldırılar, tıptan orduya kadar çeşitli AI uygulamaları için ciddi bir tehdit oluşturuyor.
Yine de araştırmacılar, ortaya çıkan bu tehlikenin en azından şimdilik endişelenecek bir şey olmadığını söylüyor. Zira söz konusu OpenAI yazılımı, herhangi bir ticari üründe kullanılmayan CLIP adlı deneysel bir sistem. OpenAI'ın geçtiğimiz aylarda tanıttığı genel amaçlı bir görme sistemi olan CLIP, eğitilmek için internetten alınan yaklaşık 400 milyon adet görüntü ve metin kullanmıştı.
Laboratuvar tarafından paylaşılan bir başka örnek de CLIP'deki kumbaraları tanımlayan nöron oldu. Bu bileşen yalnızca kumbara resimlerine değil, aynı zamanda dolar '$' işaretleri yanıt verir. Yukarıdaki örnekte olduğu gibi araştırmacılar, bir motorlu testereye '$' işaretleri ekleyerek yapay zekanın onu elektrikli testere yerine kumbara olarak tanımlamasını sağladı.
İLGİLİ HABER 12 Gün Şarj Ömrü Vadeden Yeni Akıllı Bileklik OPPO Band Style Tanıtıldı
OpenAI araştırmacıları ayrıca, CLIP'in çoklu biçimli nöronlarının, internette bir arama yaparken karşınıza çıkabilecek ön yargılara ve çağrışımlara sahip olduğunu keşfetti. Bunlardan bazıları 'terörizm' çağrışımına sahip 'Ortadoğu' nöronu ve hem koyu tenli insanlara hem de gorillere karşılık gelen bir başka nörondu.
Kaynak webtekno.com
Appledan Samsung Galaxy S23e Nispet: iPhone 14 Pro ile Çekilmiş, 30 Dakikalık Kısa Film Paylaşıldı
Eylül ayında yeni iPhone 14 serisini piyasaya süren Apple, en büyük rakibiyle geçtiğimiz akşam bir kez daha karşı karşıya geldi. Samsung, Galaxy S23 serisini tanıttı ve iPhone-Galaxy rekabetine bir tuğla daha koydu. Bugünse Apple’dan bu rekabeti körükleyecek paylaşım geldi.
iPhoneunuzdaki Arka Plan Uygulamalarını Sürekli Kapatıyorsanız Bu İçeriği Okuduktan Sonra Bir Daha Yapmayacaksınız!
Pek çoğumuz, arkada açık kalan uygulamaların şarjı çabuk bitireceği veya telefonun işlevini azaltacağı kanısına varıyoruz. Eğer Android kullanıcısıysanız haklı olabilirsiniz fakat iPhone’da bu durum tam tersi şekilde işliyor.
TikTok’ta Saatlerini Harcayanlara Müjde: Bir Şirket, Platformda Sadece Video İzlemeniz İçin Para Ödeyecek!
Sosyal medya hesapları arasında kendine has bir kitleye sahip olan TikTok’ta bugün, siyasetçilerden gençlere kadar birçok yaş grubu ve meslekten insan bulunuyor. Özellikle belirli yaş gruplarında TikTok videolarını izleme süreleri giderek artarken, bir ajans bu videoları izlerken kullanıcılara para ödemeyi teklif ediyor.
30 Yıllık Efsane Oyun Prince of Persia, Apple Watch’ta Çalıştırıldı
Apple’ın akıllı saat sektörünü domine eden saat modeli Apple Watch, bileğinden oyun oynamak isteyenlere birçok oyun seçeneği de sunuyor. Fakat bir geliştiricinin yayımladığı ufak bir internet sitesi, Apple Watch dahil tüm akıllı saatlerde ve cihazlarda oyun dünyasının en efsane oyunlarından Prince of Persia’nın oynanmasını sağladı.
James Webbin Keşfettiği Yeni Gezegenlere İsim Bulmak İçin Yarışma Başlatıldı (Siz de Katılabilirsiniz!)
Bazı filmlerde veya dizilerde insanların birbirlerine bir yıldız satın aldığını illa ki görmüşsünüzdür. Üstelik bazı dizi ve filmlerde o yıldızlara isim de bazı özel isimler de verirler. Şimdi sizin de böyle bir şansınız olduğunu söylesek ne yapardınız?