İnsanlar, bilgisayarlara kıyasla yüzleri ve fotoğrafları tanımlamada tarihsel olarak mükemmeldi, ancak insanların sahte görüntüleri gerçek olanlara karşı nasıl algıladıklarını inceleyen yeni bir araştırmaya göre, yapay zeka tarafından oluşturulan fotoğrafların ortaya çıkışı, insanları şaşırtıyor.
Teknoloji uzmanları, yapay zeka tarafından üretilen hipergerçekçi görüntülerin çevrimiçi yanlış bilgilerin çoğalmasına ve siber güvenlik sorunlarına yol açabileceği konusunda uyarıda bulunuyor. Örneğin, geçen ay, Pentagon’daki bir patlamayı gösteren yapay zeka tarafından oluşturulmuş bir fotoğrafın internette yayılması ve borsanın kısa bir düşüşe geçmesiyle panik yayıldı.
Avustralya’daki araştırmacılar, hem davranış testleri hem de nörogörüntüleme deneyleri kullanarak insan beyninin yapay zeka tarafından üretilen gerçekçi fotoğrafları nasıl algıladığını ve ayırt ettiğini inceledi. Çalışma, davranış testi için Amazon’a ait bir kitle kaynak web sitesi olan Amazon Mechanical Turk’ten 200 kişinin ve nörogörüntüleme testlerine katılmak için Sidney Üniversitesi’nden 22 kişinin işe alınmasını içeriyordu.
Çalışmanın yazarı Mic Moshel, PsyPost’a “Tarih boyunca, insanlar yüz algılama için bir ölçüt olarak görüldü. Yüzleri tanıma ve sınıflandırmada sürekli olarak bilgisayarlardan daha iyi performans gösterdik (bu durum değişiyor olsa da),” dedi.
SİZİ KİM İZLİYOR? AI, ŞÜPHELENMEYEN MAĞDURLARI “KOLAY VE KESİNLİKLE” TAKİP EDEBİLİR: UZMANLAR
Teknoloji uzmanları, yapay zeka tarafından üretilen hipergerçekçi görüntülerin çevrimiçi yanlış bilgilerin çoğalmasına ve siber güvenlik sorunlarına yol açabileceği konusunda uyarıda bulunuyor. (Getty Images)
“Ancak yapay zekanın ortaya çıkışı, bir yüzün yapay olarak oluşturulup oluşturulmadığını güvenilir bir şekilde belirlemede önemli bir zorluk teşkil etti. Bu gelişme ilgimizi çekerek, insanların yapay zeka tarafından üretilen hipergerçekçi yüzlere nasıl tepki verdiğini araştırmaya, özellikle de gerçek ile gerçek yüz arasında ayrım yapma yeteneğini keşfetmeye çalıştık. sahte,” diye ekledi Moshel.
Araştırmacılar, hem gerçekçi hem de gerçekçi olmayan yüzleri, arabaları ve yatak odalarını tasvir eden fotoğrafları, üretici düşman ağları (GAN’lar) adı verilen yapay sinir ağları ile oluşturdular. Çalışmada kullanılan gerçek fotoğraflar, GAN’lar için kullanılan eğitim setlerinden alınmıştır.
OPENAI ŞEFİ ALTMAN, AI’NIN KENDİSİ İÇİN ‘KORKUNÇ’ NE ANLAMA GELDİĞİNİ AÇIKLADI, ANCAK CHATGPT’NİN KENDİ ÖRNEKLERİ VAR
Nörogörüntüleme testi için araştırmacılar, katılımcılara gerçek ve sahte fotoğrafları gösterirken beyindeki elektriksel aktiviteyi ölçen elektroensefalografiyi kullandılar. Katılımcılar, yapay zeka tarafından oluşturulan gerçekçi olmayan fotoğrafların gerçek olmadığını belirleyebildiler, ancak yapay zeka tarafından oluşturulan gerçekçi fotoğrafları gerçek olanlardan deşifre etmekte zorlandılar.
Nörogörüntüleme testi için araştırmacılar, katılımcılara gerçek ve sahte fotoğrafları gösterirken beyindeki elektriksel aktiviteyi ölçen elektroensefalografiyi kullandılar. (Getty Images aracılığıyla Josep Lago/AFP)
“Bulgularımız, bireylerin yalnızca kısa bir bakışta yapay zeka tarafından oluşturulan yüzleri potansiyel olarak tanıyabileceğini ortaya koydu. Bununla birlikte, gerçek yüzleri yapay zeka tarafından oluşturulan yüzlerden ayırt etmek daha zor. Şaşırtıcı bir şekilde, insanlar sıklıkla yapay zeka tarafından oluşturulan yüzleri yanlışlıkla gerçek yüzler olarak algılama eğilimi sergiliyor. Vision Research tarafından yayınlanan araştırmaya göre, gerçek yüzlerden daha gerçekçi.
AI’NIN TEHLİKELERİ NELERDİR? İNSANLARIN YAPAY ZEKADAN NEDEN KORKTUĞUNU ÖĞRENİN
Çalışmanın davranış testi kısmı, katılımcıların anlık görsel izlenimlerine dayanarak bir görüntünün gerçek mi yoksa sahte mi olduğunu belirledikleri sırada fotoğraflarını hızlı bir şekilde arka arkaya göstermeyi içeriyordu.
Araştırmacılar, katılımcıların beyin aktivitelerinin yapay zeka tarafından oluşturulmuş yüz fotoğraflarını %54 oranında doğru bir şekilde tanımlayabildiğini, fotoğrafları sözlü olarak tanımlamanın ise yalnızca %37 oranında doğruluk sağladığını buldu.
Çalışmada, “Beyin aktivitesinin incelenmesi yoluyla, gerçek ve yapay zeka tarafından üretilen yüzler arasında ayrım yapmaktan sorumlu fark edilebilir bir sinyal belirledik. Ancak, bu sinyalin davranışsal karar vermeyi yönlendirmek için kullanılmamasının kesin nedeni belirsizliğini koruyor.”
Araştırmacılar, katılımcıların beyin aktivitelerinin yapay zeka tarafından oluşturulmuş yüz fotoğraflarını %54 oranında doğru bir şekilde tanımlayabildiğini, fotoğrafları sözlü olarak tanımlamanın ise yalnızca %37 oranında doğruluk sağladığını buldu. (iStock)
Eski Başkan Donald Trump’ın tutuklandığını ve Papa Francis’in beyaz bir kirpi ceket giydiğini gösteren fotoğraflar da dahil olmak üzere, önemli dünya ve siyasi liderleri tasvir eden gerçekçi ama sahte görüntüler bu yıl şimdiden viral oldu.
GÜNLÜK HAYATTA HANGİ YZ’yi KULLANIYORUZ?
“Gerçekten neredeyse ayırt edilemeyen gerçekçi sahte görüntüleri, videoları, yazıları ve multimedyayı hızla ve zahmetsizce oluşturmak giderek daha mümkün hale geliyor. Bu kapasite yalnızca daha yaygın hale gelecek ve siber güvenlik, sahte haberler, tespit bypass’ı, ve sosyal medya”, çalışmanın arkasındaki araştırmacılar yazdı.
Geçen yıl ChatGPT’nin piyasaya sürülmesinden bu yana, teknoloji şirketleri daha güçlü yapay zeka sistemleri oluşturmak için yarışıyor, ancak platformların arkasındaki aynı teknoloji liderleri, yapay zekanın insan “yok oluşunu” önlemek için düzenlenmesi gerektiği konusunda da uyarıda bulunuyor.
OpenAI’nin CEO’su ve kurucu ortağı Sam Altman, 16 Mayıs 2023’te Washington DC’de Senato Yargı alt komitesi duruşmasında konuşuyor. (Getty)
OpenAI CEO’su Sam Altman ve DeepMind CEO’su Demis Hassabis gibi yüzlerce teknoloji lideri, bu hafta uyarıda bulunan açık bir mektup imzaladı: “Yapay zekanın yok olma riskini azaltmak, salgın hastalıklar ve nükleer gibi diğer toplumsal ölçekli risklerin yanı sıra küresel bir öncelik olmalıdır. savaş.”
Altman ve Google’dan Sundar Pichai, son haftalarda defalarca AI’nın düzenlenmesi çağrısında bulunurken, güçlü teknolojinin dünyayı olumlu yönde değiştirme fırsatına sahip olduğunu ve teknolojinin potansiyel risklerinin liderlerin ciddiye aldığı bir şey olduğunu belirtiyor.
HABERLER SUNULDU
Altman, “Hem potansiyel artıları hem de eksileri açısından, süper zeka, insanlığın geçmişte uğraşmak zorunda kaldığı diğer teknolojilerden daha güçlü olacak. Çok daha müreffeh bir geleceğe sahip olabiliriz; ancak oraya ulaşmak için riskleri yönetmek zorundayız.” diğer OpenAI yöneticileri geçen ay bir blog gönderisinde söyledi.
Teknoloji uzmanları, yapay zeka tarafından üretilen hipergerçekçi görüntülerin çevrimiçi yanlış bilgilerin çoğalmasına ve siber güvenlik sorunlarına yol açabileceği konusunda uyarıda bulunuyor. Örneğin, geçen ay, Pentagon’daki bir patlamayı gösteren yapay zeka tarafından oluşturulmuş bir fotoğrafın internette yayılması ve borsanın kısa bir düşüşe geçmesiyle panik yayıldı.
Avustralya’daki araştırmacılar, hem davranış testleri hem de nörogörüntüleme deneyleri kullanarak insan beyninin yapay zeka tarafından üretilen gerçekçi fotoğrafları nasıl algıladığını ve ayırt ettiğini inceledi. Çalışma, davranış testi için Amazon’a ait bir kitle kaynak web sitesi olan Amazon Mechanical Turk’ten 200 kişinin ve nörogörüntüleme testlerine katılmak için Sidney Üniversitesi’nden 22 kişinin işe alınmasını içeriyordu.
Çalışmanın yazarı Mic Moshel, PsyPost’a “Tarih boyunca, insanlar yüz algılama için bir ölçüt olarak görüldü. Yüzleri tanıma ve sınıflandırmada sürekli olarak bilgisayarlardan daha iyi performans gösterdik (bu durum değişiyor olsa da),” dedi.
SİZİ KİM İZLİYOR? AI, ŞÜPHELENMEYEN MAĞDURLARI “KOLAY VE KESİNLİKLE” TAKİP EDEBİLİR: UZMANLAR
Teknoloji uzmanları, yapay zeka tarafından üretilen hipergerçekçi görüntülerin çevrimiçi yanlış bilgilerin çoğalmasına ve siber güvenlik sorunlarına yol açabileceği konusunda uyarıda bulunuyor. (Getty Images)
“Ancak yapay zekanın ortaya çıkışı, bir yüzün yapay olarak oluşturulup oluşturulmadığını güvenilir bir şekilde belirlemede önemli bir zorluk teşkil etti. Bu gelişme ilgimizi çekerek, insanların yapay zeka tarafından üretilen hipergerçekçi yüzlere nasıl tepki verdiğini araştırmaya, özellikle de gerçek ile gerçek yüz arasında ayrım yapma yeteneğini keşfetmeye çalıştık. sahte,” diye ekledi Moshel.
Araştırmacılar, hem gerçekçi hem de gerçekçi olmayan yüzleri, arabaları ve yatak odalarını tasvir eden fotoğrafları, üretici düşman ağları (GAN’lar) adı verilen yapay sinir ağları ile oluşturdular. Çalışmada kullanılan gerçek fotoğraflar, GAN’lar için kullanılan eğitim setlerinden alınmıştır.
OPENAI ŞEFİ ALTMAN, AI’NIN KENDİSİ İÇİN ‘KORKUNÇ’ NE ANLAMA GELDİĞİNİ AÇIKLADI, ANCAK CHATGPT’NİN KENDİ ÖRNEKLERİ VAR
Nörogörüntüleme testi için araştırmacılar, katılımcılara gerçek ve sahte fotoğrafları gösterirken beyindeki elektriksel aktiviteyi ölçen elektroensefalografiyi kullandılar. Katılımcılar, yapay zeka tarafından oluşturulan gerçekçi olmayan fotoğrafların gerçek olmadığını belirleyebildiler, ancak yapay zeka tarafından oluşturulan gerçekçi fotoğrafları gerçek olanlardan deşifre etmekte zorlandılar.
Nörogörüntüleme testi için araştırmacılar, katılımcılara gerçek ve sahte fotoğrafları gösterirken beyindeki elektriksel aktiviteyi ölçen elektroensefalografiyi kullandılar. (Getty Images aracılığıyla Josep Lago/AFP)
“Bulgularımız, bireylerin yalnızca kısa bir bakışta yapay zeka tarafından oluşturulan yüzleri potansiyel olarak tanıyabileceğini ortaya koydu. Bununla birlikte, gerçek yüzleri yapay zeka tarafından oluşturulan yüzlerden ayırt etmek daha zor. Şaşırtıcı bir şekilde, insanlar sıklıkla yapay zeka tarafından oluşturulan yüzleri yanlışlıkla gerçek yüzler olarak algılama eğilimi sergiliyor. Vision Research tarafından yayınlanan araştırmaya göre, gerçek yüzlerden daha gerçekçi.
AI’NIN TEHLİKELERİ NELERDİR? İNSANLARIN YAPAY ZEKADAN NEDEN KORKTUĞUNU ÖĞRENİN
Çalışmanın davranış testi kısmı, katılımcıların anlık görsel izlenimlerine dayanarak bir görüntünün gerçek mi yoksa sahte mi olduğunu belirledikleri sırada fotoğraflarını hızlı bir şekilde arka arkaya göstermeyi içeriyordu.
Araştırmacılar, katılımcıların beyin aktivitelerinin yapay zeka tarafından oluşturulmuş yüz fotoğraflarını %54 oranında doğru bir şekilde tanımlayabildiğini, fotoğrafları sözlü olarak tanımlamanın ise yalnızca %37 oranında doğruluk sağladığını buldu.
Çalışmada, “Beyin aktivitesinin incelenmesi yoluyla, gerçek ve yapay zeka tarafından üretilen yüzler arasında ayrım yapmaktan sorumlu fark edilebilir bir sinyal belirledik. Ancak, bu sinyalin davranışsal karar vermeyi yönlendirmek için kullanılmamasının kesin nedeni belirsizliğini koruyor.”
Araştırmacılar, katılımcıların beyin aktivitelerinin yapay zeka tarafından oluşturulmuş yüz fotoğraflarını %54 oranında doğru bir şekilde tanımlayabildiğini, fotoğrafları sözlü olarak tanımlamanın ise yalnızca %37 oranında doğruluk sağladığını buldu. (iStock)
Eski Başkan Donald Trump’ın tutuklandığını ve Papa Francis’in beyaz bir kirpi ceket giydiğini gösteren fotoğraflar da dahil olmak üzere, önemli dünya ve siyasi liderleri tasvir eden gerçekçi ama sahte görüntüler bu yıl şimdiden viral oldu.
GÜNLÜK HAYATTA HANGİ YZ’yi KULLANIYORUZ?
“Gerçekten neredeyse ayırt edilemeyen gerçekçi sahte görüntüleri, videoları, yazıları ve multimedyayı hızla ve zahmetsizce oluşturmak giderek daha mümkün hale geliyor. Bu kapasite yalnızca daha yaygın hale gelecek ve siber güvenlik, sahte haberler, tespit bypass’ı, ve sosyal medya”, çalışmanın arkasındaki araştırmacılar yazdı.
Geçen yıl ChatGPT’nin piyasaya sürülmesinden bu yana, teknoloji şirketleri daha güçlü yapay zeka sistemleri oluşturmak için yarışıyor, ancak platformların arkasındaki aynı teknoloji liderleri, yapay zekanın insan “yok oluşunu” önlemek için düzenlenmesi gerektiği konusunda da uyarıda bulunuyor.
OpenAI’nin CEO’su ve kurucu ortağı Sam Altman, 16 Mayıs 2023’te Washington DC’de Senato Yargı alt komitesi duruşmasında konuşuyor. (Getty)
OpenAI CEO’su Sam Altman ve DeepMind CEO’su Demis Hassabis gibi yüzlerce teknoloji lideri, bu hafta uyarıda bulunan açık bir mektup imzaladı: “Yapay zekanın yok olma riskini azaltmak, salgın hastalıklar ve nükleer gibi diğer toplumsal ölçekli risklerin yanı sıra küresel bir öncelik olmalıdır. savaş.”
Altman ve Google’dan Sundar Pichai, son haftalarda defalarca AI’nın düzenlenmesi çağrısında bulunurken, güçlü teknolojinin dünyayı olumlu yönde değiştirme fırsatına sahip olduğunu ve teknolojinin potansiyel risklerinin liderlerin ciddiye aldığı bir şey olduğunu belirtiyor.
HABERLER SUNULDU
Altman, “Hem potansiyel artıları hem de eksileri açısından, süper zeka, insanlığın geçmişte uğraşmak zorunda kaldığı diğer teknolojilerden daha güçlü olacak. Çok daha müreffeh bir geleceğe sahip olabiliriz; ancak oraya ulaşmak için riskleri yönetmek zorundayız.” diğer OpenAI yöneticileri geçen ay bir blog gönderisinde söyledi.