Yapay zeka sahtekarlığı hızla çevrimiçi ortamda karşı karşıya kaldığımız en büyük sorunlardan biri haline geliyor. Üretken yapay zeka araçlarının artması ve kötüye kullanılması sonucunda yanıltıcı resimler, videolar ve sesler hızla çoğalıyor.
Taylor Swift'ten Donald Trump'a kadar herkesi tasvir eden AI deepfake'leri neredeyse her gün ortaya çıktıkça, neyin gerçek olduğunu neyin olmadığını söylemek zorlaşıyor. DALL-E, Midjourney ve OpenAI'nin Sora'sı gibi video ve görüntü oluşturucular, herhangi bir teknik beceriye sahip olmayan kişilerin deepfake oluşturmasını kolaylaştırıyor; yalnızca bir istek yazın ve sistem bunu gerçekleştirsin.
Bu sahte görüntüler zararsız görünebilir. Ancak dolandırıcılık ve kimlik hırsızlığı veya propaganda ve seçim manipülasyonu gerçekleştirmek için kullanılabilirler.
AI DEEPFAKES DEMOKRASİYİ TEHLİKE EDİYOR. İŞTE MÜCADELE ETMENİN 4 YOLU
Deepfake'ler tarafından kandırılmaktan nasıl kaçınacağınız aşağıda açıklanmıştır:
DEEPFAKE NASIL TESPİT EDİLİR
Deepfake'in ilk günlerinde teknoloji mükemmel olmaktan uzaktı ve çoğu zaman manipülasyon belirtileri bırakıyordu. Doğrulayıcılar, altı parmaklı eller veya farklı şekilli lenslere sahip gözlükler gibi bariz hataların olduğu görsellere dikkat çekti.
Ancak yapay zeka geliştikçe bu çok daha zor hale geldi. Latent Space Advisory danışmanlık firmasının kurucusu ve üretken yapay zeka alanında önde gelen uzmanlardan Henry Ajder, derin sahte videolarda insanlar arasındaki doğal olmayan göz kırpma kalıplarını aramak gibi yaygın olarak paylaşılan bazı tavsiyelerin artık geçerli olmadığını söyledi.
Ukrayna Devlet Başkanı Volodymyr Zelensky'nin askerlerine silahlarını bırakmaya çağırdığı sahte bir video, sağda, kendisinin gerçek görüntüleri ile karşılaştırıldığında, solda, Washington DC'deki META'nın güvenlik politikası başkanının yapay zeka destekli bir açıklamasının arkasında gösteriliyor Teknoloji ilerledikçe deepfake'leri gerçek görüntülerden ayırmak giderek zorlaşıyor. (Getty Images aracılığıyla Olivier Douliery/AFP)
Yine de aranacak bazı şeyler var dedi.
Ajder, pek çok AI deepfake fotoğrafının, özellikle de insanlara ait elektronik bir parlaklığa sahip olduğunu, cildin “inanılmaz derecede parlak görünmesini” sağlayan “estetik bir tür yumuşatma etkisi” olduğunu söyledi.
Ancak yaratıcı yönlendirmenin bazen bunu ve diğer birçok yapay zeka manipülasyonu işaretini ortadan kaldırabileceği konusunda uyardı.
Gölgelerin ve aydınlatmanın tutarlılığını kontrol edin. Çoğunlukla konu net bir odak noktasındadır ve ikna edici derecede gerçekçi görünür ancak arka plandaki öğeler o kadar gerçekçi veya gösterişli olmayabilir.
YÜZLERE BAKIN
Yüz değiştirme, en yaygın deepfake yöntemlerinden biridir. Uzmanlar yüzün kenarlarına yakından bakmayı tavsiye ediyor. Yüz derisinin tonu başın veya vücudun geri kalanıyla eşleşiyor mu? Yüzün kenarları keskin veya bulanık mı?
Konuşan bir kişinin videosunda değişiklik yapıldığından şüpheleniyorsanız, ağzına bakın. Dudak hareketleri sesle mükemmel bir şekilde eşleşiyor mu?
Ajder dişlere bakmayı öneriyor. Net mi, yoksa bulanık mı ve gerçek hayattaki görünüşleriyle bir şekilde tutarlı değil mi?
Siber güvenlik şirketi Norton, algoritmaların henüz bireysel dişler oluşturacak kadar karmaşık olmayabileceğini, dolayısıyla bireysel dişlerin ana hatlarının eksikliğinin bir ipucu olabileceğini söylüyor.
BÜYÜK RESMİ DÜŞÜNÜN
Bazen bağlam önemlidir. Gördüğünüz şeyin makul olup olmadığını düşünmek için bir dakikanızı ayırın.
Poynter gazetecilik web sitesi, kamuya mal olmuş bir kişinin “abartılı, gerçekçi olmayan veya karakterine uygun olmayan” bir şey yaptığını görürseniz, bunun bir deepfake olabileceğini söylüyor.
Örneğin, papa gerçekten ünlü bir sahte fotoğrafta gösterildiği gibi lüks bir şişme ceket mi giyiyor? Öyle olsaydı meşru kaynaklar tarafından yayınlanan ek fotoğraf veya videolar olmaz mıydı?
SAHTELERİ BULMAK İÇİN Yapay Zekayı Kullanmak
Diğer bir yaklaşım ise yapay zekayla savaşmak için yapay zekayı kullanmaktır.
Microsoft, fotoğrafları veya videoları analiz ederek, üzerinde oynanıp oynanmadığına dair bir güven puanı verebilen bir kimlik doğrulama aracı geliştirdi. Chipmaker Intel'in FakeCatcher'ı, bir görüntünün gerçek mi yoksa sahte mi olduğunu belirlemek amacıyla görüntünün piksellerini analiz etmek için algoritmalar kullanıyor.
Bir dosya yüklerseniz veya şüpheli materyale bir bağlantı yapıştırırsanız sahte olanları tespit etmeyi vaat eden çevrimiçi araçlar vardır. Ancak Microsoft'un kimlik doğrulayıcısı gibi bazıları yalnızca seçilen iş ortaklarının kullanımına açıktır, halka açık değildir. Bunun nedeni, araştırmacıların kötü aktörleri uyarmak ve onlara derin sahte silahlanma yarışında daha büyük bir avantaj sağlamak istememeleridir.
Ajder, tespit araçlarına açık erişimin, insanlara bunların “eleştirel düşünmeyi bizim için dış kaynak olarak kullanabilecek tanrısal teknolojiler” olduğu izlenimini verebileceğini, ancak bunun yerine sınırlamalarının farkında olmamız gerektiğini söyledi.
FOX HABER UYGULAMASINA ULAŞMAK İÇİN TIKLAYIN
SAHTE ÜRÜNLERİ BULMANIN ENGELLERİ
Bütün bunlar söyleniyor, yapay zeka baş döndürücü bir hızla ilerliyor ve yapay zeka modelleri, daha az kusurla giderek daha yüksek kalitede içerik üretmek için internet verileri üzerinde eğitiliyor.
Bu, bu tavsiyenin bundan bir yıl sonra bile geçerli olacağının garantisinin olmadığı anlamına geliyor.
Uzmanlar, sıradan insanlara dijital Sherlock olma yükünü yüklemenin bile tehlikeli olabileceğini, çünkü eğitimli gözler için bile derin sahtekarlıkları tespit etmenin giderek zorlaşması nedeniyle onlara sahte bir güven duygusu verebileceğini söylüyor.
Taylor Swift'ten Donald Trump'a kadar herkesi tasvir eden AI deepfake'leri neredeyse her gün ortaya çıktıkça, neyin gerçek olduğunu neyin olmadığını söylemek zorlaşıyor. DALL-E, Midjourney ve OpenAI'nin Sora'sı gibi video ve görüntü oluşturucular, herhangi bir teknik beceriye sahip olmayan kişilerin deepfake oluşturmasını kolaylaştırıyor; yalnızca bir istek yazın ve sistem bunu gerçekleştirsin.
Bu sahte görüntüler zararsız görünebilir. Ancak dolandırıcılık ve kimlik hırsızlığı veya propaganda ve seçim manipülasyonu gerçekleştirmek için kullanılabilirler.
AI DEEPFAKES DEMOKRASİYİ TEHLİKE EDİYOR. İŞTE MÜCADELE ETMENİN 4 YOLU
Deepfake'ler tarafından kandırılmaktan nasıl kaçınacağınız aşağıda açıklanmıştır:
DEEPFAKE NASIL TESPİT EDİLİR
Deepfake'in ilk günlerinde teknoloji mükemmel olmaktan uzaktı ve çoğu zaman manipülasyon belirtileri bırakıyordu. Doğrulayıcılar, altı parmaklı eller veya farklı şekilli lenslere sahip gözlükler gibi bariz hataların olduğu görsellere dikkat çekti.
Ancak yapay zeka geliştikçe bu çok daha zor hale geldi. Latent Space Advisory danışmanlık firmasının kurucusu ve üretken yapay zeka alanında önde gelen uzmanlardan Henry Ajder, derin sahte videolarda insanlar arasındaki doğal olmayan göz kırpma kalıplarını aramak gibi yaygın olarak paylaşılan bazı tavsiyelerin artık geçerli olmadığını söyledi.
Ukrayna Devlet Başkanı Volodymyr Zelensky'nin askerlerine silahlarını bırakmaya çağırdığı sahte bir video, sağda, kendisinin gerçek görüntüleri ile karşılaştırıldığında, solda, Washington DC'deki META'nın güvenlik politikası başkanının yapay zeka destekli bir açıklamasının arkasında gösteriliyor Teknoloji ilerledikçe deepfake'leri gerçek görüntülerden ayırmak giderek zorlaşıyor. (Getty Images aracılığıyla Olivier Douliery/AFP)
Yine de aranacak bazı şeyler var dedi.
Ajder, pek çok AI deepfake fotoğrafının, özellikle de insanlara ait elektronik bir parlaklığa sahip olduğunu, cildin “inanılmaz derecede parlak görünmesini” sağlayan “estetik bir tür yumuşatma etkisi” olduğunu söyledi.
Ancak yaratıcı yönlendirmenin bazen bunu ve diğer birçok yapay zeka manipülasyonu işaretini ortadan kaldırabileceği konusunda uyardı.
Gölgelerin ve aydınlatmanın tutarlılığını kontrol edin. Çoğunlukla konu net bir odak noktasındadır ve ikna edici derecede gerçekçi görünür ancak arka plandaki öğeler o kadar gerçekçi veya gösterişli olmayabilir.
YÜZLERE BAKIN
Yüz değiştirme, en yaygın deepfake yöntemlerinden biridir. Uzmanlar yüzün kenarlarına yakından bakmayı tavsiye ediyor. Yüz derisinin tonu başın veya vücudun geri kalanıyla eşleşiyor mu? Yüzün kenarları keskin veya bulanık mı?
Konuşan bir kişinin videosunda değişiklik yapıldığından şüpheleniyorsanız, ağzına bakın. Dudak hareketleri sesle mükemmel bir şekilde eşleşiyor mu?
Ajder dişlere bakmayı öneriyor. Net mi, yoksa bulanık mı ve gerçek hayattaki görünüşleriyle bir şekilde tutarlı değil mi?
Siber güvenlik şirketi Norton, algoritmaların henüz bireysel dişler oluşturacak kadar karmaşık olmayabileceğini, dolayısıyla bireysel dişlerin ana hatlarının eksikliğinin bir ipucu olabileceğini söylüyor.
BÜYÜK RESMİ DÜŞÜNÜN
Bazen bağlam önemlidir. Gördüğünüz şeyin makul olup olmadığını düşünmek için bir dakikanızı ayırın.
Poynter gazetecilik web sitesi, kamuya mal olmuş bir kişinin “abartılı, gerçekçi olmayan veya karakterine uygun olmayan” bir şey yaptığını görürseniz, bunun bir deepfake olabileceğini söylüyor.
Örneğin, papa gerçekten ünlü bir sahte fotoğrafta gösterildiği gibi lüks bir şişme ceket mi giyiyor? Öyle olsaydı meşru kaynaklar tarafından yayınlanan ek fotoğraf veya videolar olmaz mıydı?
SAHTELERİ BULMAK İÇİN Yapay Zekayı Kullanmak
Diğer bir yaklaşım ise yapay zekayla savaşmak için yapay zekayı kullanmaktır.
Microsoft, fotoğrafları veya videoları analiz ederek, üzerinde oynanıp oynanmadığına dair bir güven puanı verebilen bir kimlik doğrulama aracı geliştirdi. Chipmaker Intel'in FakeCatcher'ı, bir görüntünün gerçek mi yoksa sahte mi olduğunu belirlemek amacıyla görüntünün piksellerini analiz etmek için algoritmalar kullanıyor.
Bir dosya yüklerseniz veya şüpheli materyale bir bağlantı yapıştırırsanız sahte olanları tespit etmeyi vaat eden çevrimiçi araçlar vardır. Ancak Microsoft'un kimlik doğrulayıcısı gibi bazıları yalnızca seçilen iş ortaklarının kullanımına açıktır, halka açık değildir. Bunun nedeni, araştırmacıların kötü aktörleri uyarmak ve onlara derin sahte silahlanma yarışında daha büyük bir avantaj sağlamak istememeleridir.
Ajder, tespit araçlarına açık erişimin, insanlara bunların “eleştirel düşünmeyi bizim için dış kaynak olarak kullanabilecek tanrısal teknolojiler” olduğu izlenimini verebileceğini, ancak bunun yerine sınırlamalarının farkında olmamız gerektiğini söyledi.
FOX HABER UYGULAMASINA ULAŞMAK İÇİN TIKLAYIN
SAHTE ÜRÜNLERİ BULMANIN ENGELLERİ
Bütün bunlar söyleniyor, yapay zeka baş döndürücü bir hızla ilerliyor ve yapay zeka modelleri, daha az kusurla giderek daha yüksek kalitede içerik üretmek için internet verileri üzerinde eğitiliyor.
Bu, bu tavsiyenin bundan bir yıl sonra bile geçerli olacağının garantisinin olmadığı anlamına geliyor.
Uzmanlar, sıradan insanlara dijital Sherlock olma yükünü yüklemenin bile tehlikeli olabileceğini, çünkü eğitimli gözler için bile derin sahtekarlıkları tespit etmenin giderek zorlaşması nedeniyle onlara sahte bir güven duygusu verebileceğini söylüyor.