Bir araştırmacı büyük bir güvenlik açığını ortaya çıkarmak için ChatGPT'nin hafızasını nasıl hackledi?

Şaibe

Member
ChatGPT'nin arkasındaki şirket AI güvenlik kurulunu dağıttı


Kurt 'CyberGuy' Knutsson, OpenAI'nin güvenlik görev gücünün sona ermesini tartışıyor; aktris Scarlett Johansson, şirketin onun sesini kopyaladığını ve sesli notlar telefon özelliğinin artan popülaritesini iddia ediyor.


ChatGPT harika bir araçtır ve geliştiricisi OpenAI zaman zaman yeni özellikler eklemeye devam etmektedir.

Son zamanlarda şirket, ChatGPT'de esasen sizinle ilgili şeyleri hatırlamasını sağlayan yeni bir hafıza özelliğini tanıttı. Örneğin yaşınızı, cinsiyetinizi, felsefi inançlarınızı ve hemen hemen her şeyi hatırlayabiliyor.

Bu anıların özel kalması gerekiyor, ancak yakın zamanda bir araştırmacı ChatGPT'nin yapay zeka bellek özelliklerinin nasıl manipüle edilebileceğini göstererek gizlilik ve güvenlikle ilgili soruları gündeme getirdi.

BAYRAM İÇİN 500$ HEDİYE KARTI VERECEĞİM



ChatGPT giriş ekranı. (Kurt “CyberGuy” Knutsson)

ChatGPT'nin Hafıza özelliği nedir?


ChatGPT'nin hafıza özelliği, chatbot'u sizin için daha kişisel hale getirmek için tasarlanmıştır. Gelecekteki konuşmalar için yararlı olabilecek bilgileri hatırlar ve farklı bir sohbet açsanız bile yanıtları bu bilgilere göre düzenler. Örneğin vejeteryan olduğunuzu belirtirseniz, bir dahaki sefere yemek tarifi istediğinizde sadece vejetaryen seçenekler sunulacaktır.

YAPAY ZEKA (AI) NEDİR?

Ayrıca, “Klasik filmleri izlemeyi sevdiğimi unutmayın” demek gibi sizinle ilgili belirli ayrıntıları hatırlaması için de onu eğitebilirsiniz. Gelecekteki etkileşimlerde önerileri buna göre uyarlayacaktır. ChatGPT'nin hafızası üzerinde kontrol sizdedir. Ayarlarınızdan sıfırlayabilir, belirli anıları veya tüm anıları temizleyebilir veya bu özelliği tamamen kapatabilirsiniz.


ChatGPT hack 2


ChatGPT'de bir istem. (Kurt “CyberGuy” Knutsson)


WINDOWS HATASI HACKER'LARIN WI-FI ÜZERİNDEN BİLGİSAYARINIZA GİZCE GİRMELERİNE İZİN VERİR

ChatGPT'deki güvenlik açığı


Tarafından bildirildiği gibi ArstechnicaGüvenlik araştırmacısı Johann Rehberger, dolaylı istem enjeksiyonu adı verilen bir yöntemle yapay zekayı yanlış bilgileri hatırlayacak şekilde kandırmanın mümkün olduğunu keşfetti. Bu, yapay zekanın, e-postalar veya blog gönderileri gibi güvenilmez kaynaklardan gelen talimatları kabul edecek şekilde yönlendirilebileceği anlamına gelir.

Örneğin Rehberger, ChatGPT'yi kandırarak belirli bir kullanıcının 102 yaşında olduğuna, Matrix adı verilen kurgusal bir yerde yaşadığına ve Dünya'nın düz olduğuna inandırılabileceğini gösterdi. Yapay zeka bu uydurma bilgiyi kabul ettikten sonra, bu bilgiyi o kullanıcıyla gelecekte yapılacak tüm sohbetlere taşıyacaktır. Bu sahte anılar, dosyaları depolamak, resim yüklemek ve hatta Bing gibi bir siteye göz atmak için Google Drive veya Microsoft OneDrive gibi araçlar kullanılarak yerleştirilebilir; bunların tümü bir bilgisayar korsanı tarafından manipüle edilebilir.

Rehberger, macOS için ChatGPT uygulamasındaki kusurdan nasıl yararlanabileceğini gösteren, konsept kanıtını içeren bir takip raporu sundu. Yapay zekayı kötü amaçlı bir görüntü içeren bir web bağlantısını açması için kandırarak, kullanıcının yazdığı her şeyi ve yapay zekanın tüm yanıtlarını kontrol ettiği bir sunucuya göndermesini sağlayabileceğini gösterdi. Bu, eğer bir saldırgan yapay zekayı bu şekilde manipüle edebilirse, kullanıcı ile ChatGPT arasındaki tüm konuşmaları izleyebileceği anlamına geliyordu.

Rehberger'in kavram kanıtı istismarı, güvenlik açığının tüm kullanıcı girdilerini kalıcı olarak sızdırmak için kullanılabileceğini gösterdi. Geçen yıl kullanıma sunulan OpenAI API'si sayesinde saldırının ChatGPT web arayüzü üzerinden yapılması mümkün değil. Ancak macOS için ChatGPT uygulaması aracılığıyla bu hâlâ mümkündü.

Rehberger bulguyu Mayıs ayında OpenAI'ye özel olarak bildirdiğinde, şirket bunu ciddiye aldı ve modelin, hafıza ve benzeri özellikleri içerenler gibi kendi yanıtları içinde oluşturulan bağlantıları takip etmemesini sağlayarak bu sorunu hafifletti.

ÖZEL VERİLERİNİZİ İNTERNETTEN NASIL KALDIRIRSINIZ


ChatGPT hack 3


Johann Rehberger'in ChatGPT sohbeti. (Johann Rehberger)


SİBER DOLANDIRICILAR, GOOGLE ARAMA SONUÇLARINI YÖNETMEK İÇİN Yapay Zekayı Kullanıyor

OpenAI'nin yanıtı


Rehberger'in konsept kanıtını paylaşmasının ardından OpenAI mühendisleri harekete geçti ve bu güvenlik açığını gidermek için bir yama yayınladı. Sohbetleri şifreleyen ve güvenlik açığını düzelten ChatGPT macOS uygulamasının yeni bir sürümünü (sürüm 1.2024.247) yayınladılar.

Dolayısıyla, OpenAI acil güvenlik kusurunu gidermek için adımlar atmış olsa da, bellek manipülasyonu ve bellek özelliklerine sahip AI araçlarının kullanımında sürekli dikkatli olma ihtiyacı ile ilgili potansiyel güvenlik açıkları hâlâ mevcut. Olay, yapay zeka sistemlerindeki güvenlik sorunlarının gelişen doğasının altını çiziyor.

Şirket şöyle diyor: “Büyük dil modellerinde hızlı enjeksiyonun devam eden bir araştırma alanı olduğunu belirtmek önemlidir. Yeni teknikler ortaya çıktıkça bunları model katmanında ele alıyoruz. talimat hiyerarşisi veya bahsedilenler gibi uygulama katmanı savunmaları.”

ChatGPT belleğini nasıl devre dışı bırakırım?


ChatGPT'nin hakkınızda bilgi tutması veya kötü niyetli kişilerin verilerinize erişmesine izin vermesi ihtimalinden hoşlanmıyorsanız, bu özelliği ayarlardan kapatabilirsiniz.

  • ChatGPT uygulaması veya web sitesi bilgisayarınızda veya akıllı telefonunuzda.
  • üzerine tıklayın profil simgesi Ekranın sağ üst köşesinde.
  • Git Ayarlar ve ardından Kişiselleştirme'yi seçin.
  • Bellek seçeneğini değiştirin kapalı, ve artık hazırsınız.
Bu, ChatGPT'nin konuşmalar arasındaki bilgileri tutma yeteneğini devre dışı bırakarak, size hatırladığı veya unuttuğu şeyler üzerinde tam kontrol sağlar.

BURAYA TIKLAYARAK FOX BUSINESS'I HAREKETE GEÇİRİN


ChatGPT hack 4


Dizüstü bilgisayarında ChatGPT kullanan bir adam (Kurt “CyberGuy” Knutsson)


BU HIZLI İPUCU İLE SNOOPS'UN YAKINLARINDA SESLİ MESAJINIZI DİNLEMESİNE İZİN VERMEYİN

Siber güvenlik için en iyi uygulamalar: Yapay zeka çağında verilerinizi koruma


ChatGPT gibi yapay zeka teknolojileri daha yaygın hale geldikçe, kişisel bilgilerinizi korumak için en iyi siber güvenlik uygulamalarına bağlı kalmak büyük önem taşıyor. Siber güvenliğinizi artırmaya yönelik bazı ipuçları:

1. Gizlilik ayarlarını düzenli olarak gözden geçirin: Hangi verilerin toplandığından haberdar olun. Yalnızca rahat olduğunuz bilgileri paylaştığınızdan emin olmak için ChatGPT ve diğerleri gibi AI platformlarındaki gizlilik ayarlarını düzenli olarak kontrol edin ve düzenleyin.

2. Hassas bilgileri paylaşırken dikkatli olun: Kişisel veriler söz konusu olduğunda daha azı daha fazladır. Yapay zeka ile yaptığınız görüşmelerde tam adınız, adresiniz veya finansal bilgileriniz gibi hassas ayrıntıları açıklamaktan kaçının.

3. Güçlü, benzersiz şifreler kullanın: En az 12 karakter uzunluğunda, harf, rakam ve simgelerin birleşiminden oluşan şifreler oluşturun ve bunları farklı hesaplarda tekrar kullanmaktan kaçının. Bir kullanmayı düşünün şifre yöneticisi karmaşık şifreler oluşturmak ve saklamak için.

4. İki faktörlü kimlik doğrulamayı etkinleştirin (2FA): ChatGPT'nize ve diğer AI hesaplarınıza ekstra bir güvenlik katmanı ekleyin. Kısa mesaj kodu gibi ikinci bir doğrulama biçimini zorunlu kılarak yetkisiz erişim riskini önemli ölçüde azaltırsınız.

5. Yazılım ve uygulamaları güncel tutun: Güvenlik açıklarının önünde kalın. Düzenli güncellemeler genellikle yeni keşfedilen tehditlere karşı koruma sağlayan güvenlik yamaları içerir; bu nedenle mümkün olduğunda otomatik güncellemeleri etkinleştirin.

6. Güçlü bir antivirüs yazılımına sahip olun: Yapay zekanın her yerde olduğu bir çağda verilerinizi siber tehditlerden korumak her zamankinden daha önemli. Cihazlarınıza güçlü bir antivirüs yazılımı eklemek, kritik bir koruma katmanı ekler. Kötü amaçlı yazılım yükleyen ve potansiyel olarak özel bilgilerinize erişen kötü amaçlı bağlantılardan kendinizi korumanın en iyi yolu, tüm cihazlarınızda güçlü bir virüsten koruma yazılımının yüklü olmasıdır. Bu koruma aynı zamanda kimlik avı e-postalarına ve fidye yazılımı dolandırıcılıklarına karşı sizi uyararak kişisel bilgilerinizi ve dijital varlıklarınızı güvende tutar. Windows, Mac, Android ve iOS cihazlarınız için 2024'ün en iyi antivirüs korumasını kazananların seçimlerini öğrenin.

7. Hesaplarınızı düzenli olarak izleyin: Sorunları erken yakalayın. Banka hesap özetlerini ve çevrimiçi hesapları olağandışı etkinliklere karşı sık sık kontrol edin; bu, olası etkinlikleri belirlemenize yardımcı olabilir. ihlaller hızlıca.

Kurt'un önemli çıkarımları


ChatGPT gibi yapay zeka araçları daha akıllı ve kişisel hale geldikçe, konuşmaları bize göre nasıl özelleştirebileceklerini düşünmek oldukça ilginç. Ancak Johann Rehberger'in bulgularının bize hatırlattığı gibi, özellikle gizlilik ve güvenlik söz konusu olduğunda bazı gerçek riskler mevcut. OpenAI bu sorunları ortaya çıktıkça hafifletebilirken aynı zamanda bu özelliklerin nasıl çalıştığını yakından takip etmemiz gerektiğini de gösteriyor. Önemli olan yenilik ile verilerimizi güvende tutmak arasındaki o tatlı noktayı bulmaktır.

FOX HABER UYGULAMASINA ULAŞMAK İÇİN TIKLAYIN

Yapay zekanın kişisel ayrıntıları hatırlaması hakkındaki düşünceleriniz neler; bunu yararlı mı buluyorsunuz yoksa sizin için gizlilik endişeleri mi doğuruyor? adresine yazarak bize bildirin. Cyberguy.com/Contact

Daha fazla teknik ipucum ve güvenlik uyarım için şu adrese giderek ücretsiz CyberGuy Rapor Bültenime abone olun: Cyberguy.com/Newsletter

Kurt'a bir soru sorun veya hangi hikayeleri ele almamızı istediğinizi bize bildirin.

Kurt'u sosyal kanallarında takip edin:

En çok sorulan CyberGuy sorularının yanıtları:

Kurt'tan yeni:

Telif hakkı 2024 CyberGuy.com'a aittir. Her hakkı saklıdır.



Kurt “CyberGuy” Knutsson, sabahları “FOX & Friends” programında Haberler ve FOX Business'a yaptığı katkılarla hayatı daha iyi hale getiren teknolojiye, donanıma ve cihazlara derin bir sevgi besleyen ödüllü bir teknoloji gazetecisidir. Teknik bir sorunuz mu var? Kurt'un ücretsiz CyberGuy Bültenini edinin, sesinizi, hikaye fikrinizi veya yorumunuzu CyberGuy.com'da paylaşın.