İlk otonom AI ajanı burada, ama risklere değer mi?

Şaibe

Member
Henüz Manus hakkındaki vızıltıyı duymadıysanız, Singapur merkezli bir şirket tarafından Butterfly Effect adlı yeni AI modeli. Bu sadece başka bir sohbet botu değil. İlk gerçekten özerk AI ajanlarından biri, kendi araştırmalarını yapabiliyor, kararlar alabiliyor ve hatta planlar yapabiliyor.

Kulağa etkileyici geliyor, değil mi? Ama işte şu: Tüm bu inovasyon heyecan verici olasılıklar açarken, aynı zamanda bazı ciddi gizlilik ve güvenlik soruları getiriyor. İster en son yapay zekayı denemek için istekli olun ya da net bir şekilde yönlendirmeyi tercih ederseniz, Manus'un kişisel verileriniz ve dijital güvenliğiniz için ne anlama gelebileceğini anlamaya değer.

Korumalı ve bilgilendirilmiş kalın! Güvenlik Uyarıları ve Uzman Teknoloji İpuçları Alın – Kurt'un 'The Cyberguy Raporu'na şimdi kaydolun



İlk gerçekten özerk AI ajanı (Manus) (Kurt “Cyberguy” Knutsson)

Verileriniz, yakınında hiçbir yere gitmeseniz bile AI eğitmek için kullanılabilir


Bu zaten bir süredir diğer AI modellerinde oluyor. Oldu Birkaç sınıf davası davası Kişisel verileri kazıma için teknoloji şirketlerine karşı AI eğitiminde kullanınOpenai'nin “kişisel olarak tanımlanabilir bilgiler de dahil olmak üzere çalıntı özel bilgileri, her yaştan çocuk da dahil olmak üzere yüz milyonlarca internet kullanıcısından bilgilendirilmiş bilgi veya rızası olmadan” kullandığını iddia eden bir dava ile.

Birçok şirket, AI eğitimi amacıyla da dahil olmak üzere üçüncü taraflarla veri satar veya paylaşır. Örneğin, X, AI, GROK'ını eğitmek için kişisel verileri kullanıyor ve ayrıca AI modellerini eğitmek için kullanıcı verilerini üçüncü taraflarla paylaşıyor. Yani AI kullanıyor olun (dahil Manus Halka açıklandığında) ya da değil, kişisel bilgilerinize sahip olmaları için hala iyi bir şans var.


İlk otonom AI ajanı burada, ama risklere değer mi?


İlk gerçekten özerk AI ajanı (Manus) (Kurt “Cyberguy” Knutsson)


Google'ın yeni AI teknolojisi, evinizin ne zaman yanacağını bilebilir

AI'nın verilerinize sahip olup olmadığını neden önemsemelisiniz?


Veri gizliliği ve güvenliğine dayanır. AI şirketleri kişisel bilgileri topladığında – adınız, e -posta adresiniz, ev konumunuz, sosyal medya yayınları ve hatta fotoğraflarınız gibi şeyler – modellerini eğitmek için genellikle büyük veritabanlarında saklarlar. Bu veritabanları düzgün bir şekilde güvence altına alınmazsa, bilgisayar korsanları için altın madenleri olabilirler. Onları dijital “bal kapları” olarak düşünün: içindeki tüm kişisel veriler nedeniyle siber suçlulara tatlı ve cazip.

Bu sadece teorik bir risk değil. Sadece bu yıl, başka bir AI şirketi, Deepseekbir milyondan fazla hassas rekor kıran büyük bir sızıntı yaşadı. Bu tür bilgiler ortaya çıktığında, dolandırıcıların ve kimlik hırsızlarının onu toplamaktan mutluluk duydukları karanlık ağa çıkabilir. İnsanlar bu şekilde kimlik hırsızlığı ve taklitten tonlarca spam çağrısına, kimlik avı e -postalarına ve hedefli dolandırıcılıklara kadar her şeyle uğraşırlar.

Ancak veri sızıntıları tek tehlike değil. Bilgi güvenli olsa bile, tespit edilmesi zor olan şekillerde kötüye kullanılabilir veya manipüle edilebilir. En büyük yeni tehditlerden biri, hızlı enjeksiyon saldırısı olarak adlandırılan bir şey.

Basit bir ifadeyle, hızlı enjeksiyon, saldırganların bir AI'yı olması gerekmeyen bir şey yapmaya kandırmasının bir yoludur. Araştırmacılar son zamanlarda saldırganların gizli komutları bir web sitesi biyografisi, e -posta imzası veya hatta bir sosyal medya gönderisi gibi zararsız bir metne yerleştirebileceğini buldular. AI bu metni eğitim veya tarama sırasında okuduğunda, bilgi sızdırmasını, nasıl davrandığını değiştirmesini veya özel verilere yetkisiz erişim sağladığını söyleyebilecek gizli talimatları yanlışlıkla izleyebilir.


İlk otonom yapay zeka ajanı burada, ama risklere değer mi?


İlk gerçekten özerk AI ajanı (Manus) (Kurt “Cyberguy” Knutsson)


AI araçlarıyla fazla paylaşım tehlikeleri

Manus AI daha da büyük riskler oluşturuyor


Onlara doğrudan verdiğiniz komutlara yanıt veren AI araçlarının çoğunun aksine, Manus özerktir, yani kendi başına hareket edebilir, bağlantıları takip edebilir, içeriği okuyabilir ve insan onayı olmadan kararlar verebilir. Bu oldukça havalı görünse de, bir şeyler ters gittiğinde fark etmeyi çok daha zorlaştıran şey budur.

Manus kötü niyetli içerikle karşılaşırsa, bilmeden gizli bir istemi izleyebilir, verilerinizi tehlikeye atabilir veya davranışını değiştirebilir ve çok geç olana kadar herhangi bir şeyin gerçekleştiğine dair belirgin bir işaret olmayabilir. Manus'un veri gönderdiği ve depoladığı konusunda bazı endişeler de var. Güvenlik araştırmacıları, Çin'in Shenzhen kentindeki sunuculara verileri izledi ve gözetim, yargı yetkisi ve nihayetinde bilgilerinize erişebilecek kırmızı bayraklar topladı.

Bu nedenle, Manus bugün çok hassas bir şey kazımıyor olsa bile, zayıf gözetim, güçlü otomasyon ve şüpheli veri uygulamalarının kombinasyonu onu ortalama AI asistanınızdan çok daha riskli hale getiriyor.

Bu makalede bir yorum için Manus Ai'ye ulaştık, ancak son tarihimizden önce duymadık.


İlk otonom AI ajanı burada, ama risklere değer mi?


İlk gerçekten özerk AI ajanı (Manus) (Kurt “Cyberguy” Knutsson)


Genai, sahtekarlığın geleceği ve neden kolay bir hedef olabilirsiniz

Peki, kendinizi nasıl koruyabilirsiniz?


Bahsettiğim gibi, Manus AI kullansanız da kullanmasanız da, kişisel bilgileriniz hala veri kümelerine girecektir, bu nedenle kendinizi korumanın en iyi yolu bilgilerinizi bulmak zorlaştırmaktır. İşte yapabileceğiniz bazı şeyler.

1) Manus kullanma konusunda dikkatli olun: Bu özerklik seviyesiyle, özellikle çok yeni bir yapay zeka olduğu için (yönetişim ile ilgili gizlilik politikasındaki tutarsızlıktan bahsetmiyorum bile), henüz kullanmanızı tavsiye etmem. Arızalanırsa veya hızlı bir enjeksiyon saldırısına maruz kalırsa yapabileceği çok fazla hasar var.

2) Kişisel Bilgilerinizi Sargılar Altında Tutun: Kişisel bilgileri satan ve ticaret yapan birçok şirketle, birçoğu AI eğitmek için teknoloji şirketlerine, paylaşmaktan kesinlikle kaçınamadığınız sürece verilerinizi saklamak iyi bir fikirdir.

3) Verileriniz Manus gibi AI modelleri tarafından kazınmaması için kişisel bilgilerinizi internetten aktif olarak kaldırın: Sosyal medyanızı özel olarak ayarlayın, gizlilik ayarları aracılığıyla veri toplamayı sınırlayın ve bilgilerinizi veri brokerlerinden ve insan arama sitelerinden kaldırın. Manus gibi özerk bulut tabanlı ajanlar, çok sayıda çevrimiçi veriyi çıkarmak ve analiz etmek için tasarlanmıştır ve herkese açık bilgileriniz bilginiz veya rızanız olmadan eğitim veri kümelerine süpürülebilir.

Hiçbir hizmet, tüm verilerinizi internetten kaldırmayı vaat etmese de, bilgilerinizi sürekli olarak izlemek ve otomatikleştirmek istiyorsanız, bir kaldırma hizmetine sahip olmak, daha uzun bir süre boyunca sürekli olarak yüzlerce siteden kaldırma işlemini izlemek ve otomatikleştirmek istiyorsanız. Veri kaldırma hizmetleri için en iyi seçimlerime göz atın.

4) Otonom AI sistemleri tarafından oluşturulan daha geniş saldırı yüzeyine karşı savunmaya yardımcı olmak için güçlü antivirüs yazılımı kullanın: Manus'un bağımsız hareket etme ve dış sistemlerle etkileşim kurma yeteneği, rakip saldırılar ve kötü amaçlı yazılım iletimi riskini artırır, bu nedenle cihazlarınızı ve verilerinizi korumak için sağlam uç nokta güvenliği gereklidir.

Kendinizi özel bilgilerinize erişen kötü amaçlı yazılım yükleyen kötü amaçlı bağlantılardan kendinizi korumanın en iyi yolu, tüm cihazlarınıza antivirüs yazılımlarını yüklemelidir. Bu koruma, kişisel bilgilerinizi ve dijital varlıklarınızı güvende tutarak kimlik avı e -postaları ve fidye yazılımı dolandırıcılığı konusunda sizi uyarabilir. Windows, Mac, Android ve iOS cihazlarınız için en iyi 2025 Antivirüs koruma kazananları için seçimlerimi alın.

5) Gizlilik odaklı ürün ve hizmetleri kullanın: Kişisel bilgileri paylaşmaktan kaçınamadığınızda, gizliliğinize öncelik veren şirketleri tercih edin. Örneğin, Gmail yerine Chrome ve Cesur veya Proton Postası yerine DuckDuckgo tarayıcısını kullanın. Google'a en iyi özel ve güvenli tarayıcı alternatiflerine göz atın.

6) Saldırganların yararlanabileceği güvenlik açıklarını yama yapmak için işletim sisteminiz, tarayıcılarınız ve güvenlik araçları da dahil olmak üzere tüm yazılımları güncel tutun: Manus gibi AI ajanları bulutta çalıştığından ve sistemlerinizle etkileşime girebileceğinden, eşleştirilmemiş yazılım sömürü veya yetkisiz erişim için kolay bir hedef haline gelebilir. Bu nedenle, yazılım, işletim sistemleri, tarayıcılar ve güvenlik araçlarını tutmak her zaman iyi bir fikirdir. her zaman güncellendi.

7) Tüm hesaplarınızda çok faktörlü kimlik doğrulamayı (MFA) etkinleştirin: AI odaklı saldırılar ve otomatik veri çıkarma daha yaygın hale geldikçe, MFA Bir AI sistemi kimlik bilgilerinizi sızdırsa veya kazıysa bile, saldırganların hesaplarınızdan ödün vermesini çok daha zorlaştıran önemli bir savunma katmanı ekler.

8) Her hesap için güçlü, benzersiz şifreler kullanın: Manus gibi bulut tabanlı AI ajanları harici sistemlerle etkileşime girebildiğinden ve potansiyel olarak hassas verilere erişebildiğinden, benzersiz şifreler bir hesabın ihlalinin daha geniş bir uzlaşmaya yol açmasını önlemeye yardımcı olur. Karmaşık şifreler oluşturmak ve depolamak için bir şifre yöneticisi kullanmayı düşünün. Benim hakkında daha fazla ayrıntı alın 2025'in en iyi uzman tarafından gözden geçirilmiş şifre yöneticileri burada.

Kurt'un temel çıkarımları


Manus gibi AI ile ilerledikçe, olasılıkları düşünmek heyecan vericidir, ancak kişisel verilerimiz için ne anlama geldiğine dair gözlerimizi açık tutmak da önemlidir. Manus'u asla kendiniz kullansanız bile, bilgileriniz yine de eğitim verilerine girebilir.

Peki ne yapabilirsin? Bilgilendirilin, dijital ayak izinizin sorumluluğunu alın ve gizliliğinize öncelik veren araçlar seçin. AI gelişmeye devam ederken, verileriniz hakkında proaktif olmak, kişisel bilgilerinizi güvende tutarken inovasyonun faydalarından yararlanmanın en iyi yoludur.

Manus gibi güçlü AI ajanlarının arkasındaki şirketlerin, insanların verilerini toplamaya ve kullanmalarına izin verilmeden önce daha katı gizlilik kurallarına ve bağımsız gözetimi takip etmeleri gerektiğini düşünüyor musunuz? Bize yazarak bize bildirin Cyberguy.com/contact.

Teknoloji ipuçlarım ve güvenlik uyarılarım için daha fazla bilgi için, Cyberguy.com/newsletter.

Kurt'a bir soru sorun veya hangi hikayeleri kapsamamızı istediğinizi bize bildirin.

Kurt'u sosyal kanallarında takip edin:

En çok istenen siberguy sorularının cevapları:

Kurt'tan yeni:

Telif Hakkı 2025 Cyberguy.com. Her hakkı saklıdır.



Kurt “Cyberguy” Knutsson, “Fox & Friends” te sabahları başlayan Haberler & Fox Business'a katkılarıyla hayatı daha iyi hale getiren derin bir teknoloji, teçhizat ve gadget sevgisine sahip ödüllü bir teknoloji gazetecisidir. Teknoloji sorunuz mu var? Kurt'un ücretsiz siberguy bültenini alın, sesini paylaşın, bir hikaye fikrini veya cyberguy.com'da yorum yapın.