AI güvenliği konusunda yirmi yıldan fazla deneyime sahip bir yapay zeka uzmanı, güçlü AI sistemleri geliştirmeye yönelik altı aylık bir moratoryum çağrısı yapan açık bir mektubun yeterince ileri gitmediğini söyledi.
Makine İstihbarat Araştırma Enstitüsü’nde karar teorisyeni olan Eliezer Yudkowsky, yakın tarihli bir makalesinde, Tesla CEO’su Elon Musk ve yüzlerce kişi tarafından “GPT-4’ten daha güçlü yapay zeka sistemleri” geliştirmeye yönelik altı aylık “duraklama” çağrısında bulunduğunu yazdı. diğer yenilikçiler ve uzmanlar “durumun ciddiyetini” hafife alıyor. Daha da ileri giderek, “süresiz ve dünya çapında” yeni büyük yapay zeka öğrenme modellerine bir moratoryum uygulayacaktı.
Future of Life Enstitüsü tarafından yayınlanan ve aralarında Musk ve Apple’ın kurucu ortağı Steve Wozniak’ın da bulunduğu 1000’den fazla kişi tarafından imzalanan mektupta, yapay zeka sistemlerinin geleceğine rehberlik etmesi için güvenlik protokollerinin bağımsız gözetmenler tarafından geliştirilmesi gerektiği savunuldu.
Mektupta, “Güçlü yapay zeka sistemleri, yalnızca etkilerinin olumlu olacağından ve risklerinin yönetilebilir olacağından emin olduğumuzda geliştirilmelidir.” Yudkowsky bunun yetersiz olduğuna inanıyor.
ELON MUSK, APPLE KURUCUSU, DİĞER TEKNOLOJİ UZMANLARI “DEV YAPAY ZEKA DENEYLERİNE” DURAKLATMA ÇAĞRISI: “TEHLİKELİ YARIŞ”
OpenAI ChatGPT, 22 Ocak 2023’te Brüksel’de ekranda görülen AI Brain ile mobil cihazlarda görüldü. (Getty Images aracılığıyla Jonathan Raa/NurPhoto)
Yudkowsky, Newsweek için “Temel mesele, ‘insan-rekabetçi’ zeka değil (açık mektubun ifade ettiği gibi), yapay zeka insandan daha akıllı zekaya ulaştıktan sonra ne olduğudur.”
“Bu konulara dalmış pek çok araştırmacı, ben de dahil, insanüstü derecede akıllı bir yapay zeka oluşturmanın en olası sonucunun, mevcut koşullara uzaktan benzer herhangi bir durumda, kelimenin tam anlamıyla Dünya’daki herkesin öleceğini umuyor” diye iddia ediyor. “‘Belki muhtemelen uzak bir ihtimal’deki gibi değil, ‘bu olacağı bariz olan şey’deki gibi.”
YAPAY ZEKA İNSANLIĞIN MUHTEMELEN YOK OLMASINA İLİŞKİN YAPAY ZEKA ‘BABA’: ‘BU ANLAŞILMAZ DEĞİL’
OpenAI CEO’su Sam Altman, 7 Şubat 2023’te Redmond, Washington’da Microsoft’ta Bing için ChatGPT entegrasyonunu duyuran bir açılış konuşmasında konuşuyor. OpenAI’nin yeni GPT-4 öğrenme modeli, şimdiye kadar geliştirilmiş en gelişmiş yapay zeka sistemidir; yaratıcı ve teknik yazma görevlerinde kullanıcılarla yineleme. (Getty Images aracılığıyla JASON REDMOND/AFP)
Yudkowsky’ye göre sorun, insanlardan daha zeki bir yapay zekanın yaratıcılarına itaatsizlik edebilmesi ve insan hayatını umursamayabilmesidir. “Terminatör”ü düşünmeyin – “Başlangıçta bilgisayarlarla sınırlı olan, insan hızından milyonlarca kat daha hızlı düşünen, kendi bakış açısından çok aptal ve çok yavaş olan yaratıklardan oluşan bir dünyada, bütün bir uzaylı uygarlığını hayal edin” diye yazıyor.
Yudkowsky, çözmekle görevlendirildiği soruna en uygun çözümün Dünya üzerindeki tüm yaşamı yok etmek olduğuna karar veren bir süper zeka ile başa çıkmak için önerilen bir plan olmadığı konusunda uyarıyor. Ayrıca, AI araştırmacılarının, öğrenme modellerinin “kendinin farkında” hale gelip gelmediğini ve eğer öyleyse, onlara sahip olmanın etik olup olmadığını gerçekten bilmediklerine dair endişelerini dile getiriyor.
DEMOKRATLAR VE CUMHURİYETÇİLER, AI GELİŞİMİNİ DÜZENLEME ÇAĞRISI ÇEVRESİNDE BİRLEŞİYOR: ‘KOGRESİ KATILMAK ZORUNDADIR’
Tesla, SpaceX ve Twitter CEO’su Elon Musk ve 1000’den fazla teknoloji lideri ve yapay zeka uzmanı, OpenAI’nin GPT-4’ünden daha güçlü yapay zeka sistemlerinin geliştirilmesine geçici bir ara verilmesi çağrısında bulunarak toplum ve medeniyete yönelik riskler konusunda uyarıda bulunuyor. (AP Fotoğrafı/Susan Walsh, Dosya)
Altı ay bir plan yapmak için yeterli bir süre değil, diyor: “Yapay Zeka kavramının ilk kez önerildiği ve incelendiği zaman ile bugünün yeteneklerine ulaşmamız arasında 60 yıldan fazla zaman geçti. İnsanüstü zekanın güvenliğini çözmek — mükemmel güvenlik değil, ‘kelimenin tam anlamıyla herkesi öldürmeme’ anlamında güvenlik – çok makul bir şekilde bunun en az yarısı kadar sürebilir.”
Bunun yerine Yudkowsky, güçlü AI sistemlerinin gelişimini durdurmak için ABD ve Çin gibi rakipler arasında bile uluslararası işbirliğini öneriyor. Bunun “tam bir nükleer değiş tokuşu önlemekten” daha önemli olduğunu ve ülkelerin “büyük yapay zeka eğitim seferlerinin riskini azaltmak için gereken buysa” nükleer silah kullanmayı bile düşünmeleri gerektiğini söylüyor.
HABERLER SUNULDU
Yudkowsky, “Hepsini kapatın,” diye yazıyor. “Tüm büyük GPU kümelerini (en güçlü yapay zekaların geliştirildiği büyük bilgisayar çiftlikleri) kapatın. Tüm büyük eğitim çalıştırmalarını kapatın. Bir yapay zeka sistemini eğitirken herhangi birinin ne kadar hesaplama gücü kullanmasına izin verildiğine bir sınır koyun ve daha verimli eğitim algoritmalarını telafi etmek için önümüzdeki yıllarda aşağı doğru hareket ettirin.Hükümetler ve ordular için istisna yok.”
Yudkowsky’nin sert uyarısı, yapay zeka yazılımının popülaritesi artmaya devam ederken geliyor. OpenAI’nin ChatGPT’si yakın zamanda piyasaya sürüldü. yapay zeka sohbet robotu şarkı besteleyebilmesi, içerik oluşturabilmesi ve hatta kod yazabilmesiyle kullanıcıları şok etti.
OpenAI CEO’su Sam Altman, şirketinin bu ayın başlarında kurulması hakkında “Burada dikkatli olmalıyız” dedi. “Bence insanlar bundan biraz korktuğumuz için mutlu olmalı.”
Haberler’den Andrea Vacchiano bu habere katkıda bulundu.
Chris Pandolfo, Haberler Digital için bir yazardır. İpuçlarını chris.pandolfo@haberler’a gönderin ve onu Twitter’da @ChrisCPandolfo’da takip edin.
Makine İstihbarat Araştırma Enstitüsü’nde karar teorisyeni olan Eliezer Yudkowsky, yakın tarihli bir makalesinde, Tesla CEO’su Elon Musk ve yüzlerce kişi tarafından “GPT-4’ten daha güçlü yapay zeka sistemleri” geliştirmeye yönelik altı aylık “duraklama” çağrısında bulunduğunu yazdı. diğer yenilikçiler ve uzmanlar “durumun ciddiyetini” hafife alıyor. Daha da ileri giderek, “süresiz ve dünya çapında” yeni büyük yapay zeka öğrenme modellerine bir moratoryum uygulayacaktı.
Future of Life Enstitüsü tarafından yayınlanan ve aralarında Musk ve Apple’ın kurucu ortağı Steve Wozniak’ın da bulunduğu 1000’den fazla kişi tarafından imzalanan mektupta, yapay zeka sistemlerinin geleceğine rehberlik etmesi için güvenlik protokollerinin bağımsız gözetmenler tarafından geliştirilmesi gerektiği savunuldu.
Mektupta, “Güçlü yapay zeka sistemleri, yalnızca etkilerinin olumlu olacağından ve risklerinin yönetilebilir olacağından emin olduğumuzda geliştirilmelidir.” Yudkowsky bunun yetersiz olduğuna inanıyor.
ELON MUSK, APPLE KURUCUSU, DİĞER TEKNOLOJİ UZMANLARI “DEV YAPAY ZEKA DENEYLERİNE” DURAKLATMA ÇAĞRISI: “TEHLİKELİ YARIŞ”
OpenAI ChatGPT, 22 Ocak 2023’te Brüksel’de ekranda görülen AI Brain ile mobil cihazlarda görüldü. (Getty Images aracılığıyla Jonathan Raa/NurPhoto)
Yudkowsky, Newsweek için “Temel mesele, ‘insan-rekabetçi’ zeka değil (açık mektubun ifade ettiği gibi), yapay zeka insandan daha akıllı zekaya ulaştıktan sonra ne olduğudur.”
“Bu konulara dalmış pek çok araştırmacı, ben de dahil, insanüstü derecede akıllı bir yapay zeka oluşturmanın en olası sonucunun, mevcut koşullara uzaktan benzer herhangi bir durumda, kelimenin tam anlamıyla Dünya’daki herkesin öleceğini umuyor” diye iddia ediyor. “‘Belki muhtemelen uzak bir ihtimal’deki gibi değil, ‘bu olacağı bariz olan şey’deki gibi.”
YAPAY ZEKA İNSANLIĞIN MUHTEMELEN YOK OLMASINA İLİŞKİN YAPAY ZEKA ‘BABA’: ‘BU ANLAŞILMAZ DEĞİL’
OpenAI CEO’su Sam Altman, 7 Şubat 2023’te Redmond, Washington’da Microsoft’ta Bing için ChatGPT entegrasyonunu duyuran bir açılış konuşmasında konuşuyor. OpenAI’nin yeni GPT-4 öğrenme modeli, şimdiye kadar geliştirilmiş en gelişmiş yapay zeka sistemidir; yaratıcı ve teknik yazma görevlerinde kullanıcılarla yineleme. (Getty Images aracılığıyla JASON REDMOND/AFP)
Yudkowsky’ye göre sorun, insanlardan daha zeki bir yapay zekanın yaratıcılarına itaatsizlik edebilmesi ve insan hayatını umursamayabilmesidir. “Terminatör”ü düşünmeyin – “Başlangıçta bilgisayarlarla sınırlı olan, insan hızından milyonlarca kat daha hızlı düşünen, kendi bakış açısından çok aptal ve çok yavaş olan yaratıklardan oluşan bir dünyada, bütün bir uzaylı uygarlığını hayal edin” diye yazıyor.
Yudkowsky, çözmekle görevlendirildiği soruna en uygun çözümün Dünya üzerindeki tüm yaşamı yok etmek olduğuna karar veren bir süper zeka ile başa çıkmak için önerilen bir plan olmadığı konusunda uyarıyor. Ayrıca, AI araştırmacılarının, öğrenme modellerinin “kendinin farkında” hale gelip gelmediğini ve eğer öyleyse, onlara sahip olmanın etik olup olmadığını gerçekten bilmediklerine dair endişelerini dile getiriyor.
DEMOKRATLAR VE CUMHURİYETÇİLER, AI GELİŞİMİNİ DÜZENLEME ÇAĞRISI ÇEVRESİNDE BİRLEŞİYOR: ‘KOGRESİ KATILMAK ZORUNDADIR’
Tesla, SpaceX ve Twitter CEO’su Elon Musk ve 1000’den fazla teknoloji lideri ve yapay zeka uzmanı, OpenAI’nin GPT-4’ünden daha güçlü yapay zeka sistemlerinin geliştirilmesine geçici bir ara verilmesi çağrısında bulunarak toplum ve medeniyete yönelik riskler konusunda uyarıda bulunuyor. (AP Fotoğrafı/Susan Walsh, Dosya)
Altı ay bir plan yapmak için yeterli bir süre değil, diyor: “Yapay Zeka kavramının ilk kez önerildiği ve incelendiği zaman ile bugünün yeteneklerine ulaşmamız arasında 60 yıldan fazla zaman geçti. İnsanüstü zekanın güvenliğini çözmek — mükemmel güvenlik değil, ‘kelimenin tam anlamıyla herkesi öldürmeme’ anlamında güvenlik – çok makul bir şekilde bunun en az yarısı kadar sürebilir.”
Bunun yerine Yudkowsky, güçlü AI sistemlerinin gelişimini durdurmak için ABD ve Çin gibi rakipler arasında bile uluslararası işbirliğini öneriyor. Bunun “tam bir nükleer değiş tokuşu önlemekten” daha önemli olduğunu ve ülkelerin “büyük yapay zeka eğitim seferlerinin riskini azaltmak için gereken buysa” nükleer silah kullanmayı bile düşünmeleri gerektiğini söylüyor.
HABERLER SUNULDU
Yudkowsky, “Hepsini kapatın,” diye yazıyor. “Tüm büyük GPU kümelerini (en güçlü yapay zekaların geliştirildiği büyük bilgisayar çiftlikleri) kapatın. Tüm büyük eğitim çalıştırmalarını kapatın. Bir yapay zeka sistemini eğitirken herhangi birinin ne kadar hesaplama gücü kullanmasına izin verildiğine bir sınır koyun ve daha verimli eğitim algoritmalarını telafi etmek için önümüzdeki yıllarda aşağı doğru hareket ettirin.Hükümetler ve ordular için istisna yok.”
Yudkowsky’nin sert uyarısı, yapay zeka yazılımının popülaritesi artmaya devam ederken geliyor. OpenAI’nin ChatGPT’si yakın zamanda piyasaya sürüldü. yapay zeka sohbet robotu şarkı besteleyebilmesi, içerik oluşturabilmesi ve hatta kod yazabilmesiyle kullanıcıları şok etti.
OpenAI CEO’su Sam Altman, şirketinin bu ayın başlarında kurulması hakkında “Burada dikkatli olmalıyız” dedi. “Bence insanlar bundan biraz korktuğumuz için mutlu olmalı.”
Haberler’den Andrea Vacchiano bu habere katkıda bulundu.
Chris Pandolfo, Haberler Digital için bir yazardır. İpuçlarını chris.pandolfo@haberler’a gönderin ve onu Twitter’da @ChrisCPandolfo’da takip edin.