Yapay zeka lideri OpenAI’nin kurucu ortaklarından biri, insan ırkının yok olmasını önlemek için süper zekanın kontrol edilmesi gerektiği konusunda uyarıda bulunuyor.
“Süper zeka, insanlığın şimdiye kadar icat ettiği en etkili teknoloji olacak ve dünyanın en önemli sorunlarının birçoğunu çözmemize yardımcı olabilir. Ancak süper zekanın muazzam gücü aynı zamanda çok tehlikeli olabilir ve insanlığın güçsüzleşmesine ve hatta yok olmasına yol açabilir.” Ilya Sutskever ve uyum başkanı Jan Leike, Salı günkü bir blog yazısında, bu tür ilerlemelerin bu on yıl içinde gerçekleşebileceğine inandıklarını söylediler.
Bu tür riskleri yönetmenin, yönetişim için yeni kurumlar gerektireceğini ve süper zeka uyumu sorununu çözeceğini söylediler: AI sistemlerinin insanlardan çok daha akıllı olmasını sağlamak “insan niyetini takip eder”.
“Şu anda, potansiyel olarak süper zeki bir yapay zekayı yönlendirmek veya kontrol etmek ve onun haydutlaşmasını önlemek için bir çözümümüz yok. Yapay zekayı hizalamaya yönelik, insan geri bildiriminden pekiştirici öğrenme gibi mevcut tekniklerimiz, insanların yapay zekayı denetleme becerisine dayanıyor. Ancak insanlar bizden çok daha akıllı yapay zeka sistemlerini güvenilir bir şekilde denetleyemeyecek ve bu nedenle mevcut hizalama tekniklerimiz süper zekaya ölçeklenmeyecek” diye yazdılar. “Yeni bilimsel ve teknik atılımlara ihtiyacımız var.”
FBI, AI DEEPFAKES’IN ‘SEXTORSİYON’ ŞEMALARI OLUŞTURMAK İÇİN KULLANILDIĞI KONUSUNDA UYDU
18 Mayıs 2023’te Polonya’da çekilen bu illüstrasyon fotoğrafta, bir ekranda görüntülenen App Store web sitesindeki OpenAI ChatGPT uygulaması ve bir telefon ekranında görüntülenen OpenAI web sitesi görülüyor. (Jakub Porzycki/NurPhoto)
Bu sorunları dört yıl içinde çözmek için yeni bir ekibe liderlik ettiklerini ve bugüne kadar elde edilen bilgi işlem gücünün %20’sini bu çabaya ayırdıklarını söylediler.
“Bu inanılmaz derecede iddialı bir hedef olsa ve başarılı olacağımız garanti olmasa da, odaklanmış, uyumlu bir çabanın bu sorunu çözebileceği konusunda iyimseriz” dediler.
BIDEN YÖNETİCİSİ ‘TELAFİ OLMAZ ZARAR’ İDDİASI, KARAR DURDURMA EMİRİNDEN SONRA BÜYÜK TEKNOLOJİ İLE TOPLANTILARINI SÜRDÜRMEK İSTİYOR
Rus İsrail-Kanadalı bilgisayar bilimcisi ve OpenAI’nin kurucu ortağı ve Baş Bilim İnsanı Ilya Sutskever, 5 Haziran 2023’te Tel Aviv’deki Tel Aviv Üniversitesi’nde konuşuyor. (Getty Images aracılığıyla JACK GUEZ/AFP)
Yeni ekip, ChatGPT gibi mevcut OpenAI modellerini geliştirmeye ve riskleri azaltmaya ek olarak, süper akıllı yapay zeka sistemlerini insan niyetiyle uyumlu hale getirmeye yönelik makine öğrenimi zorluklarına odaklanıyor.
Amacı, onu ölçeklendirmek ve “süper zekayı yinelemeli olarak hizalamak” için çok miktarda bilgi işlem kullanan, kabaca insan düzeyinde otomatikleştirilmiş bir hizalama araştırmacısı tasarlamaktır.
HABERLER SUNULDU
18 Nisan 2023, Berlin, Almanya: OpenAI şirketinin web sitesi bir dizüstü bilgisayarda açık. (Getty Images aracılığıyla Hannes P Albert/resim ittifakı)
Bunu yapmak için OpenAI, ölçeklenebilir bir eğitim yöntemi geliştirecek, ortaya çıkan modeli doğrulayacak ve ardından hizalama boru hattını stres testi yapacak.
Şirketin çabaları Microsoft tarafından desteklenmektedir.
Reuters bu rapora katkıda bulundu.
Julia Musto, Haberler ve Fox Business Digital için bir muhabirdir.
“Süper zeka, insanlığın şimdiye kadar icat ettiği en etkili teknoloji olacak ve dünyanın en önemli sorunlarının birçoğunu çözmemize yardımcı olabilir. Ancak süper zekanın muazzam gücü aynı zamanda çok tehlikeli olabilir ve insanlığın güçsüzleşmesine ve hatta yok olmasına yol açabilir.” Ilya Sutskever ve uyum başkanı Jan Leike, Salı günkü bir blog yazısında, bu tür ilerlemelerin bu on yıl içinde gerçekleşebileceğine inandıklarını söylediler.
Bu tür riskleri yönetmenin, yönetişim için yeni kurumlar gerektireceğini ve süper zeka uyumu sorununu çözeceğini söylediler: AI sistemlerinin insanlardan çok daha akıllı olmasını sağlamak “insan niyetini takip eder”.
“Şu anda, potansiyel olarak süper zeki bir yapay zekayı yönlendirmek veya kontrol etmek ve onun haydutlaşmasını önlemek için bir çözümümüz yok. Yapay zekayı hizalamaya yönelik, insan geri bildiriminden pekiştirici öğrenme gibi mevcut tekniklerimiz, insanların yapay zekayı denetleme becerisine dayanıyor. Ancak insanlar bizden çok daha akıllı yapay zeka sistemlerini güvenilir bir şekilde denetleyemeyecek ve bu nedenle mevcut hizalama tekniklerimiz süper zekaya ölçeklenmeyecek” diye yazdılar. “Yeni bilimsel ve teknik atılımlara ihtiyacımız var.”
FBI, AI DEEPFAKES’IN ‘SEXTORSİYON’ ŞEMALARI OLUŞTURMAK İÇİN KULLANILDIĞI KONUSUNDA UYDU
18 Mayıs 2023’te Polonya’da çekilen bu illüstrasyon fotoğrafta, bir ekranda görüntülenen App Store web sitesindeki OpenAI ChatGPT uygulaması ve bir telefon ekranında görüntülenen OpenAI web sitesi görülüyor. (Jakub Porzycki/NurPhoto)
Bu sorunları dört yıl içinde çözmek için yeni bir ekibe liderlik ettiklerini ve bugüne kadar elde edilen bilgi işlem gücünün %20’sini bu çabaya ayırdıklarını söylediler.
“Bu inanılmaz derecede iddialı bir hedef olsa ve başarılı olacağımız garanti olmasa da, odaklanmış, uyumlu bir çabanın bu sorunu çözebileceği konusunda iyimseriz” dediler.
BIDEN YÖNETİCİSİ ‘TELAFİ OLMAZ ZARAR’ İDDİASI, KARAR DURDURMA EMİRİNDEN SONRA BÜYÜK TEKNOLOJİ İLE TOPLANTILARINI SÜRDÜRMEK İSTİYOR
Rus İsrail-Kanadalı bilgisayar bilimcisi ve OpenAI’nin kurucu ortağı ve Baş Bilim İnsanı Ilya Sutskever, 5 Haziran 2023’te Tel Aviv’deki Tel Aviv Üniversitesi’nde konuşuyor. (Getty Images aracılığıyla JACK GUEZ/AFP)
Yeni ekip, ChatGPT gibi mevcut OpenAI modellerini geliştirmeye ve riskleri azaltmaya ek olarak, süper akıllı yapay zeka sistemlerini insan niyetiyle uyumlu hale getirmeye yönelik makine öğrenimi zorluklarına odaklanıyor.
Amacı, onu ölçeklendirmek ve “süper zekayı yinelemeli olarak hizalamak” için çok miktarda bilgi işlem kullanan, kabaca insan düzeyinde otomatikleştirilmiş bir hizalama araştırmacısı tasarlamaktır.
HABERLER SUNULDU
18 Nisan 2023, Berlin, Almanya: OpenAI şirketinin web sitesi bir dizüstü bilgisayarda açık. (Getty Images aracılığıyla Hannes P Albert/resim ittifakı)
Bunu yapmak için OpenAI, ölçeklenebilir bir eğitim yöntemi geliştirecek, ortaya çıkan modeli doğrulayacak ve ardından hizalama boru hattını stres testi yapacak.
Şirketin çabaları Microsoft tarafından desteklenmektedir.
Reuters bu rapora katkıda bulundu.
Julia Musto, Haberler ve Fox Business Digital için bir muhabirdir.