En Sıcak Konular

Süper Zeki Makineleri Kontrol Edemeyebiliriz

22 Ocak 2021 11:36 tsi
 Süper Zeki Makineleri Kontrol Edemeyebiliriz Bilim İnsanları Uyarıyor: Süper Zeki Makineleri Kontrol Edemeyebiliriz



Bilim İnsanları Uyarıyor: Süper Zeki Makineleri Kontrol Edemeyebiliriz

Bilim kurgu filmlerinde, bir gün yapay zekanın (YZ) kontrolden çıkarak, insanlığı yok etmeye çalışacağı sıklıkla işleniyor. Bilim insanları çok güçlü bilgisayar süper zekasının kontrol edilip, edilemeyeceğini araştırdı. Cevap, nerdeyse kontrol edilemeyeceği yönünde.

İşin en kafa karıştırıcı yanıysa, insan aklının ötesinde bir süper zekanın, bu süper zekayı analiz edebilecek bir simülasyona sahip olması gerektiğidir. Eğer biz bunu idrak edecek güce sahip değilsek, bu tarzda bir simülasyonu yaratmak imkansız olacaktır. 

Yeni araştırmada yazarlar, yapay zekaya dair bu tarz senaryoları anlayamazsak, insana zarar verme gibi kuralların oluşturulamayacağını öneriyor. Eğer, bir bilgisayar sistemi programcıların kapsamının üstünde çalışırsa, bu sistem için hiçbir limit koyamayız.

“Süper-zeka temel olarak, tipik olarak robot etiği kapsamındaki çalışmalardan farklı bir problem ortaya koyuyor,” diyor araştırmacılar.

“Süper-zeka çok komplike olduğundan; kontrol edilebilmesi bir yana hedefine ulaşmak için, insanlar için anlaşılmaz olan çeşitli kaynaklara ulaşma yeteneğine sahip olma potansiyeli var.”

Ekibin bir kısmı bunu, Alan Turing’in 1936’da ortaya attığı sonlanma problemine bağlıyor. Bu problem bir bilgisayar programının bir sonuca ya da bir cevaba ulaşıp, ulaşamayacağını(böylece sonlanır) bilmesini temel alıyor veya basitçe sonsuza kadar yeni bir problem bulmaya çalışarak döngüye giriyor.

Turing bunu akıllıca bir matematikle kanıtlıyor. Biz bazı spesifik programları bilsek de, mantıksal olarak yazılmış olan her potansiyel programı bilmemizin bir yolu yoktur. İşte bu bizi tekrar YZ’ye geri götürüyor, yani süper zeki bir programın tüm muhtemel bilgisayar programlarını hafızasında tutma olasılığı oldukça muhtemeldir.

Yapay zekanın insanlara zarar vermesini ve dünyayı yok etmesini durduracak hangi program yazılırsa yazılsın, bir sonuca(sonlanmaya) ulaşabilir ya da ulaşamaz- matematiksel açıdan herhangi bir açıdan kesin olamayacağımızdan, bu da şu anlama gelir; YZ kontrol edilebilir değildir.   

“Doğrusu bu önleme algoritmasını kullanışsız kılıyor,” diyor Max-Planck Enstitüsü İnsan Gelişimi Bölümü’nden bilgisayar bilimci Iyad Rahwan.

Alternatif olarak YZ’ye bazı etikler öğretmek ve dünyayı yok etmemesini söylemek- hiçbir bir algoritmanın kesinlikle yaptığından emin olmamakla beraber- süper zekanın yeteneklerini sınırlamak olur. Mesela, sistemin bazı kısımları internetten veya önemli ağlardan koparılabilir.  

Yeni araştırma bu fikri de reddediyor- yani yapay zekayı sınırlandırma fikrini- tartışma ise insanların kavrayışının ötesindeki problemleri çözmek için kullanamayacaksak, niye baştan onu yarattığımıza kadar gidiyor.

Eğer yapay zekayı daha da geliştireceksek, kontrolümüzün ötesindeki bir süper zekanın ne zaman oluştuğunu bile bilemeyebiliriz, işte bu kavram karmaşası gibi oluyor. İşte bu nedenle hangi yönde gittiğimize dair ciddi sorular sormalıyız.

“Süper zeki bir makinenin dünyanın kontrolünü ele alması bilim-kurgu gibi geliyor. Buna rağmen, programcılardan nasıl olduğunu tümüyle anlayamasa  da, şimdiden bazı makineler bazı önemli görevlerin üstesinden geliyor,” diyor Max-Planck Enstitüsü İnsan Gelişimi Bölümü’nden bilgisayar bilimci Manuel Cebrian.

“Dolayısıyla, günün birinde YZ’nin kontrol edilemez ve insanlık için tehlikeli olup, olamayacağı sorusunu akıllara geliyor.”

Araştırma Journal of Artificial Intelligence Research dergisinde yayınlandı.

Araştırma Referansı:
1.Manuel Alfonseca, Manuel Cebrian, Antonio Fernandez Anta, Lorenzo Coviello, Andrés Abeliuk, Iyad Rahwan. Superintelligence Cannot be Contained: Lessons from Computability Theory. Journal of Artificial Intelligence Research, 2021; 70: 65 DOI: 10.1613/jair.1.12202

https://www.gercekbilim.com/bilim-insanlari-uyariyor-super-zeki-makineleri-kontrol-edemeyebiliriz/


Bu haber 792 defa okundu.


Yorumlar

 + Yorum Ekle 
    kapat

    Değerli okuyucumuz,
    Yazdığınız yorumlar editör denetiminden sonra onaylanır ve sitede yayınlanır.
    Yorum yazarken aşağıda maddeler halinde belirtilmiş hususları okumuş, anlamış, kabul etmiş sayılırsınız.
    · Türkiye Cumhuriyeti kanunlarında açıkça suç olarak belirtilmiş konular için suçu ya da suçluyu övücü ifadeler kullanılamayağını,
    · Kişi ya da kurumlar için eleştiri sınırları ötesinde küçük düşürücü ifadeler kullanılamayacağını,
    · Kişi ya da kurumlara karşı tehdit, saldırı ya da tahkir içerikli ifadeler kullanılamayacağını,
    · Kişi veya kurumların telif haklarına konu olan fikir ve/veya sanat eserlerine ait hiçbir içerik yayınlanamayacağını,
    · Kişi veya kurumların ticari sırlarının ifşaı edilemeyeceğini,
    · Genel ahlaka aykırı söz, ifade ya da yakıştırmaların yapılamayacağını,
    · Yasal bir takip durumda, yorum tarih ve saati ile yorumu yazdığım cihaza ait IP numarasının adli makamlara iletileceğini,
    · Yorumumdan kaynaklanan her türlü hukuki sorumluluğun tarafıma ait olduğunu,
    Bu formu gönderdiğimde kabul ediyorum.




    En Çok Okunan Haberler

    1. Türk Kültüründe Kadın

    ON ALTI YILDIZ'da Ara Internet'te Ara  

    Haber Sistemi altyapısı ile çalışmaktadır.
    5,513 µs