Hile Yapan Yapay Zeka

16 Ocak 2019 07:34 tsi

Yapay zekalar ve makineler gittikçe akıllanıyor. Bu yapay zeka ise biraz farklı şekilde “akıllanmış”; çalışmak zor geldiği için araştırmacılardan bilgi saklayarak hile yapıyor.

Google ve Stanford ortaklığında geliştirilen bu yapay zeka, havadan çekilen fotoğrafları kullanarak Google’ın doğruluğuyla meşhur haritalarını oluşturması (ve tersini yapması) için geliştirildi. Sonuç: “neredeyse fark edilemeyen, yüksek frekanslı sinyallere” veri saklayarak hile yapan bir yapay zeka.

Buradaki temel sorun, bilgisayarın en temel çalışma mantığından kaynaklanıyor: Bir bilgisayara siz ne söylerseniz onu yapar. Bu çalışmada da araştırmacılar, haritaları daha hızlı ve isabetli yapmanın bir yolunu bulması için bir yapay zeka üretiyorlar. CycleGAN adlı bu yapay zeka, X ve Y tipi haritaları deneme yanılma yöntemiyle birbirlerine hızlı ve olabildiğince isabetli şekilde dönüştürmekle yükümlü bir nöral ağ olarak tasarlanıyor.

İlk gelen sonuçlarda yapay zeka oldukça başarılı çıkıyor. Hatta gereğinden fazla başarılı oluyor ve araştırmacıları şüphelendiriyor. Şüpheleri esas çeken şey ise sokak haritası oluşturma sürecinde kaldırılan ışık parlamaları gibi verilerin, sokak haritasından havadan çekime dönüşte yeniden ortaya çıkması oldu. Bunun üzerine yapılan incelemede CycleGAN’ın yaptığı “uyanıklık” ortaya çıkmış oldu.

Yapay zeka temel olarak iki haritayı birbirine dönüştürmek yerine, birini diğerine nasıl gizlice kodlayacağını öğrendi. Bu yüzden de görselleri birbirine dönüştürürken aslında kaybolması gereken detayları da kaydettiği için yakayı ele verdi.

Burada en ilgi çekici olan ise CycleGan’in makine için kolayca fark edilebilen ancak insan gözüyle anlaşılması imkansız olan renk farklılıklarını kullanmayı akıl etmesi. Yapay zeka öyle bir seviyeye gelmiş ki herhangi bir sokak haritasına herhangi bir havadan çekilmiş harita görüntüsünü kodlayabiliyor.

Bu tür nöral ağlarla çalışırken yeterince dikkatli olunmamasının böyle sorunlara yol açması kaçınılmaz. Bilgisayardan bir işi yapmasını isteyip de sınırlarını dikkatle belirlemedikleri her seferinde araştırmacıların böyle sorunlarla karşılaşma riski var.

https://www.webtekno.com/yapay-zeka-verilen-gorevi-tamamlamak-icin-hile-yapti-h60242.html

Bu haber 3,183 defa okundu.

Yorumlar

+ Yorum Ekle

kapat

Değerli okuyucumuz,
Yazdığınız yorumlar editör denetiminden sonra onaylanır ve sitede yayınlanır.
Yorum yazarken aşağıda maddeler halinde belirtilmiş hususları okumuş, anlamış, kabul etmiş sayılırsınız.
· Türkiye Cumhuriyeti kanunlarında açıkça suç olarak belirtilmiş konular için suçu ya da suçluyu övücü ifadeler kullanılamayağını,
· Kişi ya da kurumlar için eleştiri sınırları ötesinde küçük düşürücü ifadeler kullanılamayacağını,
· Kişi ya da kurumlara karşı tehdit, saldırı ya da tahkir içerikli ifadeler kullanılamayacağını,
· Kişi veya kurumların telif haklarına konu olan fikir ve/veya sanat eserlerine ait hiçbir içerik yayınlanamayacağını,
· Kişi veya kurumların ticari sırlarının ifşaı edilemeyeceğini,
· Genel ahlaka aykırı söz, ifade ya da yakıştırmaların yapılamayacağını,
· Yasal bir takip durumda, yorum tarih ve saati ile yorumu yazdığım cihaza ait IP numarasının adli makamlara iletileceğini,
· Yorumumdan kaynaklanan her türlü hukuki sorumluluğun tarafıma ait olduğunu,
Bu formu gönderdiğimde kabul ediyorum.