Bilim insanları, yapay sinir ağlarına dayanan yapay zeka programlarında rastgele ortaya çıkan ve nedeni bilinmeyen hataları ayıklayacak bir sistem geliştirmeyi başardılar. Böylece bazı programlardaki doğruluk payı, yüzde 99’a ulaşabilecek.

Yapay zeka sistemleri yaygınlaştıkça, tehlikeli hata ihtimalleri de artacaktır. Örneğin son zamanlarda Google’ın eğittiği bir yapay zeka programı, plastik bir oyuncak kaplumbağayı bir silah gibi tanımlayarak MIT’deki bilim insanlarının yanılmasına neden olmuştu. Buna benzer bir hatayı bir robot polis ya da asker yapsaydı sonuçlar daha trajik olabilirdi.

Uzmanlar, uzun zamandan beri yapay zekânın kusurlu kararlar almasını engelleyecek bir hata ayıklama programı üzerinde çalışıyorlardı.

Yapay sinir ağları kullanan birçok yapay zekâ programı, sinir ağları arasındaki bağlantıları tekrar tekrar düzenleyerek “öğrenir”. Bir süre sonra sistem, en iyi sinir bağlantı modelini tespit eder. Daha sonra insan beyninin öğrenme prensibini taklit eder ve bunları varsayılan ayarlar olarak kullanmaya başlar.

Bu teknolojinin sıkıntısı, ağların kararı nasıl verdiklerini genelde bilinememesidir. Kolombiya Üniversitesinde bilgisayar bilimleri uzmanı olan Junfeng Yang, böyle durumlarda ortaya çıkan hatanın nereden kaynaklandığını tespit etmenin zorluğunu aşmanın bir yolunu bulmuş görünüyor.

DeepXplore

Hata tespiti üzerine araştırmalar yapan Yang ve ekibi, öğrenme süreçlerini geriye doğru sıralayan bir yapay zeka hata düzeltme programı DeepXplore’u geliştirdiler. DeepXplore, örneğin bir otomobili hatayla yayaların üzerine doğru yönlendiren kamera görüntüsünün hangisini olduğunu tespit edebiliyor. Bunu, hata anında ağdaki hangi nöronların etkin olduğunu izleyip her birini tek tek test eder.

Bazı sürücüsüz araçlar ve bilgisayar, virüs koruma testleri de dahil olmak üzere yapay nöron ağlarıyla yapılan 15 testte DeepXplore, önceki teknolojinin kaçırdığı binlerce hatayı keşfetti. Yapay zeka sistemlerinin doğruluğunu yaklaşık % 1 ila %3 arasında artırarak bazı sistemlerin doğruluk oranının yüzde 99’a varmasını sağladı.

Chicago Üniversitesi’nde bilgisayar bilimcisi olan Shan Lu, DeepXplore tekniğinin, “daha doğru ve daha güvenilir sinir ağları” inşa etmeye yardımcı olabileceğini, birçok bilimsel araştırma disiplinine ve günlük hayatımıza fayda sağlayabileceğini söylüyor.

Çeviren

Abdulkadir Büyükbingöl

Kaynak: Scientific American İnternet sitesi/26/02/2018