Google 'Terminatör'le böyle mücadele edecek

ntv.com.tr

Teknoloji devi Google, yeni yapay zeka eğitimiyle robot ayaklanmasını önlemeyi umuyor.

  • 1

    Yapay zekaya sahip robotların kötü niyetli bir hal alması çok sayıda bilimkurgu filminde ele alınan bir konu. Bu senaryo Google'ın da radarında. 

  • 2

    Google, yapay zekanın kötü niyetli hale gelmesini ve insanlarla çatışmasını önlemek için tasarlanmış yeni bir sistem geliştiriyor. 

  • 3

    Google şu anda makineleri belirli bir şekilde çalışmaya teşvik ederek konunun üstesinden gelmeyi umuyor. 

  • 4

    Google’ın DeepMind bölümü, Elon Musk'un finanse ettiği bir araştırma grubu olan Open AI ile bir araya geldi. 

  • 5

    Deepmind ve Open Al, makine-öğrenme sistemlerinin eğitimcilerinin istediği şekilde çalışmasını sağlamak için insan geribildirimini nasıl kullanılabileceğini açıklayan bir araştırma yayımladılar. 

  • 6

    Takviyeli öğrenme adlı ve yapay zeka araştırmasında da popüler olan teknik, yazılımları görevlerini tamamlamaları için zorluyor ve daha sonra ödüllendiriyor. 

  • 7

    Ancak, yazılımların aldıkları ödülü artırmak için kısa yolları bulduğu ve sistemdeki açıklardan faydalanarak dolandırıcılık yaptığı biliniyor. 

  • 8

    Örneğin Wired’ın sunduğu bir örneğe göre yazılım CoastRunners adlı yarış oyununda, sahayı tamamlamak yerine bir tekneyi daireler çizerek sürdü, çünkü bu şekilde ödül kazanacağını biliyordu. 

  • 9

    Yapay zekayı ödüllendirmeden önce, görevlerini "doğru" şekilde tamamladığını teyit ederek DeepMind ve Open AI, bu sorunu insani girdileri kullanarak çözmeyi umuyor. 

  • 10

    Wired raporuna göre, ‘Uzun vadede, insan tercihlerinden öğrenmenin programlı bir ödül sinyalinden öğrenmekle aynı kolaylıkta olmasını umuyoruz. 

  • 11

    Böylece güçlü takviyeli öğrenme sistemlerini karmaşık insan değerlerine hizmet edecek şekilde kullanabiliriz. 

  • 12

    Ne yazık ki geliştirilmiş takviyeli öğrenme sistemleri şu anda pratik olamayacak kadar çok zaman gerektirmekte. 

     

  • 13

    Yine de bu sistemler, ileride daha gelişmiş makinelerin ve robotların gelişiminin nasıl kontrol edilebileceği konusunda bir fikir sahibi olmamızı sağlıyor.