Konuyu Değerlendir
  • 0 Oy - 0 Ortalama
  • 1
  • 2
  • 3
  • 4
  • 5
Yapay zeka ne kadar zekidir?
#1
Yapay Zeka (AI) ve Derin Öğrenme gibi makine öğrenme algoritmaları günlük hayatımızın ayrılmaz bir parçası haline gelmiştir: dijital konuşma asistanlarına ya da çeviri hizmetlerine olanak tanır, tıbbi tanılamayı geliştirir ve otonom sürüş gibi gelecekteki teknolojilerin vazgeçilmez bir parçasıdır. Giderek artan miktarda veriye ve güçlü yeni bilgisayar mimarilerine dayanarak, öğrenme algoritmaları bazen yeteneklerini aşan, hatta ötesine geçen insan yeteneklerine ulaşıyor gibi görünmektedir. Sorun: şu ana kadar genellikle, AI sistemlerinin tam olarak nasıl vardığı sonuçlarına tam olarak kullanıcılar tarafından bilinmiyor. Bu nedenle, AI'nın karar verme davranışının gerçekten “akıllı” olup olmadığı veya prosedürlerin sadece ortalama olarak başarılı olup olmadığı genellikle belirsiz kalabilir.


[Resim: 190312103643_1_540x360.jpg]

TU Berlin'den araştırmacılar, Fraunhofer Heinrich Hertz Enstitüsü HHI ve Singapur Teknoloji ve Tasarım Üniversitesi (SUTD) bu soruyu ele aldılar ve mevcut AI sistemlerinde gözlenen çeşitli "istihbarat" spektrumuna bir bakış attılar ve bu AI sistemlerini özellikle yeni bir AI ile analiz ettiler otomatikleştirilmiş analiz ve nicelemeye izin veren teknoloji.

Bu yeni teknoloji için en önemli önkoşul, daha önce TU Berlin ve Fraunhofer HHI tarafından geliştirilen ve AI giriş sistemlerinin kararlarını hangi girdi değişkenlerine göre görselleştirmelerine izin verdiğini belirten Fraunhofer HHI tarafından geliştirilen bir yöntemdir. LRP'yi genişleten yeni Spektral alaka düzeyi analizi (SpRAy) geniş bir yelpazede öğrenilmiş karar verme davranışı tanımlayabilir ve ölçebilir. Bu şekilde, çok büyük veri setlerinde bile istenmeyen karar vermeyi tespit etmek artık mümkün olmuştur.

Bu “açıklanabilir AI”, TU Berlin'de Makine Öğrenimi Profesörü Dr. Klaus-Robert Müller'e göre, AI'nın pratik uygulamasına yönelik en önemli adımlardan biri olmuştur. "Özellikle tıbbi teşhis veya güvenlik açısından kritik sistemlerde, lapa lapa ya da hile yapan problem çözme stratejileri kullanan AI sistemleri kullanılmamalıdır."
Araştırmacılar, yeni geliştirilen algoritmalarını kullanarak nihayet mevcut herhangi bir AI sistemini bir sınamaya koyabilir ve ayrıca onlar hakkında nicel bilgiler elde edebilirler: saf problem çözme davranışından başlayarak, hile stratejilerini son derece ayrıntılı "akıllı" stratejik çözümlere kadar tüm alan gözlendi.
Fraunhofer HHI'nin grup lideri Dr. Wojciech Samek şunları söyledi: “Çok çeşitli öğrenilmiş problem çözme stratejileri bizi çok şaşırttı. Modern AI sistemleri bile her zaman insan bakış açısıyla anlamlı görünen bir çözüm bulamadı, bazen de kullandılar. 'Akıllı Hans Stratejileri' olarak adlandırdı.
Zeki Hans, sözde sayılabilecek ve 1900'lerde bilimsel bir sansasyon olarak kabul edilebilecek bir attı. Daha sonra keşfedildiği gibi, Hans matematiğe hakim değildi, ancak vakaların yaklaşık yüzde 90'ında, soruyu cevaplayan doğru cevabı çıkarmayı başardı.
Klaus-Robert Müller ve Wojciech Samek'in etrafındaki ekip, çeşitli AI sistemlerinde benzer "Zeki Hans" stratejilerini keşfetti. Örneğin, birkaç yıl önce birçok uluslararası görüntü sınıflandırma yarışması kazanan bir AI sistemi, insan bakış açısından naif olarak kabul edilebilecek bir strateji izlemiştir. Görüntüleri esas olarak bağlam temelinde sınıflandırır. Resimde çok fazla su varken resimler "gemi" kategorisine atandı. Raylar mevcutsa diğer görüntüler "tren" olarak sınıflandırılmıştır. Yine de diğer resimlere telif hakkı filigranı ile doğru kategoriye atandı. Bu nedenle, gemi veya tren kavramlarını tespit etmek olan asıl görev, bu AI sistemi tarafından çözülmedi - görüntülerin çoğunluğu doğru bir şekilde sınıflandırılsa bile.

Araştırmacılar ayrıca, bu tür hatalara karşı bağışık olarak kabul edilen derin sinir ağları - algoritmaları gibi bazı gelişmiş yapay sinir algoritmalarında bazı hatalı problem çözme stratejileri bulabilmişlerdir. Bu ağlar, sınıflandırma kararlarını kısmen, görüntülerin hazırlanması sırasında oluşturulan ve gerçek görüntü içeriği ile ilgisi olmayan eserler üzerine temellendirdi.


Klaus-Robert Müller, "Bu tür AI sistemleri pratikte kullanışlı değildir. Tıbbi teşhislerde veya güvenlik açısından kritik alanlarda kullanımları bile büyük tehlikelere neden olur" dedi. “Hali hazırda kullanılmakta olan AI sistemlerinin yaklaşık yarısının bu tür 'Zeki Hans' stratejilerine dolaylı veya açık bir şekilde dayandığı düşünülebilir. Güvenli AI sistemlerinin geliştirilebilmesi için sistematik olarak kontrol etme zamanı geldi.”
Araştırmacılar, yeni teknolojileri ile beklenmedik bir şekilde "akıllı" stratejileri öğrenen AI sistemlerini de belirlediler. Örnekler Atari oyunları Breakout ve Pinball oynamayı öğrenen sistemleri içerir. Wojciech Samek, "Burada AI, oyun kavramını açıkça anlamış ve hedeflenen ve düşük riskli bir şekilde birçok puan toplamanın akıllı bir yolunu bulmuştur. Sistem bazen gerçek bir oyuncunun bile bırakmayacağı şekilde müdahale eder." Dedi.

"AI stratejilerini anlamanın ötesinde, çalışmalarımız yinelemeli veri kümesi tasarımı için, yani bir AI'nın hatalı stratejileri öğrenmesine neden olacak bir veri setindeki artefaktları kaldırmanın yanı sıra hangi etiketlenmemiş örneklerin açıklanması gerektiğine karar verilmesine yardımcı olacak veri kümesindeki artefaktların kullanılabilirliğini belirler. SUTD Yardımcı Doçent Alexander Binder, “AI sisteminin arızalarının azaltılabilmesi için ekledi” dedi.


“Otomasyonlu teknolojimiz açık kaynak ve tüm bilim insanlarına açık. Çalışmamızı AI sistemlerini gelecekte daha sağlam, açıklanabilir ve güvenli hale getirmek için önemli bir ilk adım olarak görüyoruz ve daha fazlasını takip etmek zorunda kalacağız. Bu genel için önemli bir önkoşuldur. AI kullanımı, "dedi Klaus-Robert Müller.

Gelecek Yapay Zeka İle Gelecek
Alıntı


Foruma Git:


Bu konuyu görüntüleyen kullanıcı(lar): 1 Ziyaretçi

Hakkımızda
    Yapay Zeka Forum , Yapay Zekayı Türkiye'ye tanıtmak ve bu alanda Türkçe kaynak sıkıntısını gidermek ve aynı zamanda Yapay Zekaya ilgi duyan tüm kişileri bir araya getirmek amacıyla kurulmuştur.

Yapay Zeka Forum


yapay zeka

,

yapay sinir ağı

,

yapay sinir ağları

,

derin öğrenme

,

makine öğrenmesi