Yapay Zeka Gerçekten Anlıyor mu?

 

17'nci yüzyılda yaşamış Alman astronom Johannes Kepler, gezegenlerin güneş etrafındaki hareketlerini büyük bir doğrulukla tahmin edebiliyordu. Ama asıl devrim, Isaac Newton'un evrensel çekim yasalarını formüle etmesiyle geldi. Kepler "ne olacağını" biliyordu, Newton ise "neden olduğunu" açıkladı.

İşte bugün yapay zeka dünyasında da benzer bir soru soruluyor: Yapay Zeka (YZ) sistemleri sadece Kepler gibi mi tahmin ediyor, yoksa Newton gibi gerçekten anlayabiliyor mu?

MIT ve Harvard'dan araştırmacılar, tam da bu soruya yanıt aramak için "inductive bias probe" adında yeni bir yaklaşım geliştirdiler. Araştırmacıların geliştirdiği bu yeni ölçüm metoduyla yaptıkları testlere ilişkin sonuçlar geçtiğimiz günlerde yayınlanan bir makalede ayrıntılı bir şekilde yer aldı.

"Inductive bias" kavramını basitçe açıklamak gerekirse, bir YZ modelinin yeni durumlarla karşılaştığında hangi "tahmin tarzını" kullandığıdır. Tıpkı bir çocuğun birkaç köpek gördükten sonra "dört ayaklı ve havlar" diyerek ilk kez kedi gördüğünde "bu da köpek" demesi gibi, modeller de genelleme yapıyor.

Başka bir örnek daha verelim. Düşünün ki bir çocuğa bardaktan su döküldüğünü gösteriyorsunuz. Çocuk bunu bir kez gördükten sonra, benzer durumları tahmin edebilir hale gelir. Çünkü "sıvı + devrilme = dökülme" gibi temel bir dünya modeli oluşturmuştur. İşte "inductive bias", YZ'nin bu tür temel ilkeleri kavrayıp kavrayamadığını ölçen yeni bir metrik.

Bu metrik, yapay zekanın sadece gördüğü verileri papağan gibi tekrar etmediğini, gerçekten bir "anlama modeli" geliştirip geliştiremediğini test ediyor.

Araştırmacılar bunun için farklı testler geliştirdi.

Bu testlerden biri fizik yasalarıyla ilgiliydi. YZ'ye gezegen hareketlerini öğrettiler ve Newton yasalarını keşfedip keşfetmediğini araştırdılar.

Bu testin sonucuna göre yapay zeka modelleri gezegen yörüngelerini neredeyse kusursuz tahmin edebiliyordu. Ancak bu tahminlerin arkasındaki kuvvet yasalarını sorduklarında, Newton'un çekim yasalarıyla hiç alakası olmayan, tutarsız ve mantıksız açıklamalar ürettiler. Daha da ilginci, farklı veri setleriyle eğitildiklerinde farklı ve yine yanlış fizik yasaları türettiler.

Bu durum bir öğrencinin matematik probleminin cevabını doğru bulması ama çözüm yolunu tamamen yanlış açıklamasına benziyor. Sonuç doğru olabilir, ama gerçek anlayış yoksa, yeni ve farklı problemlerle karşılaşıldığında sistem çöküyor.

Örneğin, Newton fiziğinin temel ilkelerini bilmeden gezegen hareketlerini tahmin eden bir YZ, aynı fizik yasalarının bir elmanın ağaçtan düşmesini ya da gelgitleri açıkladığını anlayamıyor. İnsan zekasının en büyük başarılarından biri olan "genelleme" yeteneği, şu anki YZ modellerinde eksik.

Araştırmacıların yaptığı bir diğer test Othello (Reversi) oyunu. Bu kapsamda modellerin sadece doğru hamleleri değil, tahtanın gerçek durumunu anlayıp anlamadığını test ettiler. Othello testlerinde durum daha da ilginç. Modeller doğru hamleleri mükemmel yapabiliyor ama tahtanın genel durumunu kavrayamıyor. Tıpkı satranç tahtasında bir hamle yapabilen ama oyunun stratejik resmini göremeyen bir oyuncu gibi. YZ modelleri gördükleri örneklere benzer durumlarda başarılı olurken, yeni senaryolara uyum sağlamakta zorlanıyordu.

Bu bulgular özellikle bilimsel araştırmalar için kritik önem taşıyor. YZ sistemleri giderek daha fazla kimyasal bileşiklerin özelliklerini tahmin etmek, protein katlanmasını modellemek veya yeni ilaçlar keşfetmek için kullanılıyor. Ancak eğer bu sistemler gerçek anlayıştan yoksunsa, yaptıkları tahminler yanıltıcı olabilir.

Bir YZ modeli, belirli bir protein yapısını doğru tahmin edebilir, ancak proteinin neden o şekilde katlandığını anlamıyorsa, küçük bir değişiklik tüm tahminleri geçersiz kılabilir. Bu da milyarlarca dolarlık araştırma yatırımlarının boşa gitmesi anlamına gelebilir.

"Inductive bias" değerlendirmesi sadece bir problem tespiti değil, aynı zamanda bir çözüm yolu da sunuyor. Bu yeni metrik sayesinde, YZ geliştiricileri artık modellerinin sadece doğru tahmin yapıp yapmadığını değil, gerçekten anlayıp anlamadığını da test edebilecekler. Bu da gelecekte daha güvenilir ve genellenebilir YZ sistemlerinin geliştirilmesine kapı açıyor.

Bu araştırmanın önemi, sadece teknik bir meraktan ibaret değil. Yapay zekanın bilimsel keşiflerde itici güç olarak kullanılması giderek yaygınlaşıyor. Eğer bu sistemlerin sınırlarını anlamazsak, yanlış yönlendirmelere maruz kalabiliriz.

Bu bulgular daha iyi YZ sistemleri geliştirmek için değerli bir yol haritası sunuyor.

Belki de yapay zeka alanındaki bir sonraki büyük sıçrama, sadece daha büyük modeller yapmak değil, gerçekten "anlayan" sistemler geliştirmekten geçecek.