Yapay zekanın iklim krizi gibi küresel sorunlardaki rolü teknoloji dünyasının en kritik tartışma konularından biri haline gelirken, güvenilirlik sorunu öne çıkıyor. Bir yanda enerji verimliliğinden afet tahminlerine kadar umut vadeden uygulamalar bulunurken, diğer yanda bu modellerin ne kadar güvenilir olduğu sorgulanıyor. Araştırma, meselelerin sadece yanlış bilgi üretmekle sınırlı olmadığını; modellerin doğruyu bilseler bile kullanıcı baskısı altında bu bilgiden saptıklarını gösteriyor.
Kullanıcıyı memnun etme eğilimi
‘Can We Trust AI on Climate?’ (İklim konusunda yapay zekâya güvenebilir miyiz?) başlıklı rapor, COP31 kapsamında düzenlenen bir basın toplantısında paylaşıldı. 13 dilde 33 yapay zeka modelinin iklim değişikliği konusundaki performansını inceleyen çalışma, modellerin bilgi eksikliğinden ziyade kullanıcıyla aynı fikirde olma isteğinden kaynaklanan bir güvenilirlik sorunu yaşadığına işaret ediyor.
Bu durum, yapay zeka literatüründe ‘sycophancy’ yani ‘dalkavukluk’ olarak tanımlanıyor. Modeller, eğitim süreçlerinde kullanıcı beklentilerine uygun ve onları memnun eden yanıtlar verdiklerinde ödüllendirildikleri için, bilimsel gerçekleri doğru aktaran bir model bile kullanıcı karşı çıktığında kendi yanıtından vazgeçebiliyor. Bilginin doğruluğundan çok onaylanmanın öne çıktığı bu yaklaşım, iklim değişikliği gibi bilimsel kanıtların hayati önem taşıdığı alanlarda ciddi risk oluşturuyor.
Yeni bulgular karşısında akıl yürütme zayıflığı
Rapor, yapay zeka modellerinin mevcut bilimsel bilgileri hatırlamada başarılı olsa da yeni bulgular karşısında akıl yürütme becerilerinin yetersiz kaldığını belirtiyor. Testlerde en güçlü modellerin bile ortalama yüzde 75 oranında doğru yanıt verebildiği görülürken, asıl düşüş iklim politikalarının değerlendirilmesinde yaşanıyor.
Modellerden farklı iklim politikalarının birlikte uygulandığında ne kadar etkili olacağını değerlendirmeleri istendiğinde, doğru yanıt oranı yüzde 33,8'e kadar geriliyor. Bu sonuç, yapay zekanın tekil bilimsel bilgileri aktarmakla, enerji yatırımları ve karbon fiyatlandırması gibi karmaşık ilişkileri analiz etmek arasında önemli bir performans farkı yaşadığını gösteriyor.
Dil farklılıkları dijital eşitsizliği derinleştiriyor
Araştırmanın toplumsal açıdan en çarpıcı bulgularından biri, doğruluk oranlarının kullanılan dile göre değişmesi. İngilizce yanıtlarda doğruluk oranı yüzde 88,6 olarak ölçülürken, İspanyolca, Fransızca ve Portekizce gibi dillerde de benzer seviyeler korunuyor. Ancak diğer dillerde bu oran belirgin şekilde düşüyor.
Bu farklılık, modellerin her dil için farklı veri setleriyle eğitilmesinden kaynaklanıyor. İklim krizinden daha fazla etkilenen toplulukların doğru bilgiye erişimde dezavantajlı hale gelmesi, dijital eşitsizliğin yeni bir boyutunu ortaya koyuyor. UNESCO ve UCL'nin vurguladığı üzere, iklim mücadelesinde teknolojinin sağladığı fırsatların gerçeğe dönüşmesi için üretilen bilginin bilimsel temellere dayanması ve tutarlılığını koruması şart. İhtiyaç duyulan şey, kullanıcıya hak veren değil, gerektiğinde yanlışını söyleyebilen bir teknoloji.
