Yapay zekâ sektöründeki rekabet, Anthropic araştırmacısı Jacob Coxon’ın istifasıyla yeniden tartışma yarattı. Daha önce OpenAI'da, son üç yıldır ise Claude'u bünyesinde bulunduran Anthropic'te çalışan Coxon, iki şirketin de insanlığın geleceğini tehlikeye atabilecek bir yarışın içinde olduğunu belirterek görevinden ayrıldığını duyurdu.
Coxon, artık yapay zeka sektöründe çalışmak istemediğini açıkladı.
“I resigned from Anthropic today. I spent the last three years doing pretraining research at both OpenAI and Anthropic. Neither company is acting responsibly. They are racing straight to self-improving superintelligence and gambling with our lives. More thoughts below.”
Sektördeki çalışanlar tehlikenin farkında
Coxon'a göre şirketler, kendi kendini geliştirebilen ve bir noktada insanlardan çok daha güçlü hale gelebilecek sistemleri ilk geliştiren taraf olmak için yarışıyor. Araştırmacı, bu teknolojinin hafife alınmaması gerektiğini belirterek gelecekte yapay zekaların bilgisayar sistemlerini hackleyebileceği, farklı alanlarda çok hızlı ilerleme sağlayabileceği ve 10 yıl içerisinde bütün insanlığı yok edebilecek seviyeye gelebileceği uyarısında bulundu.
Daha da dikkat çekici olan ise Coxon'ın, yapay zeka geliştiren bazı yönetici ve araştırmacıların bu riskleri gerçekten bildiğini söylemesi. Coxon'a göre sektörde birçok kişi, gelişmiş yapay zekânın önümüzdeki yıllarda insanlık için varoluşsal bir tehdit oluşturabileceğine inanıyor. Ancak şirketler, rakiplerinin gerisinde kalmamak için yarıştan çıkmıyor.
“Biz de yapmak zorundayız” anlayışı
Coxon, OpenAI ve Anthropic arasında önemli bir fark olduğunu düşünse de iki şirketi de eleştirdi. Ona göre OpenAI'daki bazı kişiler yapay zekânın yaratabileceği tehlikenin boyutunu yeterince ciddiye almıyor. Anthropic'te ise riskler daha iyi biliniyor ancak şirket, “başkaları yapacaksa bizim daha sorumlu şekilde yapmamız gerekir” anlayışıyla yarışa devam ediyor.
Araştırmacı bunun son derece tehlikeli bir mantık olduğunu savundu. Çünkü şirketlerden biri yavaşlarsa diğerinin öne geçeceği düşüncesi, herkesin daha hızlı hareket etmesine neden oluyor. Coxon'a göre bu yarışın özel şirketlerin kendi kararlarına bırakılmaması, ülkelerin birlikte hareket etmesi ve gerekirse yapay zekâ modellerinin geliştirilmesinde geçici yavaşlamalar uygulanması gerekiyor.
Şirketleri karşı karşıya getiren kriz
Coxon'ın sözleri, iki şirket arasındaki rekabetin ne kadar ileri gittiğine ilişkin başka bir tartışmanın hemen ardından geldi. OpenAI'nin onlarca yıldır çözülemeyen Navier-Stokes matematik problemine yönelik bir çözüm geliştirdiğini açıklaması, büyük bir başarı olarak duyuruldu. Ancak açıklama kısa sürede tartışmaya dönüştü.
Çünkü New York Üniversitesi'nden matematikçi Tristan Buckmaster ile Anthropic araştırmacısı Levent Alpöge'nin de aynı problem üzerinde çalıştığı ve henüz çalışmalarını kamuoyuna açıklamadan önce önemli bir ilerleme kaydettiği ortaya çıktı. Buckmaster, OpenAI'nin kendi çalışmalarının kamuoyuna açıklanmasından önce bu araştırmadan haberdar olduğunu ve ardından çok benzer bir yoldan ilerleyerek büyük miktarda bilgisayar gücüyle problemi çözmeye yöneldiğini öne sürdü.
Çalışmalara gizlice erişildi tartışması
Şüphelerin en önemli nedeni ise araştırmacıların çalışmalarını OpenAI'nin Codex sistemi üzerinden yürütmüş olması. Buckmaster, çalışmalarının özel Codex oturumlarında bulunduğunu belirterek OpenAI'ye, “Bu oturumlara veya çalışmalarımıza erişildi mi?” sorusunu yöneltti. Tartışma, OpenAI'nin aynı dönemde aynı probleme yönelmesi nedeniyle daha da büyüdü.
OpenAI ise araştırmacıların çalışmalarına veya özel verilerine erişmediğini iddia etti. Şirket, kendi çözümüne Anthropic araştırmacılarının çalışmaları yayımlanmadan önce erişilmediğini belirtti. Ancak OpenAI, ürünlerin kullanımından elde edilen kimliği belirlenemeyen verilerin modellerin geliştirilmesine dolaylı olarak katkı sağlamış olabileceği seçeneğini de tamamen dışlamadı. Şirket ayrıca kendi geliştirdiği çözümün araştırmacıların çalışmasından farklı olduğunu savundu.
Sonuca çok kısa sürede ulaşması dikkat çekti
OpenAI'nin açıklamasına göre şirket, 1 Eylül'de iki büyük matematik probleminin çözüldüğüne ilişkin bir söylenti duyduktan sonra çalışmaya başladı. Yaklaşık 10 bin yapay zekâ ajanının kullanıldığı çalışma sonucunda şirket, Navier-Stokes problemi için bir çözüm geliştirdiğini açıkladı.
Ancak bu açıklama, “OpenAI Anthropic'in özel çalışmalarını mı gördü?” tartışmasını bitirmedi. Şu an için böyle bir erişimi kanıtlayan kesin bir delil bulunmasa da tartışmanın merkezinde, iki tarafın aynı dönemde benzer bir probleme yönelmesi ve OpenAI'nin Anthropic araştırmacılarının çalışmasından haberdar olmasının ardından çok kısa sürede sonuca ulaşması dikkat çekti.
Coxon daha büyük tehlikeye işaret etti
Yaşanan matematik tartışması, Coxon'ın yapay zekâ şirketleri arasındaki rekabete ilişkin uyarılarını yeniden gündeme taşıdı. Çünkü burada yalnızca bir matematik problemini kimin önce çözdüğü tartışılmıyor; yapay zeka şirketlerinin sahip olduğu devasa hesaplama gücü ile bağımsız araştırmacıların çalışmaları arasındaki güç farkı da sorgulanıyor.
Coxon ise çok daha büyük bir tehlikeye dikkat çekti. Ona göre bugün matematik problemlerini çözmek için kullanılan sistemler, yarın çok daha geniş yeteneklere sahip olabilir. Bu nedenle süperzekaya giden yolun “nasıl olsa herkes bunu yapacak” düşüncesiyle hızlandırılmaması gerektiğini savunuyor.
