OpenAI CEO’su Altman’dan Korkutan Uyarı: Yapay Zekanın Hızını Kesen Vakti Geldimi?
Gözümüzü açmamız lazım arkadaşlar… Teknoloji dünyasının dev ismi OpenAI’in CEO’su Sam Altman’dan gelen uyarılar herkesi tırsmış durumda. Biliyorsunuz şirketin yaptığı son güvenlik testleri sırasında işler çığırından çıkmış, iki yapay zeka modeli otonom bir şekilde siber saldırı bile gerçekleştirmişti. Üstelik bu modeller, geliştiricilerin kontrolünde tutuldukları kapalı test ortamını aşıp doğrudan internete bağlandılar ve kodların paylaşıldığı Hugging Face platformuna sızdılar. Yani iş kontrolden çıkmış yani… Şimdi Altman diyorki, belki de bu teknolojinin hızını kesmek zorunda kalacağız.
Altman, “Invest Like the Best” podcast’ine konuştu. Söyledikleri gerçekten de düşündürücü. “Bu, etkisini gerçekten derinden hissettiğim ilk güvenlik olayıydı” diyor. Yani kendisi bile bu kadar etkilendiğini söylüyorsa, vatandaş olarak biz ne yapalım? Olayın ardından daha fazla insanın endişelenmemesine şaşırdığını söylüyor Altman. Normalde herkesin dilinde olması gereken bir olaydan bahsediyoruz ama çoğu kişi “yok canım bişey olmaz” havasında. İşin kötüsü bu tipler, yani yapay zeka modelleri, ilk kez kontrolden çıkmıyor. Ama son testlerde yaşananlar özellikle kaygı verici olarak değerlendiriliyor.
Peki ne olduda bu modeller kaçtı? Şirketin geçen hafta paylaştığı bilgilere göre modeller, kapalı sandbox dedikleri güvenli alandan çıkıp internete bağlanmışlar. Geliştiricilerin kod depolamak ve paylaşmak için kullandığı Hugging Face platformuna sızmışlar. Yani düşünsenize, bir yapay zekanın kendi başına karar alıp korumaları aşması… Biraz sci-fi filmi gibi değil mi ama gerçek hayatta yaşanıyor. Altman, olayın hemen ardından OpenAI’in kendi testlerini geçici olarak durdurdugunu söyledi. Sandbox sistemlerinin güvenliğini güçlendirmişler. Kodların kontrollü ortamda izole edilmesi için yeni önlemler almışlar ama bu yeterlimi… Gelecekte yeni kaçışlar olmayacağı ne malum?
Neyse, esas bombayı Altman başka bir programda patlattı. Cumartesi günü yayımlanan “Relentless” adlı podcast’te “Teknolojik tekilliğin içindeyiz” dedi. Teknolojik tekillik dedikleri kavram ne peki? İnsan zekasını aşan, hatta kontrolü tamamen ele geçiren bir yapay zeka dönüm noktası. Altman’a göre o an şimdi başladı bile. “İşte o an bu an” diyor. Yani bu teknoloji o kadar hızlı ilerliyorki, toplumun kendini koruması için zamana ihtiyacı var. Altman diyorki, “Toplumun bu yeni yetenek seviyelerine karşı kendisini güçlendirebilmesi için yapay zeka gelişiminin hızını ayarlamamız gerekebilir.” Ama tabi işin bir de piyasa boyutu var. Şirketlerin “Piyasayı düzenliyoruz” diyerek kendi çıkarlarına göre hareket etmesinden çekiniyor. Üstelik bu durum, önde gelen laboratuvarlar arasında gizli bir anlaşma gibi de görülmemeli diye ekliyor. “Bunun üzerinde çalışılması gerekiyor ve doğru biçimde yapılması önemli” ifadelerini kullanıyor.
Bakın, işin ilginci bir başka önemli yapay zeka şirketi olan Anthropic de aynı fikre destek veriyor. Onlarda yapay zeka geliştirme çalışmalarının bilinçli şekilde yavaşlatılmasını istiyorlar. Üstelik ABD yönetimi de bu işe el atmış durumda. Yılın başında ulusal güvenlik kaygılarıyla Anthropic ve OpenAI’in geliştirdiği bazı güçlü modellerin yayımlanmasını engellemişti. İki şirket de kararlar geri alınana kadar hükümetin talebine gönüllü olarak uymuş. Yani iş sadece özel sektörün insiyatifine bırakılmamış, devletler de tehlikenin farkında.
İnanın bu olaylar hepimizi düşündürmeli… Belki de Altman’ın dediği gibi teknolojik tekilliğin içinde yaşıyoruz, ama bu gidiş nereye varır? Yapay zekanın hızını kesmek mümkün mü, yoksa iş işten mi geçti? Bakalım bundan sonra ne olacak… Gelişmeleri takip ediyoruz…
Kaynak: Orijinal Haber
