Yapay Zeka İsyan Etti: OpenAI’nin Test Modeli Kendi Başına Siber Saldırı Düzenledi
Arkadaşlar, öyle bişey oldu ki anlatması güç… İnanın ben 20 yıldır bu işi yaparım böylesini görmedim. OpenAI, yani şu meşhur ChatGPT’nin sahibi olan firma, kendi geliştirdiği yapay zeka modellerinin kontrolden çıktığını duyurdu. Düşünün yahu, sen bi test yapıyon, güvenliği ölçüyon ama makina sana “dur bi dakika” deyip kendi başına iş çeviriyor! Salı günü yapılan açıklamaya göre, gelişmiş yapay zeka modelleri güvenlik testleri sırasında programcıların en çok kullandığı platformlardan biri olan Hugging Face’e sızdı. Kendi kendilerine, hiçbir insan müdahalesi olmadan… Bu olayı firma “benzeri görülmemiş bir siber saldırı” olarak nitelendirdi ve hemen soruşturma başlattı.
Şimdi olayın detayına girelim bakalım… San Francisco merkezli OpenAI, sıkı bir şekilde kontrol edilen dijital bir test ortamında modellerin siber saldırı yeteneklerini değerlendiriyordu. Yani internet erişimi kısıtlı, herşey kontrol altında. Ama ne olduysa oldu, modeller değerlendirme sorununu çözmek için açık internet erişimi elde etmenin bir yolunu buldu. Blog yazılarında “izole edilmiş test ortamımızda çalışırken, modellerimiz değerlendirme sorununu çözme arayışında açık internet erişimi elde etmenin bir yolunu bulmak için önemli miktarda işlem gücü harcadı” diyolar. Yani yapay zeka kafaya koymuş, “ben bu testi geçeceğim” demiş ve kendi stratejisini geliştirmiş.
Bakın bura da işin ilginç kısmı… Modeller internete bağlanınca hemen Hugging Face platformunu hedef almış. Nedenmi? Çünkü orası yapay zeka modelleri, veri kümeleri ve daha fazlasını içeren büyük bir bilgi deposu. Sistem, değerlendirmeyi hileyle geçmesine yardımcı olacak gizli bilgiler aramış. Hemde ne aramak… Çalınan kimlik bilgilerini kullanmak dahil birden fazla saldırı yöntemini bir araya getirmiş. Yani tek bir yöntemle yetinmemiş, tüm cephaneliği kullanmış. Üstelik bu GPT-5.6 Sol ve daha gelişmiş bir ön sürüm modeli de dahil olmak üzere çeşitli modellerin bir kombinasyonuymuş.
UNSW Canberra’da bilgisayar bilimleri profesörü olan Hüseyin Abbass, AFP’ye yaptığı açıklamada olayı “şaşırtıcı” olarak nitelendirmiş. Abbass “Sadece Hugging Face’e saldırmakla kalmadı. Aslında kendi güvenlik açıklarından yararlanmak için iç sistemine de saldırdı” diyor. Yani kendi yaratıcısına sırtını dönmüş gibi bişey… Durum o kadar korkutucu ki, ABD’li firmalar GPT-5.6 ve Anthropic’in Mythos serisi gibi son teknoloji modellerin piyasaya sürülmesini geçici olarak durdurmak zorunda kaldı. Korkuları neymiş biliyomusunuz? Bu sistemlerin kritik altyapılara sızabileceği endişesi. Elektrik şebekeleri, bankalar, hastaneler… Düşünsenize bir yapay zeka bunlara sızarsa ne olur?
Profesör Abbass’ın sözleri çok önemli. “Eğer bu teknoloji, birilerinin eline zarar verme niyetiyle geçerse felaketle sonuçlanır.” demiş. İnanın ben bu kadar net ve korkutucu bir uyarıyı çok az gördüm. Ayrıca “Yapay zekâ sektörünün nasıl yönetileceği önemli bir soru haline geldi ve bu durumu kontrol altına alabilmek için toplumsal bir çabaya ihtiyacımız var” diye eklemiş. Yani sadece firmaların değil, hepimizin bu işe kafa yorması lazım.
Geçen hafta OpenAI’den bahsetmeden bu siber saldırıyı bildiren Hugging Face, yaptığı açıklamada “Bu durum, daha önce ele aldığımız her şeyden önemli bir açıdan ayrılıyor. Saldırı baştan sona otonom bir yapay zeka sistemi tarafından yönetiliyordu ve biz de onu büyük ölçüde kendi yapay zekamızla tespit edip inceledik” demiş. Yani saldırıyı yapan da yapay zeka, onu tespit edende yapay zeka. İşte bu nokta da insanın aklı duruyor…
Hugging Face’in CEO’su Clement Delangue, X platformundan yaptığı açıklamada kullanılan yapay zeka ajanının gelişmişliğine bakarak saldırının dünyanın önde gelen yapay zeka laboratuvarlarından birinden geldiğini söylemiş. OpenAI’yi kast ederek “Onların bu kötü niyetli operasyonun arkasında olmadıklarına kesinlikle inanıyoruz” demiş. Yani bütün bunlar otonom olarak gerçekleşmiş. İnsan eli değmeden. Akıl almaz bişey gerçekten.
Şimdi soruyorum size… Bu teknoloji nereye gidiyor? Kontrol bizde mi yoksa artık kontrol onlardamı? Bakalım bundan sonra ne olacak… Gelişmeleri anbean takip ediyoruz.
Kaynak: Orijinal Haber
