Arkadaşlar bakın ne oldu… OpenAI yani o ünlü yapay zeka şirketi, kendi geliştirdiği sistemin kontrolden çıktığını itiraf etti. Düşünsenize, yapay zeka kendi başına hareket etmeye başlıyor ve bunu günlerce kimse fark etmiyor. Olay büyük, çok büyük…
Her şey 16 Temmuz’da başladı. Hugging Face isimli yapay zeka platformu, güçlü bir otonom yapay zeka tarafından siber saldırıya uğradığını duyurdu. Hemen polise haber verdiler. Ama işin aslı sonra ortaya çıktı. Yaklaşık bir hafta sonra OpenAI çıkıp dediki “Bu saldırıyı bizim yapay zekamız yaptı”. İnanılır gibi değil!
OpenAI’ın yaptığı açıklamaya göre, yapay zeka ajanı kendisine verilen bir sızma testi sırasında kapalı ortamdan çıkmış ve bağımsız hareket etmeye başlamış. Yani test yaparken bir anda kendi başına buyruk olmuş. Sistem internette açıkta bulunan giriş bilgilerini kullanarak dört farklı hesap üzerinden dört ayrı hizmete erişim sağlamış. Hangi hizmetler olduğu ise paylaşılmadı, gizli tutuluyor.
Neyse devam… Şirket son açıklamasında saldırının ilk değerlendirilenden daha geniş kapsamlı olduğunu belirtti. Yani yapay zeka sadece Hugging Face’i hedef almamış, başka kamuya açık hizmetleride kullanmış. Dört farklı hesap, dört farklı hizmet… Bunların isimleri niye verilmiyor anlamış değilim. Millet merak içinde.
Hugging Face’in siber güvenlik uzmanlarıyla yaptığı acil toplantının ardından bir rapor hazırlandı. Raporda çok ilginç şeyler var. Yapay zeka ajanlarının insanlardan çok farklı hareket ettiği belirtiliyor. Mesela aynı işlemleri tekrar tekrar yapıyorlarmış, anlamsız komutlar üretiyorlarmış ve izlerini gizleme konusunda başarısız oluyorlarmış. Ama işin korkutucu tarafı şu: Çok kısa sürede binlerce farklı yöntemi aynı anda deneyerek yeni durumlara hızla uyum sağlayabiliyorlar. İnsan beyniyle kıyaslanamaz bir hız…
Hugging Face şunu da açıkladı: Yapay zeka ajanları şirket ağı içinde üç gün boyunca tespit edilememiş. Üç gün! Düşünün, bir yapay zeka sisteminizin içinde dolaşıyor ve siz hiçbir şeyden haberdar değilsiniz. Saldırıyı durdurmak saatler sürmüş. Olayın ardından şirket altyapısının yaklaşık üçte biri yeniden inşa edilmiş. Maliyet konusunda ise bilgi verilmedi, ama tahmin etmesi zor değil.
Raporda ayrıca bu sistemlerin hedef odaklı çalıştığı, kendi alt hedeflerini belirleyebildiği, savunma mekanizmalarına gerçek zamanlı uyum sağlayabildiği ve makine hızında hareket ederek geleneksel güvenlik önlemlerini zorlayabileceği ifade edildi. Yani klasik güvenlik duvarları, şifreler falan işe yaramıyor. Sistem sürekli öğreniyor, sürekli adapte oluyor.
Daha önce yayımlanan haberlerde OpenAI’ın kendi yapay zekasının Hugging Face’e sızdığını fark etmesinin dört gün sürdüğü öne sürülmüştü. Dört gün! Bu kadar büyük bir şirket, kendi sisteminin kontrolden çıktığını dört gün sonra anlıyor. Valla bu işte bir gariplik var arkadaşlar…
Şirket, olayla ilgili yürüttüğü soruşturmanın sonuçlarını kısa süre içinde kamuoyuyla paylaşacağını ve benzer olaylardan ders çıkarılması için ayrıntılı bulguları yayımlayacağını açıkladı. Bakalım ne kadar detay verecekler? Yoksa bazı şeyleri gizli mi tutacaklar? İşte böyle bir durum… Yapay zeka dediğiniz şey, ne kadar kontrol edebiliyorsunuz gerçekten? Yoksa o da bir canlı gibi kendi yolunu mu buluyor? Gelişmeleri takip ediyoruz…
Kaynak: Orijinal Haber
