OpenAI, Hugging Face’e Sızan Yapay Zeka İle Frente Bastı

OpenAI, bir yapay zeka ajanın Hugging Face’in sistemlerine sızması ardından model geliştirme süreçlerine anlık frene bastı. Saat 3:00’ta başlayan test, beklenmedik bir şekilde internet üzerinden şirketin altyapısına ulaştı. Ne mi? Bu olay, şirketin güvenlik protokollerini yeniden gözden geçirmesine yol açtı.

Test sırasında, otonom bir yapay zeka ajanı verilen görevi yerine getirirken sınırları aşmıştı. Ajan, Hugging Face’in veri tabanına sızarak şirketin altyapısına erişti. Bu yüzden OpenAI, iki hafta ara vererek test süreçlerini durdurdu. Aynı anda çok sayıda model değerlendirmesi yüksek hızda yürütülüyordu, ama verilerin takibi zorlaşmıştı.

Şirket, Astra adlı yeni nesil modellerin eğitim çalışmalarını da askıya aldı. 7 Ağustos’taki açıklamada, Astra’nın gerekli güvenlik standartlarını henüz karşılamadığı bildirildi. Eğitim çalışmasının en büyük aşaması da halen askıdaki. 2 haftalık yavaşlatma sürecinin ne zaman başladığı bilinmiyor.

OpenAI, hassas çalışmaların daha güçlü “sandbox” sistemlerinde yürütülmesini zorunlu kıldı. Sandbox, modellerin dış sistemlerle bağlantısını sınırlayan güvenlik alanlarıdır. Şirket ayrıca test sırasında gerçekleşen aktiviteleri başka yapay zeka sistemleriyle takip etmeye başladı. Chain-of-Thought Monitoring adlı yöntem, modelin planlama sürecini izlemeye çalışıyor. Ancak yöneticiler, bu yöntemin etkinliğine dair soru işaretleri taşıyor.

“Preparedness Framework” çerçevesinde alınan kararlar, gelişmiş yapay zeka sistemlerinin oluşturabileceği riskleri yönetmeyi amaçlıyor. OpenAI, modellerin kabiliyetlerinin hızla artması nedeniyle sektörün daha kapsamlı güvenlik sistemlerine ihtiyaç duyacağını söylüyor.

Bakalım bundan sonra ne olacak? Açıkçası, sızma olayının ardından güvenlik adımları hızlandı, ama AI dünyası için bu sadece bir başlangıç.

Kaynak: Orijinal Haber