Yapay Zeka Filigranı: Bilinmeyen Detaylar Açıklandı, Karşılaşan Sorunlar
Anthropic, Claude tarafından oluşturulan metinlere eklenecek filigran sistemiyle ilgili temel soruları yanıtlayan yeni bir blog yazısı yayımladı. Şirket, filigranın nasıl çalışacağı, metin üzerinde yapılan düzenlemelerin sistemi etkileyip etkilemeyeceği ve kod çıktılarında nasıl uygulanacağı gibi ayrıntıları paylaştı. İlk mahiyette, “görünmez” filigranın yaratıcı bir yol olarak ortaya çıktığını belirtiyor, aynı zamanda bu sistemin, Avrupa Birliği Yapay Zeka Yasası’nın Şeffaflık Kodu’na uyum sağlaması için zorunlu olduğunu vurguluyor.
Claude kullanıcıları, Anthropic’in bu hafta başında Avrupa Birliği Yapay Zeka Yasası’nın Şeffaflık Kodu’na uyum sağlamak amacıyla filigran kullanacağını açıklamasının ardından kararı tartışmaya başladı. Söz konusu kurallar, yapay zeka şirketlerinin yapay zeka tarafından üretilen içeriklerin tanımlanabilmesini sağlayan sistemler kullanmasını gerektiriyor. TechCrunch’in açıklamasına göre sistem, Claude’un bir metni oluştururken yaptığı “düşük riskliovercast” ile “greyişaretlerinibu X değil, Y” şeklindeki cümle yapısı gösterildi.
Metinde, “düşük riskli overcast” ifadesiyle başlayan metinler, belirli kalıpları yakalayan algoritmanın tespit ettiği örüntüleri içerir. Şirket, bu örüntüleri yakalamak ile metinde doğrudan bir filigran bulunup bulunmadığını kontrol etmek temelde farklı yöntemler kullandığını belirtiyor. Bu bağlamda, “greyişaretlerinibu X değil, Y” gibi cümle yapılarını tespit ederek filigran varlığını saptıyor.
Metnin yeniden yazılması durumunda filigranın ortadan kaldırılıp kaldırılamayacağına dair açıklama, Anthropic’in “bu mümkün, ancak hafif düzenlemelerin filigranı tamamen ortadan kaldırmasının muhtemel olmadığını” söylediği satırla devam ediyor. Yani, metinde yapılan küçük düzeltmeler, filigranı tamamen yok etmeye yetmez. Ancak “her kelimenin değiştirildiği kapsamlı bir yeniden yazım işleminin filigranı kaldıracağı” yönünde bir açıklama da var. Bu durumda ortaya çıkan metnin hâlâ yapay zeka tarafından oluşturulmuş olarak tanımlanıp tanımlanamayacağının tartışmalı olduğu ifade ediliyor.
Claude’un yalnızca düzelttiği veya editörlük yaptığı insan tarafından yazılmış metinlerde filigranın tespit edilip edilemeyeceği ise metnin uzunluğuna ve Claude’un ne kadar kapsamlı değişiklik yaptığına bağlı olacak. Anthropic’e göre yalnızca küçük düzenlemeler yapılan bir metindeki kelimelerin neredeyse tamamı insan tarafından yazılmış olacağından filigranın yerleşebileceği çok az içerik bulunacak veya hiç bulunmayacak. Kod çıktılarında ise filigranlamanın diğer metin türlerine kıyasla daha sınırlı olması bekleniyor. Bunun nedeni, Claude’un çalışan kod üretmesi gerektiği için eşit derecede geçerli seçenekler arasından serbestçe tercih yapma imkanının doğal dildeki kadar geniş olmaması.
İnsan editörlerin metni tamamen yeniden yazması durumunda, filigran tamamen kaldırılabilir ama bu metnin “AI tarafından yaratılmış” olarak kalıp kalmayacağı belirsizliğe yol açıyor. Böyle bir durumda ortaya çıkan içerik, hâlâ yapay zeka tarafından oluşturulan olarak tanımlanıp tanımlanamayacağı tartışmalı. Bu yüzden, filigran sistemi, hem metin hem de kod çıktılarında farklı etkiler gösteriyor. Bakalım geliştirmeleryle bu sorun nasıl çözülecek?
Kaynak: Orijinal Haber
