ABD merkezli yapay zeka şirketi Anthropic, Avrupa Birliği’nin (AB) yeni şeffaflık kuralları kapsamında yapay zeka asistanı Claude’un ürettiği metinlere görünmez filigran eklemeye başladı. Şirket, filigranın kullanıcılar ve üçüncü taraflar tarafından tespit edilmesini sağlayacak ücretsiz bir araç geliştireceğini açıklarken, uygulamanın işleyişine ilişkin gündeme gelen soruları da yanıtladı.
Anthropic’in sözcüsü, Business Insider’a yaptığı açıklamada, kullanıcıların bir metinde Claude’a ait filigran bulunup bulunmadığını kontrol edebilmesini sağlayacak ücretsiz bir uygulama programlama arayüzü (API) sunmayı planladıklarını bildirdi. Şirket, sistemin teknik ayrıntılarını ise henüz kamuoyuyla paylaşmadı.
Anthropic, 2 Ağustos’tan itibaren AB’de piyasaya sunulan yeni Claude modellerinde makine tarafından okunabilen işaretlerin kullanıldığını ve filigranın söz konusu modellerin dünya genelindeki çıktılarına uygulandığını açıkladı. Şirket, daha önce yayımlanan modellere de benzer desteğin eklenmesi üzerinde çalışıyor.
Üretken yapay zekanın yaygınlaşmaya başladığı 2022 sonundan bu yana teknoloji şirketlerinin yapay içeriklerin kaynağının belirlenmesine yönelik çalışmaları büyük ölçüde gönüllülük esasına dayanıyordu. AB’nin yeni kurallarıyla birlikte, kullanıcıların hem yapay zeka ile etkileşimde olup olmadıklarını hem de karşılarına çıkan içeriğin yapay zeka tarafından oluşturulup oluşturulmadığını anlayabilmesine yönelik yükümlülükler getirildi.
FİLİGRAN NASIL TESPİT EDİLEBİLECEK?
Claude tarafından üretilen metinlere görünmez biçimde yerleştirilen filigranın, metin kopyalanıp başka bir platforma aktarıldığında da korunması ve bazı düzenlemelerin ardından tespit edilebilirliğini sürdürmesi öngörülüyor. Anthropic, sistemin metnin anlamını ve okunabilirliğini değiştirmediğini belirtirken, filigranın hangi teknik yöntemle oluşturulduğuna ilişkin ayrıntıları henüz açıklamadı.
Cambridge Üniversitesi’nde sentetik içerik üzerine çalışan ve Ekonomik İşbirliği ve Kalkınma Örgütü’ne (OECD) danışmanlık yapan Walter Pasquarelli’nin Politico’ya verdiği örneğe göre, Claude’da oluşturulan bir metin sosyal medya platformuna yüklendiğinde, platformun arayüzüne entegre edilen bir dedektör filigranı tespit ederek içeriğin yapay zeka tarafından üretildiğine veya işlendiğine ilişkin bir işaret de gösterebilecek.
İNSAN TARAFINDAN YAZILAN METİNLER DE İŞARETLENEBİLİR Mİ?
Şirkete göre filigranın tespit edilmesi, metnin Claude tarafından baştan sona yazıldığı anlamına gelmeyecek. İnsan tarafından hazırlanan bir metnin Claude kullanılarak düzeltilmesi, çevrilmesi veya özetlenmesi halinde de filigran bulunabilecek.
Bu durum, yapay zekanın yalnızca sınırlı ölçüde kullanıldığı içeriklerin tamamen yapay zeka tarafından oluşturulmuş gibi değerlendirilmesi ihtimaline ilişkin tartışmaları da beraberinde getirdi.
FİLİGRANIN OLASI FAYDALARI NELER?
Filigranı destekleyenler, sistemin yapay zeka tarafından üretilen içeriklerin insan üretimi içeriklerden daha kolay ayırt edilmesine ve internetteki yapay içeriklerin kaynağının daha şeffaf hale gelmesine katkı sağlayabileceğini belirtiyor.
Business Insider’a konuşan yazılım geliştirici Donn Felker, filigranların yapay zeka modelinin de içerikleri ayırt etmesini kolaylaştırarak kendi çıktılarıyla yeniden eğitilmesinden kaynaklanabilecek olası veri kalitesi sorunlarını sınırlayabileceğini savundu.
AB’DEN YAPAY ZEKA İÇİN ŞEFFAFLIK KURALLARI
AB’nin Yapay Zeka Yasası 1 Ağustos 2024’te yürürlüğe girmiş, yapay zeka tarafından oluşturulan içeriklere ilişkin şeffaflık hükümleri ise 2 Ağustos 2026 itibarıyla uygulanmaya başlamıştı.
Yasanın 50’nci maddesi kapsamında üretken yapay zeka sağlayıcılarının, yapay zeka tarafından üretilen veya değiştirilen içeriğin makine tarafından tespit edilebilmesini sağlayacak işaretleme yöntemleri kullanması gerekiyor. Kurallar ayrıca kullanıcıların belirli durumlarda yapay zeka sistemiyle etkileşimde oldukları konusunda bilgilendirilmesini öngörmekte.
Avrupa Komisyonu, şirketlerin söz konusu yükümlülüklere nasıl uyabileceğine ilişkin Yapay Zeka Tarafından Üretilen İçeriklerin İşaretlenmesi ve Etiketlenmesine İlişkin Uygulama Kuralları’nı ise 10 Haziran’da yayımlamıştı.
KAYNAK: ANKA
