OpenAI, AB'de ChatGPT ve Codex için Metin Filigranlamasını Başlattı
OpenAI, ChatGPT ve Codex için textGrain adlı görünmez, makine tarafından okunabilir bir metin filigranlama sistemi başlattı; ilk aşamada kullanıcı kitlesi Avrupa Birliği ile sınırlı.
Filigranlama teknolojisi, yapay zeka tarafından üretilen metne, görünür içeriği değiştirmeden özelleştirilmiş araçlarla tespit edilebilir bir sinyal yerleştiriyor. OpenAI, textGrain'in aynı zamanda Ağustos ayında Anthropic'in duyurduğu filigranlamanın temelini oluşturan Google DeepMind'ın SynthID metin çözümü de dahil olmak üzere diğer yaklaşımları "karşıladığını veya aştığını" iddia ediyor.
Hem OpenAI hem de Anthropic, genel amaçlı yapay zeka model sağlayıcıları için şeffaflık yükümlülükleri belirleyen AB'nin Yapay Zeka Yasası kapsamındaki gereksinimlere yanıt olarak metin filigranlamasını uygulamaya koydu. Mevzuat, yapay zeka tarafından üretilen içeriği insan tarafından oluşturulan materyallerden ayırt etmek için belirli teknik önlemler zorunlu kılıyor.
OpenAI, filigranlanmış metnin standart değerlendirmelerde filigranlanmamış çıktıyla karşılaştırılabilir performans gösterdiğini ortaya koyan kıyaslama verileri yayımladı. Ancak şirket, textGrain'in yapay zeka tarafından üretilen içeriğin tespitinde mutlak kesinlik sağlamadığını kabul ediyor.
Aşamalı AB öncelikli dağıtım, yapay zeka şeffaflığı ve içerik atıfı konusunda benzer düzenleyici çerçeveler geliştiren diğer yargı alanları takip ettikçe daha geniş bir yayının ardından gelebileceğini düşündürüyor.