OpenAI, Avrupa Birliği‘nin yapay zeka şeffaflığı kurallarına uyum kapsamında ChatGPT ve Codex tarafından üretilen metinlere görünmez ancak makine tarafından okunabilir filigran eklemeye hazırlanıyor. Uygulama ilk aşamada yalnızca AB’deki uygun kullanıcıları kapsayacak. Sistemin adı textGrain
OpenAI, metin filigranlama işlemi için kendi geliştirdiği textGrain adlı bir sistemi kullanacak. Sistem, yapay zeka modelinin kelime seçimlerine görünmez bir istatistiksel sinyal ekliyor. Bu sinyal daha sonra özel bir algılama aracı tarafından tespit edilerek metnin OpenAI tarafından işaretlenip işaretlenmediğini belirleyebiliyor.
Şirket, textGrain’in Google’ın SynthID for Text gibi diğer işaretleme yöntemleriyle benzer veya daha iyi sonuçlar verdiğini belirtiyor. Ancak OpenAI, sistemin her durumda güvenilir sonuç vermeyeceği konusunda uyarıyor. Özellikle kısa metinlerde tespit başarısının yaklaşık yüzde 80 seviyesinde kaldığı belirtiliyor. Matematik içeren içeriklerde de filigranın tespit edilmesi zorlaşıyor.
Metin üzerinde yapılan düzenlemeler de yine tespit performansını düşürebiliyor. Dolayısıyla filigranın tespit edilememesi ilgili metnin AI üretimi olmadığının kesin kanıtı olmayacak. Ek olarak şirket, filigran sisteminin metnin doğruluğunu, mülkiyetini, insan katkısının oranını veya metnin bir insan tarafından yazıldığını kanıtlamadığını özellikle vurguluyor.
AB ile sınırlı başlayacak
OpenAI, önümüzdeki haftalarda Avrupa Birliği’ndeki tüm planlarda yer alan uygun ChatGPT ve Codex kullanıcılarının ürettiği metinlere textGrain filigranını uygulamaya başlayacak. Şirket, uygulamanın başlangıçta küresel olarak varsayılan hale getirilmeyeceğini söylüyor. Dünya genelindeki API müşterileri ise bugünden itibaren seçili modellerde filigranlı metin çıktısını isteğe bağlı olarak etkinleştirebilecek. OpenAI ayrıca önümüzdeki haftalarda bulut hizmeti ortakları üzerinden erişilen OpenAI modellerinin çıktılarında da filigran kullanımını mümkün hale getirmeyi planlıyor.
Tespit aracı herkese açılmayacak
OpenAI, filigranı tespit etmek için geliştirdiği aracı da başlangıçta genel kullanıma sunmayacak. Onaylanmış araştırmacılar ve uzman kuruluşlar bugünden itibaren erişim için başvurabilecek. Erişim ilk aşamada başvuruların tek tek değerlendirilmesiyle sağlanacak.
Tespit aracı yalnızca OpenAI filigranının bulunup bulunmadığını bildirecek. Kullanıcıyı tanımlamayacak, kullanılan istemleri veya konuşma geçmişini ortaya çıkarmayacak.
Öte yandan şirketin bu hamlesi, Avrupa Birliği’nin Yapay Zeka Yasası’nın şeffaflık kurallarıyla bağlantılı. Yeni kurallara piyasaya yeni giren şirketlerin uyması gerekiyor. Daha önce faaliyet gösteren şirketlere ise geçiş süresi tanındı. OpenAI, Anthropic, Microsoft, Google ve Meta gibi şirketlerin 2 Aralık’a kadar bu gerekliliklere uyum sağlaması gerekiyor.