By Yapay zeka devi OpenAI’nin tanınan sohbet robotu ChatGPT’nin yeni sürümlerinin, oluşturdukları metinlere eşsiz bir filigran yerleştirdiği ortaya çıktı.
Rumi Technologies araştırma grubu, bu filigranların bilhassa ChatGPT’den makale üzere daha uzun metinler üretmesi istendiğinde ortaya çıktığını keşfetti.
Bu filigranlama süreci, olağan boşluklara benzeyen fakat farklı ASCII kodlarına sahip olan Dar Kesintisiz Boşluk (NNBSP) üzere özel Unicode karakterleri kullanılarak gerçekleştiriliyor. Bu karakterler, metnin yapay zeka tarafından üretildiğine dair zımnî bir işaret bırakıyor.
GİZLİ KARAKTERLER NASIL TESPİT EDİLİR
Araştırmacılar, GPT-4o üzere daha eski ChatGPT modellerinde bu çeşit filigranların bulunmadığını belirtiyor.
Kullanıcılar, bu bilinmeyen karakterleri çeşitli çevrimiçi araçlar yahut Sublime Text üzere gelişmiş metin düzenleyiciler kullanarak tespit edebilirler.
Bu özel karakterlerin metin içindeki dağılımının rastgele olmadığı, sistematik bir desene sahip olduğu gözlemlendi.
Bu durum, filigranlama özelliğinin OpenAI geliştiricileri tarafından kasıtlı olarak uygulandığını düşündürüyor.
Bu gelişme, OpenAI’nin yapay zeka ile üretilen görsellere filigran eklemeyi test etmeye başlamasından kısa bir müddet sonra geldi.
FİLİGRAN NE İŞE YARIYOR
Metinlere eklenen bu filigran özelliğinin temel gayesi, içeriğin yapay zeka tarafından üretilip üretilmediğini belirlemeye yardımcı olmak.
Ancak, bu metodun kimi sınırlamaları bulunuyor; kullanıcılar bu filigranların varlığını öğrendikten sonra bunları basitçe kaldırabilirler.
Basit bir bul ve değiştir süreciyle, metindeki özel Unicode karakterleri standart karakterlerle değiştirmek mümkün.
Bu durum, bilhassa ChatGPT’nin 31 Mayıs’a kadar öğrenciler için fiyatsız olduğu ve final projeleri ile ödevlerin ağırlaştığı bu devirde değer kazanıyor.
