- SynthID, yapay zeka araçları tarafından kolayca tespit edilebilen ancak insan gözüyle görünmeyen bir şekilde yapay zeka tarafından üretilen görüntülere filigran ekliyor
- Filigran, görüntünün piksellerine gömülüdür ve kırpma ile yeniden boyutlandırma gibi dönüşümlere karşı dayanıklıdır
- SynthID filigranı, deepfake'lerin artışıyla birlikte yapay zeka tarafından üretilen görüntülerin tanımlanmasına ve tespit edilmesine yardımcı olmak üzere tasarlandı
- Araç herkese açık olarak sunulacak; ilk aşamada Vertex AI platformunu ve Imagen görüntü üreticisini kullanan Google Cloud müşterilerine verilecek
- SynthID test edilip geliştirildikçe Google, bunu daha fazla yerde kullanmayı, nasıl çalıştığı hakkında daha fazla bilgi paylaşmayı ve etkinliğine dair daha fazla veri toplamayı umuyor
- Google DeepMind CEO'su Demis Hassabis, SynthID'nin internet genelinde bir standart haline gelmesini ve video ile metin gibi diğer medya türlerine de genişletilebilmesini umuyor
- SynthID'nin kullanıma sunulması, reklam metinlerinden ürün fotoğraflarına kadar çeşitli amaçlarla kullanılan görüntülerin kaynağını doğrulaması gereken müşterilere yönelik
- Gelecekte bunun Google Slides ve Docs'a entegre edilmesi ya da bir Chrome uzantısı veya tarayıcıya gömülü olarak web genelinde yapay zeka tarafından üretilen görüntüleri tanımlaması da mümkün
- SynthID'nin kullanıma sunulmasının, hacker'lar ve geliştiriciler arasında sistemi aşmanın yollarını bulmaya yönelik bir yarış başlatması bekleniyor; bu da Google DeepMind'dan sürekli güncelleme ve iyileştirme gerektirecek
- Benzer yapay zeka tespit araçları geliştiren diğer şirketlerle rekabete rağmen Google, filigranlamanın web'de yapay zeka üretimi içeriği tanımlamaya yönelik çözümün temel bir parçası olacağından emin
3 yorum
Gerçekte bu özellik çıkarsa çok geçmeden başka bir yapay zeka aracının ortaya çıkıp SynthID'yi kaldıracağını düşünüyorum.
Silinemeyen bir filigran hiç varmış gibi gelmiyor bana.
Sorun filigranı silmek değil, önemli olan hangisinin orijinal olduğunu ayırt edebilmek. Silinirse o artık bir kopyadır.
SynthID, yapay zeka tarafından üretilmiş görselleri ayırt etmeye yönelik bir teknoloji olduğu için silinememesi ya da değiştirilememesi en kritik nokta. Ayrıca internetteki tüm görsellere SynthID uygulanana kadar, bir görselde filigran yok diye onun kopya olduğu sonucuna varılamaz.