- AI Classifier, ChatGPT gibi üretken yapay zeka tarafından yazılan metinleri tespit etmek için kullanıma sunulan bir araçtı; yaklaşık altı ay sonra düşük doğruluk nedeniyle hizmetten kaldırıldı
- Kapatılma durumu ayrı bir duyuruyla değil, aracı ilk tanıtan blog gönderisine eklenen bir notla duyuruldu; sınıflandırıcı bağlantısına da artık erişilemiyor
- OpenAI, lansman sırasında da bu sınıflandırıcının "tamamen güvenilir olmadığını" belirtmişti; yapay zeka tarafından yazılan metinlerin yalnızca %26'sını tespit edebiliyor ve insan yazısını %9 oranında yapay zeka ürünü olarak yanlış sınıflandırıyordu
- 1.000 karakterden kısa metinlerde güvenilirliğin düşmesi, insan yazılarını yanlış sınıflandırması ve eğitim verisinin dışındaki alanlarda performans kaybı gibi sınırlamaları vardı
- Özellikle öğrencilerin ChatGPT ile kompozisyon yazmasından endişe eden eğitim dünyasının yakından ilgilendiği bir alandı; yapay zeka metin sınıflandırıcılarının sınırlarını ve etkilerini anlamak önemli
AI Classifier'ın kapatılması
- AI Classifier, geçen hafta "düşük doğruluk oranı (low rate of accuracy)" gerekçesiyle sessizce kapatıldı
- Bunun açıklaması ayrı bir yeni duyuruyla değil, aracı ilk kez tanıtan blog gönderisine eklenen bir notla yapıldı
- OpenAI sınıflandırıcısına giden bağlantı da artık sunulmuyor
Çıkış gerekçesi ve ilk performans
- Ocak ayında OpenAI tarafından ChatGPT gibi üretken yapay zeka ile oluşturulan içerikleri tespit eden bir araç olarak duyuruldu
- İnsan tarafından yazılmış metin ile yapay zeka tarafından yazılmış metni ayırt edebildiği iddiasıyla çıktı, ancak o dönemde de "tamamen güvenilir değil" olduğu açıkça belirtilmişti
- İngilizce metinler için "challenge set" değerlendirme sonuçları da paylaşılmıştı
- Yapay zeka tarafından yazılmış metinlerin %26'sını "yüksek olasılıkla yapay zeka tarafından yazılmış" olarak doğru tespit etti
- İnsan tarafından yazılmış metinlerin %9'unu yapay zeka yazımı olarak yanlış sınıflandırdı
AI Classifier'ın sınırlamaları
- 1.000 karakterin altındaki metinlerde güvenilirlik düşüktü
- İnsanların yazdığı metinleri yapay zeka yazımı olarak yanlış sınıflandırabiliyordu
- Sinir ağı tabanlı sınıflandırıcı, eğitim verisinin dışına çıkan alanlarda düşük performans gösteriyordu
OpenAI'ın sonraki yönü
- Geri bildirimleri yansıtan çalışmalar yürütüyor ve metinler için daha etkili kaynak/provenance teknikleri üzerinde araştırma yapıyor
- Kullanıcıların ses ve video içeriklerinin yapay zeka tarafından üretilip üretilmediğini anlayabilmesini sağlayacak mekanizmalar geliştirme ve dağıtma sözü veriyor
Eğitim dünyası ve yapay zeka tespiti talebi
- Kasım ayında ChatGPT'nin çıkışından sonra, eğitimciler öğrencilerin kompozisyon yazımında bunu kötüye kullanabileceği yönünde endişe dile getirdi
- OpenAI, yapay zeka metin tespitinin eğitimciler arasında önemli bir tartışma başlığı olduğunu kabul ederken, sınıfta yapay zeka üretimi metin sınıflandırıcılarının sınırlamalarını ve etkilerini anlamanın da aynı derecede önemli olduğunu vurguladı
- Giderek daha sofistike yapay zeka araçları neredeyse her gün ortaya çıkarken bir yapay zeka dedektörü endüstrisi (cottage industry) oluştu
- Decrypt'in yorum talebine ise henüz yanıt verilmedi
1 yorum
Hacker News yorumları
Bunu yapmaları iyi olmuş, ama elbette duyuru yapmaları gerekirdi.
Ekosistemde, birkaç cümlelik bir metne bakarak yapay zekanın yazıp yazmadığını ayırt edebileceğine inanan bu kadar çok insan olması şaşırtıcı. Daha da tuhafı, yetki sahibi kişilerin gerçekte garanti edemeyecekleri “yapay zeka yazımı vs insan yazımı” araçlarının kararlarına güvenip buna göre hareket etmesi.
Umarım bu olay, bir dizgenin LLM çıktısı olup olmadığının basitçe belirlenemeyeceğine dair bir başka örnek olur.
Böyle bir model, parametreleri tamamen gizli tutulup asla sızmadığı sürece en baştan başarısız olmaya mahkûmdur. Gizli olsa bile bu, yalnızca erişim yetkisi olan kişilerin onu kandırabileceği, diğerlerinin kandıramayacağı anlamına gelir; sonuçta karşı tarafın da kendi modelini yapması için teşvik doğar ve bitmeyen bir silahlanma yarışına dönüşür.
Gerçek yanıt, insan yazmış olsun ya da yapay zeka yazmış olsun, iyi içeriği otomatik olarak ayırt eden daha iyi araçlara ihtiyaç duymamız olmalı. Bu mümkün olursa çok faydalı olur; rekabete dönüşse bile taraflar daha yüksek kaliteli içerik üretmek için rekabet etmiş olur.
“Dedektör”ün sahip olduğu bilgi son derece az; az çok makul tek ölçüt de üslup gibi şeyler. ChatGPT’nin belirli bir üslubu var, ama bu kesinlikle tek üslup değil; performansı arttıkça, tanımı gereği daha çeşitli üsluplarda iyi yazabilir hale geliyor.
Sorun insanların onu yanlış kullanmasıysa, bu daha çok aracın insanların ihtiyaç duyduğu kullanım için tasarlanmamış olması demek. Örneğin sorun çok az cümle olduğunda yanlış kullanılmasıysa, asgari güvenilirliği sağlamak için minimum cümle sayısı gibi koşullar eklenebilir.
Anlamı gösterme biçimi de aynı. İnsanlar istatistikten ya da matematikten anlamıyorsa, anlamı daireler veya madeni paralar gibi görsel yollarla gösterebilirsiniz. Seçenekleri ortadan kaldırmak iyi bir şey gibi gelmiyor; özellikle de insanları alaycı biçimde buna layık değillermiş gibi yargılayıp kaldırmak hiç mantıklı değil.
Foundation AI Models Need Detection Mechanisms as a Condition of Release [pdf]
İyi olmuş. Güvenilir değilse, sahte bir güvenlik hissi verdiği için var olması daha çok zarar verir.
Benzer bir örnek: Çalıştığım mahalle pizza teslimatçısı, kuryelerin kutuya dokunmasını veya içinden yemesini engellemek için kutuları güvenlik etiketiyle mühürlerdi. Ama lojistik nedenlerle bazen bunu unuturlardı. Etiketsiz kutular, müşterilerin pepperonileri çalınmış mı diye endişelenmesi nedeniyle topluca iade edilmeye başlandı ve kısa süre sonra bu uygulamayı bıraktılar.
Bu, üretim sırasında biri aspirin şişesinin güvenlik mührünü takmayı unuttu diye, bazı şişeler mühürlenmediğinden tüm mühürleri kaldırmaya karar vermemeye benzer.
Bu araç akademide muazzam miktarda haksız suçlamayı körükledi. Eşim doktora yapıyor; hocaların öğrencileri haksız yere ChatGPT kullanmakla suçladığı hikâyeleri sık sık anlatıyor.
Son duyduğuma göre öğretmenler ödevlerin Google Docs üzerinden teslim edilmesini isteyip, revizyon geçmişine bakarak yazının tamamını öğrencinin kendisinin mi yazdığını yoksa hazır bir makaleyi yapıştırıp sadece düzenlediğini mi kontrol ediyormuş.
Tabii akıllı bir öğrenci GPT çıktısını Google Docs’a stream etmenin yolunu kolayca bulur. Arada dolaşıp “düzeltme” yapıyormuş gibi görünmesini de sağlayabilir.
Zeki ve etik dışı davranan bir öğrenciyi, hangi engeli koyarsanız koyun neredeyse tespit edemezsiniz. Bu yalnızca zeki olmayan öğrencileri durdurur.
Herkes ChatGPT’nin ürettiği metni Google Docs’a yavaş yavaş yazan bir ajan geliştirebilir. Google da belgenin bir insan tarafından yazılmış olma olasılığını değerlendirebilir, ama OpenAI’ın bu aracı durdurmasıyla aynı nedenle muhtemelen bunu yapmaz.
Birileri bu haberi ya da bu başlığı görüp böyle bir editör veya değerlendirici geliştirecektir. Başka bir çözüm de yazı yazarken ekran kaydı almak. En iyi çözüm, ama eğitimciler için en zoru, robotların çoğu insandan daha iyi yazabildiği şeyleri istememek ya da notlandırmamaktır.
Ama pek iyi değil. Evde yapılan projeler farklı bir yetenek kümesini ölçer; bazı insanlar birinde, bazıları diğerinde daha iyidir. Yine de gerçek bu.
Öğrencisi 30’dan fazlaysa öğretmenin revizyon geçmişini tek tek kontrol etme olasılığı düşük.
“Yarım yıl sonra o araç öldü; çünkü tasarım amacını yerine getiremiyordu” sonucuna, görsel dedektörlerini test ederken ben de aynen vardım.
Mevcut otomatik tespit pek güvenilir değil. %95 doğruluk iddiasındaki Optic’in AI or Not aracını birkaç görselimde denedim. Yapay zeka içeriği bulunan görselleri doğru biçimde yapay zeka üretimi diye işaretledi, ama benim yaptığım stok fotoğraf kolajlarının yaklaşık %50’sini de yapay zeka üretimi diye işaretledi.
Üretken yapay zeka hareketli bir hedef olmasaydı, bu araçların gelişip çok güvenilir hale geleceği konusunda iyimser olurdum. Ama gerçek öyle değil ve bunun bir gün güvenilir bir çözüm olup olmayacağından şüpheliyim.
Yapay zeka sanatı yazımdan alınmış bir bölüm: https://www.mindprison.cc/p/ai-art-challenges-meaning-in-a-w...
Deneyimime göre, ChatGPT yanıtı ZeroGPT gibi araçlarda yapay zeka üretimi olarak sınıflandırıldığında, prompt’u biraz değiştirip yapay zeka yazmış gibi duyulmayacak şekilde yazmasını istemek bile tespiti çok yüksek olasılıkla atlatmaya yetiyordu.
Üstelik yanıtı ünlü bir yazarın üslubuyla oluşturmasını isterseniz, çoğu yapay zeka tespit modelinde sık sık %100 insan yazımı olarak çıkıyordu.
Son güncellemelerle ChatGPT’nin tonu ciddi biçimde değişti; artık tespit radarına takılmıyor gibi.
Güzel. Yapay zeka çıktısına filigran koymanın da çıkmaz sokak olduğunu düşünüyorum. Bunun yerine, aksi kanıtlanana kadar tüm içeriği sahte varsaymak daha iyi.
Güvenilir bir fotoğrafa ihtiyacınız varsa, fotoğraf çekildiği anda donanım düzeyinde görseli kriptografik olarak imzalamak daha iyi görünüyor. Yapay zeka içeriğine gönüllü olarak filigran koymak tamamen anlamsız.
SEO sektöründeyim ve bazı “büyük oyuncularla” konuştum; Google AI güncellemesinin hazırlandığına inanıyorlardı. Mevcut durumda, yakın gelecekte arama sonuçları tamamen yapay zeka içeriği tarafından istila edilecek.
Uzun vadede bunun aptalca bir hamle olduğunu düşünüyorum, ama uzun metinlerde ChatGPT ve diğer modelleri epey başarılı biçimde tespit eden yapay zeka sınıflandırıcı dedektörler şu anda var. Originality.ai bunun başlıca örneği.
Yöntem oldukça basit: ChatGPT, GPT-4, LLaMA gibi başlıca modellerden muazzam sayıda örnek üretip bir sınıflandırma modeli oluşturuyorlar.
Bu stratejinin bariz zayıf noktası, ince ayarın üslup çıktısını değiştirmesi. Aynı “büyük oyuncu”, kendi ince ayar yöntemiyle Originality.ai dedektörünü aşmayı başardığını ve bunun aylarca test ile binlerce dolara mal olduğunu söyledi.
Google’ın mevcut hali felaket. Her yazı 100 paragraf uzunluğunda ve aradığınız yanıt, algoritmayı memnun etmek için sitede kalma süresini ve kaydırmayı artıracak şekilde ortalara gömülmüş.
Google’ın bu spam web sitelerinin hepsini dibe batırmasını bekliyorum.
Buradaki pek çok yazı, insan üretimi metin ile yapay zeka üretimi metni pratikte sınıflandırmanın imkânsız hale geleceğini düşünüyor gibi. Çünkü bu tür girişimler, bitmek bilmeyen bir kedi-fare oyunu içinde birçok yolla etkisizleştirilebilir.
Bunu kabul edersek, benim öngördüğüm sorun şu:
Yapay zeka devriminin daha en başındayız ve ileride LLM’lerin daha sofistike ve güçlü hale gelmesi için kaliteli, insan üretimi veya insan tarafından seçilmiş eğitim verileri gerekecek. Bunun ölçeği, elle seçmeyi, temizlemeyi ve kalite kontrolünü zorlaştıracak kadar büyük olabilir.
Ayrıca bundan sonra tüm medya kanallarının yapay zeka üretimi içerikle bombardımana tutulup spam’e dönüşeceğine şüphe yok.
O halde gelecekteki LLM’leri eğitmek ve potansiyellerini ortaya çıkarmak için gerçek veriyi yapay zeka üretimi gürültüden nasıl ayıklayabiliriz?
Bu mesele bir süredir aklıma takılıyor ve daha iyi bir ifade bulamadığım için daha önce geçici olarak buna veri kirliliği demiştim. Farklı bakış açılarını merak ediyorum.
Dijital platformlarda yapay zekanın soruları yanıtlamasını engellemenin tek yolu, öğrencinin bir kurumda geçirdiği süre boyunca biriken yazma stili üzerinden bir makine öğrenimi veritabanı oluşturmak olur
Bunun onayını almakta bol şans. Bölümlerin notlara ya da demografik verilere erişmesi bile ancak operasyon gruplarının 3 aşamalı bir komite sürecinden geçmesiyle mümkün oluyor
¯_(ツ)_/¯ O zaman kâğıt kullanmaktan başka çare yok. OCR’ı yeniden alıştırmanın zamanı geldi
Ama gerçek yazma stili verisine daha fazla sahip olanlar Google, Microsoft, Meta ve belge, e-posta, mesajlaşma SaaS’i işleten tüm şirketler. Pek çok öğrencinin denemelerini Google Docs, Word gibi yerlerde yazıp ek dosya olarak göndereceğini ya da bir metin kutusuna kopyalayıp yapıştıracağını düşünüyorum