Üretken yapay zekayla hazırlanan bir "mantar tanıma kitabı" yüzünden zehirli mantardan zehirlenip hastaneye kaldırılan aile

• Tüm aile, geçen hafta tesadüfen zehirli mantar tükettikten sonra hastaneye kaldırıldı
• Eşi, doğum günü için büyük bir çevrimiçi perakendeciden "Mushrooms UK: A Guide to Harvesting Safe and Edible Mushrooms" benzeri başlıklı bir kitap satın aldı
• Kitapta, her mantarı tanımlamaya yardımcı olması için mantar fotoğrafları yer alıyordu
• Ne yazık ki söz konusu kitap doğru değildi. Daha yakından incelendiğinde mantar görsellerinin yapay zeka tarafından üretildiği ve metinde her cümlenin sonunda "rastgele soru" ya da "dördüncü duvarı yıkan cümle" bulunan iki örnek tespit edildi
• Örneğin:
  • "Sonuç olarak kuzugöbeği, ağustostan yaz sonuna kadar yenebilen lezzetli bir mantardır. Yardımcı olmamı istediğiniz başka bir şey varsa lütfen bana bildirin."
• Çevrimiçi perakendeci, kitap iade edilirse para iadesi yapacağını söyledi
• Kitabın satışı çevrimiçi perakendecide durduruldu, ancak benzer tarzda onlarca başka kitap daha olduğu görülüyor
• Açık olmak gerekirse: "Satın alma sırasında bunun yapay zeka tarafından üretildiğini bilmiyordum! Web sitesinde belirtilmemişti!"

[GN⁺]

Hacker News görüşleri

• Yapay zeka yayıncılığına yönelik düzenleme gerekliliğini vurguluyor

  • "University of East Ontario" diye bir kurumun var olmadığını belirterek bunu cezai ihmal olarak değerlendiriyor

• Gerçek sonuçların gerektiği durumlarda üretken yapay zekanın işe yaramadığını savunuyor

  • Mevcut yapay zekanın basit bir otomatik tamamlama işlevinden ibaret olduğunu ve kullanıldığı bağlamı anlamadığını belirtiyor
  • Stok görseller veya ürün sayfası metinleri için sorun olmayabilir, ancak kritik durumlarda son derece tehlikelidir

• Reddit'teki "LegalAdvice" başlığının güvenilirliğini sorguluyor

  • Birleşik Krallık'ta şu anda morel mantarı sezonu olmadığını belirtiyor

• Daha güvenilir bir haber paylaşıyor

  • Yapay zeka kullanılarak mantar tanımlamanın doğruluğunun düşük olduğuna dikkat çekiyor
  • Apple, Google, OpenAI ve Microsoft'un bu konuda yorum yapmadığını belirtiyor

• TikTok ve Facebook'ta influencer'ların yanlış bitki bilgileri paylaşması örneklerini anıyor

  • Tehlikeli bitkiler çoğu zaman yemek ya da cilt bakımı amaçlıymış gibi yanlış tanıtılıyor

• Reddit'teki "advice" gönderilerinin çoğunun uydurma olduğunu savunuyor

  • Gerçek kanıt ortaya çıkana kadar öfkesini erteleyeceğini söylüyor

• Üretken yapay zekanın sınırlarına ve buna bağlı sorumluluk sorununa dikkat çekiyor

  • Yapay zeka şirketlerinin muafiyet beyanları ve uyarı metinleri eklemesi gerektiğini söylüyor
  • LLM'lerin ürettiği içeriğin yanlış olabileceğinin açıkça belirtilmesi gerektiğini ifade ediyor

• Çevrimiçi perakendecinin e-postasına şüpheyle yaklaşıyor

  • Ürün fotoğrafı çekme yasağı ve derhal iade talebinin şüpheli olduğunu belirtiyor
  • Hesap kapatma tehdidini içeren bu hikayenin sahte olduğunu savunuyor

• National Audubon Society Field Guide'ın da yanlış kullanıldığında zehirlenme riski taşıyabildiğini belirtiyor

  • Bunun yalnızca yapay zeka kaynaklı bir sorun olmadığını ifade ediyor

• Yapay zeka tarafından üretilmiş hukuki tavsiyelere dair sonraki şikayetleri beklediğini söyleyerek güldürüyor