Microsoft intihar girişiminde mi bulunuyor?

 (antipope.org)
2 puan yazan GN⁺ 2024-06-06 | 1 yorum | WhatsApp'ta paylaş

Microsoft'un yeni özelliği: CoPilot+ ve Recall

Temel içerik özeti

  • Yapay zekanın yaygınlaşması:

    • Son teknoloji haberleri, yapay zekanın yaygınlaşmasına odaklanıyor.
    • Birçok şirket, ürünlerine yapay zeka eklemeye çalışıyor.

  • CoPilot+ tanıtımı:

    • CoPilot+, Microsoft'un LLM (büyük dil modeli) tabanlı bir Windows eklentisi.
    • Geçmişteki Clippy'ye benziyor, ancak yapay zekayı kullanarak kullanıcı işlerini destekleyen özelliklere sahip.
    • Ancak LLM'lerin sınırları nedeniyle doğru yanıtlar verememe ihtimali var.

  • Windows ARM işlemcileri:

    • Microsoft, Intel'e bağımlı olmamak için ARM tabanlı Windows'u öne çıkarıyor.
    • Yeni CoPilot+ PC'ler, yapay zeka işlerine uygun olacak şekilde güçlü ARM işlemcilerle tasarlanıyor.

  • Recall özelliği:

    • Recall, kullanıcının bilgisayarda yaptığı tüm işleri kaydeden bir özellik.
    • Ekran görüntüsü alıyor ve OCR (optik karakter tanıma) ile ses tanıma üzerinden metin çıkarıp bunu bir veritabanında saklıyor.
    • Saklanan veriler şifrelenmediği için güvenlik sorunları ortaya çıkabilir.

  • Gizlilik sorunları:

    • Recall özelliği, kullanıcı gizliliğini ciddi biçimde ihlal edebilir.
    • Saklanan veriler arasında kullanıcı kimlik bilgileri, parolalar vb. yer alabilir.
    • Veritabanı hukuki süreçlerde celp edilebilir; bu da şirketler ve bireyler için büyük risk oluşturur.

  • Diğer sorunlar:

    • Recall özelliği, GDPR ve HIPAA gibi gizlilik düzenlemelerini ihlal etme riski taşıyor.
    • Microsoft'un bu özelliği Windows 11 güncellemesine zorunlu olarak dahil etmeyi planladığı belirtiliyor.

GN⁺ görüşü

  • Gizlilik ihlali:

    • Recall özelliği, kullanıcı gizliliğini ciddi biçimde ihlal edebilir. Özellikle hassas verilerle çalışan şirketler ve bireyler için büyük bir risk oluşturur.

  • Güvenlik açığı:

    • Şifrelenmemiş veritabanı, hacker'lara veya kötü niyetli kullanıcılara kolayca açığa çıkabilir. Bu da güvenlik olaylarına yol açma ihtimalini artırır.

  • Hukuki sorunlar:

    • Recall özelliğinin GDPR ve HIPAA gibi gizlilik düzenlemelerini ihlal etme olasılığı yüksektir. Bu durum hukuki anlaşmazlıklara yol açabilir.

  • Kullanıcı güveni:

    • Microsoft'un böyle bir özelliği devreye alması, kullanıcı güvenini ciddi biçimde zedeleyebilir. Bu da uzun vadede şirket imajını olumsuz etkileyebilir.

  • Alternatif teknolojiler:

    • Kullanıcı gizliliğine önem veren şirketler, Recall yerine başka alternatifleri değerlendirmelidir. Örneğin açık kaynak tabanlı güvenlik çözümlerinin benimsenmesi uygun olabilir.

İlgili okumalar

1 yorum

 
GN⁺ 2024-06-06
Hacker News görüşleri

  • Güvenlik ve gizlilik kaygılarını bir yana bıraksak bile Recall pek AI özelliği gibi hissettirmiyor
    Cihaz üzerinde OCR yapıp bir SQLite veritabanı oluşturup onu arayan bir yapı değil mi? Günümüzün gevşek AI tanımına göre bile bağlantı pek oturmuyor. OCR makine öğrenmesi tabanlı olduğu için mi? Recall’da kaçırdığım bir LLM bileşeni varsa, kötü niyetli talimatları SQLite veritabanına indeksleyip daha sonra LLM’e yedirecek bir prompt injection saldırısı web sitesi de yapılabilir mi merak ediyorum

    • AI araştırmacıları ne zaman bir şeyi mümkün kılsa, onun “imkânsız bilimkurgu”dan “bu gerçek AI değil”e dönüştüğüne dair söz uzun zamandır var
      Böyle bir tepkiyle gerçekten karşılaşmak garip. OCR da bir zamanlar makul kalitede imkânsız görülüyordu; bu yüzden forum bot girişlerini engellemek için CAPTCHA kullanılıyordu. Başta metindi, giderek daha çok çarpıtıldı ve insanların bile okuması zorlaştı, ev numaralarına, “XYZ bulunan tüm fotoğraflara tıklayın”a dönüştü; sonunda da fare imleci konumuna ve ziyaret edilen sitelere bakan analizlerle neredeyse ortadan kalktı
    • Kendim yanıtı araştırınca, basit OCR’ın ötesinde bir miktar anlamsal analiz var gibi görünüyor; bu yüzden mevcut gevşek kullanımda AI özelliği sayılabilir gibi
      İpucu, şu demoda https://www.youtube.com/watch?v=aZbHd4suAnQ&t=1062s “blue pantsuit with sequin lace” arandığında metinde “peacock” diye açıklanan bir öğeyi bulduğu sahne. Görüntü embedding’leri üzerinde embedding araması gibi görünüyor
      Ayrıca Recall’ın oluşturduğu 3 SQLite veritabanından biri “SemanticImageStore”; bu yüzden cihaz üzerinde CLIP tarzı bir görüntü embedding modeli çalıştırıyor gibi. Bu veritabanında “diskann” sütunu da var; Microsoft’un vektör indeksleme kütüphanesi https://github.com/microsoft/DiskANN’e işaret ediyor gibi
    • Demoya bakınca ekranda “Blue bag” kelimesi olmasa da arama yapılabiliyor
      Örneğin bir PowerPoint slaydı fotoğrafının içinde mavi bir çanta varsa onu buluyor
    • “Bilgisayarların çözemeyebileceği problem”e yakın bir AI tanımı kullanıyor gibi
      OCR, nasıl yapılacağını bilmeden önce kesinlikle AI sayılıyordu. Artık anladığımız için “sadece bilişim” oldu; ama başka AI tanımlarına göre de hâlâ AI saymak makul
    • Muhtemelen içinde RAG olma ihtimali yüksek

  • Recall AB’de hâlâ tamamen yasa dışı değilse, Microsoft lansmandan AB çapında yasak yasasına kadar hiçbir sınırlama olmadan bir hız yarışında demektir
    AB’nin bunu kendi içinde izin vereceği bir senaryo görünmüyor. İstismarcı eşler tarafından kötüye kullanılabileceğine dair son derece geçerli kaygı tek başına bile siyasi gerekçe için yeterli. Bu şekilde paketlenmiş bir yasaya karşı çıkacak tek bir Avrupa Parlamentosu üyesi bulmak bile zor olur gibi; yeni seçilen üyeler de karmaşık ve zor işler arasında kolay bir galibiyeti memnuniyetle karşılayacaktır

    • Recall neden AB’de yasa dışı olmalı ki?
    • Ya Avrupa vatandaşları bu özelliği isterse? Seçme hakları da mı yok?

  • Zaten işaret edilen çeşitli mantık hatalarına ek olarak bir tane daha eklemek istiyorum
    Bu anlatı, Microsoft’un geleceğinin Windows olduğunu varsayıyor. Satya’dan bu yana bunun böyle olmadığını düşünüyorum. Bunu fark edince, Windows’taki tek bir özelliğin uygulama hatasından bağımsız olarak gelecek oldukça parlak görünüyor

    • O hâlde Microsoft’un önerdiği gelecek ne?
      Xbox değil; o savaşı kaybediyorlar ve o da Windows tabanlıydı. Telefon da değil; zaten kaybettiler ve o da Windows tabanlıydı
      Office de zor durumda. Ücretli ofis paketlerine ihtiyaç azalıyor, tarayıcıdaki MS Office de epey kötü
      Azure olabilir, ama Azure’a giden büyük giriş yolunun Microsoft’un şirketleri ActiveDirectory ve Exchange’i buluta taşımaya itmesi olduğunu düşünüyorum. Fakat Windows’un sonu ActiveDirectory’nin sonu demek; bulut posta ve takvim için de alternatifler var. Exchange yüzünden zaten orada değilseniz Azure birçok kişi için cazip mi?
      Gelecek parlak olabilir, ama bakılacak Windows yoksa o geleceği nasıl bileceğiz? ;p
    • Doğru. Microsoft’un Office, Azure, XBox, oyun etiketleri gibi milyarlarca dolarlık gelir kaynakları var ve bilişimin “bulut” tarafı neredeyse tamamen Linux olduğu için Windows’a yatırım yapma teşviki azalıyor
      WSL, winget, sudo gibi hamlelere bakınca Windows’un komut satırı arayüzünde giderek Linux’u taklit eden bir kabuğa dönüştüğü açık
      2000 yılının Microsoft’u Windows 9x, 2000 ve Office’ti. 2004’te sitelerden Windows’a özel yazılım indirirdiniz; 2024’te ise Apple’a özel ya da Linux’a özel yazılımlar da yaygın
      Düşününce “Linux ailesinden masaüstünün yılı” 10 yılı aşkın süredir MacOS’tu. Windows’un dosya yolları, Win32 API gibi sürtünmelerine kıyasla tam Linux’a geçiş için bir tür başlangıç uyuşturucusu gibi
    • Bu dediğine göre dünyadaki masaüstü ve dizüstü bilgisayarların %80’inde gerilemiş bir işletim sistemi çalışıyor demektir
      Yanılıyorsun demiyorum; gerçekten de Windows’un Microsoft içinde arka plana atıldığına katılıyorum, ama bu epey korkutucu bir şey
      Yeni Exchange Server lisansına bakınca Microsoft’un şirket içi yazılım işinden olabildiğince hızlı çıkmak istediğini söylemek güvenli. Yine de dünyanın bunu kabul etmeye hazır olup olmadığı ve bunun bizim istediğimiz şey olup olmadığı soru işareti
    • Doğru. Windows artık neredeyse zararına verilen yem ürün gibi
    • Windows’u harika yapmak için kimsenin istemediği çöpleri temizlemek yeterli
      Şüpheli anti-pattern sayısı akıl almaz derecede fazla

  • Microsoft ya da başka bir FAANG tüm verilerimizi sızdırsa bile, gerçekten büyük bir bedel ödeyip ödemeyeceğinden emin değilim
    Veri güvenliği sorunları yüzünden gerçekten “batan” son şirket ne zamandı? Yakın dönemdeki veri güvenliği ihlalleri arasında Snowflake, AWS / Capital One var

    • Sızıntıların yaşanabildiğini herkes anlıyor
      Burada işaret edilen temel nokta şu: Toplamadığınız şeyi sızdıramazsınız. Recall, Microsoft’un daha önce topladıklarından çok daha fazla ve çok daha hassas veri demek
    • Snowflake, bunun temel sistem ihlali değil müşteri yapılandırma hatası olduğunu epey tutarlı biçimde söyledi
      2010’ların ortasında AWS’de bazı sistemlerin varsayılan olarak herkese açık olduğu ve sayısız “veri sızıntısının” şirketlerin veri bucket’larını basitçe gizli yapmamasından kaynaklandığı dönem akla geliyor
    • Gereken şey, tüm veri sızıntıları için büyük ve zorunlu para cezaları
      Örneğin adresi sızdırılan kişi başına 10 bin dolar ödetilse, şirketler tüketici verilerini düşük maliyetli bir varlık değil, risk olarak ele almaya başlar
    • Equifax’ı da unutmamak gerek

  • Görünüşe göre önce karşı taraftaki web sunucusu intihar etmiş

  • Microsoft’un son çeyrek sonuç raporunda gelirde %17 artış vardı ve hisse fiyatı son bir yılda neredeyse %25 yükseldi

    • Güzel. Müşteriler bunlardan korkup iş yapmayı reddetmeye başlarsa bunun pek anlamı kalmaz gerçi
    • Microsoft’un işletim sistemi işinde short pozisyon alıp, bulut sağlayıcı işi ve OpenAI yatırımı için long pozisyonu koruyabilsem öyle yapardım
    • Hissenin son bir yılda neredeyse %25 yükselmesi, ortalama S&P500 kadar performans gösterdiği anlamına gelmiyor mu? Bir teknoloji deviysen daha iyisini yapman gerekir diye düşünüyorum

  • Microsoft’un intihar ettiği kesinlikle söylenemez. Bu özelliğin ne kadar ilgi çektiğine bakın
    Tüm teknoloji medyası Windows’tan bahsediyor ve Windows bir anda yeniden alaka kazandı. Bu nasıl intihar olabilir?
    İntihar edenler, bu özelliği açık bırakan Microsoft müşterileri. Kullanıcılara bu özelliğin risklerini ve nasıl kapatılacağını öğretmek gerek

    • Biri size silah doğrultup “5 saniye sonra ateş edeceğim” dediğinde, saklanmadan ayakta durup vurulduğunuz için bu intihar olmaz
      Aptalca bir ölüm olabilir ama tetiği çeken kişi hâlâ cinayet işlemiştir. Mevcut duruma oldukça iyi bir benzetme gibi geliyor
    • Biz kaygan zeminin çoktan ötesine geçtik; saçlarımızda rüzgârı bile hissediyoruz

  • HN’de aratınca bulamıyorum ama daha önce Recall’a benzer bir şey görmüş gibiyim
    Bir ekran görüntüsü aracı OCR/tespit çalıştırıyor, veritabanına koyup aranabilir hale getiriyordu. GitHub’da açık kaynak olarak vardı
    Ek olarak, gizlilik meselesi konusunda kararsızım; ama bir yandan Windows’a ARM’ı yeniden getiriyor gibi görünüyor, bunu destekliyorum

  • “Dil modeli teknolojisinin geleceğimize hâkim olacağını bir süredir biliyorduk” cümlesindeki biz, LLM teknolojisine daha fazla yatırım gelirse gelir elde edecek kişiler olarak tanımlanıyor
    Geri kalanlar için LLM’ler, herhangi bir şeyin genel çözümü olarak umutsuz derecede kusurlu görünüyor

  • Microsoft’un mutlaka intihar ettiğini düşünmüyorum
    Sadece fazla reaktif ve yeterince proaktif olmadığını düşünüyorum. Başka bir deyişle, kendi yolunu açıp fırsatlar yaratmak yerine teknoloji akımlarını tahmin etmeye aşırı odaklanma hatasına düşüyor gibi
    Elbette geliştirici araçları ya da belki Azure gibi bazı pazarlarda kendi yolunu açıyor. Ama ben ne bilirim ki, sadece aptal bir programcıyım