Apple Silicon yöneticisinin anlattığı Mac mini yapay zeka talebi ve cihaz üzeri gelecek

 (macrumors.com)
1 puan yazan GN⁺ 4 시간 전 | 1 yorum | WhatsApp'ta paylaş
  • Yapay zeka ajanlarını uzun süre çalıştıracak ayrı donanım talebi büyüdükçe Mac mini ve Mac Studio, geliştiricilere yönelik masaüstü sistemler olarak dikkat çekiyor
  • Ajan tabanlı işler, ana çalışma makinesinden ayrılmış, kullanıcının doğrudan kontrol edebildiği ve 7/24 çalıştırılabilen bir sistem gerektiriyor
  • Mac-first veya yalnızca Mac’e yönelik yapay zeka araçlarının sayısı fazla; frontier yapay zeka laboratuvarlarındaki geliştiriciler arasında da Mac yaygınlaştıkça Mac ekosisteminin konumu güçleniyor
  • Brooks, ajan tabanlı yapay zekayı yalnızca bir GPU meselesi olarak değil; LLM çalıştırma, araç çağırma ve iş akışı işlemeyi birlikte ele alan bütünsel bir çip tasarımı meselesi olarak görüyor
  • Apple, cihaz üzeri yapay zekayı gizlilik, güvenlik ve çıkarım maliyeti ile ilişkilendiriyor; cihaz ile bulutun rolleri paylaştığı hibrit bir çalıştırma modeli öngörüyor

Mac mini ve Mac Studio’ya yönelen yapay zeka ajanı talebi

  • Apple Silicon kıdemli ürün yöneticisi Doug Brooks, WWDC 2026 hemen öncesinde The Deep View röportajında Apple’ın çip stratejisini ve yapay zeka talebini ele aldı
  • Apple, Mac mini ve Mac Studio için “incredible demand” görüyor
  • Ajan tabanlı iş yükleri için aşağıdaki koşullar önem taşıyor
    • Kullanıcının doğrudan kontrol edebileceği bir sistem
    • Ana kullanım makinesinden ayrılmış bir ortam
    • Günün 24 saati, haftanın 7 günü çalışabilecek donanım
  • Brooks, bu koşullarda Mac mini’yi “amazing system” olarak değerlendiriyor
  • Yapay zeka araçlarının çoğu Mac-first veya yalnızca Mac’e yönelik sunuluyor; frontier yapay zeka laboratuvarlarında da Mac’in yaygın kullanılan bir ortam olduğu belirtiliyor

Apple Silicon’ın hedeflediği cihaz üzeri yapay zeka

  • Brooks, ajan tabanlı yapay zekayı yalnızca GPU merkezli bir iş olarak görmüyor
    • LLM çalıştırmayı GPU’nun üstlenmesi tek başına yeterli değil
    • Araç çağrıları ve iş akışının çevresindeki işler için de çipin çeşitli bölümleri devreye giriyor
    • Bu yapı, Apple Silicon’ın güçlü yönleriyle örtüşüyor
  • Apple’ın yapay zeka ile ilgili güçlü yönleri, ChatGPT gibi LLM’ler ortaya çıkmadan önce alınan çip tasarımı kararlarıyla bağlantılı
    • Neural Engine, güç verimli matris işlemleri için tasarlandı
    • CPU içindeki daha az bilinen sinir ağı hızlandırıcısı, ses gibi zamana duyarlı işleri işliyor
    • Son dönemde GPU’ya da sinir ağı hızlandırıcıları eklenerek iPhone sınıfı çiplerden Mac’in büyük silikonlarına kadar yapay zeka performansı ölçeklendirildi
  • Apple, belirli bir makineye göre çip üretme ve donanım ile yazılımı birlikte geliştirme yaklaşımını sürdürüyor
  • Yapay zeka çalıştırma kısmen buluttan yerele kayma eğilimi gösteriyor; Brooks bunun arka planında gizlilik, güvenlik ve ajanların token kullanımındaki artışa bağlı çıkarım maliyeti yükselişini sayıyor
  • Gelecekte yapay zekanın çalıştırılması, tamamen yerele geçişten çok; ajanın hangi işleri cihazda işleyeceğine, hangilerini buluta göndereceğine karar verdiği hibrit bir yaklaşıma daha yakın
  • iPhone ve iPad’de “transparent AI” vurgulanıyor
    • Bu, işletim sistemi ve üçüncü taraf uygulamaların çeşitli yerlerinde, yapay zeka olduğunu öne çıkarmadan sessizce çalışan özellikleri ifade ediyor
    • iPhone, iPad ve Mac’te çalışan görüntü oluşturucu Draw Things örnek olarak anılıyor
    • iPhone kamerasıyla tenis ve pickleball maçlarını gerçek zamanlı analiz eden SwingVision da örnekler arasında yer alıyor
  • Brooks, mevcut yapay zeka geliştirme hızını “just crazy” diye nitelendiriyor; bırakın 1 yıl sonrasını, 3 ay ya da 1 ay sonrasını bile öngörmenin zor olduğunu söylüyor

İlgili okumalar

1 yorum

 
GN⁺ 4 시간 전
Hacker News görüşleri

  • Apple bugüne kadar pek ilginç bir yapay zeka deneyimi ortaya koyamadı, ama yine de 5 yıl sonra yapay zekanın baskın sağlayıcısı olma ihtimalinin yüksek olduğunu düşünüyorum
    Çiplerde ya da modellerde, belki de ikisinde birden, bir iki ilerleme daha olursa orta seviye Apple cihazlarında bile oldukça iyi yerel modelleri ücretsiz çalıştırmak mümkün olacak; o noktadaki gizlilik·maliyet·gecikme kombinasyonunu OpenAI/Anthropic/Google'ın yenmesi zor görünüyor
    5 yıl sonra övülmek ya da alaya alınmak için bunu buraya not düşüyorum

    • Apple'ın tüm işini yapay zeka merkezli hâle getirmemesini aslında daha çok seviyorum
      Artık biraz yorucu. İşte pratik ihtiyaç nedeniyle kullandıkça işin ilginç ve eğlenceli kısmını törpülüyor; iş dışında da o kadar kullanırsam aynı şey olacak gibi geliyor
    • Yerel çıkarımın bir süre daha bulutla rekabet etmekte zorlanmasının iki büyük nedeni var
      Birincisi, faydalı LLM işlerinin çoğu paralel işlenir. Mac Mini aynı anda bir LLM çıkarım iş parçacığı çalıştırabilir, ama bulut onlarcasını ayağa kaldırıp donanım filosu genelinde verimli biçimde toplu işleyebilir
      İkincisi, Cerebras veya Groq gibi daha hızlı çıkarım donanımları yerelde çalıştırılamaz. İş parçacığı başına token işleme hızının 5 kattan fazla olması hafife alınması zor bir avantaj; buna çoklu iş parçacığı avantajı da eklenince yerel LLM'ler için öldürücü darbe oluyor
      Yerel çıkarımın da rolü var. Aşırı hassas işler yapıyorsanız ya da sansürsüz bir modelle cinsel sohbetler veya NSFW görseller üretmek istiyorsanız yerel tek seçenek. Apple ve diğer şirketler de cümle düzenleme önerileri, konuşma tanıma, konuşma sentezi, görüntü manipülasyonu gibi faydalı işleri muhtemelen yerelde çokça çalıştırmaya devam edecek; yerel donanım iyileştikçe bu özellikler de daha iyi olacak
      Ama çoğu LLM işinde bulutun çok uzun süre, belki de sonsuza kadar üstün kalacağını düşünüyorum
    • Photos uygulamasındaki incelikli makine öğrenimi entegrasyonu fena değil. Bitki tanıma, yüz tanıma, arka plan kaldırma, OCR metin araması, hatta el yazısı araması bile iyi yerleştirilmiş
    • Her şey yerel mi, her şey çevrimiçi mi tartışmasından önce hibrit yaklaşımın geleceğini düşünüyorum
      Bilgisayar kontrolü ya da yetkilendirme işlerini yerel modelin, güçlü akıl yürütme·planlama·bilgi erişimi gerektiren işleri ise çevrimiçi modelin üstlenmesi gibi. Yanılıyorsam sevinirim, ama modellerin donanımdan daha hızlı büyüdüğünü düşünüyorum
    • Nisan 2023'te “hepimiz tam donanımlı Mac Studio almalıyız; 128GB RAM, 20 CPU çekirdeği, çok sayıda GPU ve Neural çekirdeği” diye yazmıştım
      Hem geç kaldık hem de erken davrandık
      https://news.ycombinator.com/item?id=35527692

  • Apple, Private Cloud Compute'u kişiye özel ayrılmış bir çalıştırma ortamı olarak tasarlarsa 10.000 dolardan başlayan makineler de satabilir gibi geliyor
    Sonunda 2.500 dolarlık seviyeye inen bir yol gerekecek ama tüketiciye dönük markalar arasında böyle bir nişi Apple dışında yapabilecek pek kimse görünmüyor
    [1] https://security.apple.com/blog/private-cloud-compute/

    • Stokta olmayan M3 Ultra Mac Studio modellerinden bellek bant genişliği 800GB/s üzeri olanlar eBay'de 24.000 dolara el değiştiriyor; yani gayet mümkün
    • iCloud Drive geliştirilirken, şirkete dahili bir iPad sağlık uygulamasını tanıtmaya gelen satış temsilcisi üzerinden Apple'dan iCloud için böyle bir şey yapmasını istemiştim
      “Yönetilen” cihazların hedef gösterebileceği raf tipi bir Mac Pro olsa 50.000 doları rahatça verirdik, ama Apple bu talebi hiç anlamamıştı
    • Eskiden her yeni Mac çıktığında iş arkadaşlarımla en pahalı yapılandırmayı seçip bakardık
      Bir ara kolayca altı haneli dolar seviyesine çıkıyordu, ama zamanla giderek aşağı indi
    • Apple profesyonel kullanıcılara epey düşmanca davranıyor; o yüzden bence hayır
    • Bu daha çok kurumsal tarafa yakın. Kişisel bilişimde 10.000 dolarlık bir makineyi haklı çıkaracak bir kullanım alanı hayal etmek zor

  • Claude Code ya da openclaw türü yazılımları yalnızca LLM API'si veya abonelikle kullanıp yerel model çalıştırmıyorsanız ve tek istediğiniz yerel dosya sistemiyle sürekli açık bir “ikinci beyin” iş akışıysa Mac mini'nin şart olduğundan emin değilim
    Raspberry Pi ya da eski bir dizüstünde de çalışacak gibi; gerçekten deneyen var mı merak ediyorum

    • Mac mini modasını pek anlamıyorum
      Muhtemelen iki şeyden biri. 1) “Mac yapay zeka için iyidir” sözünü duyup satın alan, ama gerçek çıkarımı Claude ile yaparken internet bağlantısı olduğu sürece bir saç kurutma makinesinden bile Anthropic API çağrılabileceğini bilmeyenler. 2) Ajanının iMessage mavi balonlarına sahip olmasını isteyenler
      Sıradan insanların cihaz üzerinde bu kadar çok çıkarım yapıp Mac Mini'yi tüketecek kadar satın aldığına inanmak zor; öyle olsa bile Mac mini bu kullanım için çok iyi bir platform değil
    • Sadece o amaç için Mac Mini gerekmez, ama fiyatı oldukça düşüktü ve kalitesi iyi
      Alanlar performansın tamamını kullanmayabilir, ama mümkün olan en ucuz şeyden ziyade kolaylığa daha çok değer verme eğilimindeler
      Uzun süre kullanılacağı ve başka işler için de kullanılacağı varsayılırsa bir ölçüde gerekçelendirilebilir
    • Çünkü Mac mini'de iMessage ile mesaj gönderebiliyorsun. Hepsi bu
    • Doğru. Tarayıcı çalıştırma gibi işlerde biraz performans payı işe yarıyor, ama az para harcamak istiyorsanız yenilenmiş bir cihaz ya da Minisforum, GMKTec gibi mini PC'ler de gayet yeterli
      Bellek en az 16GB, mümkünse 32GB olmalı
    • openclaw ve API ile yetinecekseniz büyük bir PC'ye gerek yok
      RPI4 8GB üzerinde hafif bir şey çalıştırıyorum. Birçok kişi yerel LLM çalıştırıyor; o durumda Mac işe yarıyor. Açıkçası OpenRouter aboneliği ve API çağrılarının fiyat/performansını yenmek zor diye düşünüyorum

  • Sermayem olsaydı ev için bir çıkarım appliance’ı yapmak isterdim
    Ethernet dışında çevre birimi olmayan; CPU+GPU+bellekten oluşan birleşik hesaplama birimi, yardımcı depolama, anakart ve güç kaynağından ibaret bir yapı. Süssüz, modelleri bir yardımcı hizmet gibi çalıştırmak için gereken en az donanımı barındıran bir şey
    Ön panelin de eski Hi-Fi stereolar gibi durumu gösteren bir ekran olması güzel olurdu
    Ek olarak RISC-V CPU + Vortex GPGPU + bellekten oluşan modül serileri gibi bir form düşünüyorum

    • Kışın evi, yazın da havuzu ısıtabilir
    • Bu, dış görünüşü biraz değiştirilmiş Mac mini/Studio gibi geliyor
    • George Hotz’un tiny’de yaptığı şey bu değil mi? https://tinycorp.myshopify.com/
    • Mevcutlar içinde en yakını Taalas’ın tasarladığı LLM ASIC gibi görünüyor
      https://taalas.com/products/
      Ne yazık ki şirketin chatbot’u şaşırtıcı derecede hızlı ama onu işleten şirket hakkında hiçbir şey bilmiyor
      Yine de difüzyon dil modelini yerelde çalıştıran bir ASIC fena olmaz. Bir gün eski kalsa bile, her şeyi risk sermayesiyle dönen ve gelecekte yok olacak ya da daha kötüsü pazara hâkim olup istediği kadar ücret kesecek bir şirkete bırakmaktan iyidir
    • Bu amaçla Tenstorrent’i takip ediyorum
      Fiyatın, yüksek bellek yoğunluklu birleşik bellek platformları ile amaca özel GPU arasında bir yerde olacağını düşünüyorum
      Ev kullanımı için mantıklı sınırın eşiğinde olsa da ilginç

  • Mac’te cihaz içi model çalıştırmak epey zahmetli
    BF16, FP8, BF16+FP8, NVFP4, INT8, GGUF vb. arasından neyin çalışacağını anlamak bile en iyi ihtimalle pek net değil. Apple neredeyse hiç araç desteği sağlamıyor. MLX var ama modeli bizzat o biçime dönüştürmeyi düşünmüyorsanız epey geride kalıyorsunuz
    LM Studio, Ollama, Draw Things gibi uygulamalar işi iyi basitleştiriyor ama hâlâ zahmetli

    • Tam olarak neyin zahmetli olduğunu bilmiyorum. Bu sadece öğrenme süreci; bir iki günde alışılıyor
      Son 50 yıldır bilgisayarla her türlü işi yapmanın sıkıcı ve karmaşık olduğunu, sırf çalışır hâle getirmenin bile çok zaman aldığını unutmuş gibisiniz. İlk bilgisayarımın RAM’i 48KB idi ve oyun oynamak için kasetten 5 dakika yüklemek gerekiyordu. Zahmetli olan buydu
      Buna kıyasla LM Studio’nun modeli indirip yükleyerek onunla sohbet etmeyi ya da ajan bağlamayı sağlaması çok kolay ve zahmetsiz
    • LM Studio’yu oldukça sık kullanıyorum; MLX ekibi ve topluluğu genellikle yeni bir model yayımlandıktan bir iki gün içinde MLX sürümünü yüklüyor
    • Nasıl bir sorun yaşadığınızı merak ediyorum. Yerelde birden fazla Qwen Coder next ajanı çalıştırıyorum ve gayet iyi çalışıyor
    • Bir modeli MLX’e dönüştürmek kelimenin tam anlamıyla git clone yapıp mlx_lm.convert çalıştırmaktan ibaret
      Klonlamadan sonra 5 dakikalık iş
    • Öte yandan, Redis ile tanınan antirez’in şu yerel LLM’ini memnuniyetle kullanıyorum
      [1] https://github.com/antirez/ds4

  • Asıl mesele yapay zeka çıkarımı değil, araç çağırma, masaüstü GUI uygulama işleri ve tarayıcı çalıştırma
    Düşük fiyatlı Mac Mini’de gerçek iş yapmaya yetecek cihaz içi model henüz yok. Ama birkaç tarayıcı ve GUI uygulaması çalıştırmak için, buluttaki daha pahalı ve performansı da daha kötü konteynerlere para vermektense Mac Mini almak çok daha iyi
    Tarayıcılar Linux konteynerlerinde çalışmak üzere tasarlanmadı; bare-metal masaüstü işletim sistemlerinde en iyi çalışırlar. M4 Mac Mini, dolar başına saf hesaplama performansı, yani Geekbench skoru açısından, bulutta kiralayabileceğiniz herhangi bir VM’den daha iyi tek çekirdek performansı sunuyor

    • Orijinal fiyatına göre 4’lü paket, saniyedeki token/dolar gereksinimi için çok iyi bir çözümdü

  • Gönderi bağlantısı, özgün köşe yazısı olan bu yazı olmalıydı
    https://www.thedeepview.com/articles/how-apple-s-decade-long...

  • “Apple silicon kıdemli ürün yöneticisi Doug Brooks’a göre Apple’ın Mac mini ve Mac Studio’su yapay zeka ajanları çalıştırmak için tercih edilen makineler hâline geldi” ifadesi çoğunlukla ABD’ye özgü bir olgu
    Benim çevremde Mac mini ya da Mac Studio yok; hyperscaler’lara bağlı ThinkPad ve MacBook dizüstüler var sadece

    • Hangi çevreden bahsettiğinizi bilmiyorum. Birleşik Krallık’ta elektrik fiyatları akıl almaz derecede pahalı olduğu için, yerel LLM’ler için düşük güç tüketimli seçeneklerden biri olarak epey popüler
      Yerel LLM alanında değilseniz elbette görmezsiniz. Tenis kortuna hiç gitmeden “burada tenis popüler değil” demeye benziyor

  • İnsanların benzine göre daha ekonomik olduğu için dizel araba alması gibi, birçok ülkede elektrik fiyatları çok yüksek olduğundan insanlar Nvidia konfigürasyonlarına göre işletme maliyeti daha düşük Apple birleşik bellek cihazları alıyor
    Apple dışı birleşik bellek seçenekleri arttıkça pek çok kişi o tarafa daha fazla yönelecektir

  • Bu yazı, https://www.thedeepview.com/articles/how-apple-s-decade-long... yazısının yeniden yazılmış hâli