Yapay Zeka (AI) PC Alırken Nelere Dikkat Edilmeli?

Yapay zeka kozmosu genişlemeye devam ederken son devirde “AI PC” halinde bir terim türedi. Intel, AMD, Apple ve Qualcomm dahil olmak üzere, artık tüm devler donanımlarına özel yapay zeka üniteleri (NPU) dahil etmeye başladı. Haliyle donanım tek başına kâfi değil. Bu donanımları kullanabilmek için yazılıma ve farklı uygulamalara gereksinim var.

• Bilmeniz Gereken Her Şey: Yapay Zeka (AI) PC Nedir?

Yakında alacağınız bir bilgisayarda AI PC, NPU, TOPS, Copilot+ üzere farklı isimlendirmelerle birlikte farklı biçimde isimlendirilmiş CPU serileri göreceksiniz. Biz de şimdiden sizi “yapay zeka bilgisayar” dünyasına hazırlayalım dedik. Bu tıp bir bilgisayar alırken nelere dikkat etmeli, donanımsal olarak nelere bakmalısınız?

Bu bilgisayarları yapay zeka ve makine tahsili vazifelerini yerine getirmek üzere hakikat donanım ve yazılım tahlilleriyle desteklenen, birtakım ekstra özellikler içeren şahsî bir bilgisayar olarak düşünün. Tüm problem kimi durumlarda ağır olan yapay zeka ve makine tahsili iş yüklerini hızlandırmak, ihtiyaçları karşılayabilmek.

Peki yapay zeka iş yüklerinden kastımız ne? Stable Diffusion gibi üretken yapay zeka yazılımları, lokal lisan modelleriyle desteklenen akıllı sohbet robotları, kapsamlı data tahlili, yapay zeka modellerinin eğitimi ve karmaşık simülasyonlar ile sofistike yapay zeka odaklı uygulamaların çalıştırılması üzere geniş bir iş yükü yelpazesi var.

Şimdiye kadar daima sistemlere çoklu süreç gücü kazandıran güçlü işlemciler (CPU) ve grafiksel vazifelerin yanı sıra birçok alanda işleri hızlandıran ekran kartlarından (GPU) bahsettik. Ayrıyeten RAM ve süratli depolama seçenekleri de kıymetliydi. Yeni kuşak bilgisayarlar ise büsbütün yeni bir şeye sahip: Yapay zeka vazifelerini mümkün olduğunca süratli formda çalıştırmak üzere özel olarak tasarlanmış Nöral Süreç Üniteleri (Neural Processing Unit, NPU).

Bir AI PC’yi tanımlamak için bir ortaya gelen Intel ve Microsoft, yapay zeka bilgisayarın CPU, GPU ve NPU’ya muhtaçlık duyduğunu, ayrıyeten bu PC’lerdeki klavyede fizikî bir Microsoft Copilot tuşunun sahip olması gerektiğine karar verdi. Böylelikle Windows 11’e entegre olarak gelen yapay zeka robotu Copilot süratlice çalıştırılabilecek.

Basının ve bölümün büyük bir kısmı, Intel’in Core Ultra “Meteor Lake” işlemcilerini sergilediği bir AI PC geliştirici programında paylaştığı Microsoft’un tarifi etrafında birleşmiş görünüyor. Bu tarifin üç ihtiyacı var:

• Bilgisayarların En yeni NPU, CPU ve GPU’ları içermesi.
• Microsoft Copilot ile birlikte sunulması.
• Klavyesinde Copilot tuşu bulunması.

NPU’ları tüm ayrıntılarıyla daha evvel ele almıştık. Özel çiplerin aşikâr bir performans düzeyini karşılaması gerekiyor ki, o çipe sahip olan bilgisayarlar “yapay zeka PC” klasmanına dahil olabilsin. Gaye ise yapay zeka misyonlarını yerine getirme konusunda daha süratli, daha güç verimli ve dataların işlenmek üzere bulut tabanlı AI sunucularına gönderilmesi muhtaçlığını ortadan kaldıran sistemler oluşturmak. Bu yaklaşım ile sistemlerin internet irtibatından bağımsız olarak çalışabilmesi isteniyor ve dataların lokal olarak bilgisayarda saklanarak güvenirliğin artırılması hedefleniyor.

• Donanımda Yapay Zeka Dayanağı: NPU Nedir, Ne İşe Fayda?

Yapay zeka özellikli bir CPU’da aranması gereken şey Nöral Süreç Ünitesi (NPU). İşlemcilere entegre edilen bu donanım, ana işlemci çekirdeklerinin ve grafik yongalarının yükünü hafifleterek yapay zeka iş yüklerinin üstesinden gelmek için özel olarak tasarlandı. Günümüzde Intel, AMD, Apple ve Qualcomm üzere şirketler yapay zeka dayanaklı işlemciler sunuyor. Şu anda AI performansı açısından bakabileceğimiz tek şey “TOPS” bedelleri.

Başlamadan evvel mevcuttaki AI PC’lerde bulunan işlemcilerin ayrıntılarını kısaca ele alalım, sonra ayrıntılara geçelim:

• Apple M4: macOS kullanıcıları için en düzgünü. macOS için tasarlanmış ve optimize edilmiş, rekabetçi performans ve uzun pil ömrü.
• AMD Ryzen AI 300 (Strix Point): Oyuncular için ülkü. Zen 5 mimarisi ise gelişmiş hesaplama performansı. Güçlü bir entegre GPU ile eşleştirilmiş yüksek performanslı çok iş parçacıklı CPU, onu oyun ve başka ağır misyonlar için ülkü hale getiriyor.
• Intel Core Ultra 200V (Lunar Lake): İstikrarlı performans. Performans ve pil verimliliği ortasında uygun bir istikrar sunuyor. Oyun (özellikle E-spor oyunları), üretkenlik misyonları, medya ve genel web için uygun.
• Qualcomm Snapdragon X Elite: Pil açısından en verimli Windows AI işlemcisi. Windows Copilot Plus’ı lokal olarak destekleyen birinci işlemci. Genel üretkenlik, web taraması ve medya içerikleri için mükemmel.

Intel

Intel’in yapay zeka dayanaklı birinci Core Ultra çipleri “Meteor Lake” kod ismini taşıyordu. Başlangıç olarak bu işlemcilerde yer alan birinci jenerasyon NPU’lar 10 TOPS süreç performansı sunuyordu. Sonrasında ise baştan aşağı yenilenen “Lunar Lake” mimarisi tanıtıldı. Taşınabilir işlemciler, yapay zeka iş yükleri için 48 TOPS performans sunan yeni nöral süreç ünitesi (NPU) ile birlikte sunulacak. Böylece Microsoft’un yeni jenerasyon yapay zeka bilgisayarlar için koşul koştuğu 40 TOPS NPU ihtiyacı rahatlıkla çarçabuk karşılanmış oldu. 48 TOPS yalnızca NPU’dan gelen güç.

Aslında Lunar Lake platformu çok daha fazla AI performansına sahip: CPU ve iGPU’yu hesaba kattığımızda toplamda 120 TOPS düzeyinde performans vaat ediliyor. Core Ultra 200V Serisinde Core Ultra 9 288V, Core Ultra 7 268V ve Core Ultra 5 238V üzere farklı modeller yer alacak. İşte yeni mimariye ilişkin birtakım ayrıntılar:

• Birleşik Bellek Mimarisi: LPDDR5 RAM, artık Intel Lunar Lake işlemcilerde SoC dizaynının bir modülü haline geliyor. Bu sayede RAM ve işlemci ortasında bilgi transferi yapılırken daha yüksek bant genişliği ve daha düşük güç tüketimi sağlanıyor.
• 3nm Süreci: 3nm süreci ile Intel, Lunar Lake’e daha fazla transistör yerleştirerek performansı ve güç verimliliğini artırıyor.
• Entegre NPU: Lunar Lake SoC, INT8 hassasiyetinde 40 TOPS’a (saniyede Tera İşlem) kadar yapay zeka hesaplama yeteneği sağlayan altı NPU hesaplama motoru kullanmakta.
• Hyperthreading Devre Dışı: Sekiz çekirdeğin tamamında (dört performans çekirdeği ve dört verimlilik çekirdeği) performans yerine daha yeterli pil ömrü için Hyper-Threading teknolojisi devre dışı bırakıldı.

AMD’nin Ryzen 8040 “Hawk Point” Serisi işlemcileri, birinci olarak 16 TOPS’luk performans sunan bir nöral süreç ünitesi taşıyordu. Kırmızı takım, o vakitler APU’ların kimi yapay zeka iş yüklerinde performansı 1.4 kata kadar artırdığını tez ediyordu. Şirket daha sonra XDNA 2 mimarisine ve 50 TOPS performansa sahip Ryzen AI 300 Serisi taşınabilir işlemcilerini piyasaya sürdü. 50 TOPS’luk performans düzeyi, Qualcomm’un gelecek vaat eden Snapdragon X Elite’i de dahil olmak üzere Windows PC’lere yönelik öbür tüm çipleri geride bırakıyor. Diğer bir deyişle, Microsoft’un yeni jenerasyon AI bilgisayarları için 40 TOPS ihtiyacını kolaylıkla aşarak Copilot öğelerinin lokal olarak çalışmasına imkan tanıyor. En azından bu sözleri kaleme aldığımız sırada durum böyleydi. Lakin AI çip pazarında rekabet ateşi hiç sönmeyecek. Çabucak aşağıda AMD’nin yeni işlemcilerine ilişkin ayrıntıları bulabilirsiniz:

• Zen 5 Mikro Mimarisi: IPC ve genel performansta kıymetli iyileştirmeler sağlayan yeni Zen mimarisi.
• Entegre RDNA 3.5 Grafikler: Zati güçlü olan evvelki RDNA 3 mimarisinin üzerinde iyileştirmeler yapıldı, böylelikle hem grafik hem de yapay zeka ile ilgili vazifelerde performans katkısı sağlandı.
• XDNA 2 NPU: Bir SoC üzerindeki en yüksek performanslı NPU. INT8 hassasiyetinde 50 TOPS’a kadar çıkabiliyor ve 40 TOPS ihtiyacı olan Copilot+ için ziyadesiyle kâfi.
• Block FP16: Performanstan çok az ödün vererek daha yüksek hassasiyetli yapay zeka iş yükleri.

Qualcomm, 45 TOPS performans sunan entegre Hexagon NPU’lara sahip Snapdragon X Seçkine ve Snapdragon X Plus yongalarıyla daha erken sahneye çıktı. Piyasaya sürülen birinci Microsoft Copilot+ bilgisayarlar Snapdragon X işlemcilerle birlikte geliyor.

Böylelikle ARM mimarili işlemciler dizüstü bilgisayarda daha fazla yer bulmaya başlayacak. Snapdragon X işlemciler, birçok Windows bilgisayarda bulunan olağan CISC (Karmaşık Komut Seti Hesaplama) yerine RISC (Azaltılmış Komut Seti Hesaplama) tasarım ideolojisini benimsiyor. Güçlü bir SoC ile eşleştirilmiş RISC mimarisi, Qualcomm’un işlemcilerini birebir yüksek performanslı RISC işlemciler olan Apple’ın M Serisi yongalarıyla karşı karşıya getiriyor.

Apple

Apple aslında yıllardır çiplerinde NPU kullanıyordu, yani bu yeni bir şey değil. Lakin tüm markaların yapay zeka süreçlerini benimsemesi, yapay zeka araçlarının yaygınlaşmasıyla birlikte yeni bir furya başladı. Bu ortada Apple’ın M3 işlemcileri 18 TOPS NPU performansı sunuyor, lakin Apple cephesinin Microsoft ihtiyaçlarıyla ve Windows işletim sistemiyle bir bağlantısı yok.

• Apple M3 Max ve NVIDIA GPU Yapay Zeka Karşılaştırması – CES 2024 #41

Diğer yandan Apple’ın M4 çipi 3nm üretim teknolojisi, çipe entegre bellek, çiplet tasarımı ve hibrit mimari üzere M3 ile benzeri teknolojiler kullanıyor. En son iPad Pro’ya entegre edilen M4, 16 çekirdeğe ve 35 TOPS performansa sahip.

İsterseniz son olarak amiral gemisi işlemci modellerini tablo halinde inceleyelim:

TOPS Nedir? Yapay Zeka Performansı Nasıl Ölçülüyor?

Geçmişte donanımların ürettiği teraflop (TFLOP) performansına bazen değiniyorduk. Tam olarak birebir olmasa da yapay zeka performansı misal formda “TOPS” ile söz ediliyor. Açılımı Tera Operations Per Second (Saniyede Tera İşlem) halinde. Buradaki tera, trilyonlar manasına geliyor.

Bu ortada hatırlatmadan geçmeyelim, bu performans yalnızca işlemcilerin içindeki yer alan NPU’lar ile üretilmeyecek. Birtakım iGPU’lar (entegre GPU) ve harici GPU’lar da önemli oranlarda yapay zeka performansı sunabiliyor. Örneğin GeForce RTX 4090, toplamda yaklaşık 1.321 TOPS üzere bir kıymete ulaşabiliyor.

Bir bilgisayarın performansını ölçmek için sentetik kıyaslama sonuçları yahut gerçek dünya sonuçlarına bakıyorduk. Yapay zeka bilgisayarları ve yeni NPU’lar ile performansı kıymetlendirmek daha soyut bir hal alıyor.

“TOPS” sözü NPU performansını ölçmenin tek yolu olmayabilir, fakat tüketiciler şimdilik buna dikkat etmeli. TOPS kıymeti, alıcılara yapay zeka bilgisayarlarının muhakkak misyonları yerine getirebilmesini istiyorlarsa nelere dikkat etmeleri gerektiği konusunda bir fikir verebilir.

Sadece TOPS Kıymetlerine Bakmamak Gerekiyor

Ancak ham TOPS sayıları her şey değildir. NPU dediğimiz ünitenin önceliği yapay zekaya mahsus misyonları yerine getirmek. Haliyle bilgisayarın başında 7/24 AI iş yükleriyle uğraşmıyoruz, bu nedenle günlük bilgi süreç gereksinimlerinizi karşılayabilecek bir işlemci isteyeceksiniz. NPU performansının yanı sıra, tıpkı evvelden olduğu üzere tek çekirdek ve çoklu çekirdek performansını düzgün dengeleyen işlemcilere bakmaya devam edin. Intel ve AMD, yapay zeka yeteneklerinin yanı sıra güçlü genel bilgi süreç performansı sunan sağlam seçenekler sunuyor.

Masaüstü Platform

Açıkçası “AI PC” denildiğinde birinci olarak dizüstü bilgisayarlara öncelik verildi. Masaüstü CPU’lar ise biraz arttan gelecek. CES 2024’te duyurulan AMD Ryzen 8000G işlemcilerle birlikte NPU dediğimiz üniteler birinci sefer masaüstü platforma gelmişti. Ryzen 8000G, yapay zeka iş yüklerinde performansı artırmak için entegre yüksek performanslı Hudut Sürece Ünitesi (Neural Processing Unit-NPU) motoruna sahip dünyanın birinci masaüstü APU’ları oldu.

Diğer yandan Intel, “Arrow Lake” yahut “Arrow Lake Refresh” kod isimli masaüstü işlemcilerini entegre yapay zeka çipleriyle piyasaya sürmeye hazırlanıyor. 2024 yılında piyasaya sürülmesi beklenen CPU’lar muhtemelen NPU ile birlikte gelecek. Gelmese bile, yeni Refresh yongalar kesinlikle NPU ile donatılacak.

Yapay zeka konusu sizin için değerliyse kesinlikle NVIDIA markalı bir GPU tercih etmelisiniz. Bildiğiniz üzere yeşil kadro, RTX 2000 Serisinden beri grafik işlemcilerinde Tensor Çekirdekleri kullanıyor. Yani RTX 2060’tan RTX 4090’a kadar olan RTX yongalar, tüketici sınıfı donanımlarda yapay zeka performansıyla ön plana çıkıyor. NVIDIA’yı başkalarından ayıran şey, CUDA ekosistemi ve Tensor üzere yapay zeka iş yükleri için yazılım takviyesi ve optimizasyon açısından büyük bir avantaj sağlayan teknolojileri.

• Tensor ve Ray Tracing Çekirdeği Nedir, Ne İşe Fayda?

AMD de RDNA mimarisiyle birlikte kıymetli adımlar atmaya başladı. Bu GPU’lar, lokal yapay zeka iş yükleri ve büyük ölçekli makine tahsili vazifeleri için rekabetçi performans sunan yapay zeka hızlandırması düşünülerek tasarlandı. Şimdi NVIDIA ile birebir düzeyde yazılım ekosistemine sahip olmasalar da, bilhassa çok fazla performanstan ödün vermeden daha bütçe dostu bir seçenek arıyorsanız AMD ekran kartlarına da bakabilirsiniz. Lakin bu bahiste tartışmasız olarak listenin birinci başına NVIDIA yazılır.

Harici GPU pazarında yeni bir oyuncu olan Intel de Arc GPU’ları ile ses getiriyor. Bu bilhassa ilgi cazibeli zira Intel’in Core Ultra işlemcilerinde gelişmiş entegre grafik yongaları yer alıyor. Böylece yapay zeka işlerini sıkıntısızca halledebilmek için entegre çalışan gelişmiş CPU-GPU kombinasyonu sunuyorlar. Mavililer ayrıyeten yazılım tarafında da yenilikler getirmeye çalışıyor. AI Playground uygulaması, yeni başlayanların bilgisayarlarında AI ile daha kolay ilgilenmelerini sağlayan beğenilen bir yenilik olmuştu.

Qualcomm tarafına gelince, Snapdragon X Seçkine ve Snapdragon X Plus çipleri yapay zeka sürece performansını artırmak için güçlendirilmiş entegre Adreno GPU’larla birlikte geliyor.

Bu ortada kısa bir not düşecek olursak, yapay zeka performansı kelam konusu olduğunda paralel hesaplama marifetleriyle bilinen GPU’lar çok başarılı. NVIDIA, geçmişte RTX 4000 serisi GPU’ları kimi rakipleriyle karşılaştıran yapay zeka odaklı birkaç kıyaslama paylaşmıştı. RTX 4090 Taşınabilir, RTX 4050 Taşınabilir ve Apple Macbook Pro M3 Max yongaları Stable Diffusion, Arnold, Blender, Chaos V-ray, Octane, Adobe Premier Pro Enhance Speech, DaVinci Resolve ve ON1 Resize AI üzere yapay zeka kullanan çeşitli içerik oluşturma uygulamalarında karşılaştıran bir kıyaslama paylaştı.

Karşılaştırmalara nazaran RTX 4090 Taşınabilir GPU, en uç durumlarda M3 Max donanımlı Macbook Pro’dan 7 kattan fazla daha uygun performans gösterebiliyor. RTX 4050 Taşınabilir GPU ise tıpkı Macbook Pro’dan 2 kattan fazla daha uygun performans sağlama potansiyeline sahip. Ortalama olarak taşınabilir RTX 4090 M3 Max’ten 5 kat daha yeterli performans gösterirken, RTX 4050 LT %50-100 oranında daha güzel performans gösterdi.

NVIDIA, her yeni GPU mimarisiyle birlikte tıpkı vakitte yeni jenerasyon Tensor çekirdeklerini de kullanıma açıyor. Yeni serilerle birlikte Tensor Çekirdeklerinin performansı artıyor. CUDA Çekirdekleri ve Tensor Çekirdeklerinin gelişimiyle birlikte yapay zeka çıktı performansı da üst noktaya taşınıyor.

Son olarak güç tüketimi ve soğutma mevzularını da unutmamak gerekiyor. Yüksek performanslı yapay zeka iş yükleri GPU’ları sonlarına kadar zorlayabilir. Bu nedenle AI bilgisayarınızın güç kaynağının ve soğutma tahlilinin seçtiğiniz GPU’yu kaldırabileceğinden emin olun. Bilgisayarınız çok ısındığı için performansın düşmesini istemezsiniz elbette.

Normalde bir bilgisayar alırken aslında RAM özelliklerini zati denetim edersiniz, lakin burada yapay zeka için bellek konusunu ayrıyeten ele alacağız. Lokal yapay zeka modellerini, bilhassa de büyük lisan modellerini (LLM’ler) çalıştırmak inanılmaz derecede ağır bellek gerektiriyor. Belirttiğimiz üzere Microsoft, AI bilgisayarlar için en az 16 GB kapasiteli bellekleri kural koşuyor.

Dell XPS 13 üzere 8 GB RAM’e sahip birkaç model de var. Fakat bu sizi yanıltmasın, 16 GB’ın altına düşmemeye çalışın. Yapay zeka iş yükleri için bellek kapasitesi zati kıymetli lakin zati oyun oynuyorsanız artık bellek tüketimi çok artmış durumda. Yapay zeka misyonlarını mahallî olarak çalıştırma konusunda ciddiyseniz 16 GB’tan daha azına razı olmamanızı tavsiye ediyoruz. Elbette bütçe elveriyorsa 32 GB’a çıkılabilir.

• DDR4 vs DDR5 RAM: Performans Farkı Var mı?

Dikkate alınması gereken bir başka faktör de RAM çeşidi. Yapay zeka bilgisayarlar için en son DDR standardına, yani DDR5’e göz atmanızda yarar var. DDR5, yapay zeka da dahil olmak üzere kimi şartlarda performansı gözle görülebilir oranda artırabiliyor.

Bir yapay zeka bilgisayarı masaya yatırıldığında, yazılım ekosistemi de en az donanım özellikleri kadar değerlidir. Lakin yazılım tarafı biraz daha açık uçlu. Microsoft, Windows 11’e özel olmak kaydıyla daima yeni özellikler geliştiriyor. Şirket, Windows Copilot ve Windows Studio Effects üzere özelliklerin kullanıcı tecrübesinin merkezi haline gelmesiyle yapay zeka entegrasyonuna büyük yatırım yapıyor. Ayrıyeten farklı şirketler de çeşitli yazılımlarına yapay zeka özellikleri dahil etmeye devam ediyor. Yeni bir AI PC kullanmak istiyorsanız Windows 11’den öbür dermanınız yok.

Ek olarak, bir dizüstü bilgisayar almak istiyorsanız özel Copilot tuşuna sahip dizüstü bilgisayarlara bakmaya kıymet gösterin. Bu tuş, gerçek bir yapay zeka bilgisayarına baktığınızın kesin bir işareti.

Yapay zeka konusunda öncü olmak isteyen şirket ASUS, Dell, Acer, Samsung, HP, Lenovo, Samsung ve Microsoft’un Surface markalı dizüstü bilgisayarlarıyla Copilot+ PC’leri tanıttı. Bunların hepsi şu an için Qualcomm’un Snapdragon X Elite ve Plus işlemcilerini kullanıyor, lakin Microsoft yakında çıkacak olan AMD Ryzen AI 300 “Strix Point” ve Intel Core Ultra 200V “Lunar Lake” yongalarının da uygun olabileceğini söyledi.

Copilot+ PC olarak kabul edilebilmesi için bilgisayarların en az 16 GB RAM, 256 GB depolama alanı ve 40 TOPS (saniyede trilyonlarca işlem) yapabilen yerleşik bir NPU’ya sahip olması gerekiyor. Biraz evvel de bahsettiğimiz üzere, Qualcomm Snapdragon X Seçkine SoC’lerde yer alan NPU 45 TOPS’luk performans üretebiliyor.

Ne yazık ki, marka fark etmeksizin eski kuşak işlemciye sahipseniz yeni AI özelliklerinden yoksun kalacaksınız. NPU’dan mahrum dizüstü ve masaüstü bilgisayar kullanıcıları, muhtemelen kalıcı olarak bu işin dışında kalacak.