Ekranın Arkasındaki Fizik

Bir prototip sunuyordum. Ekranda: zahmetsiz görünen bir sistem — veri giriyor, cevap çıkıyor, temiz bir arayüz, görünür bir makine yok. Oda ekrana kilitlenmişti. Sonunda onlara çipi gösterdim.

Render değil. Diyagram değil. Tüm demo boyunca üzerinde çalıştığı gerçek özel silikon; bir kartın üzerinde, küçük durum ışıkları yanıp sönerek. İnsanlar sihir numarası göstermişim gibi öne eğildi. Biri — yarı şaka yarı ciddi — “bu, başından beri bunun içinde miydi?” dedi.

İçindeydi. Başından beri. Masadaki kahve fincanlarının birkaç santim ötesinde.

Bu tepki cehalet değil. Son elli yılın en başarılı tasarım başarısı: donanımı bilerek görünmez yaptık. Ve bu görünmezliğin sonuçları olduğuna inanmıyorum — neler inşa ettiğimiz, nasıl ödediğimiz ve gerçek dünya geri ittiğinde ne kadar şaşırdığımız konusunda.

Kimse donanımı neden hayal edemiyor?

Modern bilgi işlemdeki her parça, altındaki parçayı gizlemek için kuruludur. Bu bir kusur değil — amacı budur. Telefonunuz makineyi gizler. Bulut, stadyum büyüklüğünde bir veri merkezini gizler. Her katman fısıldar: altımda ne var diye endişelenme.

Ve işe yarıyor. Gezegen büyüklüğünde bir ağı tek bir buton gibi gören yazılımlar yazıyorum. Sen telefonuna dokunuyorsun, bir şey akıllıca cevap veriyor. Kimse elektrik düşünmüyor, çünkü kimse düşünmek zorunda değil.

Ama beyinlerimiz benzetmeyi harfiyen alır. Ekran makineyi hiç göstermiyorsa, makine kafamızda var olmayı bırakır. Zeki insanların, hız bedavaymış ve depolama sonsuzmuş gibi proje planladıklarını gördüm — çünkü onların ekranının içinde öyle.

Bir dokunuş, yedi katman

Hadi ışıkları yakalım. Bir tuşa dokunuyorsunuz; bir sayı beliriyor. Arada gerçekten olanlar — sade dille:

1. Parmağınız. Ekran dokunuşunuzu hisseder. Minik bir sensör; sihir yok.
2. Uyandırma. Makine işlemcisini sarsarak uyandırır. (Mühendisler buna “kesme” der. Makineye omuz dokundurmak gibi düşünün.)
3. Beyin. İşlemi yapmak için milyarlarca minik anahtar çalışmaya başlar. Evet — milyarlarca.
4. Masa. İşlemci, en çok kullandığı şeyleri hemen yanı başındaki minik rafta tutar. Masadan bir şey almak bir nanosaniye sürer.
5. Raf. Masada yoksa, genelde odadadır — bilgisayarın ana belleği. Bu yolculuk yüz kat daha uzundur.
6. Depo. Odada da yoksa, birinin depoya yürümesi gerekir — disk. Bu yolculuk masaya göre yaklaşık bir milyon kat uzundur. Gidip kahve yapın.
7. Fizik. Bu sırada: sinyaller yol alır, çipler ısınır, fanlar döner. Her zaman.

Bu mesafeleri hissetmek için: evrendeki en hızlı şey olan ışık, bir nanosaniyede yaklaşık 30 santimetre yol alır. “Masa” sorgusu bir saniye sürseydi, depo seyahati yaklaşık iki ay sürerdi.

Bu yüzden her bilgisayar çaresiz tek bir fikrin etrafında kurulur: veriyi masada tut. Cihazlarınızın içindeki bütün zeki makine, veri taşımanın yavaş olduğu ve fizikin kira kestiği için vardır.

“Hızlı çalışan uygulama”nın sınırını donanım çizer. Programlama dili değil. Framework değil. Altındaki makine.

Pazarlık etmeyen: fizik

Bir katman daha inin ve işler harika biçimde fiziksel hale gelir.

İnsan saçı kabaca 80.000 nanometre genişliğindedir. Modern bir çipin içindeki minik anahtarlar bunun on binlerce katı incedir — tek bir saç telinin üzerine binlercesini yan yana dizebilirsiniz. Her biri saniyede milyarlarca kez anahtarlanır ve her anahtarlama azıcık ısı üretir.

Isı, hayalin bittiği yerdir. Bir çipin teslim tarihinizle ilgili bir fikri yoktur; bir sıcaklık sınırı vardır. 2005 civarında çipler ısı duvarına çarptı — anahtarları daha hızlı çevirmek bir şeyleri eritmeye başladı. Ondan beri bilgisayarlar genişleyerek daha iyi oldu: tek hızlı beyin yerine birçok küçük beyin. Hız bedava olmaktan çıktı.

Bedava öğle yemeği bitti — ve AI donanımı yeniden ünlü yaptı

On yıllar boyunca programcıların bedava bir öğle yemeği vardı: yeni bilgisayar al, dünkü kod yarın daha hızlı çalışsın. Kimse bir şey yapmak zorunda değildi. Bu çağ ısı duvarıyla bitti. Şimdi hız kazanılmalı — veriyi yakın tutarak, birçok şeyi aynı anda yaparak.

Sonra yapay zekâ geldi ve donanım gösterinin yıldızı oldu. Büyük bir AI modeli sizin kodunuzun ne kadar zeki olduğuna bakmaz. Onu ne kadar hızlı besleyebildiğinize bakar. Bugünün AI çiplerinden biri — NVIDIA’nın Blackwell B200’ü — 200 milyarın üzerinde anahtar taşır, veriyi saniyede kabaca 8 terabayt hızda hareket ettirir ve 1.000 vata kadar güç içer: mikrodalga fırın ve bir ısıtıcının birlikte çalışması kadar. Bunlar yazılım sayıları değil. Fişe, soğutucuya ve bir odaya ihtiyacı olan bir makinenin sayıları.

(Pazarlama ile gerçekliği ayırmayı Düşük Güçlü AI Hızlandırıcıları: FPGA’dan ASIC’e yazısında anlatmıştım.)

Ve mesele sadece laboratuvarlar değil. Microsoft’a bakın: bellek fiyatları fırlayınca, her yavaşlığa “biraz daha RAM al” diye karşılık veren şirket, şimdi Windows’u 8 GB bilgisayarlarda iyi çalışacak şekilde yeniden mühendislikten geçiriyor — bellek yöneticisini elden geçiriyor, arka plan gürültüsünü sıkıştırıyor, şimdiden 3 GB’a varan kazançların peşinde. Dünyanın en büyük yazılım şirketi, en eski ürününü donanım kıtlaştığı için yeniden yazıyor. Microsoft bile donanıma göre optimize etmeye başladığında, topun donanımda olduğunu anlarsınız.

Donanımın tekrar ilginç olmasının sebebi bu — ve altyapıdan AI donanımına geçiş sebebim de. Bir model cevap vermek iki saniye sürdüğünde, sebep neredeyse hiç “algoritma yavaş” değildir. Verinin masadan uzakta yaşaması ya da makinenin daha hızlı gidecek kadar sıcak olmasıdır. Ekran bir dönen simge gösterir; gerçeklik fizikseldir.

Bu yüzden çipi canlı yayınlamaya başladık

O ilk demodan sonra sunum yapma biçimimizi değiştirdik. Şimdi ekranın yanında, gerçek kartın küçük bir canlı video akışını çalıştırıyoruz — çip çalışıyor, ışıklar yanıp sönüyor, fiziksel olan fiziksel oluyor. Küçük bir numara ama işe yarıyor. İnsanlar yazılıma ağırlıksız muamele etmeyi bırakıyor. Daha iyi sorular soruyorlar. “Şöyle bir hızlandıralım”ın bir buton değil bir mühendislik problemi olduğunu anlıyorlar.

Bu yazı o video akışının metin hâli. Ekranda yaptığınız her şey, yukarıdaki fotoğraftakine benzer bir şeyin üzerinde çalışır — kartlar, silikon, ısı ve milyarlarca sessiz anahtar. Arayüzün altındaki katman gizemli değildir.

Sadece görünmezdir. Biri ışıkları yakana kadar.

---

SSS

Yazılım ekiplerinin gerçekten donanımı düşünmesi gerekiyor mu? Her gün değil — ama her tavan noktasında gerekir. Bir şey “yavaş” hissedildiğinde cevap genelde fizikseldir: verinin nerede yaşadığı, ne kadar hızlı hareket edebildiği ya da makinenin ne kadar sıcak olduğu.

Bilgisayarlar neden her yıl daha hızlı olmayı bıraktı? Isı yüzünden. 2005 civarında anahtarları daha hızlı çevirmek çipleri eritmeye başladı. Ondan beri ilerleme, tek hızlı beyin yerine birçok küçük beyin ekleyerek geldi — ve son dönemde, AI hızlandırıcıları gibi özel amaçlı donanımlarla.

Yapay zekâ neden özel donanım ister? Çünkü büyük bir model zamanını düşünmekle değil veri taşımakla geçirir. Özel çipler belleği işin hemen yanına koyar ve saniyede yüzlerce gigabayt taşır — bütün numara bu.

Transistör nedir? Hikâyenin en minik anahtarı. Şu anda ekranınızdaki her şey, birkaç milyar anahtarın açılıp kapanmasıdır. Görebileceğiniz her şeyden küçük ve son derece gerçek.