Anthropic: Claude Mythos, AMD GPU'larında devreye alma süresini üç güne indirdi
Anthropic'in halka arz yatırımcılarına verdiği bilgiye göre yapay zeka modeli, AMD MI355X GPU'ları için çekirdeklerin neredeyse %100'ünü taşıdı ya da yazdı; bu süre önceden 6 ila 12 ay sürüyordu.
ℹ️ Tarayıcı tabanlı sesli okuma · yapay zeka stüdyo sesi yakında

Anthropic, halka arz yatırımcılarına Claude Mythos Preview modelinin yapay zekasını AMD GPU'larında çalıştırmak için gereken yazılım işini yaklaşık üç günde, "neredeyse hiç insan müdahalesi olmadan" tamamladığını bildirdi. Şirkete göre bu iş daha önce 6 ila 12 ay sürüyordu.
Üç günlük süre, bir Anthropic modelinin AMD MI355X GPU'larında "kullanışlı bir performans düzeyinde" istem işlemesini kapsıyor; Mythos, çekirdeklerin "neredeyse %100'ünü" taşıdı ya da yazdı. Bu düşük seviyeli kod, bir yapay zeka modelini belirli bir şirketin çiplerine bağlıyor ve uzun süredir Nvidia'nın CUDA hendeğinin bir parçası. Bunu günler içinde yazabilen bir yapay zeka, bu hendeğin aşındığına işaret eder.
Zaman karşılaştırmasını Anthropic'in kurucu ortaklarından ve hesaplama biriminden sorumlu baş yöneticisi Tom Brown yaptı; yatırımcılara ilk çalışmanın "düzinelerce mühendisten" oluşan bir ekip gerektirdiğini belirtti. Anthropic modellerini hâlihazırda Nvidia ve AMD GPU'larında, Google'ın TPU'larında ve AWS Trainium'da çalıştırıyor ve filosunu "tek bir değiştirilebilir hesaplama havuzu" olarak yönetiyor. Brown, çok çipli yapıya erken geçme kararını "alışılmadık bir bahis" olarak nitelendirdi.
Şirketin 6-12 ay tahmini, "yeni hızlandırıcıları geleneksel mühendislik yaklaşımlarıyla devreye alma konusundaki geçmiş deneyiminden" kaynaklanıyor; bu süreçte kodu her donanım platformuna uyarlamak bir zorluktu. Bu devreye alma engelinin ortadan kalkması, seçimi bir satın alma kararına indirgeyebilir. Anthropic, AMD GPU'larıyla ilk kez bu yıl çalışmaya başladı ve 2 gigavata kadar kapasiteyi kapsayan bir anlaşma şu anda yürürlükte.
Nvidia'nın programlama platformu CUDA yaklaşık yirmi yaşında. AMD'nin eşdeğeri ROCm; programlama katmanı HIP ve HIPify adlı bir dönüştürme aracı var. AMD'nin yapay zeka yazılımlarından sorumlu başkan yardımcısı Anush Elangovan nisan ayında "Claude, HIPify'dan daha iyi çünkü içinde web araması var" demişti.
AMD geçen yıl ağustostan bu yana yapay zekanın bu tür kod yazabildiğini savunuyor; ancak o dönem sunduğu bir araştırma ajanı insan uzmanların gerisinde kaldı. Eylül ayında AMD Üst Yöneticisi Lisa Su, yapay zeka yazılımlarının büyük bölümünün CUDA ile yazıldığını ve "AMD'ye çevrilmesi" gerektiğini, bunun "büyük bir kısmının artık yazılımla yapılabildiğini" söyledi. Temmuz ayında AMD'nin yapay zekadan sorumlu kıdemli başkan yardımcısı Vamsi Boppana, mühendislerinin GPU çekirdekleri üretmek için yapay zeka modellerini kullandığını belirtti. Su, ekibinin MI355X üzerinde çalışan Anthropic mühendisine yardım edip etmediğini sorduğunda kendisine hiçbir yardıma ihtiyaç duyulmadığının söylendiğini aktardı. Boppana, ortaya çıkan bazı çekirdeklerin "elle en iyi ayarlanmış sürümlerden daha iyi" olduğunu söyledi.
AMD, Anthropic ile temmuz anlaşması kapsamında Claude'u Instinct GPU'ları için iş yüklerini optimize etmek ve ROCm geliştirmesini hızlandırmak için de kullanıyor. AMD'nin temmuz ayındaki Advancing AI etkinliğinde OpenAI'dan Philippe Tillet, OpenAI Helios raflarını aldıktan sonra tek bir mühendisin her şeyin birkaç gün içinde çalıştığını doğruladığını ve "bir anlamda çekirdek mühendisleri olarak ajanlar işlerimizi devralıyor" dediğini söyledi. Etkinlik öncesinde AMD'nin veri merkezi GPU iş biriminin kurumsal başkan yardımcısı ve genel müdürü Andrew Dieckman, gazetecilere AMD müşterileriyle CUDA hakkında neredeyse hiç görüşme yapmadığını söyledi.
GPU çekirdekleri yazan ve yayımlanmış bir yapay zeka ajanı olan GEAK, uzmanların yazdığı 30 çekirdeğin 19'unu doğru üretti ve ortalama olarak uzmanların hızının 0,92 katında çalıştı. Anthropic çip satmıyor, çip satın alıyor ve gelecek hafta halka arzına hazırlanıyor. İzahnamesinde "Yeni çip platformlarını eskiden aldığı sürenin çok küçük bir bölümünde devreye alabiliyoruz" deniyor.
Kaynaklar — Bu haberi nasıl biliyoruz
- BirincilHacker News Front Page