Anthropic заявила, что Клод Мифос сократил подключение GPU AMD до трёх дней
Модель ИИ портировала или написала почти 100% ядер для GPU AMD MI355X, сообщила Anthropic инвесторам в рамках IPO, тогда как прежде на это уходило от шести до 12 месяцев.
ℹ️ Озвучка браузером · студийный голос ИИ скоро

Anthropic сообщила инвесторам в рамках IPO, что её модель Клод Мифос Превью выполнила программную работу, необходимую для запуска её ИИ на GPU AMD, примерно за три дня, "практически без вмешательства человека" — задача, которая, по словам компании, раньше занимала от шести до 12 месяцев.
Эти три дня охватывают обработку промптов для одной модели Anthropic на GPU AMD MI355X "на полезном уровне производительности", при этом Мифос портировала или написала "почти 100% ядер". Этот низкоуровневый код привязывает модель ИИ к чипам конкретной компании и долгое время был частью рва Nvidia вокруг CUDA. ИИ, способный написать его за считаные дни, указывал бы на то, что этот ров размывается.
Том Браун, соучредитель и главный директор по вычислениям Anthropic, привёл это сравнение по срокам, отметив инвесторам, что первоначальная работа требовала команды из "десятков инженеров". Anthropic уже запускает свои модели на GPU от Nvidia и AMD, на TPU от Гугл и на AWS Трейниум и управляет своим парком как "одним взаимозаменяемым пулом вычислений". Браун назвал раннее решение в пользу нескольких типов чипов "нестандартной ставкой".
Оценка компании в шесть-12 месяцев исходит из её "исторического опыта запуска новых ускорителей с использованием традиционных инженерных подходов", когда адаптация кода под каждую аппаратную платформу была проблемой. Устранение этого барьера при подключении могло бы свести выбор к решению о покупке. Anthropic начала работать с GPU AMD впервые в этом году, и сейчас действует соглашение о поставках до 2 гигаватт.
CUDA, программная платформа Nvidia, существует почти два десятилетия. У AMD есть аналог — ROCm, с HIP в качестве программного слоя и инструментом конвертации под названием HIPify. Ануш Элангован, вице-президент AMD по программному обеспечению для ИИ, заявил в апреле, что "Клод лучше HIPify, потому что в нём встроен веб-поиск".
AMD с августа прошлого года утверждает, что ИИ может писать такой код, хотя исследовательский агент, представленный тогда, уступал экспертам-людям. В сентябре генеральный директор AMD Лиза Су сказала, что значительная часть программного обеспечения для ИИ написана на CUDA и нуждается в "переводе на AMD", добавив, что "очень многое из этого теперь можно сделать программно". В июле старший вице-президент AMD по ИИ Вамси Боппана заявил, что её инженеры используют модели ИИ для генерации ядер GPU. Су сказала, что когда она спросила, помогают ли они инженеру Anthropic, работающему с MI355X, ей ответили, что помощь не требуется. Боппана сказал, что некоторые полученные ядра оказались "лучше большинства версий, настроенных вручную".
В рамках июльского соглашения с Anthropic компания AMD также использует Клод для оптимизации рабочих нагрузок для своих GPU Instinct и для ускорения разработки ROCm. На мероприятии AMD Advancing AI в июле Филипп Тийе из OpenAI сказал, что после того, как OpenAI получила свои стойки Гелиос, один инженер подтвердил, что всё работает, в течение нескольких дней, и что "агенты в некотором смысле берут на себя нашу работу в качестве инженеров по ядрам". Перед мероприятием Эндрю Дикман, корпоративный вице-президент и генеральный директор подразделения GPU для центров обработки данных AMD, сказал журналистам, что у него практически не было разговоров с клиентами AMD о CUDA.
Опубликованный ИИ-агент под названием GEAK, который пишет ядра GPU, правильно выполнил 19 из 30 ядер, написанных экспертами, в среднем со скоростью 0,92 от скорости экспертов. Anthropic покупает чипы, а не продаёт их, и на следующей неделе выходит на IPO. В её проспекте говорится: "Мы можем подключать новые чиповые платформы за долю времени, которое это когда-то требовало".
Источники — откуда мы это знаем
- ПервичныйHacker News Front Page