OpenAI подтвердила, что развернула внутри компании собственные чипы Jalapeño в связке с серверными процессорами AMD EPYC Turin. Каждый вычислительный узел получил 1,5 ТБ оперативной памяти, пишет Tom’s Hardware. Система собрана в масштабе серверных стоек.
Jalapeño — это ASIC, специализированный чип-ускоритель, спроектированный под определенные вычислительные задачи OpenAI и совместную работу с ее программным обеспечением. В отличие от универсального процессора, такой чип оптимизируют для конкретной нагрузки.
Руководитель аппаратного направления OpenAI Ричард Хо назвал выбор AMD «прагматичным». По его словам, отдельный серверный процессор Nvidia Vera пока немного отстает по зрелости, тогда как Turin соответствовал требованиям проекта, а партнеры OpenAI уже имели опыт работы с этой платформой. Компания хотела добиться нужной производительности и стоимости, не добавляя проекту лишних рисков.
ИИ использовали при проектировании аппаратной части Jalapeño и ее совместной настройке с программами OpenAI. Путь от первоначального описания логики чипа до передачи готового проекта в производство занял девять месяцев, а от концепции до публичного представления прошло менее двух лет.
Хо назвал этот срок новым ориентиром и сообщил, что другие участники отрасли уже интересуются подходом OpenAI. Если такой цикл удастся повторять, специализированные ускорители можно будет быстрее адаптировать к изменениям программного обеспечения, сокращая время между постановкой задачи и развертыванием новой вычислительной инфраструктуры.
Что это значит
- Для вас. Jalapeño пока используется во внутренней инфраструктуре OpenAI. В источниках нет сообщений об изменениях ChatGPT, тарифов или доступных пользователям возможностей.
- За чем следить. Раскроет ли OpenAI производительность и стоимость Jalapeño и станет ли расширять его использование. В опубликованных материалах этих показателей пока нет.