Новый процессор Alibaba XuanTie C950: шаг к агентным ИИ-системам
Китайская технологическая компания Alibaba анонсировала новый процессор (CPU) XuanTie C950, предназначенный для обработки многошаговых задач, выполняемых агентными ИИ-системами (агентами называют ИИ-системы, которые могут выполнять задачи от имени пользователей). Новый процессор будет использоваться в дата-центрах и предназначен для этапа инференса — выполнения обученных ИИ-моделей.
В отличие от графических процессоров (GPU), которые доминируют в обучении крупных ИИ-моделей благодаря способности выполнять множество вычислений одновременно, CPU выполняют задачи общего назначения последовательно. Это особенно важно в контексте разработки агентов, способных выполнять конкретные действия.
Разработанный Академией DAMO компании Alibaba, XuanTie C950 позволяет настраивать процессор под конкретные задачи, что даёт клиентам возможность адаптировать чипы под свои нужды. По заявлению компании, новый процессор обеспечивает более чем 30%-ное улучшение производительности по сравнению с некоторыми основными продуктами благодаря гибкости в настройке под конкретные сценарии использования.
XuanTie C950 основан на архитектуре RISC-V, которая является альтернативой архитектуре британской компании Arm. В отличие от Arm, где за использование дизайна процессоров взимаются роялти, RISC-V предоставляет бесплатный доступ к своей архитектуре.
Характеристики XuanTie C950:
- Архитектура: RVA23 Profile
- До 8 ядер с тактовой частотой 3,2 ГГц, производительность Specint2006 base — 22+/ГГц, или около 70 баллов при 3,2 ГГц
- Матричные вычисления: интеграция сопроцессора XuanTie TPE (AME v0.5)
- Кэш: приватный L1 и L2 кэш; варианты L2: 256КБ, 512КБ, 1024КБ, 2048КБ, 3072КБ. Опциональный общий L3 кэш: 1МБ, 2МБ, 3МБ, 4МБ или 8МБ
- MMU: Sv57/Sv48/Sv39 с PA48
- Шина: режим прямого подключения: CHI.E/CHI.F; многопроцессорный режим: AXI4.0/ACE4.0
- Трассировка: RISC-V Nexus Trace v1.0
- Технология производства: 5-нм процесс
Alibaba активно развивает свои полупроводниковые технологии через подразделение T-Head, которое ранее выпустило ИИ-чип Zhenwu 810E. Однако компания не продаёт свои процессоры другим организациям, а предлагает услуги через своё облачное подразделение.
По мнению аналитика Morningstar Челси Тэм, значение нового процессора заключается в повышении устойчивости цепочек поставок в условиях дефицита вычислительных мощностей и снижении общих затрат. Однако она отметила, что запуск XuanTie C950 вряд ли окажет значительное влияние на общий доход Alibaba из-за ограничений производственных мощностей.