导读 【网盟资讯】1月3日消息，近日，创鑫智慧(Neuchips)发布了一份新闻稿，正式宣布将参与2024年CES大展，并计划推出全新的Raptor
Gen AI加...
【网盟资讯】1月3日消息，近日，创鑫智慧(Neuchips)发布了一份新闻稿，正式宣布将参与2024年CES大展，并计划推出全新的Raptor Gen AI加速卡和Evo PCIe加速卡 LLM产品。
Neuchips首席执行官Ken Lau在新闻稿中表示，他们对能够在2024年消费电子展上展示Raptor芯片和Evo卡感到非常高兴。这两款产品代表了自然语言处理从价格到性能的一次巨大飞跃，为企业在现有解决方案的基础上以更小的成本部署大型语言模型(LLM)提供了可能性。
据ITBEAR科技资讯了解，Raptor Gen AI加速卡的每秒算力达到了200 TOPS，在诸如矩阵乘法、矢量和嵌入表查找等人工智能推断运算方面表现出色，特别适用于生成式AI等多场景应用。
Evo加速卡采用8通道PCIe Gen5和32GB LPDDR5内存，主机I/O带宽高达64GB/s，内存带宽达到1.6Tbps，而且单卡功耗仅为55W。此外，Evo还具备100%的可扩展性，用户可以通过轻松添加更多芯片来线性提高性能。Neuchips强调，这种模块化设计将有助于确保客户对未来人工智能工作负载的投资保值。
Neuchips预告即将推出的半高半长(HHHL)外形产品Viper，计划于2024年下半年正式亮相。该公司表示，Viper将以其更大的部署灵活性为特点，通过紧凑而小巧的设计，为数据中心级人工智能加速提供全新的选择。