振华航空芯闻眼:三星正在All in NPU

发布时间:2025/1/15

“NPU的增长潜力非常高。三星还在运营多个开发项目,包括‘Mach’等云NPU和可用于智能手机的设备端NPU。特别是,三星研究院正在开发用于电视的NPU。” 

三星研究院全球人工智能中心负责人金大贤14日在汝矣岛国会大厅谈到了该公司人工智能加速器的发展趋势。

目前,AI半导体市场几乎被全球无晶圆厂公司NVIDIA的高性能GPU(图形处理单元)垄断。由于GPU是一种同时处理多个指令的并行处理方法,因此在需要重复计算大量数据的AI行业中正在积极采用。    

中心主任 Kim 表示:“随着 NVIDIA GPU 已成为构建 AI 数据中心最常见的半导体,其安全程度已成为 AI 竞争力的晴雨表,”而微软和 Meta 已经获得了数十万台。,三星已经确保了数十万台。”“确实还短缺约1万台,”他说。

特别是,NVIDIA提供了“CUDA”,这是一个完美支持基于其GPU的AI模型学习和推理的软件堆栈。这使得开发人员能够利用各种工具进行大规模人工智能模型训练和推理。

不过,预计未来将积极使用NPU(神经网络处理单元)等替代产品。NPU是专门用于机器学习(ML)的芯片,它允许计算机学习数据并自动改进结果。与 GPU 相比,它缺乏通用性,但计算效率较高。

中心主任 Kim 表示,“NPU 是一种专注于 AI 的半导体,如果 GPU 的 AI 性能是 100,那么 NPU 大约是 1000。”他补充道,“由于 NVIDIA 的芯片太贵,全球大型科技公司也在开发定制产品。最大限度地提高性能和效率,“我们正在开发人工智能加速器,”他解释道。

众所周知,三星电子正在为数据中心和设备人工智能等各个行业开发 NPU。

中心主任 Kim 表示,“三星也在开发从 NPU 硬件和软件到 AI 模型的所有领域,并且正在内部开展多个 NPU 开发项目。”他补充道,“还有一个类似于 Mach 的项目,三星研究院正在开发一个类似的项目。”他解释说,用于电视的 NPU“正在开发中”。

此前,三星电子与Naver合作,共同开发自己的AI加速器“Mach”,但由于两家公司之间的分歧日益扩大,该项目被取消。相反,三星电子决定继续通过自己的人员开发人工智能加速器。 

Rebellion、Furiosa AI等韩国初创公司也为数据中心设计了自己的NPU。各家公司都在积极与韩国外科技公司合作,寻求全面进入市场。

Kim董事表示:“韩国AI半导体初创公司要取得成功,需要制定一个为硬件和软件领域提供平衡支持的计划。”他补充道,“目前这些公司仅依靠投资,但最终它们将成为现实。”与数据中心公司相关联。”“我们需要创建一个能够自我维持的生态系统,”他强调。

另外,金中心主任 在国会议员高东镇主办的“与 NVIDIA GPU 一起讨论的 TPU 和 NPU 技术的生存分析会议”上发表了演讲。

高东镇议员表示:“为了加强韩国的人工智能半导体生态系统,有必要利用韩国公司来建设数据中心基础设施。”他补充道, “我们使用英伟达、谷歌等现有大公司的基础设施。”和亚马逊,同时测试韩国初创公司的系统半导体。”“我认为我们需要在一年半内朝着升级和提高水平的方向发展,”他说。@半导体新闻