今天,总部位于西雅图的人工智能硬件初创公司ElastixAI正式亮相。该公司由前苹果和 Meta 机器学习工程师创立,推出了一款基于 FPGA 的推理平台。该公司声称,与基于 Nvidia GPU 的部署相比,该平台在大型语言模型推理方面可降低高达 50 倍的总拥有成本和 80% 的功耗。
提出ADAPTOR,一种面向Transformer神经网络的FPGA加速器,通过高级合成技术实现模块化设计,支持运行时参数调整,优化了矩阵分块策略和资源利用,显著提升能效比,实验表明其性能优于NVIDIA K80 GPU和i7-8700K CPU。 中文关键字:Transformer加速器; FPGA硬件设计; 自适应 ...
集成电路芯片包括数字芯片和模拟芯片两大类,数字芯片可以分为存储器芯片和逻辑芯片,我们熟知的逻辑芯片一般包括CPU、GPU、DSP等通用处理器芯片,以及专用集成电路芯片ASIC。FPGA(现场可编程门阵列,)也是逻辑芯片的一种。 FPGA是在PAL(可编程逻辑阵列 ...
在过去二十多年里,FPGA 一直处在一个略显尴尬的位置:它比 ASIC 灵活,却不够高效;比 GPU 可定制,却更难开发。因此,FPGA 长期被贴上两个标签:“工程师的工具”,以及“原型验证的平台”。