AI News CN (Telegram)
微软开发出一种可在CPU上运行的超高效AI模型
微软开发出一种可在CPU上运行的超高效AI模型
via cnBeta.COM中文业界资讯站 - Telegram Channel
Telegraph
微软开发出一种可在CPU上运行的超高效AI模型微软开发出一种可在CPU上运行的超高效AI模型Bitnets本质上是设计用于在轻量级硬件上运行的压缩模型。在标准模型中，权重（定义模型内部结构的值）通常会被量化，以便模型在各种机器上都能表现良好。量化权重可以减少表示这些权重所需的位数（计算机能够处理的最小单位），从而使模型能够在内存更少的芯片上更快地运行。Bitnets 将权重量化为三个值：-1、0 和 1。理论上，这使得它们比当今大多数模型具有更高的内存和计算效率。微软研究人员表示，BitNet b1.58 2B4T 是第一个拥有 20 亿个参数的比…
•••