AI News CN (Telegram)
https://mp.weixin.qq.com/s/nNUhyoPCRvYhOt1xC1C5lw
https://mp.weixin.qq.com/s/nNUhyoPCRvYhOt1xC1C5lw
Weixin Official Accounts Platform
ollama 即将支持 MLX,在 Mac 下推理速度提升 10~50%MLX 旨在充分利用苹果的统一内存和 GPU,因此可以期待更快、更高效的大模型训练、执行和推理速度。
•••
https://mp.weixin.qq.com/s/nNUhyoPCRvYhOt1xC1C5lw
Weixin Official Accounts Platform
ollama 即将支持 MLX,在 Mac 下推理速度提升 10~50%MLX 旨在充分利用苹果的统一内存和 GPU,因此可以期待更快、更高效的大模型训练、执行和推理速度。