这不完全是正确的。推理和训练是2回事。你看BT coin,挖矿很难
回答: 语言模型训练好了,使用也需要巨量运算。上万参数的矩阵运算。不可能 由 老轮 于 2025-01-31 22:48
但是验真相对快很多。训练出网络极其麻烦和繁琐。需要超强的算力但是你如果用模型跑推理,也就是比如 chat这样的。现在普通的单卡3060可以做得很不错的。很快的。 就是台式机就能跑的。intel和amd都在搞 NPU 也就是带有AI加速器的 cpu ..老轮有兴趣可以适当关注。
内容来自网友分享,若违规或者侵犯您的权益,请联系我们
所有跟帖: ( 主贴楼主有权删除不文明回复,拉黑不受欢迎的用户 )
楼主前期社区热帖:
>>>>查看更多楼主社区动态...