我来了。
最近这一年,gpt被炒的非常火,确实也给我们带了巨大的便利。最近做了些前端,用到了element-ui,我尝试着全程用gpt去学习,效率是极其高。所以最近也在自己部署大语言模型(GPT需要科学上网),在网上看到有一个开源的大语言模型,尝试着自己部署,开始全用CPU,加到了60G内存,勉强能用,并且一个问题差不多要150s时间,后来网上找了GPU的体验服务器,用了点钞能力,速度马上提升了十倍,下周打算买显卡来搞了,理论速度应该会更快,这样就可以在开发工具和IM里面进行集成了,想想就有些兴奋。
网友评论