如何本地部署RWKV-Runner尝鲜CPU版
环境:
RWKV-Runner 1.7.1
Win10专业版
问题描述:
如何本地部署RWKV-Runner尝鲜CPU版
RWKV(发音为 RwaKuv)是一个具有 GPT 级LLM性能的 RNN,也可以像 GPT 转换器一样直接训练(可并行化)
本项目旨在消除大语言模型的使用门槛,全自动为你处理一切,你只需要一个仅仅几MB的可执行程序。此外本项目提供了与OpenAI API兼容的接口,这意味着一切ChatGPT客户端都是RWKV客户端
解决方案:
1.下载RWKV-Runner.exe程序
2.主页面
3.下载对应模型,在线下载很慢,可能需要科学
4.如网盘下载模型放如models文件夹内,我下了1B5这个
5.开始也可以直接点主页右下角运行,然后按提示操作,会自动下载对应所缺的东西(python等等一些东西)
6.cpu运行会提示改配置里这
7.最后点运行
运行成功
测试对话