这是一个使用 Gradio 制作的基于 RWKV 的 AI 角色扮演对话的 WebUI，7B参数int8量化下仅需要7.6GB显存即可完美运行。配合N卡最新驱动的显存内存融合，基本一个10XX系以上的N卡就能扮演一个不错的AI对象。也不知道是模型特点还是设定问题，AI总是在勾引用户做羞羞的事情。即使你电脑贼垃圾，甚至只有一个手机，也可以白嫖谷歌的 Google Colab，每个账号每天大概可以免费使用3~12小时。 文章目录1 白嫖 Google Colab 运行 RWKV2 本地运行 RWKV2.1 硬件与软件准…
最近评论
去年夏天 发布于 1 天前（11月25日）
去年夏天 发布于 1 天前（11月25日）
去年夏天 发布于 1 天前（11月25日）
满心 发布于 1 天前（11月25日）
bestlove 发布于 2 天前（11月25日）