《RWKV-Android手机最新版》是一款开源的离线版AI对话、AI写作、AI续写软件。这款软件不仅支持离线操作,还允许用户选择对话模型和续写模型,操作简便,无需登录和注册,没有任何使用限制。由于是离线打包版本,安装包较大,需在网络较好的情况下下载。
首先,安装包大小为808MB,安装并打开后,点击复制模型按钮,即可进行对话或续写操作。
进入对话模式,与AI进行交流,软件利用CPU算力来进行运算。
软件的反应速度较快,测试中发现加载仅在第一句话时稍有延迟,之后基本秒出结果。在小米10的12G内存版本,搭载骁龙865芯片的手机上表现流畅,若使用骁龙8Gen 2或8Gen 3芯片,效果更佳。
RWKV创新地将GPT Transformer改写成RNN形式,保留了Transformer block的设计思路,同时具备RNN和Transformer的特性。
RWKV拥有RNN速度快、显存占用少的优势,解决了传统RNN的缺陷。同时,像Transformer一样,RWKV能够进行并行推理和训练。
RWKV已完成0.1B到14B英文模型训练,以及7B中文对话和小说模型的初步训练。RWKV将很快启动0.1B到14B的全球多语种模型正式训练,并逐步达到千亿参数规模。