mangev2要好，v2的原视频。以及 训练参数 从训练日志看：

0.1 mangev2

mangev2训练config：

最近我试了三个挺火的知识库问答引擎，分别是网易的 QAnything、开源中文问答 LangChain-Chatchat、还有英伟达出品的 ChatQA。它们都号称能“精准问答”、“高效离线”、“中文友好”啥的，听着都挺牛，但真用起来感觉还是蛮不一样的。

1. QAnything是网易有道推出的基于子曰教育大模型自研的RAG（检索增强生成）引擎，它是一个免费开源的本地知识库问答解决方案。这种引擎支持各种文件格式和数据库，允许离线安装和使用。用户可以简单地拖拽任何格式的本地存储文件或文档，并向其提问获取精准、高效和可靠的答案。这种工具对本地知识库的需求特别便利。

1 RWKV与Transformers的关系

RWKV（Recurrent Weighted Key Value）是一种基于Transformer的新型模型，它结合了Transformer和RNN（Recurrent Neural Network）的优点，提高了Transformer在长序列上的性能。RWKV的关键在于它的key-value memory机制，它可以将序列中的信息存储在key-value memory中，从而减少了序列长度对模型性能的影响。

1 Samba CoE特色以及优点

Samba CoE特点在于高精度地处理特定领域任务、多种语言和不同模态，以实现先进的性能。优点包括：

1. 巨大规模参数数量：作为一百万亿参数架构，它能够在各领域表现出突出的准确率。
2. 广泛适用性：可应用于多样化的任务、语言和模态，提供灵活性。
3. Samba CoE v0.2：专门为评估目的设计的子集，狭窄焦点于通用对话处理。
4. 资源高效：在单个SN40L节点上运行，同时支持数百个模型，表现出出色的性能和高效率。

2 Samba CoE v0.3

v0.3 版本：

微调Mobius 12B base模型，会涉及以下步骤。

1. 安装必要的库。如果你还没安装，首先需要安装Hugging Face的Transformers库，pip install transformers`来进行安装。
2. 加载预训练的模型和分词器。如我之前提到的，你可以用以下代码加载模型和分词器：

​

ai大模型最新排行榜

1 SuperCLUE总排行榜（2024年2月）

2 其它特色ai链接：

2.1 多模型竞答对比：Chat with Open Large Language Models (lmsys.org)

lmsys支持多种模型：