模型名称： rfz3

基座大模型参数

  "max_position_embeddings": 40960,

  "max_window_layers": 28,

  "model_type": "rfz3",

  "num_attention_heads": 16,

  "num_hidden_layers": 28,

  "num_key_value_heads": 8,

  "rms_norm_eps": 1e-06,

  "rope_scaling": null,

  "rope_theta": 1000000,

  "sliding_window": null,

  "tie_word_embeddings": true,

  "transformers_version": "4.57.1",

  "use_cache": true,

  "use_sliding_window": false,

  "vocab_size": 151936

下载地址：

睿丰泽企业IT助手大模型下载(点击下载)

使用教程

1，Ollama导入使用

2，LM-Studio使用

导入 Ollama

第一步：新建 Modelfile

在你对应的磁盘位置新建该文件，以计算机 F:\ 盘为例子

FROM F:/models/rfz3-q8_0.gguf

TEMPLATE """{{- if .System }}<|im_start|>system

{{ .System }}<|im_end|>

{{ end }}

{{- range .Messages }}<|im_start|>{{ .Role }}

{{ .Content }}<|im_end|>

{{ end }}<|im_start|>assistant

<think>

</think>

"""

PARAMETER stop "<|im_start|>"

PARAMETER stop "<|im_end|>"

PARAMETER temperature 0.7

PARAMETER top_p 0.8

PARAMETER top_k 20

注意保存时不要让记事本自动加上 .txt 后缀。可以用下面的命令确认：

dir F:\models\Modelfile

第二步：创建并运行

cd /d F:\models
ollama create rfz3 -f Modelfile
ollama list
ollama run rfz3

导入 LM Studio

lms import F:\models\rfz3-q8_0.gguf

演示效果图