Ollama
Ollama
使用本地电脑docker的ollama接口:对话(prompt)|
判断情感: prompt = """
将文本分类为中性、负面或正面。
文本:我认为这次假期很糟糕。
情感:
"""
GGUF models and select Safetensors models can be imported directly into Ollama.
##########Ollama文件导入GGUF
###建立modelfile
文件名称:gguf.modelfile
文件内容:
FROM ./Qwen2-7B-Instruct-hqx-2024_01.Q4_K_M.gguf
###执行命令
ollama create Qwen2-7B-Instruct-hqx-2024_01.Q4_K_M -f gguf.modelfile
##########Open WebUI导入GGUF
管理员面板——设置——模型——实验性——上传一个 GGUF 模型