Ollama

Ollama


Ollama的使用方法


远程调用:

查看模型种类|命令行命令|翻译|对话资料来源)|

使用本地电脑docker的ollama接口:对话(prompt)|

判断情感: prompt = """
将文本分类为中性、负面或正面。
文本:我认为这次假期很糟糕。
情感:
"""


模型对话(streamlit):01|02|03(中文)
导入模型:

GGUF models and select Safetensors models can be imported directly into Ollama.

import.md|

##########Ollama文件导入GGUF
###建立modelfile
文件名称:gguf.modelfile
文件内容:
FROM ./Qwen2-7B-Instruct-hqx-2024_01.Q4_K_M.gguf
###执行命令
ollama create Qwen2-7B-Instruct-hqx-2024_01.Q4_K_M -f gguf.modelfile


##########Open WebUI导入GGUF
管理员面板——设置——模型——实验性——上传一个 GGUF 模型


Ollama接口_20240812_01|




BypInformation