宝塔做网站网站开发简历项目

宝塔做网站,网站开发简历项目,网站建设用户画像例子,网络技术推广服务打开 WSL 终端#xff0c;执行官方一键安装脚本#xff1a; curl -fsSL https://ollama.com/install.sh | sh验证安装是否成功#xff1a; ollama --version # 输出版本号#xff08;如ollama version 0.1.48#xff09;则安装成功三、基础使用#xff1a;运行 / 管理模…打开 WSL 终端执行官方一键安装脚本curl -fsSL https://ollama.com/install.sh | sh验证安装是否成功ollama --version # 输出版本号如ollama version 0.1.48则安装成功三、基础使用运行 / 管理模型1. 运行第一个模型以 DeepSeek 为例Ollama 内置了主流模型的配置直接执行模型名即可自动下载并运行ollama run deepseek # 自动下载DeepSeek模型并启动交互界面首次运行会下载模型文件DeepSeek-7B 约 4GB耐心等待下载完成后进入交互模式输入问题即可对话如介绍一下WSL退出交互输入/bye或按Ctrl D。2. 常用 Ollama 命令模型管理命令功能ollama list查看已下载的模型ollama pull deepseek单独下载模型不运行ollama rm deepseek删除指定模型ollama stop deepseek停止运行中的模型ollama serve后台启动 Ollama 服务供 API 调用四、进阶开启 GPU 加速WSL 2 专属默认 Ollama 使用 CPU 运行模型开启 GPU 加速可大幅提升推理速度步骤如下安装 WSL 版 NVIDIA 驱动先在 Windows 侧安装 NVIDIA 显卡驱动需支持 WSL 2https://www.nvidia.com/Download/index.aspxWSL 内安装 CUDA 依赖无需完整安装 CUDA仅需运行时sudo apt install nvidia-cuda-toolkit -y验证 GPU 识别nvidia-smi # 输出显卡信息则GPU适配成功重启 Ollama 服务自动调用 GPUsudo systemctl restart ollama ollama run deepseek # 再次运行模型会自动使用GPU五、通过 API 调用 Ollama开发集成Ollama 内置 REST API可在 WSL 内或 Windows 侧调用后台启动 Ollama 服务ollama serve # 表示后台运行调用 API 示例curl 测试curl http://localhost:11434/api/generate -d { model: deepseek, prompt: 解释Ollama的核心优势 }Python 调用示例import requests url http://localhost:11434/api/generate data { model: deepseek, prompt: 用Python写一个调用Ollama API的示例, stream: False # 关闭流式输出直接返回完整结果 } response requests.post(url, jsondata) print(response.json()[response])Docker 安装 web-ui 界面version: 3.8 services: open-webui: image: ghcr.io/open-webui/open-webui:main container_name: open-webui restart: always ports: - 3000:8080 # 主机端口:容器端口可自定义如 8088:8080 extra_hosts: - host.docker.internal:host-gateway # 关键让容器访问主机的 Ollama volumes: - ./data:/app/backend/data # 持久化数据对话、配置、插件 - ./models:/app/models # 可选挂载自定义模型目录 environment: - OLLAMA_BASE_URLhttp://host.docker.internal:11434 # 指定 Ollama 地址 - LANGUAGEzh-CN # 强制中文界面 - TZAsia/Shanghai # 时区配置避免日志时间错乱