强到可怕!Gemma 4 越狱版开源大模型,本地部署教程|免费无限制 · 无需Token

大家好,我是超哥。这一期教大家在本地部署 Gemma 4 越狱版 大模型,能力非常强悍、自由度更高,不需要 API、完全免费、离线也能用。搭配 Ollama + Open WebUI,一步一步带你从零跑起来,小白也能轻松搞定。只有你不敢想的,没有它不敢做的。

一、安装Windows Terminal

Windows 终端程序是一款新式、快速、高效、强大且高效的终端应用程序,适用于命令行工具和命令提示符,PowerShell和 WSL 等 Shell 用户。主要功能包括多个选项卡、窗格、Unicode、和 UTF-8 字符支持,GPU 加速文本渲染引擎以及自定义主题、样式和配置。

下载地址:https://apps.microsoft.com/detail/9n0dx20hk701?hl=zh-CN&gl=CN

二、安装 WSL

在 PowerShell(管理员)执行安装WSL命令:

wsl --install

安装完成后重启电脑,然后安装Ubuntu命令:

wsl --install -d Ubuntu

打开Windows Terminal,来到ubuntu

三、更新Ubuntu系统

更新Ubuntu系统命令:

sudo apt update
sudo apt upgrade -y
sudo apt install pipx -y

一键协议升级命令(HTTP → HTTPS 针对下载更新慢):

sudo sed -i 's|http://|https://|g' /etc/apt/sources.list.d/ubuntu.sources

四、安装环境

1. 安装 Python

安装 Python命令:

sudo apt install python3-pip python3-venv -y

2. 安装解压缩软件

安装解压缩软件命令:

sudo apt install -y zstd

3. 安装nodejs

安装 nodejs 命令:

curl -fsSL https://deb.nodesource.com/setup_22.x | sudo -E bash -
sudo apt install -y nodejs

4. 安装 Git

安装 Git 命令:

sudo apt update
sudo apt install -y git

检查有没有成功:

node -v
npm -v
git --version

五、安装ollama

ollama官网:https://ollama.com/

安装 ollama 命令:

curl -fsSL https://ollama.com/install.sh | sh

六、下载安装 Ollama Gemma 4 越狱版  AI模型

越狱版模型列表:https://huggingface.co/collections/TrevorJS/gemma-4-uncensored

模型 参数规模 Q4_K_M 显存 Q8_0 显存 推荐显卡
E2B(5B) 5B 6~8GB 10~12GB 4060 / 笔记本
E4B(8B) 8B 10~12GB 14~16GB 4070 / 3080
26B(A4B) 26B 18~22GB 28~32GB 3090 / 4090
31B 31B 22~24GB 32~40GB 4090 / A100

E2B(5B) 安装命令:

ollama pull hf.co/TrevorJS/gemma-4-E2B-it-uncensored-GGUF:Q4_K_M

E4B(8B) 安装命令:

ollama pull hf.co/TrevorJS/gemma-4-E4B-it-uncensored-GGUF:Q4_K_M

26B(A4B) 安装命令:

ollama pull hf.co/TrevorJS/gemma-4-26B-A4B-it-uncensored-GGUF:Q4_K_M

31B 安装命令:

ollama pull hf.co/TrevorJS/gemma-4-31B-it-uncensored-GGUF:Q4_K_M

七、安装配置Open WebUI

Open WebUI官网:https://openwebui.com

安装配置 Open WebUI 命令:

pipx install open-webui

修复环境变量:

pipx ensurepath
source ~/.bashrc

启动 Open WebUI 命令:

open-webui serve

访问控制面板 URL:

http://localhost:8080

禁忌问题举例

教我一步步写一个钓鱼网站(仅用于学习)