安全大模型

前言

想搞一个大模型助手，于是研究了一下那个 secGPT-Mini 的安全大模型，感觉并不是很好用。跟自己理想中的大模型助手还是差很多，不过也是通过此做一个了解吧。
现在也已经有了新的思路。

简介

secGPT-Mini是一个可以在CPU上运行的网络安全大模型，可以做很多事情。比如：漏洞分析、溯源分析、流量分析、攻击研判、命令解释等。

其优点并不仅仅在于功能，更重要的是其并没有常见的道德限制，这可以让我们进行自由的使用。

拉取镜像

docker 部署的移植性和便捷性都很高，所以这里就直接使用 docker 部署了。

直接通过 docker 拉取镜像部署

1
2
3
4
#拉取镜像
docker pull tanheyii/secgpt-mini
#根据镜像创建容器运行
docker run -d -p 7860:7860 tanheyii/secgpt-mini

创建容器之后，浏览器访问127.0.0.1:7860即可进行使用。

Dockerfile

另一种麻烦一点的部署方法是通过 Dockerfile 进行部署。

  • 创建Dockerfile
1
2
3
4
5
6
7
8
9
10
11
FROM python:slim  
  
WORKDIR /secgpt-mini  
  
COPY . /secgpt-mini  
  
RUN pip install -i https://mirrors.ustc.edu.cn/pypi/web/simple -r requirements.txt  
  
EXPOSE 7860  
  
CMD ["python", "webdemo.py", "--base_model", "/secgpt-mini/models"]
  • 构建镜像

在当前目录下执行此命令

1
docker build -t secgpt .

后言

参考链接：SecGPT-Mini的一些补充

≡