苹果电脑安装MaxKB通过API接入DeepSeek部署本地化AI智能体教程

苹果电脑如何纯净的部署一个半本地化的人工智能并能接入其他第三方AI模型,比如接入DeepSeek或ChatGpt?

建议下载安装Docker Desktop(https://www.docker.com/products/docker-desktop/);

  1. 安装好Docker Desktop后打开软件,点击(Continue without signing in)在不登录的状态下进入软件,如下图。
苹果电脑安装MaxKB通过API接入DeepSeek部署本地化AI智能体教程
  1. 通过Docker Desktop的终端安装MaxKB,当然也可以安装ollama,本次教程以MaxKB为例。

点击Docker Desktop软件右下角的Terminal,如下图。

苹果电脑安装MaxKB通过API接入DeepSeek部署本地化AI智能体教程
  • 若遇到“魔法屏障”,可在Settings-Docker Engine中添加一下镜像地址后,按“Apply & restart”。
苹果电脑安装MaxKB通过API接入DeepSeek部署本地化AI智能体教程

Docker Desktop的终端更换镜像地址的配置代码如下:

{

"builder": {

"gc": {

"defaultKeepStorage": "20GB",

"enabled": true

}

},

"experimental": false,

"features": {

"buildkit": true

},

"registry-mirrors": [

"https://rweh9cyd.mirror.aliyuncs.com",

"http://hub-mirror.c.163.com",

"https://registry.docker-cn.com",

"https://docker.mirrors.ustc.edu.cn"

]

}

  • 安装MaxKB的命令如下:

按顺序输入已下命令;

docker run -d --name=maxkb --restart=always -p 8080:8080 -v ~/.maxkb:/var/lib/postgresql/data -v ~/.python-packages:/opt/maxkb/app/sandbox/python-packages cr2.fit2cloud.com/1panel/maxkb
docker ps

CONTAINER ID   IMAGE                            COMMAND                   CREATED         STATUS         PORTS                              NAMES
a01c4bca10cf   cr2.fit2cloud.com/1panel/maxkb   "bash -c /usr/bin/ru…"   2 minutes ago   Up 2 minutes   5432/tcp, 0.0.0.0:8080->8080/tcp   maxkb

默认访问地址为http://localhost:8080/

默认用户名:admin

默认密码:MaxKB@123..

苹果电脑安装MaxKB通过API接入DeepSeek部署本地化AI智能体教程
  1. 接入DeepSeek的API

首先得去DeepSeek开发平台https://platform.deepseek.com/注册账号并创建自己的API Key,如下图;

苹果电脑安装MaxKB通过API接入DeepSeek部署本地化AI智能体教程

在MaxKB-系统管理-模型设置里添加DeepSeek模型

苹果电脑安装MaxKB通过API接入DeepSeek部署本地化AI智能体教程
苹果电脑安装MaxKB通过API接入DeepSeek部署本地化AI智能体教程

选择DeepSeek模型,并给模型自定义一个名字,建议就按模型能力进行命名即可(比如DeepSeek-Chat大语言模型,DeepSeek-Coder编程模型)。内网用户可以选择私有权限即可,如果是商业化服务提供外网访问的话可以设置为公用(谨慎)。

苹果电脑安装MaxKB通过API接入DeepSeek部署本地化AI智能体教程
  1. 创建应用

类似创建自己的智能体,以下都简称为智能体。

新手建议选择“简单配置”、“高级编排”模式支持自定义工作流和设计提示词。

苹果电脑安装MaxKB通过API接入DeepSeek部署本地化AI智能体教程

简单配置模式:

在AI模型下拉菜单里选择要调用哪个模型,参数设置里可以设置调用模型的精确度和最大Tokens输出数量(最大为100000)。如果创建了知识库,也可将本地知识库关联到自己的智能体中。此模式下也能进行简单的提示词编辑。

苹果电脑安装MaxKB通过API接入DeepSeek部署本地化AI智能体教程

高级编排模式:

选择高级编排模式,可进行更加高级的工作流模式来设计自己的智能体,除了管理“知识库”外,还可以关联“函数库”。

苹果电脑安装MaxKB通过API接入DeepSeek部署本地化AI智能体教程
  1. 创建知识库

社区版(免费版)支持最多创建50个知识库,顾名思义知识库即使投喂给AI的所有知识内容,工作量巨大,知识库主要的工作内容为对知识内容进行向量化(其实就是知识文本进行分段分解),并对向量化后的分段进行问题关联。我们可以创建通用型和Web站点两种类型的知识库,前者主要是将一些文本文件导入,后者是通过同步站点中的文本数据。

苹果电脑安装MaxKB通过API接入DeepSeek部署本地化AI智能体教程
  • 生成知识库问题

我们可以借用第三方AI模型,比如借用DeepSeek模型+提示词的方式对知识库内的不同知识进行“生成问题”,“生成问题”主要是便于AI在运行过程中更快和准确的进行引用。也可以手动添加问题或者手动对分段内容进行调整(工作量巨大),手动调整的主要原因就是借助第三方模型对某个知识性文档难以做到准确的分段。

苹果电脑安装MaxKB通过API接入DeepSeek部署本地化AI智能体教程
  • 知识库向量化和生成问题

下图是对《策略产品经理:模型与方法论(独创函数方法论和经济学方法论解决策略产品问题)》的文档正在调用DeepSeek的API进行生成问题的示意图,这个过程非常耗费Tokens(非本地模型或RMB玩家不用采用付费接口方式进行“生成”问题的操作)。

苹果电脑安装MaxKB通过API接入DeepSeek部署本地化AI智能体教程
  • 知识库文档分段

以下是《NPDP产品开发与管理》的文档的分段示意图。

苹果电脑安装MaxKB通过API接入DeepSeek部署本地化AI智能体教程

我们可以对其中每个分段进行“分段标题、分段内容”进行编辑,也可关联问题(AI驯兽师最主要的能力就是提问题)。也对可该知识手动添加分段。

苹果电脑安装MaxKB通过API接入DeepSeek部署本地化AI智能体教程
  1. 函数库

函数库可以帮助我们实现实时数据查询与获取、文本内容处理、模型调用等大语言模型无法直接实现的功能。

以下举例我们创建一个“研发工期评估”的函数。不懂编程的小伙伴可以找其他AI帮忙写Python代码和罗列出代码中所用到的参数。

苹果电脑安装MaxKB通过API接入DeepSeek部署本地化AI智能体教程

  1. 自建AI智能体的对话效果。

叫我的“诗仙”智能体起草一部小说的大纲在我的知识库里检索引用了部分知识耗时0.42s、通过调用DeepSeekAPI接口耗时71.11s,消耗3721个Tokens。

苹果电脑安装MaxKB通过API接入DeepSeek部署本地化AI智能体教程

原创文章,作者:产品大法师VIP Plus,如若转载,请注明出处:https://www.pmtemple.com/fengsaitao/17290/

(0)
打赏 微信扫一扫 微信扫一扫 支付宝扫一扫 支付宝扫一扫
上一篇 2025年2月20日 上午10:55
下一篇 2025年2月27日 下午10:17

相关推荐

发表回复

登录后才能评论
微信公众号
微信公众号
edgesensor_high 小程序
小程序
分享本页
返回顶部