nanobot实战：基于Qwen3-4B，5步完成你的第一个AI助手

nanobot实战基于Qwen3-4B5步完成你的第一个AI助手1. 开箱即用认识你的超轻量级AI伙伴想拥有一个随时待命的AI助手但又担心部署复杂、资源消耗大今天介绍的nanobot可能就是你在寻找的答案。想象一下一个功能完整的AI助手代码量只有传统方案的1%部署简单到几乎一键完成这就是nanobot。它基于通义千问的Qwen3-4B-Instruct模型通过vLLM高效推理再用Chainlit给你一个清爽的聊天界面。最棒的是你还可以把它变成QQ机器人让AI助手融入你的日常社交。我最初接触时也怀疑过这么少的代码功能会不会打折扣实际用下来发现核心的对话、任务理解、简单命令执行它都做得很好。3510行代码运行bash core_agent_lines.sh可以随时验证实现了大部分常用功能这种“小而美”的设计对个人用户和小型项目特别友好。接下来我会带你用5个清晰的步骤从零开始把这个AI助手跑起来并让它通过QQ为你服务。2. 第一步确认你的模型已就绪万事开头简我们先确保基础服务已经正常启动。打开你的WebShell通常就在镜像界面的某个标签页里输入下面这个简单的命令cat /root/workspace/llm.log这个命令会显示模型服务的启动日志。你期待看到的是类似这样的成功信息INFO:模型加载完成服务启动成功 INFO:vLLM引擎初始化完毕 INFO:Qwen3-4B-Instruct模型就绪如果看到了“服务启动成功”和“模型就绪”这样的关键词那么恭喜你最底层、最复杂的模型部署部分镜像已经帮你搞定了。如果这里报错了比如显存不足、驱动问题日志里也会明确告诉你原因方便排查。简单理解一下背后的技术vLLM是一个专门为大规模语言模型设计的高效推理引擎你可以把它想象成一个“超级快递员”能更快地把你的问题送给模型并把模型的回答取回来。Qwen3-4B-Instruct则是通义千问团队推出的一个40亿参数的中英文指令微调模型在保持较小体积的同时拥有不错的理解和生成能力。3. 第二步启动聊天界面和AI打个招呼模型准备好了我们得有个地方和它“说话”。这里用到的是Chainlit一个专门为AI应用设计的聊天界面框架颜值和易用性都不错。启动它非常简单在WebShell中输入chainlit run app.py或者如果你发现镜像提供了更便捷的命令也可以试试nanobot chat命令执行后终端里会显示服务运行的地址通常是http://localhost:7860。把这个地址复制到浏览器的地址栏打开你就能看到一个干净的聊天窗口了。现在就像使用任何聊天软件一样在底部的输入框里试试水输入“你好请介绍一下你自己”然后回车。看看它的回复。基于Qwen3-4B它的中文回答通常比较流畅自然。你可以多问几个问题比如“今天星期几”或者“你能帮我做什么”感受一下它的对话能力。这不仅是测试也是让你和你的新助手互相熟悉的过程。4. 第三步让它帮你做点实事——执行系统命令一个只会聊天的助手可能还不够酷。nanobot的一个实用功能是它能理解你的一些指令并尝试去执行系统命令然后把结果整理好告诉你。在刚才的Chainlit聊天框里输入一个更实际的请求请使用nvidia-smi命令查看一下当前显卡的配置和使用情况。发送后观察发生了什么。nanobot会识别出这是一个需要执行命令的请求然后在后台调用nvidia-smi这个查看NVIDIA显卡状态的工具命令。获取到原始的、可能有些杂乱的技术输出。对输出进行整理、解读最后用你能看懂的话呈现出来。你可能会看到它回复你GPU的型号、显存用了多少、温度是多少等等。这演示了它如何作为一个“代理”Agent去连接和操作外部系统。你可以举一反三让它帮你“列出当前目录的文件”或“查看内存使用情况”。5. 第四步升级体验——将AI助手接入QQ让AI待在浏览器里有时还是不方便。如果能把它放进QQ随时它提问是不是更像一个真正的“助手”这一步我们来实现这个功能。5.1 准备工作获取QQ机器人的“身份证”首先我们需要去QQ的官方开放平台创建一个机器人应用拿到连接所需的凭证。访问 QQ开放平台用你的QQ号登录并完成开发者注册个人开发者即可。在后台点击“创建应用”选择“机器人”类型。填写应用名称和描述这些会展示给你的QQ好友看。创建成功后在应用的“开发管理”页面找到至关重要的两项信息AppID和AppSecret。把它们复制下来妥善保存这就像机器人的账号和密码。5.2 关键配置告诉nanobot如何连接QQ拿到凭证后我们需要修改nanobot的配置文件把QQ通道打开。在WebShell里用下面的命令编辑配置文件vim /root/.nanobot/config.json如果你不熟悉vim也可以用nano或其他你喜欢的编辑器。找到配置文件里关于channels通道的部分把QQ的配置修改成下面这样{ channels: { qq: { enabled: true, // 确保这里是 true表示启用QQ通道 appId: YOUR_APP_ID, // 替换成你刚复制的 AppID secret: YOUR_APP_SECRET, // 替换成你刚复制的 AppSecret allowFrom: [] // 这里可以填允许使用的QQ号列表空数组表示所有人都可以用 } } }注意一定要把YOUR_APP_ID和YOUR_APP_SECRET替换成你自己的真实字符串不要留引号。5.3 启动网关建立通信桥梁配置保存好后QQ机器人还不能直接用。我们需要启动一个特殊的“网关”服务让nanobot能和QQ平台通信。在WebShell中输入nanobot gateway如果一切配置正确你会看到服务启动成功的提示比如“QQ网关服务启动成功监听端口: 8080”。这个窗口需要保持运行不要关闭它。5.4 愉快聊天在QQ里召唤你的助手现在打开你的手机QQ或电脑QQ。如果你创建的是“私聊机器人”你应该已经添加了它作为好友。直接向它发送消息即可。如果你创建的是“群聊机器人”把它拉进群然后在群里它并提问。试着问它“机器人助手 今天天气怎么样”或者“机器人助手 讲个笑话吧”。你会发现它的回复和之前在Chainlit网页里一模一样但现在你可以随时随地通过QQ调用了。6. 第五步进阶技巧与问题排查完成以上四步你的个人AI助手就已经在浏览器和QQ里同时上岗了。这里再分享几个让使用更顺滑的小技巧。6.1 让回复更合你心意如果觉得助手的回答太啰嗦或者风格不是你喜欢的可以调整它的“性格”。这通过修改模型参数实现主要关注config.json里的这几个max_tokens控制生成回答的最大长度。调小可以加快回复速度但回答可能不完整。temperature控制回答的随机性。值越低如0.3回答越确定、保守值越高如0.9回答越有创意、越多样。top_p另一种控制多样性的方式。通常和temperature配合微调。6.2 遇到问题怎么办问题Chainlit页面打不开或没反应。检查回到WebShell确认chainlit run app.py命令是否在运行有没有报错。解决尝试重启服务或者检查端口是否被占用。问题QQ机器人不回复消息。检查首先确认nanobot gateway服务是否在运行。然后去QQ开放平台后台检查“机器人设置”里的“消息推送”等配置是否已启用。解决核对config.json中的appId和secret是否填写正确一个字符都不能错。问题助手执行命令失败。理解出于安全考虑nanobot执行系统命令的能力是受限的。它可能无法执行某些需要高权限或涉及敏感操作如删除文件的命令。建议从简单的查询命令开始测试如查看系统信息、目录列表等。7. 总结回顾一下我们只用了五步就拥有了一个多功能AI助手检查模型用一行命令确认Qwen3-4B模型已通过vLLM部署就绪。启动界面运行Chainlit获得一个美观的网页聊天窗口。初步对话通过简单问答和命令执行测试助手的核心能力。接入QQ配置QQ开放平台修改配置文件启动网关让助手入驻QQ。优化使用了解如何调整参数和排查常见问题让助手更好用。nanobot的魅力在于它的“轻量”。它没有试图做一个大而全的庞然大物而是用极简的代码约4000行实现了AI助手的核心价值理解、对话和简单工具调用。对于想快速体验AI助手能力、需要私有化部署、或资源有限的个人开发者来说它是一个非常优雅的起点。现在你的AI助手已经准备就绪。无论是通过浏览器进行深度对话还是在QQ群里随时它解决小问题它都能成为你得力的数字伙伴。接下来你可以尝试探索它的更多可能性比如结合你自己的知识库或者用它来处理一些重复性的文本工作。获取更多AI镜像想探索更多AI镜像和应用场景访问 CSDN星图镜像广场提供丰富的预置镜像覆盖大模型推理、图像生成、视频生成、模型微调等多个领域支持一键部署。