当前位置: 首页 > news >正文

自己动手实现一个简单的Linux AI Agent

大模型带我们来到了自然语言人机交互的时代

在这里插入图片描述

1、安装本地大模型进行推理

下载地址:
https://ollama.com/download
部署本地deepseek

ollama run deepseek-r1:7b

2、制定Linux操作接口指令规范

需要ai推理生成的json格式:

[{"host": "10.1.1.10","OS": "CentOS7.9","user": "root","ssh_port": 22,"command": "df -h"}
]

提示词:

有如下json中的主机,请结合用户需求和OS类型给出准确的command命令替换“command”键值:
[{"host": "10.1.1.10","OS": "CentOS7.9","user": "root","ssh_port": 22,"command": "df -h"}
]
其他key未说明情况下为默认,请根据用户需求返回json,仅回复json文本。

在page assist中测试提示词
在这里插入图片描述
命令最好是使用提示词都规范下:
在这里插入图片描述

3、编写大模型对话工具

#!/usr/bin/python3
#coding: utf-8import json
import requestsmodel = "llama3"def chat(messages):r = requests.post("http://localhost:11434/api/chat",json={"model": model, "messages": messages, "stream": True},)r.raise_for_status()output = ""for line in r.iter_lines():body = json.loads(line)if "error" in body:raise Exception(body["error"])if body.get("done") is False:message = body.get("message", "")content = message.get("content", "")output += contentprint(content, end="", flush=True)if body.get("done", False):message["content"] = outputreturn messagedef main():messages = []while True:user_input = input("Enter a prompt: ")if not user_input:exit()print()messages.append({"role": "user", "content": user_input})message = chat(messages)messages.append(message)print("\n\n")if __name__ == "__main__":main()

4、运行AI Agent查看效果


未完待续


http://www.mrgr.cn/news/90549.html

相关文章:

  • RabbitMQ 如何设置限流?
  • 蓝桥杯算法日记|贪心、双指针
  • 好好说话:深度学习扫盲
  • [LeetCode]day21 15.三数之和
  • 名词解释:npm,cnpm,yarn,vite,vue,electron
  • 蓝桥杯 Java B 组 - 第 1 周复习总结
  • HCIA项目实践--静态路由的总结和简单配置
  • C++基础学习记录—作用域限定符
  • Electron 主进程和渲染进程通信方法总结
  • MFC线程安全案例
  • H5接入支付宝手机网站支付并实现
  • 软件工程-软件设计
  • Linux 配置 MySQL 定时自动备份到另一台服务器
  • Webpack包
  • 2.【线性代数】——矩阵消元
  • springCloud-2021.0.9 之 GateWay 示例
  • (Xshell 8 + Xftp 8)下载安装miniconda至服务器指定目录+配置虚拟环境
  • 微信小程序网络请求封装
  • AI-Engine-Direct-Helper 快速上手及环境配置
  • linux运行kettle 遇到问题汇总
  • 自然语言处理NLP入门 -- 第二节预处理文本数据
  • fps动作系统9:动画音频
  • 【Android开发AI实战】选择目标跟踪基于opencv实现——运动跟踪
  • django中间件,中间件给下面传值
  • 使用mermaid画流程图
  • 【核心特性】从鸭子类型到Go的io.Writer设计哲学