【LLM】大模型工具调用之AllTools模型

Zhipuai的GLM-4-AllTools 是专门为支持智能体和相关任务而进一步优化的模型版本。它能够自主理解用户的意图，规划复杂的指令，并能够调用一个或多个工具（例如网络浏览器、代码解释器和文本生图像）以完成复杂的任务。

截止20241021现在支持的工具：

当前只支持SSE流式输出，可以累加拼接：

（1）调用网页搜索工具

# 浏览网页
from zhipuai import ZhipuAI
my_key = "xxx"
client = ZhipuAI(api_key=my_key) # 请填写您自己的APIKey
response = client.chat.completions.create(model="glm-4-alltools",  # 填写需要调用的模型名称messages=[{"role": "user","content":[{"type":"text","text":"北京五道口附近有哪些推荐的餐厅？"}]}],max_tokens= 40000,stream=True,tools=[{"type":"web_browser","web_browser":{"browser" :"auto"}}]
)# for chunk in response:
#     print(chunk)# 每个chunk内容：
# ChatCompletionChunk(id='20241021213650f82d5f06363d4209', choices=[Choice(delta=ChoiceDelta(content=None, role='assistant', tool_calls=None), finish_reason='stop', index=0)], created=1729517830, model='glm-4-alltools', usage=CompletionUsage(prompt_tokens=4281, completion_tokens=313, total_tokens=4594), extra_json=None, status='completed')# 循环读取流式输出的数据
def liu_ans(response):end_ans = ""for chunk in response:# chunk 是一个 ChatCompletionChunk 对象# 提取 choices 列表中的第一个 Choice 对象choice = chunk.choices[0]# 提取 delta 属性中的 contentcontent = choice.delta.contentif content is not None:# print(content)end_ans += contentreturn end_ansend_ans = liu_ans(response)
print(end_ans)

得到的结果如下（搜了下确实有这几家店）：

在北京五道口附近，有几家被推荐的餐厅您可以考虑试试：1. **水平有限**：这家店以螺蛳粉著称，被认为是京城最佳之一。店面风格小资，食物口味浓郁。米粉口感好，配料丰富。2. **乐山油炸巴蜀二荆条**：这是一家特色的乐山风味小吃店，主要提供各种油炸串串。除此之外，还有许多其他风格的餐厅可以选择，比如重庆火锅、烧烤、韩式烤肉等不同风味的餐馆，满足不同的口味需求。具体的餐厅信息和位置，您可以查阅知乎相关文章或网易新闻提供的详细列表。[知乎专栏](https://zhuanlan.zhihu.com/p/387669298)、[网易新闻](https://www.163.com/dy/article/DP3M98AU05421G3J.html) 和 [知乎问题](https://www.zhihu.com/question/21967026?sort=created&page=1)上有更详细的介绍和建议。

（2）使用自定义的函数get_tourist_data_by_year：

from zhipuai import ZhipuAI
my_key = "xxx"
client = ZhipuAI(api_key=my_key) # 请填写您自己的APIKey
response = client.chat.completions.create(model="glm-4-alltools",  # 填写需要调用的模型名称messages=[{"role": "user","content":[{"type":"text","text":"帮我查询2018年至2024年，每年五一假期全国旅游出行数据，并绘制成柱状图展示数据趋势。"}]}],stream=True,tools=[{"type": "function","function": {"name": "get_tourist_data_by_year","description": "用于查询每一年的全国出行数据，输入年份范围(from_year,to_year)，返回对应的出行数据，包括总出行人次、分交通方式的人次等。","parameters": {"type": "object","properties": {"type": {"description": "交通方式，默认为by_all，火车=by_train，飞机=by_plane，自驾=by_car","type": "string"},"from_year": {"description": "开始年份，格式为yyyy","type": "string"},"to_year": {"description": "结束年份，格式为yyyy","type": "string"}},"required": ["from_year","to_year"]}}},{"type": "code_interpreter"}]
)# for chunk in response:
#     print(chunk)
# 循环读取流式输出的数据
def liu_ans(response):end_ans = ""for chunk in response:# chunk 是一个 ChatCompletionChunk 对象# 提取 choices 列表中的第一个 Choice 对象choice = chunk.choices[0]# 提取 delta 属性中的 contentcontent = choice.delta.contentif content is not None:# print(content)end_ans += contentreturn end_ansend_ans = liu_ans(response)
print(end_ans)

注意工具的写法如下：