Ollama 最新功能介绍：工具调用

小马不会过河

于 2024-09-18 20:28:25 发布

阅读量460

点赞数 6

文章标签： ui AIGC 人工智能区块链大数据知识图谱

本文链接：https://blog.csdn.net/m0_59163425/article/details/142342851

版权

关于在 Ollama 中使用函数调用的全面指南

引言

就在几天前，Ollama 加入了大语言模型（LLM）开发者的队伍，宣布用户现在可以直接在 Ollama 中调用工具。

虽然严格来说 Ollama 并不是一个大语言模型开发者，而更像是一个大语言模型的促进者，但这一消息仍然受到了粉丝们的热烈欢迎。

在本文中，我将向你展示如何利用 Ollama 的 API 和 Python 来使用工具。

如果你之前没听过 Ollama，我建议你先阅读以下文章，我在其中介绍了它们的功能和作用，

搭建开发环境

在开始编程之前，最好的做法是创建一个新的开发环境，以此来隔离我们的项目。我个人是使用 conda 来完成这一步骤，但你也可以选择任何你熟悉的工具。

PS C:\\Users\\thoma> conda create -n ollama_tools python=3.11 -y``PS C:\\Users\\thoma> conda activate ollama_tools``(ollama_tools) PS C:\\Users\\thoma> pip install jupyter yfinance ollama

安装 Ollama

前往 ollama.com 下载适合你系统的 Ollama 最新版并安装。

检查你的版本信息。你需要至少 0.3.0 版本来进行工具调用。

(ollama_tools) PS C:\\Users\\thoma> ollama --version``ollama version is 0.3.0

选择你的大语言模型并通过 Ollama 下载

在 Ollama 网站的这一部分查看支持使用工具的兼容模型列表，

https://ollama.com/library

确定好你要使用的模型后，通过 Ollama 将其下载到本地。例如，我选择了 Llama 3.1 8B 模型。

(ollama_tools) PS C:\\Users\\thoma> ollama pull llama3.1

首次执行此操作可能需要一两分钟。你可以通过以下命令查看本地系统上有哪些模型，

(ollama_tools) PS C:\\Users\\thoma> ollama list

要运行模型，在与之交互之前，例如使用以下命令，

(ollama_tools) PS C:\\Users\\thoma> ollama run llama3.1:latest --keepalive 120m

当你看到 >>> 提示符后，可以直接退出，这个模型会在后台继续运行，在本例中是 120 分钟，之后它会自动卸载。

为什么我们需要工具调用？

我们需要工具调用的原因是大语言模型通常只能回答到某个时间点之前的问题。这意味着除非它们可以直接访问互联网，否则它们无法获取当前的事件、情况等信息——而大多数模型都做不到这一点。

因此，如果你询问一个大语言模型当前巴黎的温度，它是无法告诉你答案的。同样，询问某只特定股票的当前价格也是如此。

>>> what is the current price of MSFT (Microsoft)``   ``As I'm a large language model, I don't have direct access to real-time market data. However, I can suggest some``ways for you to find out the current stock price of Microsoft (MSFT):``   ``1. **Financial websites**: Visit reputable financial websites like:`        `* Yahoo Finance (finance.yahoo.com)`        `* Google Finance (finance.google.com)`        `* Bloomberg (bloomberg.com)`        `* CNBC (cnbc.com)``2. **Stock market apps**: Use a mobile app like:`        `* Robinhood`        `* Fidelity Investments`        `* eTrade`        `* TradingView``3. **Direct from the source**: Visit Microsoft's investor relations page (ir.microsoft.com) for real-time stock``data.``   ``As of my knowledge cutoff, the current price of MSFT was around $245-$250 per share. However, please note that``this information may be outdated, and I recommend checking a reliable financial website or app for the most recent``and accurate price.``   ``If you want to get an estimate, here are some historical price ranges:``   ``* 52-week high: around $280``* 52-week low: around $210``   ``Keep in mind that stock prices can fluctuate rapidly due to various market factors. Always consult multiple``sources or a financial advisor for more precise and up-to-date information.``

示例代码 —— 查找一只股票的当前价格

我们来看这个问题。

首先，我们需要一个函数来返回一只股票的当前价格。我们可以使用 Yahoo Finance 来实现。

import yfinance as yf``   ``def get_current_stock_price(ticker_symbol):``   `  `# Get the stock data`  `stock = yf.Ticker(ticker_symbol)``   `  `# Get the current price`  `current_price = stock.history(period='1d')['Close'].iloc[0]``   `  `return current_price

接下来，将这个函数作为工具告知 Ollama。

import ollama``   ``# Want the current price of Microsoft - ticker symbol MSFT``   ``response = ollama.chat(`    `model='llama3.1',`    `messages=[{'role': 'user','content':``        'What is the current price of MSFT'}],``   `  `# provide a tool to get the current price of a stock`    `tools=[{`      `'type': 'function',`      `'function': {`        `'name': 'get_current_stock_price',`        `'description': 'Get the current price for a stock',`        `'parameters': {`          `'type': 'object',`          `'properties': {`            `'ticker_symbol': {`              `'type': 'string',`              `'description': 'The ticker symbol of the stock',`            `},`          `},`          `'required': ['ticker_symbol'],`        `},`      `},`    `},`  `],``)``   ``print(response['message']['tool_calls'])

动态调用工具。

# Create a dictionary mapping function names to functions``function_map = {`    `'get_current_stock_price': get_current_stock_price,`    `# Add more functions here as needed``}``   ``def call_function_safely(response, function_map):`    `# Extract the function name and arguments from the response`    `tool_call = response['message']['tool_calls'][0]`    `function_name = tool_call['function']['name']`    `arguments = tool_call['function']['arguments']``   `    `# Look up the function in the function map`    `function_to_call = function_map.get(function_name)``   `    `if function_to_call:`        `try:`            `# Call the function with the arguments`            `result = function_to_call(**arguments)`            `print(f"The current price of {arguments['ticker_symbol']} is : {result}")`        `except TypeError as e:`            `print(f"Argument error: {e}")`    `else:`        `print(f"{function_name} is not a recognized function")``   ``call_function_safely(response, function_map)

这个操作产生了以下结果，

The current price of MSFT is : 427.4599914550781

对我来说，这个结果相当准确了。

如何学习大模型 AI ？

由于新岗位的生产效率，要优于被取代岗位的生产效率，所以实际上整个社会的生产效率是提升的。

但是具体到个人，只能说是：

“最先掌握AI的人，将会比较晚掌握AI的人有竞争优势”。

这句话，放在计算机、互联网、移动互联网的开局时期，都是一样的道理。

我在一线互联网企业工作十余年里，指导过不少同行后辈。帮助很多人得到了学习和成长。

我意识到有很多经验和知识值得分享给大家，也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑，所以在工作繁忙的情况下还是坚持各种整理和分享。但苦于知识传播途径有限，很多互联网行业朋友无法获得正确的资料得到学习提升，故此将并将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。

在这里插入图片描述