探索Databricks Lakehouse平台：统一数据、分析与AI的利器

最新推荐文章于 2024-10-04 22:36:54 发布

qq_37836323

最新推荐文章于 2024-10-04 22:36:54 发布

阅读量663

点赞数 24

文章标签：人工智能 python

本文链接：https://blog.csdn.net/qq_29929123/article/details/142373209

版权

探索Databricks Lakehouse平台：统一数据、分析与AI的利器

引言

Databricks Lakehouse平台是一款融合数据、分析和AI于一体的强大工具。在本文中，我们将快速带您入门，了解如何使用Databricks LLM模型进行应用开发。本指南适合那些希望在LangChain应用中集成Databricks LLM的开发者。

主要内容

Databricks LLM概述

Databricks LLM类封装了一个补全端点，该端点可以通过以下两种方式托管：

Databricks模型服务：推荐用于生产和开发。
集群驱动程序代理应用：推荐用于交互式开发。

限制

Databricks LLM类是一个旧版实现，存在一些功能兼容性限制：

仅支持同步调用，不支持流或异步API。
不支持批处理API。

要使用这些功能，请改用新的ChatDatabricks类，该类支持所有的ChatModel API，包括流、异步、批处理等。

环境设置

要访问Databricks模型，您需要创建一个Databricks帐户，设置凭据（如果您在Databricks工作区之外运行），并安装所需的软件包。

凭据设置（适用于Databricks工作区之外）

如果您在Databricks内部运行LangChain应用，可以跳过此步骤。否则，您需要手动将Databricks工作区主机名和个人访问令牌设置为DATABRICKS_HOST和DATABRICKS_TOKEN环境变量。参阅认证文档以获取访问令牌。

import getpass
import os

os.environ["DATABRICKS_HOST"] = "https://your-workspace.cloud.databricks.com"
os.environ["DATABRICKS_TOKEN"] = getpass.getpass("Enter your Databricks access token: ")

或者，可以在初始化Databricks类时传递这些参数：

from langchain_community.llms import Databricks

databricks = Databricks(
    host="https://your-workspace.cloud.databricks.com",
    # 强烈建议不要在代码中硬编码访问令牌，而是使用秘密管理工具或环境变量来安全存储访问令牌。
    token=dbutils.secrets.get(scope="YOUR_SECRET_SCOPE", key="databricks-token"),  # noqa: F821
)

安装

LangChain Databricks集成存在于langchain-community包中。此外，运行此笔记本代码需要mlflow >= 2.9.0。

%pip install -qU langchain-community mlflow>=2.9.0

包装模型服务端点

前提条件

注册并部署了LLM至Databricks服务端点。
拥有"Can Query"权限。

预期的MLflow模型签名为：

输入：[{"name": "prompt", "type": "string"}, {"name": "stop", "type": "list[string]"}]
输出：[{"type": "string"}]

调用

from langchain_community.llms import Databricks

llm = Databricks(endpoint_name="YOUR_ENDPOINT_NAME")
llm.invoke("How are you?")

转换输入和输出

如果端点有不兼容的模型签名，或您想添加额外配置，可以使用transform_input_fn和transform_output_fn。

def transform_input(**request):
    full_prompt = f"""{request["prompt"]}
    Be Concise.
    """
    request["prompt"] = full_prompt
    return request

def transform_output(response):
    return response.upper()

llm = Databricks(
    endpoint_name="YOUR_ENDPOINT_NAME",
    transform_input_fn=transform_input,
    transform_output_fn=transform_output,
)

llm.invoke("How are you?")