使用Trigger.dev实现AI客服自动回复与内容审核并行处理

最新推荐文章于 2025-06-12 03:55:30 发布

陆滔柏Precious

最新推荐文章于 2025-06-12 03:55:30 发布

阅读量333

点赞数 4

本文链接：https://blog.csdn.net/gitblog_01197/article/details/148394012

版权

使用Trigger.dev实现AI客服自动回复与内容审核并行处理

trigger.dev ✨ Trigger.dev is the open source background jobs framework for TypeScript. With features like API integrations, webhooks, scheduling and delays. 项目地址: https://gitcode.com/gh_mirrors/tr/trigger.dev

在现代AI应用开发中，如何高效处理用户请求同时确保内容安全是一个常见挑战。本文将介绍如何利用Trigger.dev平台构建一个能够并行处理客户咨询和内容审核的AI工作流。

并行处理的核心价值

并行处理(Parallelization)是一种让多个任务或流程同时运行而非顺序执行的工作模式，它能显著提高资源利用率和整体执行效率。在AI客服场景中，这种模式特别有价值：

响应生成和内容审核可以独立进行
减少用户等待时间
提高系统吞吐量
确保内容安全性的同时不牺牲响应速度

技术架构设计

我们的解决方案将包含三个核心组件：

客户响应生成器：负责生成专业、有帮助的客服回复
内容审核器：检测用户输入中是否包含不当内容
工作流协调器：管理并行执行并综合结果

实现详解

1. 客户响应生成任务

export const generateCustomerResponse = task({
  id: "generate-customer-response",
  run: async (payload: { question: string }) => {
    const response = await generateText({
      model: openai("o1-mini"),
      messages: [
        {
          role: "system",
          content: "You are a helpful customer service representative.",
        },
        { role: "user", content: payload.question },
      ],
      experimental_telemetry: {
        isEnabled: true,
        functionId: "generate-customer-response",
      },
    });
    return response.text;
  },
});

这个任务使用AI模型生成客服响应，系统提示设置为"你是一个乐于助人的客服代表"，确保生成的回复专业且友好。通过实验性遥测功能，我们可以跟踪和分析LLM的调用情况。

2. 内容审核任务

export const checkInappropriateContent = task({
  id: "check-inappropriate-content",
  run: async (payload: { text: string }) => {
    const response = await generateText({
      model: openai("o1-mini"),
      messages: [
        {
          role: "system",
          content: "你是一个内容审核员。如果内容不适当或包含有害、威胁、冒犯或露骨内容，请回复'true'，否则回复'false'。",
        },
        { role: "user", content: payload.text },
      ],
      experimental_telemetry: {
        isEnabled: true,
        functionId: "check-inappropriate-content",
      },
    });
    return response.text.toLowerCase().includes("true");
  },
});

内容审核任务使用相同的AI模型但不同的系统提示，专门用于检测不当内容。返回值为布尔值，表示是否发现不当内容。

3. 主协调任务

export const handleCustomerQuestion = task({
  id: "handle-customer-question",
  run: async (payload: { question: string }) => {
    const {
      runs: [responseRun, moderationRun],
    } = await batch.triggerByTaskAndWait([
      {
        task: generateCustomerResponse,
        payload: { question: payload.question },
      },
      {
        task: checkInappropriateContent,
        payload: { text: payload.question },
      },
    ]);

    if (moderationRun.ok && moderationRun.output === true) {
      return {
        response: "抱歉，我无法处理此请求，因为它包含不适当的内容。",
        wasInappropriate: true,
      };
    }

    if (responseRun.ok) {
      return {
        response: responseRun.output,
        wasInappropriate: false,
      };
    }

    throw new Error("处理客户问题时出错");
  },
});

主任务使用batch.triggerByTaskAndWait方法并行触发两个子任务，并等待它们完成。关键处理逻辑：