使用 OpenVINO™ 定制你的AI 助手

点击蓝字

关注我们,让开发变得更有趣

作者 | Anisha Udayakumar  英特尔AI软件布道师

         武卓  英特尔AI软件布道师

排版 | 吴紫琴

OpenVINO™

在前一篇博客文章中，我们介绍了启动和运行 AI 医疗助手的基础知识之后，是时候探索如何为不同行业定制AI助手并使用我们这个边缘AI套件的基础代码集成各种模型了。

1. 为不同行业定制助手

医疗保健应用：

• 加强患者互动并简化问诊流程。

其它行业应用：

• 零售领域: 为消费者提供更详细的产品介绍和推荐信息。

• 教育培训：提供个性化的学习建议和辅导。

• 个人生产力：自动安排和提醒会议、任务和重要日期等。

2. 使用OpenVINO™套件

OpenVINO™ 工具套件对于高效优化和部署 AI 模型至关重要。在搭建 AI 助手的过程中，可以利用它获得：

模型优化：

• 转换和优化模型以提高性能并减少资源使用。

部署灵活性：

• 在各种英特尔硬件和设备上部署优化的模型。

3. 集成各种模型

选择合适的模型:

• 根据你使用场景的特定需求 (e.g., 自动语音识别（ASR） 模型, 对话模型)。

集成步骤：

• 按照与上一篇文章中教程部分中描述的设置和优化模型类似的步骤进行操作。

4. 集成和定制的最佳实践

高效的模型集成:

• 根据您的硬件功能选择适当的数据精度（例如，int8、int4）。

避免常见的陷阱：

• 确保模型和部署环境之间的兼容性。

其它资源：

• 浏览文档和社区论坛，获取进一步的支持和信息。

5. 系统提示语定制

为医疗AI助手构建的原始初始系统提示语是这样的。

适用于医疗保健 AI 助手的系统提示语规则可以总结如下：

• 明确自定义 AI 助手的角色和目标。

• 限制 AI 助手将提供的目标答案范围，以防它提供不应提供的建议。

• 限制从用户那里收集的信息范围和要避免的问题。

• 限制向用户提出的问题总数，以获得更好的用户体验。

遵循上述规则，台湾的一位英特尔创新大使构建了一个AI“导游”智能助手，在更换正确的系统提示语并添加支持台湾本地知识的大模型的情况下运行良好。它工作起来是这样的！

这项技术的潜在应用是巨大的。在医院急诊科，它可以对患者进行分类并收集初步信息，节省了宝贵的时间。在零售领域，它能够提供更为丰富的产品咨询和推荐体验。对于个人来说，它能够打造贴心的个人助手，提高个人生产力。

由 OpenVINO™ 工具套件提供支持的定制 AI医疗助手展示了 AI 如何彻底改变医疗保健。随着人工智能技术的不断发展，我们势必还将看到基于AI打造的智能助手在更多行业发挥更大的作用。

深入了解、探索并了解这项尖端技术如何改变各行各业的用户体验吧。

祝编程愉快！

错过上一篇文章的小伙伴可以点这里查看哦~

打造 AI 驱动的医疗助理：利用 OpenVINO™ 实现就诊新体验

OpenVINO™

其他资源

https://www.intel.com/content/www/us/en/developer/topic-technology/edge-5g/open-potential.html?cid=sem&source=sa360&campid=2024_ao_nex_in_iotgde_iotgaiie_consid_text-link_brand_phrase_cd_q2-in-nex-ai-inference_3500228789_google_b2b_oos_mixed-pbm_intel&ad_group=brand_brand_b2b1-awa_phrase&intel_term=edge+ai&sa360id=43700080361570446&gad_source=1&gclid=CjwKCAjwko21BhAPEiwAwfaQCLkcd326NdteVbNMScJ1lW9GoFRy6u6vZmDw5EK62LiVmZ9GyMH3bRoCDjIQAvD_BwE&gclsrc=aw.ds

OpenVINO™

---------------------------------------

*OpenVINO and the OpenVINO logo are trademarks of Intel Corporation or its subsidiaries.

-----------------------------

 OpenVINO 中文社区 

微信号 : openvinodev

B站：OpenVINO中文社区

“开放、开源、共创”

致力于通过定期举办线上与线下的沙龙、动手实践及开发者交流大会等活动，促进人工智能开发者之间的交流学习。

○ 点击 “ 在看 ”，让更多人看见