- 博客(1074)
- 资源 (2)
- 收藏
- 关注
RSS订阅
原创 OpenVINO™ 2024.5 新发布 | 使用流水线简易部署多模态 AI
为了满足多模态 AI 的需求，OpenVINO™2024.5 引入了新的流水线，使开发者能够轻松部署处理语音、图像和视频以及文本的解决方案。让我们探讨一下这些新功能是如何工作的，以及如何从今天开始使用它们。
2024-11-27 10:54:35
1071
原创 重磅来袭：AI Vision Toolkit for OpenVINO for LabVIEW全新升级上线！
自2022年面世以来，凭借其卓越的性能、友好的用户界面以及强大的功能集成，赢得了业界的广泛认可。经过不断的优化升级，【LabVIEW OpenVINO工具包】迎来了全新升级！新版本有一个全新的名字，AI Vision Toolkit for OpenVINO for LabVIEW（简称AIVT-OV）。同时经过一系列严格的筛选与评估流程，目前已经正式在NI（National Instruments）官方网站上发布
2024-11-11 13:04:12
932
原创 英特尔® Extension for Transformers 一石双鸟：让 LLM CPU 推理加速达 40x + 攻克聊天场景应用难题！
英特尔® Extension for Transformers 创新工具包中的 LLM Runtime 是一种轻量级的高效 LLM 推理运行时。在搭载英特尔® 至强® 铂金 8480+ 的系统上的测试结果显示，LLM Runtime 可为 GPT-J-6B、LLAMA2-7B-Chat、MPT-7B、ChatGLM-6B、ChatGLM2-6B、Mistral-7B、Dolly-v2-3b 和 Baichuan-12B 等诸多常见模型带来高达 40 倍的性能提升。面向聊天场景，英特尔® Extension
2024-12-18 14:16:44
911
原创 BigDL-LLM：在英特尔® 平台上加速大语言模型的便捷新利器
英特尔最近推出的 BigDL-LLM 库，可助力应用开发者和研究人员在英特尔® 平台上加速优化大语言模型，解决他们在使用大语言模型开发应用时因模型的超大规模参数导致的高时延困扰。BigDL-LLM 提供了各种低精度优化，并可利用现代硬件加速技术和全新的软件优化，从而赋能大语言模型在英特尔® 平台上实现高效优化和快速运行。
2024-12-18 14:11:21
824
原创 只改一行代码，在第四代至强® 可扩展平台上高效微调优化 ChatGLM-6B
开源预训练大模型 ChatGLM-6B 通过以下三个方面可实现基于第四代英特尔® 至强® 可扩展处理器的高效微调优化：一是借助英特尔® 高级矩阵扩展，大幅提升模型微调计算速度；二是结合英特尔® MPI 库充分利用处理器架构特点和多核配置，发挥 CPU 的整体效率；三是利用英特尔® 至强® CPU Max 系列处理器集成的 HBM 满足大模型微调所需的大内存带宽。
2024-12-18 14:08:03
2237
原创 用基于英特尔® SGX 的可信执行环境有效应对大语言模型隐私和安全挑战
大语言模型 (LLM) 的兴起与应用也带来了更加复杂的安全挑战，可信执行环境 (TEE) 能够保障数据在 LLM 训练和推理过程中的保密性和完整性。基于英特尔® SGX/TDX 的 TEE 可为 LLM 提供更安全的运行环境，为 LLM + TEE 在多行业、多场景的融合提供完整解决方案，协同英特尔其他内置加速器与 BigDL 可在强化安全保护的同时，解决资源性能限制，优化模型整体性能。
2024-12-16 15:14:54
755
原创 如何在英特尔® 平台上实现高效的大语言模型训练后量化
本文介绍了可提升大语言模型的训练后量化表现的增强型 SmoothQuant 技术，说明了这项技术的用法，并证明了其在准确率方面的优势。此方法已整合至英特尔® Neural Compressor中。英特尔® Neural Compressor 是一个包含量化、剪枝（稀疏性）、蒸馏（知识提炼）和神经架构搜索等多种常用模型压缩技术的开源 Python 库。目前，诸如 TensorFlow、英特尔® Extension for TensorFlow、PyTorch、英特尔® Extension for PyT
2024-12-16 15:01:49
809
原创 活动预告 | Devcon 中国 系列工作坊 2024 第七期活动来袭！
Devcon 中国 系列工作坊 2024 第七期活动正式开启！报名链接：以 AI PC 加速功能充分释放生成式 AI 潜能及创新应用分享本次活动“以 AIPC 加速功能充分释放生成式 AI 潜能及创新应用分享”为主题，特邀武卓老师、杨亦诚老师、梁帅老师为大家带来技术分享。
2024-12-16 10:35:46
450
原创 【哪吒开发板试用】基于哪吒开发套件实现人体姿态检测
本教程介绍了如何在哪吒开发板上使用 MediaPipe 实现人体姿态检测。通过简单的 Python 代码，我们实现了实时的人体姿态检测功能。
2024-12-09 14:28:36
971
原创 【哪吒开发板试用】哪吒开发板控制空间光相位调制器进行激光光斑质量优化
这里我们搭建了一套光学波前实时测量-校准系统，并在哪吒开发版上部署控制系统用于实时观测光斑质量信息和优化LCOS空间光相位调制器改进光斑质量算法。
2024-12-09 14:05:28
1097
原创 2024 “AI+硬件创新大赛”获奖名单出炉，浙大、上交与复旦联队等夺冠
本次大赛从全国逾400支队伍中决出26支队伍晋级总决赛，作业智能批改机、桌面级AI教育机器人、智能轮椅Agent、AI手语手套、AI针灸等创意项目，覆盖教育、机器人、医疗、公益等不同领域，最终两大赛道冠军分别由来自浙江大学博士生团队“喵喵汪汪三人行”，及上海交通大学和复旦大学的本硕博学生团队“CoCube”斩获。
2024-12-06 13:49:34
937
原创 使用Intel AI PC为YOLO模型训练加速
本文围绕深度学习模型训练效率提升与硬件资源优化利用这一核心主题，聚焦于英特尔AI PC系列平台，深入阐述了从传统 CPU 训练模式向 XPU 赋能训练模式的转型历程，尤其以 YOLO 模型训练作为典型范例展开剖析。
2024-12-05 14:53:24
1235
原创 声纳卫士——基于CNN和哪吒开发板的红绿灯控制系统
该项目通过音频传感器采集城市公路上的声音，利用深度学习模型识别紧急车辆，如消防车、救护车等，并智能控制红绿灯，优先放行这些紧急车辆。
2024-12-04 14:00:37
784
原创 慧心云鉴-基于多模态数据融合的抑郁症评估系统
本项目是一个创新的基于哪吒开发板开发的青少年抑郁症多模态智能分析系统，它通过深度学习算法和多模态数据融合技术，旨在提供一个高效、准确的抑郁症评估工具。
2024-12-04 13:56:34
714
原创 【哪吒开发板试用】+深度学习+”哪吒”，让黄斑病变远离我们的眼睛
为此本项目利用黄斑区眼底彩照及OCT扫描图像，构建基于深度学习算法的黄斑病变检测模型用于常见9类黄斑区病变的检测，为此深度学习模型在分类眼底彩照和OCT图像时都展现出了高准确度、敏感度及特异度，基于OCT图像的检测效果略优于眼底彩照。
2024-12-04 13:53:36
662
原创 【哪吒开发板试用】基于哪吒开发套件开发ROS应用
本文中我们将验证了ROS环境的正确配置和功能，包括节点管理、主题通信、服务调用以及动作服务器的测试。
2024-12-04 13:36:03
588
原创 最新端侧小钢炮！利用OpenVINO部署GLM-Edge全家桶
本文将分享如何利用 OpenVINO™ 在本地部署最新 glm-edge-chat 与 glm-edge-v 模型。
2024-12-03 14:38:14
697
原创 用英特尔CPU及GPU运行OpenAI-whisper模型语音识别
在本教程中，我们将详细介绍如何配置OpenVINO环境，如何将OpenAI Whisper模型转换为OpenVINO支持的格式，以及如何在Intel的CPU和GPU上运行该模型进行语音识别。
2024-11-28 13:47:52
1328
原创 实战精选｜如何使用 OpenVINO™ 在 ElectronJS 中创建桌面应用程序
这个演示展示了如何在 Node.js 环境中使用 OpenVINO™ 工具包实现背景虚化，并通过 Electron.js 创建的直观桌面界面进行呈现。启动应用程序后，您会看到一个带有黑色占位符的界面。要激活摄像头，只需从检测到的设备列表中选择您喜欢的视频源并点击“开始”。
2024-11-19 13:33:06
800
原创 【有奖征文】树莓派跑LLM难上手？也许你可以试试Intel哪吒开发板
随着技术的发展和边缘计算的兴起，现在有潜力在更小巧、便携的设备上部署大语言模型。例如，Raspberry Pi 树莓派和 Intel 哪吒开发套件等单片机，本文就这两款单片机上运行LLM做一个对比。
2024-11-19 13:21:32
1022
原创 实战精选 | 一步安装，一步配置：用 vLLM + OpenVINO™ 轻松加速大语言模型推理
随着大语言模型的广泛应用，模型的计算需求大幅提升，带来推理时延高、资源消耗大等挑战。vLLM 作为高效的大模型推理框架，通过 OpenVINO™ 的优化，vLLM 用户不仅能够更高效地部署大模型，还能提升吞吐量和处理能力，从而在成本、性能和易用性上获得最佳平衡。
2024-11-11 11:29:14
1097
1
原创 使用 OpenVINO™ C# 异步推理接口部署YOLOv8——在哪吒开发板上也可以实现视频推理
哪吒开发板是专为支持入门级边缘AI应用程序和设备而设计，能够满足人工智能学习、开发、实训等应用场景。为了测试该开发板的推理性能，同时测试所推出的[OpenVINO™ C# API](https://github.com/guojin-yan/OpenVINO-CSharp-API)项目能否应用到该开发板上，我们使用该开发板，结合OpenVINO™ C# API的异步推理功能，加速深度学习推理速度。
2024-11-06 15:06:20
1309
原创 使用OpenVINO™ Model Server在哪吒开发板上部署模型
本项目在哪吒开发板上使用OpenVINO(C++)推理模型，并通过OpenVINO™ Model Server进行模型部署的过程，可以看出OpenVINO的使用还是比较方便、简洁的，推理速度也很快。
2024-11-06 14:28:26
762
转载 开发者的福音：PyTorch 2.5现已支持英特尔独立显卡训练
本文将在Intel®Core™ Ultra 7 155H自带的Arc™集成显卡上展示使用Pytorch2.5搭建并训练AI模型的全流程。
2024-11-06 14:02:31
323
原创 本地模型部署工具：OpenVINO™
OpenVINO™ 是一个深度学习模型的部署工具，可实现针对特定模型结构的优化与推理任务提升，目前 OpenVINO™ 已适配x86，ARM 在内的异构硬件终端，支持 CNN，Transformer 等多种网络结构，提供 C/C++/Python 等多类 API 接口语言，不管是传统的机器视觉 NLP 模型，或是最新的 LLM 多模态模型，都可以利用 OpenVINO™ 工具包中提供的丰富接口进行部署。
2024-11-06 13:56:05
901
原创 【哪吒开发板试用】+蛋品卫士-基于哪吒开发板的yolov7鸡蛋破损检测系统
本项目实现了哪吒开发板部署yolo模型进行鸡蛋破损检测，并将实时检测图像显示在pyqt打造的页面上。本项目主要适用在农业自动化与质量控制以及食品安全检测领域可以提高检测效率，减少人为错误，确保破损鸡蛋不会污染生产线或影响其他鸡蛋的质量
2024-11-06 13:47:23
572
转载 AI PC“加菜”了，双十一最值得关注的10款酷睿Ultra 200V AI PC
地大模型开发者套件（CodeGeeX）以英特尔最新XPU架构为硬件平台，不仅通过英特尔OpenVION，IPEX等AI框架对国内大模型的本地运行以及应用开发进行硬件加速，并且深度集成了基于智谱华章CodeGeeX大模型的全能智能编程助手，从而为初学大模型的应用开发者以及计算机相关专业的高校，职校学生提供了“装， 学， 练，用”的四个实际使用场景。
2024-10-28 10:31:49
45
转载 AI PC“上桌”了，双十一最值得关注的21款酷睿Ultra 200S台式机
AI PC“上桌”了，双十一最值得关注的21款酷睿Ultra 200S台式机
2024-10-28 10:26:44
59
转载 英特尔酷睿Ultra 200S和Ultra 200V齐亮相，非凡算力+超高能效的AI PC真的来了
全新酷睿Ultra台式机处理器为玩家解锁了划时代的游戏体验，打造超高能效旗舰芯标杆，开启AI游戏时代，解锁更多超频体验，更带来了Thunderbolt快捷互联等体验。英特尔将一如既往与产业伙伴为用户提供AI PC时代下智能、强劲、和非凡的体验。注释
2024-10-28 10:19:47
31
原创 从0到1构建 OpenVINO™ 智能体流水线
该示例以 OpenVINO™ 作为 LLM 的推理后端，一步步构建起了一个简单的智能体流水线，可以看到这个示例中除了 Optimum-intel，没有其他外部依赖需要安装，因此它也是一个非常基础的的智能体构建过程。除此以外，该示例使用 3B 大小 SLM 便可以实现该智能体的构建，同时带来不错的性能表现，是非常适合在本地构建的智能体示例。
2024-10-28 09:54:00
1065
原创 【哪吒开发板试用】+YOLO-obb应用
随着工业4.0的到来，工业上使用深度学习越来越频繁，为了更好的适应市场的发展和行业的发展，参考著名开源作者颜国进英特尔边缘计算创新大使的项目，结合自己对行业的了解。开发下面项目案例
2024-10-21 11:18:50
959
原创 【哪吒开发板试用】基于FunASR架构的离线音频转文字
本项目基于哪吒开发板，利用 FunASR 框架，实现了离线音频转文字的功能。该项目还使用了Docker进行部署，简化了配置流程。
2024-10-21 10:57:55
766
原创 【哪吒开发板试用】哪吒套件部署YOLOv5：完成透明物体目标检测
借助YOLOv5的强大功能以及个性化的Trans10K数据集，用户能够快速开发出针对透明物体的高度精确的对象检测模型。哪吒套件的无风扇设计和丰富的接口选项比如千兆以太网、HDMI 1.4、USB 3.0/2.0等，使其非常适合部署在各种边缘计算环境中，无论是智能监控、工业自动化还是其他物联网应用，都能提供可靠且高效的解决方案。
2024-10-15 15:50:13
707
原创 【哪吒开发板试用】哪吒开发板全面浅析——很好的低功耗迷你AI PC
ntel N97 是一款面向入门级市场的处理器，属于 Intel Alder Lake-N 系列，专为轻量办公、教育设备和超低功耗笔记本设计。
2024-10-15 15:46:56
1026
原创 【哪吒开发板试用】基于YOLOV8的红外测温变压器套管识别、部署及与Jetson Nano 4G部署对比
哪吒开发板是一款高性能类树莓派x86主机，适合边缘AI应用开发。本文基于开发板预装的Win11系统，利用OpenVINO部署YOLOv8模型，实现变电站红外测温变压器套管的实时识别。本文将对开发板的硬件特性、环境配置及模型优化过程进行详细评测，并对比之前在Jetson Nano 4G上的部署过程。
2024-10-15 15:43:58
871
原创 【哪吒开发板试用】开箱记录以及N97+intel7工艺浅析
Intel N97 是一款面向入门级市场的处理器，属于 Intel Alder Lake-N 系列，专为轻量办公、教育设备和超低功耗笔记本设计。
2024-10-15 15:40:25
511
原创 【哪吒开发板试用】智能摄像头
哪吒开发板是专为支持入门级边缘AI应用程序和设备而设计，能够满足人工智能学习、开发、实训等应用场景。 该开发板是类树莓派的x86主机，可支持LinuxUbuntu及完整版Windows操作系统。
2024-10-15 15:36:42
796
原创 英特尔发布首款AI PC台式机处理器酷睿Ultra 200S
全新英特尔酷睿Ultra 200S系列处理器实现了我们的目标，即在保证出众游戏性能和非凡计算能力的情况下大大降低功耗。得益于NPU和卓越的媒体性能，图形产品组合的性能不断提升，全新AI游戏和内容创作能力为用户带来温度更低、更安静的体验。
2024-10-15 15:19:44
906
转载 英特尔 AI 解决方案支持全新 Llama 3.2 模型—借助面向企业 AI 解决方案的图像推理和防护栏，扩展 GenAI 功能
英特尔® 至强® 处理器、英特尔® Gaudi® AI 加速器和英特尔 AI PC 现在都支持 Llama 3.2 模型。英特尔将继续优化这些模型的吞吐量和时延。此外，由 OPEA 支持的英特尔® 企业 AI解决方案将继续提供更强的性能、可扩展性和开发人员效率。
2024-10-15 15:18:09
78
卓易打造高效智慧楼宇运营管理平台 赋能智慧园区高质量发展
2024-08-29
收费车型精准识别，实现高效缴费稽核 小神瞳收费车型识别系统赋能智慧交通建设
2024-08-29
基于小钴科技 AI-Box 的智慧园区解决方案 助力打造一站式创新园区
2024-08-29
基于英特尔架构的趋视科技神图智安智慧社区解决方案
2024-08-29
开域集团打造基于英特尔视频 AI 计算盒的智慧汽车 4S 门店解决方案
2024-08-29
百度打造 “AI 质检员” 帮助企业降本增效
2024-08-29
英特尔 赋能工业数字化升级 机器视觉特刊 2024
2024-08-28
英特尔技术优化锂电池缺陷检测方案助力 新能源行业发展
2024-08-28
深信服医疗云边端协同方案赋能信息化变革加速智慧医院转型
2024-08-27
英特尔锐炫 显卡赋能医学影像 AI 推理解决方
2024-08-27
阅面科技智慧理化生实验辅助评分SDK白皮书
2024-08-27
安恒信息采用英特尔至强 可扩展处理器加速恒脑大模型推理 助力实现智能安全运营
2024-08-26
文章中的*.dll文件在哪里下载
2024-01-16
pot工具已经弃用，量化工具更改为什么
2024-01-16
不知道该如何用最新版vino复现
2024-01-16
N5105是迷你主机那种盒子吗？
2024-01-16
英特尔独立显卡性能比较
2023-11-01
目前intel的gpu只能有限的支撑几个深度学习的模型的训练吗？
2023-11-01
Dolly 2.0能用于训练大模型吗？
2023-11-01
AsyncInferQueue C++ 的demo
2023-11-01
《在英特尔独立显卡上训练TensorFlow模型？》输出结果是否正常？
2023-11-01
TA创建的收藏夹 TA关注的收藏夹
TA关注的人