港科大DeepTech 01| 适用于AI大模型的高效推理加速器

 适用于AI大模型的高效推理加速器  

 首席研究员：郑光廷教授     

 技术成熟度：TRL 4     

技术成熟度（Technology Readiness Level，TRL）是一个用来评估技术方案从概念阶段到实际应用阶段的成熟程度和风险水平的系统方法，通常分为九个等级，每个等级代表了技术方案发展的不同阶段。其中，TRL 4代表部件级原理样机通过实验室环境验证。

 知识产权状态：已申请专利

利用先进的应用程序-算法-硬件协同设计平台（Application-Algorithm-Hardware Co-design Platform）和最先进的存算一体（Computing in Memory，CIM）技术，专门为AI大模型设计。

可为多种基于Transformer的模型提供高效的、功率优化的计算方案，如计算机视觉、鸟瞰图（BEV）、大型语言模型（LLMs）和AI生成内容（AIGC）等。

关键技术优势

• 使用应用程序-算法-硬件协同设计平台进行定制化的AI硬件设计

• 采用数字存算一体（Computing in Memory，CIM）技术，实现高效的AI计算

• 专门针对“基于Transformer的AI大模型”设计压缩技术

潜在应用：人工智能、机器人技术

适用行业：电子和半导体、信息技术、通信和软件服务

[港科大DeepTech]专栏致力于展示和推广香港科技大学在深科技领域的创新成果。内容主要涵盖三大核心领域:电子,人工智能和智能系统;材料能源与可持续发展;生物医学与医疗保健。该专栏旨在搭建一个平台,让公众能够更好地了解香港科技大学在深科技领域的卓越贡献,并激发社会各界对科技创新的热情和参与,我们期待与您共同探索科技的无限可能,共创美好未来。

如果您对项目内容感兴趣

 请扫描下方二维码

About 香港科技大学

香港科技大学(HKUST)（https://hkust.edu.hk/）是一所享誉全球的研究型大学，专注于科学、技术、商业以及人文和社会科学领域。香港科技大学提供国际化的校园环境，全面和跨学科的教学方法，旨在培养具有全球视野、强烈创业精神和创新思维的全面发展人才。在香港大学教育资助委员会2020年的研究评估中，香港科技大学超过80%的研究工作被评为“国际卓越”或“世界领先”。在2023年《泰晤士高等教育》年轻大学排名中，香港科技大学位列第二，其毕业生在全球就业能力大学排名中位列第29位，也是亚洲大学中表现最好的大学之一。截至2023年9月，香港科技大学成员已创立了1,747家活跃的初创企业，包括9家独角兽企业和13家退出（IPO或并购），创造的经济价值超过了4000亿港元。香港投资推广署引用2021年QS世界大学学科排名，以展示五所全球百强的本地大学在多个以创新为中心领域的表现，其中，香港科技大学在4个工程和材料科学学科中排名第一。

有效专利组合(按技术领域划分)

推动行业转型赋能社会 彰显影响力

• 1,747家活跃的初创企业

• 13家成功退出企业 (11家上市及2家收购)

• 9家独角兽企业

• 解决COVID-19疫情和社会问题

优化科研和战略管理 提高IP利用率

• 自然指数排名(2022):专利影响力中国第1、世界第3

• 专利利用率:33%

 强大的产业合作

• 826项产业合作

• 173项有效的许可协议

• 香港产业收入指数排名第一(2023年泰晤士高等教育排名)

如果您对香港科大感兴趣

 请扫描下方二维码