SEMIKONG：专为半导体领域设计的大型语言模型，支持制造优化、辅助 IC 设计等半导体制造任务

最新推荐文章于 2025-05-19 14:32:15 发布

蚝油菜花

最新推荐文章于 2025-05-19 14:32:15 发布

阅读量838

点赞数 13

分类专栏：每日 AI 项目与应用实例文章标签：语言模型制造人工智能人工智能开源

本文链接：https://blog.csdn.net/qq_19841021/article/details/144920042

版权

每日 AI 项目与应用实例专栏收录该内容

659 篇文章

订阅专栏

❤️ 如果你也关注 AI 的发展现状，且对 AI 应用开发非常感兴趣，我会每日跟你分享最新的 AI 资讯和开源应用，也会不定期分享自己的想法和开源实例，欢迎关注我哦！

🥦 微信公众号｜搜一搜：蚝油菜花 🥦

🚀 快速阅读

领域定制：专为半导体行业设计，解决制造和设计中的复杂问题。
功能强大：支持制造过程优化、IC 设计辅助和专家知识整合。
技术先进：基于大规模领域特定数据集，结合预训练和微调技术。

正文（附运行示例）

SEMIKONG 是什么

公众号: 蚝油菜花 - semikong

SEMIKONG 是专为半导体行业定制的大型语言模型（LLM），由 Aitomatic、FPT Software 和东京电子有限公司联合推出。该模型基于深入的领域知识，旨在解决半导体制造和设计中的独特挑战，如复杂的物理和化学问题。

SEMIKONG 通过整合专家知识和优化预训练过程，提供了能够专家级理解刻蚀问题的基础模型。相较于通用 LLMs，SEMIKONG 在半导体制造任务中展现出更优的性能，为公司或工具特定的专有模型开发奠定了基础，推动了领域特定 AI 模型的进一步研究和应用。

SEMIKONG 的主要功能

理解半导体专业知识：能够理解半导体制造和设计中的复杂问题，尤其是在刻蚀领域。
优化制造过程：基于学习大量的半导体相关数据，协助优化半导体制造过程，如参数优化、异常检测和预测性维护。
辅助 IC 设计：能够辅助集成电路（IC）设计任务，包括设计规则检查、布局生成和设计空间探索。
提高 AI 解决方案性能：基于微调预训练的大型语言模型，提高 AI 驱动的半导体制造任务的性能。
专家知识整合：引入一个框架，整合专家知识推进领域特定 AI 模型的评估过程。

SEMIKONG 的技术原理

数据策划：开发始于大规模、高质量的半导体领域特定文本数据集的策划，包括技术书籍、论文和专利。
预训练和微调：用预训练和微调的方法训练模型，预训练阶段用特定领域的数据增强模型的领域知识，微调阶段让模型执行特定的任务。
领域本体论：与半导体专家合作，构建系统化的半导体制造过程本体论，有助于 AI 研究人员更有效地开发领域特定的 AI 模型。
专家反馈循环：基于专家反馈循环，用专家评估模型生成的答案，生成评估标准和高质量的基准测试。
模型量化和适配：在预训练和微调之后，进行模型量化和适配处理，便于模型部署。

如何运行 SEMIKONG

1. 准备环境

首先，确保已安装 Python 3.10 或更高版本，并克隆 SEMIKONG 的 GitHub 仓库：

git clone https://github.com/aitomatic/semikong.git
cd semikong
pip install -r requirements.txt

2. 下载模型

从 Hugging Face 下载 SEMIKONG 模型的权重和分词器：

# 示例：下载 SEMIKONG-8B-Instruct 模型
from transformers import AutoModelForCausalLM, AutoTokenizer

model_path = 'pentagoniac/SEMIKONG-8B-Instruct'
tokenizer = AutoTokenizer.from_pretrained(model_path, use_fast=False)
model = AutoModelForCausalLM.from_pretrained(model_path, device_map="auto", torch_dtype='auto').eval()

3. 执行推理

使用以下代码进行推理：

messages = [{"role": "user", "content": "hi"}]
input_ids = tokenizer.apply_chat_template(conversation=messages, tokenize=True, add_generation_prompt=True, return_tensors='pt')
output_ids = model.generate(input_ids.to('cuda'))
response = tokenizer.decode(output_ids[0][input_ids.shape[1]:], skip_special_tokens=True)
print(response)