大模型与电赛（1） - 今年电赛会不会考察与大模型应用相关的题目？

今年的高考，人工智能/大模型依然已经成了一个热门，无论是几个地区的高考作文题目，还是使用GPT来预测今年高考的作文题目。

那电赛呢？

• 今年的省赛会不会有与AI相关的题目呢？如果有，那会是什么方面的题目呢？

• 如何使用AI来帮助我们备赛以及在电赛中取得好成绩呢？

一直站在科技前沿出题的高校老师们肯定不会放过这个热点，不过这些出题的专家们咱也不知道是谁，索性就直接问一下万能的GPT吧。

我们来看看GPT4o如何回答：

为方便大家阅读，我还是把GPT的所有回答都贴出来吧：

---

作为一名资深的硬件工程师，结合我对全国大学生电子设计竞赛的理解，我可以提供一些关于可能题目走向的分析。全国大学生电子设计竞赛（NUEDC）具有科技前瞻性和实际应用导向性，往往会反映当前电子工程和计算技术的发展趋势。

1. 大模型应用现状

近年来，随着大语言模型（如ChatGPT）的普及和AI技术的发展，相关的应用也越来越多地出现在学术和工业界。从这个趋势来看，未来的比赛确实有可能涵盖与大模型相关的题目。然而，考虑到这些模型对计算资源的高要求，竞赛题目可能会更侧重以下几个方面：

2. 大模型可能相关题目类型

嵌入式AI和边缘计算

鉴于比赛的硬件导向，问题重点可能会放在如何在资源有限的嵌入式系统上实现大模型的简化版或相关AI功能。这可以包括：

• 智能语音助手：基于嵌入式系统的语音识别和自然语言处理。参赛者可能需要在Raspberry Pi、ESP32等硬件上实现一个简化版的语音助手，能够识别基本指令并做出相应的反应。

• 物体检测和分类：实现一个简化版的图像识别系统，使用轻量级的神经网络在嵌入式设备（如FPGA或Jetson Nano）上进行实时物体检测和分类。

模拟大模型的特定任务

通过预训练的小型模型或特定任务的优化模型来模拟大模型的某些智能应用：

• 智能客服系统：搭建一个嵌入式系统可以模拟线上客服对话，能够回答用户提出的一些常见问题或者执行简单的指令。

• 情感分析仪：创建一个系统来分析文本或语音中的情感，并根据分析结果做出某些响应（如改变灯光颜色、播放相应的音乐等）。

边缘设备与云计算协同

一种可能的发展方向是将边缘设备与云服务结合起来，这样可以利用大模型强大的处理能力，同时保证系统的灵活性与响应速度：

• 协同健康监控系统：设计一个健康监控系统，在本地设备上进行数据采集和初步处理，然后将数据发送到云端进行大模型分析和决策。

• 智能家庭控制系统：通过嵌入式设备进行语音指令收集和初步解析，复杂部分交由云端的大模型处理，再返回嵌入式设备进行执行。

3. 竞赛题目的设计考虑

如果竞赛组织者决定包括大模型相关的题目，他们可能会考虑以下因素：

• 硬件成本：参赛单位需要具备一定的硬件设备基础，但不能太过昂贵，以确保赛事公平性和广泛参与性。

• 计算资源：题目设计需要平衡嵌入式系统的计算资源与AI模型的复杂性，可能要求利用轻量级神经网络或特定任务的小型模型。

• 创新性与实用性：题目应该具备前瞻性，同时能够解决实际问题，激发学生的创造力和创新思维。

小结

综上所述，2024年的竞赛确实有可能涉及与大模型相关的题目，但题目更有可能会集中在嵌入式系统如何有效利用这些模型上，以实现智能语音助手、智能客服、物体检测等应用。实现上会侧重简化模型或与云计算结合的方式，以适应竞赛的硬件限制。

---

再问：

当然可以作为一名资深的硬件工程师，我可以为你推荐几款适合在全国大学生电子设计竞赛中使用，并且能够支持大模型应用的嵌入式系统平台。这些平台需要具备强大的计算能力，同时在嵌入式开发领域有广泛的支持和易用性。

推荐平台

1. NVIDIA Jetson Nano

特点：

• 高性能计算：Jetson Nano具有128个NVIDIA CUDA核和四核ARM Cortex-A57 CPU，支持并行计算和深度学习加速。

• 易于开发：支持TensorFlow、PyTorch等主流深度学习框架，开发环境和工具链非常友好。

• 广泛的支持：拥有丰富的社区资源和支持，便于获取帮助和示例代码。

适用场景：

• 图像识别和分类

• 实时物体检测

• 语音识别和自然语言处理

推荐理由：Jetson Nano提供了强大的GPU加速能力，能够显著提升大模型推理的性能，适合需要处理复杂视觉或语音任务的应用。同时，其便捷的开发环境使得快速原型设计和测试成为可能，是一种适合比赛的高性价比选择。

2. Raspberry Pi 4

特点：

• 强大的CPU：四核ARM Cortex-A72处理器，最大1.5GHz的时钟频率。

• 丰富的接口：拥有丰富的GPIO、SPI、I2C等接口，便于与各种传感器和外设连接。

• 社区支持：全球最大的开源硬件社区之一，拥有丰富的教程和项目示例。

适用场景：

• 较小规模的机器学习应用

• 物联网设备控制和监测

• 基于网络的智能家居设备

推荐理由：虽然Raspberry Pi 4并不具备Jetson Nano那样的GPU加速能力，但其通用处理能力还是相当不错的。对于一些较轻量的模型或通过外部云端服务进行大模型推理的场景，Raspberry Pi 4是一个灵活、经济实惠的选择。

3. Google Coral Dev Board

特点：

• Edge TPU硬件加速：内置Google Edge TPU，可以进行高效的机器学习推理。

• 强劲处理器：四核ARM Cortex-A53和Mali GPU，适合多任务处理。

• TensorFlow Lite支持：专为TensorFlow Lite优化，性能非常高。

适用场景：

• 实时物体检测和分类

• 低功耗的边缘计算设备

• 智能监控和自动化系统

推荐理由：Google Coral Dev Board在机器学习推理速度和功耗方面表现出色，特别适合那些需要在嵌入式设备上进行实时智能处理的应用。另外，Google提供的工具链和文档使得开发和部署大模型变得更加轻松。

小结

以上三款嵌入式平台都有各自的优势，具体选择要根据你的项目需求来决定。如果项目需要进行大量的实时图像处理和复杂机器学习任务，NVIDIA Jetson Nano无疑是最佳选择；如果预算有限却需要灵活的开发环境，Raspberry Pi 4是一个不错的选择；而Google Coral Dev Board则适合需要高效边缘推理的场景。

---

再问：

当然，我会在我的专业范围内，专注于硬件准备和必要的前期工作，为你提供关于准备全国大学生电子设计竞赛（电赛）中涉及AI相关题目的建议。这些准备措施包括硬件选择、相关工具和实际演练。

1. 硬件准备

高性能嵌入式平台

选用能处理AI任务的高性能嵌入式平台是关键。这些平台应具备足够的计算能力、内存和扩展接口，以满足AI算法的运行需求。

推荐平台：

• NVIDIA Jetson Nano：具备GPU，适合实时处理复杂的AI任务。

• Raspberry Pi 4：尽管没有GPU加速，但通过外接加速模块或云服务也能运行AI任务。

• Google Coral Dev Board：内置Edge TPU，支持高效的机器学习推理。

• NXP i.MX 8系列：强大的多核处理器，集成GPU，适合图像处理等复杂AI任务。

传感器模块

根据AI应用的需求，选择合适的传感器模块，这可能包括：

• 摄像头模块：用于图像识别和计算机视觉任务（如Raspberry Pi Camera Module、USB摄像头）。

• 麦克风模块：用于语音识别和处理（如MEMS麦克风模块、I2S麦克风）。

• 环境传感器：如温度、湿度、气体传感器，以便开发多模态AI解决方案。

扩展接口与通信模块

确保平台具备足够的接口（如GPIO、I2C、SPI、UART）以连接各种传感器和外设。此外，通信模块（如Wi-Fi、蓝牙、LoRa）也可能是必要的。

2. 软件工具与开发环境

AI框架与库

选择适合资源受限嵌入式环境的AI框架和库：

• TensorFlow Lite：用于在嵌入式设备上运行轻量级深度学习模型。

• PyTorch Mobile：便于转移在桌面端训练的模型到移动和嵌入式设备上运行。

• OpenCV：用于图像处理和计算机视觉任务。

开发工具与环境

根据所选硬件平台，安装并配置开发工具和环境：

• Jetson Nano：使用JetPack SDK进行配置，包含CUDA、TensorRT等。

• Raspberry Pi：安装Raspbian OS，配置支持Python、TensorFlow Lite和OpenCV的开发环境。

• Google Coral Dev Board：安装Mendel Linux，配置Edge TPU支持环境。

3. 模型准备和优化

模型选择与训练

选择合适的预训练模型或自训练模型：

• 使用开源预训练模型进行迁移学习，以适应你的具体任务需求。

• 如果可能，使用轻量级模型（如MobileNet、SqueezeNet、Tiny-YOLO），这些模型在嵌入式设备上表现更好。

模型转换与优化

将高性能计算机上训练的模型转换为嵌入式设备友好的格式：

• 使用TensorFlow Lite Converter将模型转换为Lite格式。

• 使用TensorRT进行模型优化（针对NVIDIA平台），显著提升推理速度。

4. 实际演练与测试

集成与调试

在实际硬件上集成各个模块，并进行初步调试：

• 传感器与开发板的通信测试（如I2C、SPI接口通信）。

• 图像处理和数据采集的基本测试，确保传感器输入数据正确。

系统功能测试

根据可能的比赛任务，进行AI功能的调试与测试：

• 实现并测试简单的图像识别、语音识别、目标检测等任务。

• 优化计算性能，确保系统在实时应用中的响应速度和准确性。

5. 竞赛相关的额外准备

竞赛规则与评分标准

仔细研究比赛规则和评分标准，了解具体的要求和侧重点：

• 如果竞赛题目要求低功耗或长时间运行，需进行功耗优化。

• 如果题目涉及特定场景或功能，进行相应的专项训练和准备。

实战模拟演练

进行项目的完整开发、集成和演练：

• 从头到尾模拟竞赛过程，评估系统的稳定性和可靠性。

• 根据演练结果进行优化和改进。

总结

通过上述硬件选择和准备措施，你可以为电赛中的AI相关题目做好充分准备。在嵌入式系统中实现AI功能既是一个挑战，也是一个巨大的学习机会。

---

今天的预测要在今年8月份的电赛后验证了，无论如何，我们学习电子的同学都要关注AI、拥抱AI、充分利用AI来助力我们的学习和科研。

我个人的感受 - 今天的大模型已经远远超过你的学长、乃至导师的“见识“，它能够给你的答案已经好过周边任何一个”高手“能够给予你的”建议“，你需要学会的是如何问它问题，如何与它互动，它可以不厌其烦。