人社部新增“生成式人工智能系统测试员”岗位，是个什么工作？

近日人社部发布发布公示，新增了17个新职业和42个新工种，其中在“生成式人工智能系统应用员”职业下新增了“生成式人工智能系统测试员”工种，那么这个测试行业的新增岗位，具体是做什么？和传统测试有什么区别呢？

核心工作职能

1. 系统性能测试与验证

• 功能测试：设计测试用例，验证生成式AI系统的输出准确性、逻辑一致性及场景适配能力。例如，测试模型是否能正确回答常识性问题（如“9.9与9.11的大小比较”），或是否会在医疗、交通等专业领域生成误导性内容。

• 非功能性测试：评估系统的响应速度、抗压能力（如高并发场景下的稳定性）、资源消耗（如算力需求）等，确保其符合实际部署要求。

2. 安全性及伦理合规性评估

• 抗攻击性测试：模拟恶意输入（如对抗性样本、诱导性提问），检测系统是否会被误导生成有害或偏见内容。

• 伦理风险排查：评估生成内容是否符合法律法规和伦理规范（如《生成式人工智能服务管理暂行办法》），避免涉及隐私泄露、歧视性言论等风险。

3. 幻觉检测与纠错

• 针对生成式AI特有的“幻觉”（即虚构或不合逻辑的答案），设计测试场景以识别和量化此类问题。例如，通过输入矛盾性问题或模糊指令，分析模型的错误模式并反馈给开发团队优化。

4. 自动化测试工具开发与优化

• 开发脚本或工具实现测试自动化，提升效率