关于AI测试与评价的讨论

  严格地说，现在的AI技术测试与评价仅是半个或更小部分的测试与评价，即它只是建立在已有基础不完备科学技术上的测试与评价，忽略了更重要的非科技因素，如不确定性人文和环境的因素，所以这样的测试与评价大都是乌托邦式的，单纯军事领域的兵棋推演、红蓝对抗解决不了AI测试与评价的根本问题，这是一个超出了单一领域的复杂性难题，如同2015年第87届奥斯卡获奖电影《Birdman》中那句经典台词一样“AI is AI, not what is said of that AI”（道可道，非常道），所以我们认为应该借鉴孔子“随心所欲，不逾矩”的思想，即自主要有原则，而不能够无底线。AI军事化与AI游戏有根本的不同，就像生死的差异，对游戏化的军事智能测试与评价需要高度警惕。

  由于人、机、环境诸多影响因素的可变性和可分离性，人工智能技术测试与评价在很多军事博弈任务中是一种普遍不可重复性的不可控实验，所以“各国应确保在部署前在实际作战条件下对人工智能军事系统进行全面测试、评估、验证和验证”会很难实现，不过“建立最低标准”应该比较现实，以确保遵守国际人道主义法和其他相关国际法规则。

  令人遗憾的是，当前的AI测试与评价往往是场景化的，陆、海、空及其之间通信协同、指挥控制等等，从技术上看，主要有机