不要在这些场景中使用LLM或生成式AI

虽然但是，LLM并不是AI的全部，并不是所有的AI应用场景都适合生成式AI。

在某些用例中，应避免或极其谨慎地使用LLM和GenAI，二者可能并非最佳解决方案。

1. 高风险决策

LLM和生成式AI不适合做出可能对现实世界产生重大影响的高风险决策。这些模型是在大量数据上进行训练的，但它们缺乏关键决策所需的上下文理解和推理能力。依赖它们的输出来做出可能影响人们的生活、财务或安全的决策可能极其危险。

2. 关键任务系统

将LLM或生成式AI集成到关键任务系统中（例如医疗保健、金融或交通运输中使用的系统）可能极其危险。这些系统需要高度的可靠性、准确性和稳健性，而当前的人工智能技术可能无法始终如一地提供这些功能。这些系统中的任何故障或错误都可能带来灾难性的后果。

3. 敏感或机密信息

LLM和生成式人工智能模型都是基于公开数据进行训练的，这意味着它们可能会无意中暴露或生成敏感或机密信息。使用这些模型处理敏感数据（例如个人信息、财务记录或商业机密）可能会导致数据泄露、隐私侵犯和其他安全风险。

4. 错误信息和虚假信息

LLM和生成式人工智能可用于创建极具说服力的虚假内容，包括文本、图像和音频。这可以被利用来传播错误信息和虚假信息，这可能会对公共话语、政治进程和社会凝聚力造成严重后果。在输出的真实性至关重要的任何情况下使用这些技术时都应格外谨慎。

5. 有偏见或不道德的输出

LLM和生成式人工智能模型可以延续和放大其训练数据中存在的偏见，导致输出具有歧视性、不道德或有害性。这些模型不应用于公平、公正和道德考虑至关重要的应用，例如招聘、贷款或刑事司法。

结论

生成式人工智能是功能强大且用途广泛的工具，但它们具有必须仔细考虑的重大局限性和风险。了解这些技术的能力和局限性并明智地使用它们至关重要，同时要清楚了解潜在的后果。通过注意应避免使用这些技术的用例，我们可以确保以负责任和合乎道德的方式部署它们。