llama3-8B模型8G显存量化部署

基于InternStudio平台，使用8G显存部署量化后的llama3-8b

Llama-3简单介绍

本次Llama-3的介绍与前两个版本差不多，大量的测试数据和格式化介绍。但Meta特意提到Llama-3使用了掩码和分组查询注意力这两项技术。
目前，大模型领域最流行的Transformer架构的核心功能是自我注意力机制，这是一种用于处理序列数据的技术，可对输入序列中的每个元素进行加权聚合，以捕获元素之间的重要关系。但在使用自我注意力机制时，为了确保模型不会跨越文档边界，通常会与掩码技术一起使用。在自我注意力中，掩码被应用于注意力权重矩阵，用于指示哪些位置的信息是有效的，哪些位置应该被忽略。通常当处理文档边界时，可以使用两种类型的掩码来确保自我注意力不会跨越边界:

• 填充掩码，当输入序列的长度不一致时，通常会对较短的序列进行填充，使其与最长序列的长度相等。填充掩码用于标记填充的位置，将填充的部分掩盖，使模型在自我注意力计算中忽略这些位置。
• 未来掩码，在序列生成任务中，为了避免模型在生成当前位置的输出时依赖后续位置的信息，可以使用未来掩码。
  未来掩码将当前位置之后的位置都掩盖起来，使得自我注意力只能关注当前或之前的位置。
  此外，在Transformer自注意力机制中，每个查询都会计算与所有键的相似度并进行加权聚合。
  而在分组查询注意力中，将查询和键分组，并将注意力计算限制在每个查询与其对应组的键之间，从而减少了模型计算的复杂度。
  由于减少了计算复杂度，分组查询注意力使得大模型更容易扩展到处理