heaven522的博客

当年BERT横空出世，其强大的自然语言处理能力给大家带来震撼的同时也让大家发现该模型训练成本较高，难以基于该模型架构应用在新的领域。另一个是尽管ChatGPT可以更好地理解人类意图，回答人类的问题，但是不同的提问也会影响模型的输出，那么如何合理的提问获得更好的结果也变得重要。大模型掌握丰富的知识：世界知识、常识、逻辑推理，只需要少量的提示或者微调，就能激发模型完成指定的任务。这些大型预训练模型，如GPT-3、BERT、XLNet等，以其强大的语言理解和生成能力，正在改变我们对人工智能的认识。

视觉语言预训练提高了许多下游视觉语言任务的性能，例如：图文检索、基于图片的问答或推理。有朋友要问了，除了在公开的学术任务上使用更大的模型/更多的数据/技巧把指标刷得很高，

GLM4重磅开源啦GLM4系列版本介绍GLM4大模型能力测评结果经典测评任务结果长文本能力工具调用能力多模态能力手把手实操GLM-4-9B-Chat推理预测&&效果展示GLM4运行硬件和环境要求配置对应的库环境使用peft+bitsandbytes 进行4位量化推理进行大模型的推理显存占用情况手把手实操 多模态版本GLM-4V-9B-Chat推理预测&&效果展示多模态GLM-4V-9B对应的硬件资源进行4位量化加载准备测试图片进行推理预测参考文档GLM-4-9B是智谱AI在24年6月5日推出的开源预训练模型

2023年，让整个人类最为振奋的AI技术就是ChatGPT。“大语言模型（Large Language Model）”这个词也随之映入人们的眼帘。ChatGPT让人觉得惊艳之处，能够结合上下文，像人一样有逻辑性地回答问题，就算生成超长的文本也不会跑偏。）是一种机器学习算法，它可以根据给定文本来预测下一个词语或字符的出现的概率，通过大量的文本数据来学习语言的统计特征，进而生成具有相似统计特征的新文本。

可能大家都想学习AI大模型技术，也想通过这项技能真正达到升职加薪，就业或是副业的目的，但是不知道该如何开始学习，因为网上的资料太多太杂乱了，如果不能系统的学习就相当于是白学。原生的基础LLaMa用的语料是通用语料。微调的本质并不是能把模型效果变好，微调的目的是让模型更适应于我们的数据。作为普通人，入局大模型时代需要持续学习和实践，不断提高自己的技能和认知水平，同时也需要有责任感和伦理意识，为人工智能的健康发展贡献力量。国内很多大模型都是学Alpaca模型的玩法，套壳LLaMA模型低成本训练出自己的模型。

作为一名从事渗透测试的人员，不懂Kali Linux的话，就out了。它预装了数百种享誉盛名的渗透工具，使你可以更轻松地测试、破解以及进行与数字取证相关的任何其他工作。今天给大家分享一套，包括，内容全面丰富，特别适合渗透测试初学者、想入行安全的朋友学习参考，建议大家人手一份。

视觉语言预训练提高了许多下游视觉语言任务的性能，例如：图文检索、基于图片的问答或推理。有朋友要问了，除了在公开的学术任务上使用更大的模型/更多的数据/技巧把指标刷得很高，

视觉语言预训练提高了许多下游视觉语言任务的性能，例如：图文检索、基于图片的问答或推理。有朋友要问了，除了在公开的学术任务上使用更大的模型/更多的数据/技巧把指标刷得很高，

近日，来自凯斯西储大学（Case Western Reserve University）的研究人员开发出了一种识别肺癌的“另类”方法：**通过训练算法，来识别肿瘤外部区域及附近血管的断层扫描（CAT）图像，从而让算法判断图像中肿瘤是否为恶性。**这一研究成果发表在了《Radiology》上。目前使用的肺癌筛查方式主要是由放射科医生在CAT图像中识别可疑的结节，然后对患者进行手术活检或采用其它侵入性手段来对结节进行分析。

近日，来自凯斯西储大学（Case Western Reserve University）的研究人员开发出了一种识别肺癌的“另类”方法：**通过训练算法，来识别肿瘤外部区域及附近血管的断层扫描（CAT）图像，从而让算法判断图像中肿瘤是否为恶性。**这一研究成果发表在了《Radiology》上。目前使用的肺癌筛查方式主要是由放射科医生在CAT图像中识别可疑的结节，然后对患者进行手术活检或采用其它侵入性手段来对结节进行分析。

近日，来自凯斯西储大学（Case Western Reserve University）的研究人员开发出了一种识别肺癌的“另类”方法：**通过训练算法，来识别肿瘤外部区域及附近血管的断层扫描（CAT）图像，从而让算法判断图像中肿瘤是否为恶性。**这一研究成果发表在了《Radiology》上。目前使用的肺癌筛查方式主要是由放射科医生在CAT图像中识别可疑的结节，然后对患者进行手术活检或采用其它侵入性手段来对结节进行分析。

在Linux系统中，安全入侵排查是确保系统稳定性和数据安全的重要步骤。本文将详细介绍Linux系统安全入侵排查的方法，包括检查命令及说明，帮助系统管理员及时发现并应对潜在的安全威胁。

每天 LLM 相关的资讯都让人过载。作为 AI 产品经理，你是更兴奋呢，还是更担忧呢？整理了一下个人近期的思考，欢迎感兴趣的朋友一起交流。不管答案如何，相信我们都不应置身事外。1关于大模型‍‍我非常认同的一种说法是：大模型本质上是压缩、存储继而理解知识的一种方式。其中储藏的海量知识，可以通过 Prompt 被轻松提取出来，用于查询、生成甚至复杂推理，具备很强的泛化能力。为什么说这是本质呢？因为这为我们带来了把 NLP（自然语言处理）技术变成通用能力方案的可能性。

每天 LLM 相关的资讯都让人过载。作为 AI 产品经理，你是更兴奋呢，还是更担忧呢？整理了一下个人近期的思考，欢迎感兴趣的朋友一起交流。不管答案如何，相信我们都不应置身事外。1关于大模型‍‍我非常认同的一种说法是：大模型本质上是压缩、存储继而理解知识的一种方式。其中储藏的海量知识，可以通过 Prompt 被轻松提取出来，用于查询、生成甚至复杂推理，具备很强的泛化能力。为什么说这是本质呢？因为这为我们带来了把 NLP（自然语言处理）技术变成通用能力方案的可能性。

即 Capture The Flag，中文名为夺旗赛，是一种网络安全技术人员之间进行技术竞技的比赛形式。在 CTF 比赛中，参赛者需要通过解决各种与网络安全相关的技术挑战来获取“旗帜”，这些挑战通常涵盖了多个领域的知识和技能，例如密码学、Web 安全、逆向工程、漏洞挖掘与利用、隐写术、二进制分析等等。比如说，在密码学相关的挑战中，可能需要参赛者破解加密的信息或算法来获取关键线索；Web 安全挑战可能要求找出网站存在的漏洞并加以利用；逆向工程则可能涉及对未知软件或程序的分析和理解。

可能大家都想学习AI大模型技术，也想通过这项技能真正达到升职加薪，就业或是副业的目的，但是不知道该如何开始学习，因为网上的资料太多太杂乱了，如果不能系统的学习就相当于是白学。原生的基础LLaMa用的语料是通用语料。微调的本质并不是能把模型效果变好，微调的目的是让模型更适应于我们的数据。作为普通人，入局大模型时代需要持续学习和实践，不断提高自己的技能和认知水平，同时也需要有责任感和伦理意识，为人工智能的健康发展贡献力量。国内很多大模型都是学Alpaca模型的玩法，套壳LLaMA模型低成本训练出自己的模型。

ChatGPT的出现在全球掀起了AI大模型的浪潮，2023年可以被称为AI元年，AI大模型以一种野蛮的方式，闯入你我的生活之中。从问答对话到辅助编程，从图画解析到自主创作，AI所展现出来的能力，超出了多数人的预料，让不少人惊呼：“未来是属于AI的”。AI大模型——成为互联网从业者必备技能。

2024年2月，OpenAI发布其首款视频生成模型Sora，用户仅需输入一段文字即可生成长达一分钟场景切换流畅、细节呈现清晰、情感表达准确的高清视频，与一年前的AI生成视频相比，在各维度均实现了质的提升。这一突破再次将AIGC推向大众视野。AIGC即通过大量数据训练而成的人工智能系统，可根据用户的个性化指令生成文本、音频、图像、代码等内容。自2022年频频出圈的ChatGPT推出以来，生成式AI在游戏、影视、出版、金融、数字人等多个应用场景中展现出巨大潜力和价值。

可能大家都想学习AI大模型技术，也想通过这项技能真正达到升职加薪，就业或是副业的目的，但是不知道该如何开始学习，因为网上的资料太多太杂乱了，如果不能系统的学习就相当于是白学。原生的基础LLaMa用的语料是通用语料。微调的本质并不是能把模型效果变好，微调的目的是让模型更适应于我们的数据。作为普通人，入局大模型时代需要持续学习和实践，不断提高自己的技能和认知水平，同时也需要有责任感和伦理意识，为人工智能的健康发展贡献力量。国内很多大模型都是学Alpaca模型的玩法，套壳LLaMA模型低成本训练出自己的模型。

2023年中开始，各大LLM厂商开始关注到长上下文的问题。2023年5月，Claude把长度支持到100k tokens；6、7月的时候，ChatGPT3.5也已经支持16k，而ChatGLM2-B最大长度已经可以到32k。（插一句，ChatGLM系列做得一直很不错，从基础模型、长窗口、工具调用、Agent都一直保持在比较前沿的水平，个人最近用ChatGLM3、ChatGLM4体验还是很不错的）差不多同时间还有LM-SYS的LongChat，MosaicLM的MPT也支持16k以及更长的上下文。