- 博客(1)
- 资源 (8)
- 收藏
- 关注
RSS订阅原创 〖JAVA养成计划〗设计模式-单例设计模式以及衍生的多例设计模式
单例设计模式 package com.tongbu; /** * 单例设计模式分为两类： * ①是俄汉式 * ②是懒汉式 * 以下程序是俄汉式：不管程序中有没有使用，都实例化对象。 * @author Administrator * */ public class DemoSingleton { public static void main(String[] args) { ...
2016-11-25 16:08:00
314
2024大模型AI工程师必备技能
五个级别的大语言模型 (LLM)应用。可以将此视为一个框架，帮助你决定在哪些地方可以使用LLM。
关于LLM能做什么、不能做什么，有很多不同的误解。那么今天你在哪里使用LLM呢？因此，我决定整理这份材料，带你通过一个基于你使用LLM的扩展或深度的思维框架。你可以决定将LLM适用于哪个层面。首先我们来看一下我整理出的不同级别的LLM，然后我们会稍微扩展一下这个内容。我准备了两个不同的文档带你了解这些内容。这将帮助你了解今天LLM的使用情况以及你如何在自己的应用中使用LLM。
2024-07-03
5种人工智能公司（大模型领域）
讨论了很多人对AI公司存在的误解。许多人认为建立AI公司需要自行构建AI模型，但实际上并非如此。这段视频的目的是澄清这些误解，并解释如何在不同类型的AI公司中找到合适的角色。视频强调，成为一家成功的AI公司并不总是需要自己构建模型，而是要找到适合自身资源和能力的切入点。FACES框架是一个用于分解不同类型AI公司的工具。FACES代表五种不同的公司类型：基础模型创新者（Foundational Model Innovators）、自适应微调者（Adaptive Fine-Tuners）、便捷的API提供者（Convenient API Providers）、基础设施建设者（Essential Infrastructure Builders）、独立和集成的AI产品（Standalone and Integrated AI Products）。这个框架帮助理解各类AI公司在生态系统中的角色和重要性。
2024-06-21
Fast LLM Serving with vLLM and PagedAttention
LLMs 有望彻底改变我们在各行各业中使用 AI 的方式。然而，实际应用这些模型具有挑战性，即使在昂贵的硬件上也可能非常缓慢。为了解决这个问题，我们正在开发一个开源库 vLLM，用于快速 LLM 推理和服务。vLLM 利用我们新的注意力算法 PagedAttention，有效地管理注意力键值。装备了 PagedAttention 的 vLLM 实现了比 HuggingFace Transformers 高达 24 倍的吞吐量，而无需任何模型架构的改变。vLLM 由加州大学伯克利分校开发，并在过去三个月中部署于 Chatbot Arena 和 Vicuna Demo。在本次演讲中，我们将深入讨论 vLLM 的动机、特性和实现，并介绍我们的未来计划。
2024-05-27
Openai CEO奥特曼和Brad访谈(2024年4月17日)，哪些公司将被 OpenAI 淘汰？
Sam Altman 是 OpenAI 的 CEO，这家公司致力于使通用人工智能（AGI）惠及全人类。OpenAI 是历史上扩张速度最快的公司之一，估值高达 900 亿美元，收入超过 20 亿美元。在 OpenAI 之前，Sam 曾担任 Y Combinator 的总裁和 CEO，并在 Airbnb、Stripe、Reddit、Pinterest、Asana 等公司做过天使投资。 在今天的节目中，Sam Altman 和 Brad Lightcap 将讨论： 合作伙伴关系：科技界最强大的二人组：
6 年前，25 人拒绝了 OpenAI CFO 的职位，是什么让 Brad 在 Sam 之前加入了 OpenAI？他看到了什么别人没看到的？
Brad 认为 Sam 最大的独特优势是什么，这一点世界还未知晓？Sam 又认为 Brad 的最大优势是什么？
Brad 和 Sam 如何共同决策？他们是如何平衡直接处理和委派的？最近他们有什么意见不合？又是如何解决的？
OpenAI 接下来的 12 个月：瓶颈、计算力和商品化： 接下来的 12 个月，OpenAI 面临的主要瓶颈是什么？
2024-04-19
【东方财富证券】从硬件、算法、应用角度看ChatGPT浪潮引领AIGC革新投资机遇
ChatGPT 对 AIGC 产业生态的硬件层、算法层和应用层带来革新。ChatGPT 全面激活深度学习和人工智能需求，根据 Precedence Research 预测 AI 市场规模有望 10 年 10 倍以上。GPT-3 每训练一次需要使用由 1 万个 V100GPU 训练 13 天。（GPT-3 披露单次训练需要3.114x10^23FLOPS 花费 460 万美元，等于单 V100GPU 运行 355 年）
生成式 AI 模型在硬件层依赖高性能芯片和云计算数据中心提供算力支持。CPU 领域如海光信息、海思半导体、龙芯中科、上海兆芯；GPU 领域例如景嘉微，海光信息等。FPGA 领域例如安路科技、复旦微电、紫光国微等；ASIC 芯片如寒武纪、澜起科技等；光模块领域如德科立、天孚通信、中际旭创；Chiplet 领域如兴森科技、长川科技、方邦股份等。云计算成为降低 AIGC 硬件成本突破口，设备商例如紫光股份、联想、中兴通讯、锐捷网络等：算力散热相关英维克、高澜股份：云计算如阿里巴巴、腾讯、奥飞数据、数据港等。 生成式 AI 模型在硬件层依赖高性能芯片和云计算数据中心提供算力支持。
2024-03-20
【钛媒体国际智库】中美AI大模型应用比较研究报告
康波周期是描述宏观经济增长与技术革命间内在关系的重要模型,第一次工业革命以来,人类已经完整经历了纺织和蒸汽机技术、钢铁和铁路、电气和重化工业、汽车和电子计算机四轮康波周期,目前处于信息技术周期的萧条阶段,AI驱动的第六轮康波周期一触即发。以ChatGPT为代表的Al大模型的诞生,意味着强人工智能的时代即将到来,AIGC正在成为引发生产力变革的引擎,为了抓住第六轮康波周期的机遇,更是在未来的科技竞争中占领先机,中美两国在大模型的布局上不遗余力,两国的竞争不仅仅体现在大型科技企业之间,更是在应用领域也展开了对决。
2024-03-20
【中国信通院2023】人工智能大模型赋能医疗健康产业白皮书
随着全球新一轮科技革命和产业变革深入发展,以人工智能(Artificial Intelligence,AI)为代表的数字技术加速演进,成为经济增长的核心驱动力。近年来,人工智能大规模预训练模型(以下简南称"大模型")在知识、数据、算法和算力等关键要素的共同推动下,呈现见爆发式增长,从自然语言处理逐步扩展、迁移到计算机视觉、多模态、科学计算等领域,增强了人工智能的泛化性、通用性,开启了人工上智能发展新范式。人工智能大模型有望成为未来新型基础设施,赋能干行百业新一轮增长,落地应用和价值实现成为大模型下一步发展方向。生命科学和医疗健康是大模型等AI技术最重要的应用领域之一,大模型可赋能生命科学研究和新药研发,促进医疗器械创新,提升医疗智能化水平。将大模型应用于医疗健康领域,推动医疗健康行业数字化转型升级,对满足人民群众健康需求和实现经济社会经录色、智能、可持续发展具有重要意义。
2024-03-20
【SuperCLUE团队】中文大模型基准测评2023年度报告
自2022年11月30日ChatGPT发布以来，AI大模型在全球范围内掀起了有史以来规模最大的人工智能浪潮。国内学术和产业界在过去一年也有了实质性的突破。大致可以分为三个阶段，即准备期（ChatGPT发布后国内产学研迅速形成大模型共识）、成长期（国内大模型数量和质量开始逐渐增长）、爆发期（各行各业开源闭源大模型层出不穷，形成百模大战的竞争态势）。
2024-03-20
【中国信息通信研究】2023大模型落地应用案例集
本项目通过搭建高性能 GPU 计算集群、训练通用大语言模型、训练垂类大语言模型、搭建大语言模型微调平台、搭建大语言模型应用开放平台等核心模块，旨在打造大语言模型服务和应用平台，为大语言模型技术的研究和应用提供一个开放、可扩展、可协作的环境。这个平台除了通用大语言模型外，还提供大量共享的数据集、算法库、模型微调工具等资源供开发者使用，同时大语言模型应用开放平台提供一整套完整的大语言模型生态应用工具链，从而加速大语言模型的训练以及大语言模型生态应用的开发和使用过程。
2024-03-20
【中国信通院2022】人工智能AI框架发展白皮书
AI 助力当前经济社会步入智能经济时代。世界正在进入以新一代信息技术驱动发展的重塑时期，人工智能（AI，Artificial Intelligence）
作为其中重要的使能技术，对激活实体经济具有溢出带动性很强的
“头雁效应”，对构筑国家科技影响力具有举足轻重的意义。人工智能
成为了全球各国新的科技热点，人工智能基础设施建设也成为重要抓手与着力点。未来十年是全球发展数字经济、迈入智能经济社会的黄金发展期，着力发展人工智能基础设施，将为我国人工智能产业发展
壮大、数字经济蓬勃发展提供强大牵引力。
AI 框架是智能经济时代的操作系统。作为人工智能开发环节中的基础工具，AI 框架承担着 AI 技术生态中操作系统的角色，是 AI
学术创新与产业商业化的重要载体，助力人工智能由理论走入实践，快速进入了场景化应用时代，也是发展人工智能所必需的基础设施之
一。随着重要性的不断凸显，AI 框架已经成为了人工智能产业创新的焦点之一，引起了学术界、产业界的重视。
在此背景下，白皮书致力于厘清 AI 框架的概念内涵、演进历程、技术体系与作用意义，通过梳理总结当前 AI 框架发展现状，研判 AI 框架技术
2024-03-20
剑桥大学：2023State of AI Report
人工智能（AI）是一个多学科的科学和工程领域，其目标是创造智能机器。我们相信，在日益数字化、数据驱动的世界中，人工智能将成为技术进步的力量倍增器。 这是因为今天我们周围的一切，从文化到消费品，都是智能的产物。《人工智能现状报告》现已进入第六个年头。 将此报告视为我们所见过的最有趣的事情的汇编，其目标是引发有关人工智能现状及其对未来影响的知情对话。我们在报告中考虑了以下关键维度：
研究：技术突破及其能力。
行业：人工智能的商业应用领域及其业务影响。
政治：人工智能的监管、其经济影响以及不断演变的人工智能地缘政治。
安全：识别并减轻未来高性能人工智能系统可能给我们带来的灾难性风险。
预测：我们相信未来 12 个月会发生什么，以及 2022 年绩效评估，以保持我们的诚实。
2024-03-20
清华⼤学计算机系 知识⼯程实验室（KEG）唐杰《从千亿模型到ChatGPT的⼀点思考》
训练成本⾼昂：训练 1750 亿参数的 GPT-3 使⽤了上万块 V100，机时费⽤是 460万美元，总成本据悉达到 1200 万美元
⼈⼒投⼊极⼤：⾕歌 PaLM 540B 的团队：前期准备 29 ⼈，训练过程 11 ⼈，整个作者列表 68 ⼈
训练过程不稳定：容易出现训练不收敛现象
2024-03-20
AIGC算力时代系列报告-ChatGPT芯片算力研究框架
ChatGPT热潮席卷全球。ChatGPT (Chat Generative Pre-traineed Transformer)是由OpenAl于2022年12月推出的对话Al模型,一经面世便受到广泛关注,其2023年1月月活跃用户达到1亿,是史上月活用户增长最快的消费者应用。在问答模式的基础上ChatGPT可以进行推理、编写代码、文本创作等等,这样的特殊优势和用户体验使得应用场景流量大幅增加。
2024-03-20
CS324课程大模型中的Scaling Law(规模法则)课件
CS324课程大模型中的Scaling Law(规模法则)课件
Scaling Laws简单介绍就是：随着模型参数量大小、数据集大小和用于训练的浮点数计算量的增加，模型的性能会提高。并且为了获得最佳性能，所有三个因素必须同时放大。当不受其他两个因素的制约时，模型性能与每个单独的因素都有幂律关系。
对于Decoder-only的模型，计算量 C (FLOPs), 模型参数量 N, 数据大小 D(token数)，三者满足：C ≈6ND。模型的计算量 C一定后，模型的性能即精度就基本确定。它的决策变量只有 N 和 D，跟模型的具体结构诸如层数、 深度、 attention头个数（宽度）基本无关。相关性非常小，性能（即test loss）在2%的区间内。
2024-03-20
清华大学新闻与传播学院发布的AIGC发展研究资料，2024年最新，200多页
聚焦AIGC产业发展现状及趋势，分技术篇、产业篇、评测篇、职业篇、风险篇、哲理篇、未来篇，是产业发展的概观性报告，也初步回应了突出的风险隐忧，旨在洞察行业的基础上，对AIGC发展趋势进行科学预测与展望，为社会各界应对AIGC领域的挑战提供了理论指导与实践建议。
报告80%内容由AI自动生成，聚焦AIGC的多模态发展、多学科影响、全方位应用以及前沿探索，融汇了与AIGC相关的产业实践经验、学术研究探讨与社会理念摸索，致力于向读者提供全面了解AIGC动态的指南，共同探寻人工智能和人类未来发展的和谐之道。
2024-03-20
图像处理透视变换(Python+Opencv)
透视变换(Perspective Transformation)是将图片投影到一个新的视平面(Viewing Plane)，也称作投影映射(Projective Mapping)。
如果你想对图像进行校准，那么透视变换是非常有效的变换手段。透视变换的定义为将图像投影到一个新的视平面，通常也被称之为投影映射。
2023-02-10
张量分解_张量CP分解_张量Tucker分解_详细介绍！
张量内容的详细介绍，张量CP分解以及Tucker分解内容的详细讲解！
建议结合我的博客来学习：https://blog.csdn.net/abc13526222160/article/details/118255259?spm=1001.2014.3001.5502
2021-07-13
VNC-Viewer-6.20.113-Linux-x86.deb
VNC是虚拟网络控制台的缩写。它 是一款优秀的远程控制工具软件，由著名的 AT&T 的欧洲研究实验室开发的。VNC 是在基于 UNIX 和 Linux 操作系统的免费的开源软件，远程控制能力强大，高效实用，其性能可以和 Windows 和 MAC 中的任何远程控制软件媲美。 在 Linux 中，VNC 包括以下四个命令：vncserver，vncviewer，vncpasswd，和 vncconnect。大多数情况下用户只需要其中的两个命令：vncserver 和 vncviewer。
2020-06-29
VNC-Server-6.3.2-Linux-x64.deb
VNC是虚拟网络控制台的缩写。它 是一款优秀的远程控制工具软件，由著名的 AT&T 的欧洲研究实验室开发的。VNC 是在基于 UNIX 和 Linux 操作系统的免费的开源软件，远程控制能力强大，高效实用，其性能可以和 Windows 和 MAC 中的任何远程控制软件媲美。输入一个有效的密钥：5D7L8-ZQXSA-2L5D4-4UFB4-PWDLA 或77NVU-D9G5T-79ESS-V9Y6X-JMVGA
2020-06-29
BP期末论文算法word文档+代码
作为深度学习领域的破冰之作,BP神经网络重新燃起了人们对深度学习的热情.它解决了DNN中的隐层传递中的权重值的计算问题.那么,BP算法思想是什么?它又是如何实现的呢?这就是本文的研究内容.
2019-01-14
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人