- 博客(732)
- 资源 (1)
- 收藏
- 关注
转载 GPT-5别整了!
源|量子位GPT-4让大牛慌了,紧急联名成立人类拯救派:所有AI实验室立即暂停训练GPT-4更先进的AI系统!至少6个月限期。包括马斯克、Bengio在内的上千位产学研代表联名发表公开信“暂停巨型AI实验”,瞬间引起轩然大波。信中强调:如果不迅速实施,那么政府应该介入强制执行。我们熟知的一些大咖,比如Stability AI CEO、07年图灵奖得主、苹果联合创始人、多位DeepMind工程师...
2023-03-30 11:05:28
6
原创 阿里六面,offer到手!
作者|Ivyoake整理|NewBeeNLP面试锦囊之面经分享系列,持续更新中可以后台回复"面试"加入交流讨论组噢已收到意向书,岗位算法工程师-机器学习,地点杭州。一面(简历面 半小时)当时在过马路时收到了电话,站在人行道上面试了半小时..询问基本情况(研究方向及实习)就实习阶段所做的超分辨率算法工作进行了详细的询问:数据如何生成,从概率的角度解释网络为何能够学到LR和SR的映射关系,...
2023-03-30 11:05:28
5
转载 GPT-4 yes!! but
大家好,这里是 NewBeeNLP。这篇博客简单讨论下在GPT-4 如此强大的技术冲击下,我们普通NLP 算法工程师该何去何从。首先说下我的结论:GPT-4 非常强大,但是还没有到完全取代我们工作的地步,我们依然有很多能做的方向。GPT-4 yes更可靠了(胡说八道进一步降低)性能更好:比GPT-3.5 又提升了一大截reverse inverse scaling prize:一些随着模型变大性能...
2023-03-29 11:05:07
8
原创 字节AI Lab-NLP算法面经
作者|我爱雪糕整理|NewBeeNLP面试锦囊之面经分享系列,持续更新中欢迎订阅后台回复"面试"加入交流写在前面先说下感受吧。本人在周日投递简历,隔天周一hr就约了周四的面试,结果那天是2面视频技术面+hr面直接走完了,周五内推的学长就告诉我过了,紧接着就是offer call。整体投递+面试+发录用通知函的时间不到一周,而且面试官都是和简历对口的,整体体验非常棒。PS:offer ...
2023-03-29 11:05:07
16
转载 ChatGPT的前世今生:预训练模型成长史
NewBeeNLP干货作者:钱博文,中国移动云能力中心前言近年来,随着各大厂商的激烈角逐,预训练模型(The Pretrained Foundation Models ,PFMs)的发展可谓百花争鸣,谁都想在这场没有硝烟的战争中力压群雄,作为下游任务的基础,像BERT、GPT-3、MAE、DALLE-E和ChatGPT基于大规模数据训练,可为各种下游应用提供合理的参数初始化。这种迁移学习范式,...
2023-03-27 20:05:28
15
转载 产业探秘:基于大模型实现医学文本信息处理与抽取
在医疗行为开展的过程中,存在辨明药品禁忌症、了解不良反应、明确配伍禁忌和调整用药方式等实际需求,市面现有产品的功能较为单一、应用范围窄、数据更新慢无法满足业务需求。例如,药店场景SKU管理(Stock Keeping Unit,库存保有单位)要求数据标准化且更新频率高;在处方流转中,医院、药房、药店有审方需求。广州中康数字科技有限公司将这些需求转化为基于自然语言处理的药品说明书自动结构化问题,使用...
2023-03-27 20:05:28
13
转载 百度凤巢 | MTMS多任务多场景统一精排模型
大家好,这里是 NewBeeNLP。上周分享了多任务多场景共享派新作,来自快手的PEPNet:千人千模 | PEPNet: 2023快手多任务多场景建模;这周分享下来自百度凤巢的多任务多场景建模工作,属于拆塔派,和共享派的做法差异较大。Motivation文章研究多场景多任务问题的核心动机和大部分工作类似:用户在多个场景可能有相同的兴趣信号,因此理想情况下排序模型应该是一种多场景的范式,这样能够充...
2023-03-23 11:05:49
38
转载 OpenAI重磅研究:ChatGPT可能影响80%工作岗位,收入越高影响越大
源|机器之心大家好,这里是 NewBeeNLP。OpenAI 发布研究,ChatGPT 的影响涵盖所有收入阶层,且高收入工作可能面临更大的风险。上星期在 GPT-4 发布时,ChatGPT 第一时间上线了新版本,OpenAI 首席执行官 Sam Altman 表示他对自家这种技术「有点害怕」。和很多专家一样,Altman 担心人工智能技术的强大能力会制造过多虚假信息,另一方面,新技术也将改变经...
2023-03-23 11:05:49
46
转载 GPT解数学题准确率升至92.5%!微软提出MathPrompter,无需微调即可打造「理科」语言模型...
源|新智元ChatGPT的文科脑有救了!大型语言模型最为人诟病的缺点,除了一本正经地胡言乱语以外,估计就是「不会算数」了。比如一个需要多步推理的复杂数学问题,语言模型通常都无法给出正确答案,即便有「思维链」技术的加持,往往中间步骤也会出错。与文科类的自然语言理解任务不同,数学问题通常只有一个正确答案,在不那么开放的答案范围下,使得生成准确解的任务对大型语言模型来说更具挑战性。并且,在数学问题上...
2023-03-22 17:00:52
36
转载 产业级文心大模型ERNIE-UIE在金融监管场景中的应用:上市公司风险识别
面对日益严格的监管,证券公司自身需要提高融资融券业务的风险管控能力,从而扩大业务规模、降低风险。因此,证券公司需要了解可能影响证券价格较大变化的重要事件,从而进行管理和风险控制等工作。根据监管要求,企业定期或不定期地发布公告信息。作为公司信息披露的主要载体,公告信息可能包含事件描述、深度分析、信息传递等各种价值信息和重要风险信息。▲图:金融领域公告示例目前该业务是由专人人工解读上市公司公告,撰写每...
2023-03-22 17:00:52
24
转载 再谈排序算法的pairwise,pointwise,listwise
NewBeeNLP·干货作者:DOTA 大家好,这里是 NewBeeNLP。最近因为工作上的一些调整,好久更新文章和个人的一些经验总结了,下午恰好有时间,看了看各渠道的一些问题和讨论,看到一个熟悉的问题,在这里来分享一下。在排序算法里有三种优化目标:pairwise,pointwise,listwise,每个方法都有其优缺点。pairwise是每次取一对样本,预估这一对样本的先后顺序,不断...
2023-03-21 11:05:42
19
转载 李开复亲自带队!不仅是中国版ChatGPT,全球招英才
源|量子位李开复突然宣布筹办新公司,目标大模型领域。新公司Project AI 2.0,正式开启团队组建。要做啥?新公司希望打造一个平台,一个生产力应用的生态。Project AI 2.0不仅仅要做中文版ChatGPT。AI 2.0不仅仅是个高能聊天工具,也不仅仅是图文创作的AIGC生成,Co-pilot和如今看到的应用都还只是AI 2.0能力的开端。李开复认为,生产力工具的升级是一个巨大的机...
2023-03-20 11:05:39
17
转载 真·万字长文:可能是全网最晚的ChatGPT技术总结
作者:邱震宇(华泰证券股份有限公司 算法工程师)链接:https://zhuanlan.zhihu.com/p/613698929最近ChatGPT可以说是火遍了全世界,作为由知名人工智能研究机构OpenAI于2022年11月30日发布的一个大型语言预训练模型,他的核心在于能够理解人类的自然语言,并使用贴近人类语言风格的方式来进行回复。模型开放使用以来,在人工智能领域引起了巨大的轰动,也成功火出了...
2023-03-19 11:05:54
71
转载 王者登基!GPT-4发布,功能史上最强
源|量子位大家好,这里是 NewBeeNLP。一觉醒来,万众期待的GPT-4,它来了!OpenAI老板Sam Altman直接开门见山地介绍说:这是我们迄今为止功能最强大的模型!有多强?根据OpenAI官方的介绍,GPT-4是一个超大的多模态模型,也就是说,它的输入可以是文字(上限2.5万字),还可以是图像。(看图)手套掉下去会怎样?它会掉到木板上,并且球会被弹飞。甚至只需要简单在纸上画一个网...
2023-03-15 10:05:37
31
转载 内推 | 美团平台 NLP 中心
大家好,这里是 NewBeeNLP。小伙伴们有招聘需求,后台回复『面试』可帮忙发布。美团NLP中心实习生招聘【部门介绍】美团平台NLP中心【学历要求】本科及以上学历,机器学习、NLP相关研究方向【岗位职责】1、深入美团业务场景和需求,从实际问题出发,提供机器翻译解决方案,服务好公司内部外部用户2、使用深度学习技术,针对具体业务场景和产品进行领域适配与模型调优,包括大规模模型训练及线上系统的开发。3...
2023-03-11 10:05:38
42
转载 GPT-4,下周就要来了?
来源:学术头条GPT-4,下周就要来了。3 月 9 日,微软德国 CTO Andreas Braun 在一场名为 “AI in Focus - Digital Kickoff” 的活动中表示,GPT-4 将在下周发布,将提供多模态模型。自 3 月初发布 Kosmos-1 以来,微软正在与 OpenAI 微调多模态这一事实应该不再是一个秘密。此前《财富》杂志曾报道,OpenAI 在 beta 测试版...
2023-03-11 10:05:38
95
原创 算法面经大乱斗
作者|Miss整理|NewBeeNLP面试锦囊之面经分享系列,持续更新中。后台回复『面试』加入最新讨论小组PS.这篇文章中的公司我也都有面过,问题真的差不多甚至一模一样,所以面经分享还是很有帮助的!个人情况双非本科,985研究生,研究方向自然语言处理,比较渣,大概从19年6月份开始准备秋招,大部分压在了提前批,七月份疯狂投简历,投了大概有二十几家,收到面试的有五六家。其中作业帮收到意向o...
2023-03-10 11:05:57
45
原创 一脉相通!聊聊 ChatGPT 发展路线
作者|上衫翔二整理|NewBeeNLP大家好,这里是 NewBeeNLP。首页最近被chatGPT刷屏,但翔二博主左看右看发现很多想法似乎都是一脉相通的,于是连夜从存档中找了一些文章尝试理一理它的理论路线。具身智能综述和应用(Embodied AI)[1]多模态中的指令控制[2]同时想到今年在智源人工智能前沿报告(2021-2022年度)[3]中其实就有说道:“未来三年,基于虚拟世界、实...
2023-03-08 11:06:04
121
转载 ChatGPT爆火后,NLP技术不存在了?
源:量子位从2012年到2022年,机器学习引发的新一轮人工智能热潮已经十年。巧合的是,2022年的Diffusion和ChatGPT,以大众可感知、可体验的方式,让大模型涌现的超能力成功破圈。从学术界到工业界,从政府到投融资,从巨头到创业团队,或兴奋、或焦虑、或担忧、或冷静。站在过去和未来的交叉点,从学界和业界大咖的视角,会如何看待过去,看待当下、看待未来?每一位行业中人,又该如何应对?近日,清...
2023-03-06 11:05:27
120
原创 头条+腾讯 双杀面经
作者|Jelly整理|NewBeeNLP面试锦囊之面经分享系列,持续更新中后台回复关键词『面试』加入讨论小组写在前面先说一下背景:本科双非,硕士211,没论文,一段半年的大厂NLP实习,3个TOP5 NLP比赛,1个两位数的数据挖掘比赛。字节跳动1面: 60分钟实习,难点,收获,怎么解决XGBOOST ,LGB,GBDT 的区别一阶优化器,二阶优化器Attention怎么做,self-a...
2023-03-06 11:05:27
56
转载 非凸科技内推 | 算法工程师、量化研究员等,校招/社招
大家好,互联网求职面试小组来啦!定期高频率更新各互联网大小厂、国企研究院等岗位信息;定期分享各类岗位面筋、求职指导等。后台回复『面试』加入讨论组交流噢公司介绍上海非凸智能科技有限公司(简称“非凸科技”)是国内领先的智能算法和交易系统服务公司,专注于智能算法交易领域的研究和开发。公司基于 Rust 生态体系,结合机器学习和深度学习等新兴技术,构建业内领先的算法交易系统,为券商、量化私募等众多大型金融...
2023-03-03 11:05:57
42
转载 微软亚研院:Language Is Not All You Need
源|量子位还记得这张把谷歌AI搞得团团转的经典梗图吗?现在,微软亚研院的新AI可算是把它研究明白了。拿着这张图问它图里有啥,它会回答:我看着像鸭子。但如果你试图跟它battle,它就会改口:看上去更像兔子。并且还解释得条条是道:图里有兔子耳朵。是不是有点能看得懂图的ChatGPT内味儿了?这个新AI名叫Kosmos-1,谐音Cosmos(宇宙)。AI如其名,本事确实不小:图文理解、文本生成、O...
2023-03-03 11:05:57
47
原创 罗马是怎么建成的:Towards ChatGPT and Beyond
作者|欧泽彬整理|NewBeeNLPhttps://zhuanlan.zhihu.com/p/607637180大家好,这里是 NewBeeNLP。ChatGPT 以其强大的推理能力和丰富知识搅动了最近几个月的 AI 社群。作为跟进和反思,本文简单捋一下最近一两年促成 ChatGPT 的 NLP 研究变化,力求解读出表象背后的逻辑,并提供一些未来发展方向的预测。本文以主线梳理和抛砖引玉的观...
2023-02-28 11:05:44
104
原创 2023我的秋招面经总结
作者|江月堪揽整理|NewBeeNLP大家好,这里是 NewBeeNLP,今天分享一个浙大师弟的秋招算法岗面经总结,希望有所帮助~面试锦囊之面经分享系列,持续更新中后台回复『面试』加入讨论组交流噢在秋招过程中,我其实就像一个POMDP环境中的agent,根据已有的observation,维护自己的一个belief,做出action,发现环境中state变成了新的state,又得到了...
2023-02-27 11:05:57
359
转载 五年时间,Transformer宇宙发展成了这样,ChatGPT 只是其中之一
源|机器之心大家好,这里是 NewBeeNLP。关于 Transformer ,这是一篇很好的学习指南,可以帮助你熟悉最流行的 Transformer 模型。自 2017 年提出至今,Transformer 模型已经在自然语言处理、计算机视觉等其他领域展现了前所未有的实力,并引发了 ChatGPT 这样的技术突破,人们也提出了各种各样基于原始模型的变体。由于学界和业界不断提出基于 Transf...
2023-02-25 11:05:33
218
原创 字节跳动 算法全四面 详细面经
作者|JustinNie编辑|NewBeeNLP大家好,这里是NewBeeNLP。面试锦囊之面经分享系列,持续更新中后台回复『面试』加入讨论组交流噢个人情况上海交通大学研究生,本科毕业于中国科学技术大学,目前专业是电子与通信工程,主要研究方向是文本匹配(NLP)。面试中的自我介绍第一句 hhh:)一面7月8日被字节跳动HR的电话捞起来了,直接进入了秋招模式,在接下来的一个月里,基本没有...
2023-02-25 11:05:33
171
原创 通用信息抽取技术UIE产业案例解析,Prompt 范式落地经验分享!
想了解用户的评价究竟是“真心夸赞”还是“阴阳怪气”?想快速从多角色多事件的繁杂信息中剥茧抽丝提取核心内容?想通过聚合相似事件准确地归纳出特征标签?……想了解UIE技术在产业中的实战落地经验?通用信息抽取技术 UIE 产业案例分享来了!近期Prompt 范式备受关注,实际上,Prompt 思想在产业界已经有了一些成功的应用案例。由中科院软件所和百度共同提出了大一统诸多任务的通用信息抽取技术UIE(U...
2023-02-24 20:00:59
328
转载 AAAI 2023 | 推荐系统,多任务学习,因果推断相关论文整理
AAAI 2023的论文已经出来了,笔者整理了推荐,多任务和因果推断相关的一些文章,方便大家查阅。值得注意的是,因果推断仍然是热点。查阅所有论文可前往链接:https://aaai-23.aaai.org/wp-content/uploads/2023/01/Updated_AAAI-23-Technical-Schedule-FEB08.pdf推荐系统Fair Representation L...
2023-02-24 20:00:59
361
转载 学习知识图谱对理解ChatGPT有何作用?
ChatGPT最近很火,它能够在各种任务中产生人类类似的自然语言响应。知识图谱则可以形成了一个结构化的图谱,可以为ChatGPT的模型提供额外的语义信息,使得模型能够更好地理解和生成自然语言。有以下的帮助:1、实体识别和链接:知识图谱中的实体节点和关系边缘可以帮助ChatGPT更好地识别和链接文本中的实体,并将其与上下文信息结合起来。2、层次结构:知识图谱可以表示实体之间的层次结构,这有助于Cha...
2023-02-23 11:40:07
421
转载 In-Context Learning玩法大全
大家好,这里是NewBeeNLP。最近一直在补大模型相关的工作,比起小模型,大模型有一个很重要的涌现能力(Emergent ability)就是In-Context Learning(ICL),也是一种新的范式,指在不进行参数更新的情况下,只在输入中加入几个示例就能让模型进行学习,如下图中用ICL做情感分析任务的栗子:忽略大模型的贵,这个范式具备不少优势:输入的形式是自然语言,可以让我们可以更好地...
2023-02-22 11:05:27
124
转载 万字长文解析!复现和使用GPT-3/ChatGPT,你所应该知道的
About The Author关于作者英文原版作者:杨靖锋,现任亚马逊科学家,本科毕业于北大,硕士毕业于佐治亚理工学院,师从 Stanford 杨笛一教授。杨昊桐 译,王骁 修订感谢靳弘业对第一版稿件的建议,感谢陈三星,符尧的讨论和建议。英文原版:https://jingfengyang.github.io/gpt推特原文:https://twitter.com/JingfengY/statu...
2023-02-20 11:05:57
430
转载 美团计划招聘 10000 人!
大家好!这里是NewBeeNLP。从去年下半年开始,无论是大厂还是小厂,不少公司都裁员风波不断。相信大家最近也是被各种缩招、停招、裁员的消息淹没了。然而近日,美团却逆势宣布了启动 2023 年第一波社会招聘!此次招聘将提供包括技术、商业分析、产品、供应链、运营、设计、市场营销、职能综合、金融、销售客服与支持等岗位类型,开放了超 2200 个具体岗位,工作地遍布北京、上海、深圳、武汉、成都等数十座城...
2023-02-18 17:50:58
152
转载 ChatGPT版必应疑似「发疯」?微软紧急限制回答数目
源|机器之心大家好,这里是 NewBeeNLP。未来的 AI 搜索,可不是竞价排名这么简单。微软的 ChatGPT 版必应搜索上线之后,很多人都说它能代替谷歌搜索,成为下个最流行的科技产品。十天的公开测试过后,情况如何了?随着排上队获得使用权的人越来越多,各种稀奇古怪的 bug 开始层出不穷。最近的风向是,「我这个必应好像不太对劲?」图片来自知乎用户@ZIHAN CHEN。原贴链接:https...
2023-02-18 17:50:58
194
原创 Instruction Tuning:无/少样本学习新范式
作者|太子长琴整理|NewBeeNLP大家好,这里是NewBeeNLP。今天分享一种简单的方法来提升语言模型的 Zero-Shot 能力——指示(或指令)微调(instruction tuning) ,在一组通过指示描述的数据集上对语言模型微调,大大提高了在未见过任务上的 Zero-Shot 能力。模型 137B,在超过 60 个使用描述模板描述的数据集上微调。FLAN 在 20/25 ...
2023-02-17 11:05:17
280
转载 多模态版ChatGPT,拿下视觉语言新SOTA, 代码已开源
2022年流行“文生图”模型,那2023年流行什么?机器学习工程师Daniel Bourke的答案是:反过来!这不,一个最新发布的“图生文”模型在网上爆火,其优秀的效果引发众多网友纷纷转发、点赞。不仅是基础的“看图说话”功能,写情诗、讲解剧情、给图片中对象设计对话等等,这个AI都拿捏得稳稳的!比如,当你在网上刷到诱人的美食时,只需把图片发给它,它就会立马识别出需要的食材和做菜步骤:甚至图片中的一些...
2023-02-16 11:05:23
170
原创 综述:NLP中的 Human in the Loop
作者|太子长琴整理|NewBeeNLP大家好,这里是 NewBeeNLP。ChatGPT 大火,今天聊聊其模型训练的一个关键词:Human in the loop。这篇文章基于一篇 Survey,就是如何将人类的反馈放在 NLP 过程中,这个过程可以是训练,也可以是部署后,也可以是数据标注阶段。总之,它泛指把人类的反馈与 NLP 过程结合。论文:Putting Humans in the...
2023-02-13 11:05:43
108
转载 最新!2022 高校毕业生薪酬排行榜出炉!
大家好!这里是 NewBeeNLP。《2022年全国高校毕业生薪酬指数排行TOP100》由中国薪酬指数研究机构发布,其数据来源于全国各高校毕业生进入用人单位满一年后的基础数据,累计有100多万条毕业生数据,来自国内的200多个行业细分领域、300多个城市地区、50多万家企业。在高校薪酬指数排行榜中,我的母校上海交通大学从千年老二提升到了榜首!接下来,我们一起来看看详细数据吧~01全国高校薪酬指数排...
2023-02-12 15:45:33
134
转载 从EMNLP 2022速览信息检索领域最新研究进展
© 作者|任瑞阳机构|中国人民大学高瓴人工智能学院1、DuReader: A Large-scale Chinese Benchmark for Passage Retrieval from Web Search Engine文章链接:https://preview.aclanthology.org/emnlp-22-ingestion/2022.emnlp-main.357.pdf作者:Yifu...
2023-02-09 11:05:41
97
转载 整理了知识图谱综述的综述!
知识图谱是由Google在2012年提出来的一个新的概念,它是指以结构化的形式描述客观世界中概念、实体及其关系。从一开始的Google搜索,到现在的聊天机器人、大数据风控、智能医疗、推荐系统,无一不跟知识图谱相关。各大公司也在近些年开始陆续布局知识图谱。那么这些规模百亿的知识图谱到底是如何构建的呢?这里我将知识图谱拆成5个部分,帮助大家理解知识图谱中的核心技术组成知识图谱是个很热的话题,是学术界研...
2023-02-09 11:05:41
95
原创 快来和网红 ChatGPT 聊天!!
大家好,这里是NewBeeNLP。最近 ChatGPT又达到了一波出圈热潮,周末我们也把ChatGPT接入了微信(在文末),方便给无法fq的朋友们玩玩。比如关于 ChatGPT 的理论知识网上讲解的很多,更多的是各种yhx 借此开始传播焦虑:危!chatgpt一出,xxx行业直接丢饭碗!chatgpt,即将造成大规模失业!等等别看,直接划过!想说的是,新技术的产生,特别是那种革命性的改变,必然会造...
2023-02-08 11:05:24
297
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人