推出后仅三天,Meta就推出了其最新的大型语言模型Galactica。根据《麻省理工学院技术评论》,旨在帮助科学家进行相关科学构图的Galactica被撤下,因为它是一个无法从小说中分辨事实的无意识机器人。“
上周星期二,Meta备受吹捧的人工智能模型Galactica的演示向公众揭幕。但是,在周末之前,该工具因其倾向于产生只能被称为胡言乱语的倾向以及无法准确解决一些基本的数学问题而被删除。
卡拉狄加是Meta简化科学研究发现并简化科学文本生成的计划。在一篇论文中,Meta将其称为组织科学的工具,并透露它接受了4800万篇论文,教科书和讲义,数百万种化合物和蛋白质,科学网站的培训, 百科全书共有1200亿个参数。
如果大型语言模型的发展表明了一切,那就是网民一玩起来,他们就会变得错误。记住基于GPT-3的 搅拌器Bot 3 Meta (,Microsoft的Tay,Scatter Lab的Luda聊天机器人等也提供了对话AI )?
Meta以“发布的演示发布了该演示,而该演示从未来自没有验证的语言模型”消息,这几乎表明该公司一半期望它得到的反应。
科学界对该工具不屑一顾。马克斯·普朗克智能系统研究所所长迈克尔·布莱克(Michael Black)严厉批评,其中包括“ TAG1”一词。‘ “为什么危险? Galactica生成语法真实且真实的文本。该文本将纳入真实的科学提交中。这将是现实的,但有误或有偏见。很难发现。它将影响人们的想法。”
“它提供了权威的科学,而科学方法并没有扎根。它基于科学*写作*的统计特性产生伪科学*. 语法科学写作与做科学不同。但是很难区分。这可能会迎来一个深厚的科学假货时代。”
密歇根大学运动科学教授兼主席Brian Umberger表示同意。“ Umberger指出,它读起来就像一个知道足够多的术语以听起来令人信服的人,但实际上许多细节都是错误的。