马斯克做出了选择开源全球最大参数的大语言模型这一行为, 此行为是作为对OpenAI闭源决策产生的直接反击而出现的, 有什么问题吗。
当地时间3月17日, 马斯克旗下人工智能初创公司, 也就是“xAI”, 正式做了一件事, 把其大模型Grok - 1开源了。官网有显示, 该模型参数量达到了3140亿, 这个数量远超OpenAI GPT - 3.5的1750亿, 所以它成为了迄今为止全球参数量最大的开源模型, 就是这样的情况。
有个名为“xAI”的事物, 它是一家小型初创公司, 这家公司是由马斯克创办成立的, 它汇集了来自DeepMind、OpenAI等好多公司的原开发人员, 其声称要去构建一个良好的AGI(意思就是通用人工智能)。去年11月的时候, 这个公司发布了它的第一代大语言模型Grok, 随后正式加入了全球大模型的混战之中。
官网介绍表明, 此次所发布的Grok - 1, 它是一个混合专家模型, 是由“xAI”从来开始进行训练的, 并且它没有针对任何特定应用, 比如说对话, 去进行微调。该公司在开源社区GitHub上, 提供了Grok - 1的开放版本, 到截至发稿这个时刻, 该模型的使用人数达到了1900人, 还获得了约1.5万人的收藏。
Grok期望对外传达的特性是, 它能够借助社交平台“X”(先前的推特)适时知晓世界, 而且还可以解答诸多别的人工智能系统拒绝回应的尖锐问题。不过马斯克宣称, 这项服务仅归“X”订阅者所有, 用户得缴纳每月十六美元的订阅费用方可访问Grok。
马斯克跟OpenAI首席执行官山姆·奥特曼, 他俩之间的较量, 变得越来越激烈了, Grok能不能超越GPT呢, 这自然而然地成了舆论所关注的重点, 受到大家的瞩目。
一份由“xAI”官网于去年所发布的博客展现出, 在诸如计算推理这般的基本测试当中开云真人app,开云真人app地址,处于计算类别里, Grok - 1超越了涵盖GPT - 3.5在内的、所有的其他模型。而且猎豹移动董事长兼CEO傅盛还针对界面新闻表明, “(Grok - 1)总体来讲水平是比较高的, 本来应该能超过GPT, 然而却比不上GPT - 4。”。
数量更多的参数量, 于促使模型性能得以提升情况下, 把高昂的训练成本以及运行成本给带来了。
模型的参数可达3140亿, 其复杂性程度非常高, 这表明需要更多的训练数据以及服务器资源, 然而高昂的成本会使对业内人士的吸引力在一定程度上有所降低。傅盛针对此也给出评价说开云app在线入口,开云真人官方下载,“一般的公司是没有能力使用的, 就算是要使用, 也必须得有8张A100(英伟达芯片)才能够勉强将其装下。”。
此外, 不同类型的任务, 所需的数据也是不一样的, 比如说, 自然语言处理任务, 需要的是文本数据, 而图像识别任务呢, 进行训练的时候, 需要的则是图像数据, 这无疑进一步加大了训练模型的困难程度。
现阶段, 已有好些公司推出了开源的基础模型, 比如说, 在开源社区颇受瞩目的Mistral AI, 已然积攒了一定数量级的用户基础。有一位应用层创业者告知界面新闻, 若新模型在性能方面未带来明显的大幅提升, 那么多数从业者或许不会去尝试更换或者测试新模型。
知名的机器学习研究者Sebastian Raschka, 在社交平台上进行了表态, 他声称, Grok - 1相较于其他一般带有使用限制的开放权重模型, 是更为开源的, 然而, 它的开源程度比不上Pythia、Bloom以及OLMo, 后面这几个附有训练代码, 还有可复现的数据集。
马斯克曾是OpenAI的前期资助者, 也是联合创始人之一, 因和奥特曼对于OpenAI将来走向持有不一样意见, 在2018年, 马斯克离开了这家公司, 不过此后他对.openAI的一些决策不断表达出批评!
从年初开始, 两人之间的裂缝持续增大。马斯克觉得OpenAI得恢复开源这样才对OpenAI以及它的创始人发起诉讼。这位掌控着好多家公司的CEO觉得, OpenAI没有专注于开源通用人工智能, 而是成了“微软的闭源子公司”。
面对马斯克的指控开云真人app官方版入口,开云真人app官网入口,OpenAI也迅速予以回击。
当地时间3月5日该时间点, OpenAI作出回应, 给出相应称辞, 马斯克在2017年接近年末的那个时间段, 曾表示同意, 即OpenAI需要去创建出一个具有营利性质的实体, 并且, 马斯克怀持期望, 想要获取多数股权, 以及拥有董事会的控制权, 同时, 还要担任首席执行官这一职位, 然而, 双方却并未就呈现出营利性质的条款方面情形达成一致。基于这样的因素情况, 马斯克在处于讨论进程的期间阶段, 停止了注资行为举措。
回应另外指出, 马斯克在2016 年撰写的邮件里, 答应在推送 AI应用成果之际并非必定要把AI技术进行开源, 其目的在于表达马斯克“言行并非一致”。
自成立之后, “xAI”就始终被公众看作是“OpenAI的竞争者”, 马斯克把xAI当成大型人工智能公司的替代办法, 不过他也着重表明, 这个公司处在刚开始的阶段, 想要追上OpenAI以及谷歌, 仍旧需要时间。
标签: xAI Grok-1 开源模型 OpenAI 马斯克
还木有评论哦,快来抢沙发吧~