急起直追ChatGPT 复旦大学发布中国首个模型「MOSS」
中国开发的「MOSS」目前正在内测阶段。（取材自「MOSS」官网） 人工智能聊天机器人「ChatGPT」火遍全球之际，中国也已研制出自产的首个类似模型，由复旦大学团队研制的对话模型名为「MOSS」，目前还在内测阶段。
据上观新闻从复旦大学自然语言处理实验室获悉，中国第一个对话式大型语言模型MOSS已由复旦大学计算机科学技术学院邱锡鹏教授团队发布至公开平台，邱锡鹏表示：「尽管MOSS还有很大改善空间，但它的问世证明了在开发类ChatGPT产品的路上，国内科研团队有能力克服技术上的重要挑战」。
在开发的基本步骤上，MOSS与ChatGPT一样，包括自然语言模型的基座训练、理解人类意图的对话能力训练两个阶段。不过相较于对话能力训练阶段，OpenAI收集了至少几十万条人类指令，让各行各业的专业标注员写出指令回复，再将它们输入模型基座；复旦团队则采用不同的路线，通过让MOSS和人类以及其他对话模型都进行交互，提升了学习效率和研发效率，短时间内就完成对话能力训练。
邱锡鹏坦言，「MOSS与ChatGPT的差距主要在自然语言模型基座预训练这个阶段。MOSS的参数量比ChatGPT小一个数量级，在任务完成度和知识储备量上，还有很大提升空间」。
而科研团队指出，「MOSS的英文回答水准比中文高，因为它的模型基座学习了3,000多亿个英文单词，中文词语只学了约300亿个」。目前，MOSS的最大缺陷是中文水平不够高，主要原因是网络上中文网页干扰资讯如广告很多，「清洗难度很大」。复旦大学自然语言处理实验室正在加速推进中文语料的清洗工作，并将清洗后的高品质中文语料用于下一阶段模型训练。
目前MOSS已进入内测阶段，内测将在用户许可的情况下获取数据，还将收集用户的回馈意见，希望借此大幅增强MOSS的对话能力。不过，20日晚间中国社交媒体上出现截屏，显示该平台「服务器流量重载，请明天上午重试」。随后平台官网解释称「计算资源不足以支持如此大的访问量」、并为「给大家造成非常不好的体验和第一印象」而致歉。
上述声明还指出，「尽管我们的对话模型和《流浪地球》中MOSS的能力不能相提并论，但就像过去NLP领域的其他优秀模型一样，作者们都希望使用自己喜欢的影视角色名称命名自己的模型」，透露MOSS的命名是源于电影《流浪地球2》。
请点这里投票，“赞”助支持！
内容来自网友分享，若违规或者侵犯您的权益，请联系我们
所有跟帖: ( 主贴楼主有权删除不文明回复，拉黑不受欢迎的用户 )
进入内容页点击屏幕右上分享按钮
楼主前期社区热帖：
- 川普式平衡外交 与独裁者交往先说丑话 10/21/24
- 加拿大军舰再次穿航台海，却被接下来一幕整懵了 10/21/24
- 太突然了！没想到火箭军又有人出问题了！ 10/21/24
- 军演后视察火箭军 习近平：全面加强练兵备战 10/19/24
- 竞选海报被贴「中共代理人」 陈学理、王绍权愤怒 10/19/24
- 中国反日情绪依然高涨 飞鹤奶粉与日企合作遭抵制 10/19/24
- 辛瓦之死／哈玛斯权力真空 5人选可能接班 10/19/24
- 险遇袭后发声 内唐亚胡：没有什么能阻止我 10/19/24
- 川普、贺锦丽民调胶着 纽时：摇摆州21个社区决定大选结果 10/19/24
- 锁定蓝墙州 贺、川都赴密西根 争取阿裔选票 10/19/24
- 中国科学家让死亡gu sir脑「复活」 助增抢救心脏骤停成功率 10/19/24
- 英外相访中 分析：难言对中关系转折点 双方难完全解冻 10/19/24
- 深圳日童遇刺 共同社：中方称刑事案审判将被公开 10/19/24
- 击毙哈玛斯领袖还不够 以色列打算创造「不可逆现实」 10/19/24
- 深圳日童遇刺后 中国女子签署反仇日声明遭传唤 10/15/24
- 问界又出事 M9撞大货车1死2伤 鄂商会高层：慎用智驾 10/15/24
- 报应？网红司马南在胖东来直播被赶 10/15/24
- 华尔街日报：中国情搜规模前所未见 西方国家防不胜防 10/15/24
- 中国经济疲软 学者忧社会将不满导向民族主义狂热 10/15/24
- 中国经济不振 学者：救市政策难奏效民间不满四起 10/15/24
>>>>查看更多楼主社区动态...