360 创始人周鸿祎近日透露即将开源 360 智脑 7B(70 亿参数模型),支持 360k(50 万字)长文本输入。
周鸿祎表示,前段时间大模型行业卷文本长度,100 万字“很快将是标配”。“我们打算将这个能力开源,大家没必要重复造轮子,定为 360k 主要是为了讨个口彩。”他还自称“开源的信徒”,信奉开源的力量。
据介绍,360 智脑长文本能力已入驻大模型产品“360AI 浏览器”。周鸿祎还谈到了小模型的优势:其认为小模型速度快、用户体验也好,单机单卡就能跑,具备更高的性价比。
目前,360AI 浏览器已向用户免费开放 100 万字长文本处理功能,支持网页、中英文论文等常用文档、音频及视频的处理,可以帮助用户自动总结要点、生成思维导图等。
随着支持 20 万汉字输入处理的模型 Kimi 蹿红,各家国产大模型纷纷宣布加入“长文本”战局。百度文心一言宣布将在下个月进行版本升级,开放 200 万-500 万长文本能力;360 智脑也开始内测 500 万字长文本,即将上线 360AI 浏览器;阿里通义千问则是宣布免费开放 1000 万字长文档处理功能。