中新网北京11月19日电 (记者 张素)上下文窗口长度，对于模型理解和生成与特定上下文相关文本极为重要，是大模型核心技术之一。记者近日采访获悉，鹏城实验室等相关机构开展合作，在国产算力大模型长窗口技术方面有所突破。
通常来说，更长的上下文窗口可以提供更丰富的语义信息，并且能够让模型生成的内容更准确流畅。“鹏城—百川·脑海33B”的128K长上下文窗口基于“鹏城云脑”国产算力平台训练，未来可升级至192K。
据知，为提升上下文窗口长度和模型整体性能，百川智能和鹏城实验室对模型进行了全流程优化。在数据集构建方面，研发人员采用精细的数据构造，实现段落、句子粒度的自动化数据过滤、选择、配比，进一步提升了数据质量。
在全生命周期的模型工具集中方面，包括来自北京大学的王亦洲、杨耀东团队在内，多方开展合作，创新提出带安全约束的RLHF对齐技术，有效提升了模型内容生成质量和安全性。
鹏城实验室相关负责人表示，接下来还将广泛联合企业、高校和科研院所，通过开源群智的合作模式共享资源，为千行百业插上人工智能的“翅膀”。百川智能相关负责人也表示，希望通过开源、与合作伙伴共创等方式，助力中国大模型创新，促进本土大模型生态日益繁荣。
有评论认为，上述在大模型训练和应用领域的合作研发实践，对于国产算力大模型发展具有积极示范作用，希望更多科研机构、企业厂商基于各自优势形成合力，更好地满足国内不断增长的智能化转型需求，助力中国人工智能产业持续发展。(完) 【编辑:黄钰涵】
相关：
刚专访了阿尔特曼，他就成了OpenAI的前CEO文｜本刊特约采访 周恒星 本刊记者 陶淘编辑｜李薇头图来源｜视觉中国创始人被驱逐出公司的戏码，在硅谷再次上演，这次发生在全球最热门的科技公司OpenAI。美国时间11月18日下午，OpenAI官方突然发布声明，称公..
美媒：以色列、美国和哈马斯接近达成协议据《华盛顿邮报》11月18日报道，以色列、美国和哈马斯接近达成一项协议：哈马斯释放加沙地带的数十名人质，以换取以色列停火5天。根据一份长达6页的详细协议条款，冲突各方将冻结战斗行动至少5天，同时每24小时分..