中新网北京11月19日电 (记者 张素)上下文窗口长度，对于模型理解和生成与特定上下文相关文本极为重要，是大模型核心技术之一。记者近日采访获悉，鹏城实验室等相关机构开展合作，在国产算力大模型长窗口技术方面有所突破。
通常来说，更长的上下文窗口可以提供更丰富的语义信息，并且能够让模型生成的内容更准确流畅。“鹏城—百川·脑海33B”的128K长上下文窗口基于“鹏城云脑”国产算力平台训练，未来可升级至192K。
据知，为提升上下文窗口长度和模型整体性能，百川智能和鹏城实验室对模型进行了全流程优化。在数据集构建方面，研发人员采用精细的数据构造，实现段落、句子粒度的自动化数据过滤、选择、配比，进一步提升了数据质量。
在全生命周期的模型工具集中方面，包括来自北京大学的王亦洲、杨耀东团队在内，多方开展合作，创新提出带安全约束的RLHF对齐技术，有效提升了模型内容生成质量和安全性。
鹏城实验室相关负责人表示，接下来还将广泛联合企业、高校和科研院所，通过开源群智的合作模式共享资源，为千行百业插上人工智能的“翅膀”。百川智能相关负责人也表示，希望通过开源、与合作伙伴共创等方式，助力中国大模型创新，促进本土大模型生态日益繁荣。
有评论认为，上述在大模型训练和应用领域的合作研发实践，对于国产算力大模型发展具有积极示范作用，希望更多科研机构、企业厂商基于各自优势形成合力，更好地满足国内不断增长的智能化转型需求，助力中国人工智能产业持续发展。(完) 【编辑:黄钰涵】 ,鹏城实验室等开十香词 展合作 突破国产算力大模型长窗口技术
相关：
香港海关侦破一起入境旅客体内藏毒案件11月18日，香港海关发布消息说，11月16日在香港国际机场侦破一起一名入境旅客体内藏毒案件，查获约530克可卡因，估计市值约65万港元。香港海关称，该名旅客是一名42岁男性，16日从肯尼亚内罗毕经卡塔尔多哈飞抵香港。海关人员为该旅客清关期间，怀疑他体内藏有毒品，遂将他带到医院检查。经检查，医生确认该名旅客体内藏有异物，海关人员随即把他拘捕。截至18日13时，被捕人士已从体内排出48粒共重约530克的可卡因。（总台记者 ..
下周寒潮天气将影响我国！长江中下游及以北降温明显下周寒潮来袭！预计11月21日至24日寒潮天气将自西向东影响我国大部地区，长江中下游及以北地区有4～6级大风和明显降温；内蒙古东部、黑龙江东部、吉林东部等地有大雪或暴雪，吉林中东部、黑龙江东南部局地有冻雨；东部和南部海域风力较大。#长江以北将被速冻#大风降温预报：21日至24日，长江中下游及以北地区有4～6级偏北风，阵风7～8级、局地9级；过程降温幅度有6～10℃，其中内蒙古中东部、华北西部和北部、东北地区、山东半岛..
央媒谈大学生助学金争议：谁才算贫困生？中新网北京11月19日电(韦香惠)近日，多所高校的大学生助学金发放在网络引起热议。学生为何对贫困生认定标准提出质疑？资助方式又当如何完善？“贫困生”过度消费，高校终止发放助学金11月15日，中山大学学生资助管理中心发布一则情况通报：11月14日，中山大学学生资助管理中心收到关于我校家庭经济困难学生赵某某存在炫富和过度消费的举报，其所在学院和我中心迅速启动调查程序。经核查，该生被认定为家庭经济困难学生的认定程序..
一文读懂行政处罚（含涉税类）时效期间的计算武嘉/文日常行政执法中，常常遇到的一个行政争议问题：行政处罚是否已过追溯时效，行政机关是否已无权就多年后发现的行政违法行为进行处罚。关于行政处罚的追溯时效，我国《行政处罚法》第三十六条第一款规定：“违法行为在二年内未被发现的，不再给予行政处罚；涉及公民生命健康安全、金融安全且有危害后果的，上述期限延长至五年。法律另有规定的除外。”此处明确了一般法与特殊法对于行政处罚期限的适用先后顺序，如无特殊部..
传音Tecno Phantom V2 Fold折叠屏手机曝光，现身IMEI数据库IT之家 11 月 19 日消息，消息称传音旗下 Tecno 正在开发其 Phantom V Fold 的继任者，Phantom V Fold 是该公司今年早些时候推出的旗下首款可折叠智能手机，其继任者已经现身 IMEI 数据库。IT之家注意到，IMEI 列表显示了该可折叠手机的名称 ——Phantom V2 Fold，以及该机的型号 ——AE10，目前关于 Tecno Phantom V2 Fold 规格的具体信息还很少。作为参考，Phantom V Fold 拥有一块 7.85 英寸的..
四周前，OpenAI首席科学家接受专访：ChatGPT可能拥有自我意识在 OpenAI 的“大变天”之中，OpenAI 董事会主席兼联合创始人格雷格·布罗克曼（Greg Brockman），选择与被出局的山姆·奥特曼（Sam Altman）共进退。尽管格雷格的职位依然被保留，只不过被赶出了董事局。但他很快宣布主动辞职，并选择和山姆站在一起。图 | 格雷格·布罗克曼（Greg Brockman）（来源：领英）当地时间 11 月 18 日，格雷格在 X 上（原 Twitter）上撰文回顾了自己和山姆被迫出局之前发生的几件事情..
就任总统第二天，他为何立即要求印度撤军？提出撤军容易，真正撤军不易。11月18日，穆伊兹就任马尔代夫第八任总统的第二天，正式向印度政府提出“撤军”要求。这指向的不仅是常驻马尔代夫军港的75人印度小部队，更是1988年以来印度在马尔代夫持续驻军的历史。但是，这是否真的意味着马尔代夫和印度的长期特殊关系会走向终结？11月17日，马尔代夫当选总统穆伊兹宣读就职誓言。图/视觉中国2008年，执政30年的马尔代夫总统加尧姆在选举中落败，马尔代夫政治进入政党轮替的新..
泽连斯基：将采取新措施加强乌防空系统参考消息网11月19日报道 据德新社报道，乌克兰总统泽连斯基在11月18日晚间的每日视频讲话中宣布，将在未来几周采取新措施加强乌克兰的防空系统。报道称，随着冬天临近，防空系统在乌克兰的国防计划中变得愈发重要。基辅认为，在这个冬季，莫斯科将对乌克兰的电力、供暖和供水设施发动更多袭击。泽连斯基说：“我们越接近冬天，俄罗斯就越会尝试加大袭击力度。”据报道，乌克兰军方称，乌南部的扎波罗热和敖德萨等地的能源基础设..
外媒：埃尔多安称以总理“末日即将来临”参考消息网11月19日报道 据德国《世界报》网站11月19日报道，土耳其总统埃尔多安18日再次将以色列称为“恐怖主义国家”。据《世界报》援引土耳其阿纳多卢通讯社报道，埃尔多安18日在谈到以色列总理内塔尼亚胡时说：“这个恐怖主义国家的责任人已经引起了以色列人民的呐喊和反抗，因此其末日即将来临。”据报道，埃尔多安还把西方与十字军联系在一起，但没有解释他这番言论的确切含义。他说，西方政府和“帝国主义十字军”并无二..
俄媒曝：一乌军飞行员已叛逃至俄罗斯，系乌军现役军人【环球网报道 记者 赵博元】据塔斯社、“今日俄罗斯”（RT）18日报道，一名组织相关行动的俄飞行员表示，一名乌军飞行员已经叛逃至俄罗斯，目前已抵达俄罗斯领土，正在接受俄联邦安全局的审查。飞机内部照片 塔斯社报道配图塔斯社称，俄方组织这次（乌军飞行员叛逃）行动的俄“卡-52”武装直升机飞行员阿列克谢·沃耶沃达透露了上述消息。但他表示，尚不能透露这次行动的更多细节。RT报道说，这名叛逃的乌克兰飞行员是一名现..