OpenAI联合创始人苏斯克维尔
凤凰网科技讯《AI前哨》北京时间7月6日消息，ChatGPT开发商OpenAI周三宣布，公司计划投入大量资源，并组建一支新的研究团队，以确保其人工智能(AI)对人类是安全的，最终实现AI的自我监督。
OpenAI联合创始人伊利亚·苏斯克维尔(Ilya Sutskever)和AI一致性问题主管简·莱克(Jan Leike)周三在一篇博客文章中写道：“超级智能的巨大力量可能……导致人类被剥夺权力，甚至人类灭绝。目前，我们还没有一个解决方案来操控或控制一个潜在的超智能AI，并防止它不受控制。”AI一致性(alignment)指的是AI的行为符合设计者的利益和预期目标。
他们在博文中预测，比人类更聪明的超智能AI可能在这个十年(2030年前)就会到来，人类将需要比目前更好的技术来控制超智能AI，因此需要在所谓的“一致性研究”方面取得突破。“一致性研究”的重点是确保AI对人类有益。
OpenAI发表的防AI失控博文
OpenAI承诺，将拿出未来四年所获算力的20%用于解决AI失控的问题。此外，该公司正在组建一个新的团队来组织这项工作，并将其称之为超级一致性团队。该团队的目标是创建一个“人类水平”的AI研究人员，然后借助大量算力扩大这项努力。OpenAI表示，这意味着他们将使用人类反馈信息来训练AI系统，训练AI系统来辅助人类评估，然后最终训练AI系统开展一致性研究。
不过，AI安全拥护者康纳·莱希(Connor Leahy)表示，OpenAI的计划从根本上存在缺陷，因为可达到“人类水平”的初级版AI可能会在被用于解决AI安全问题之前失控并造成严重破坏。“在构建人类水平的智能之前，你必须先解决一致性问题，否则你无法控制它，这是可以默认的。我个人认为这不是一个特别好或安全的计划。”莱希表示。
另外，分析公司Similarweb的数据显示，在去年11月推出便火爆全球后，ChatGPT网站的月度流量和独立访客数量在今年6月份首次出现下降。Similarweb称，ChatGPT网站的全球桌面和移动流量在6月份环比下降了9.7%，独立访客数量环比下降了5.7%，访客在该网站上停留的时间也下降了8.5%。凤凰网科技《AI前哨》对此将持续关注。(作者/箫雨)
更多一手新闻，欢迎下载凤凰新闻客户端订阅凤凰网科技。想看深度报道，请微信搜索“凤凰网科技”。
,AI前哨防止A下厨房网 I“失控” OpenAI宣布重大措施相关：
中国最强韧人造蛛丝刷新世界纪录◎本报记者 陈 曦天然蛛网上有两类蛛丝，一种是与高等级合金钢抗拉伸强度相当的蛛丝，即蛛网上的经线，具有很高的韧性。另一种是黏附型蛛丝，即蛛网上的纬线，用于捕获猎物。南开大学教授刘遵峰，中国科学院院士、东华大学教授朱美芳，中国药科大学副教授周湘组成的联合团队，研发出一种皮层带有类皮肤的褶皱结构的人造蛛丝，强度达到1.61吉帕斯卡，韧性达到466兆焦/立方米，超过了自然界中强度最高的达尔文树皮蛛的蛛丝。联合..
可屏蔽99%入射电磁波，中国研发出高性能电磁屏蔽材料◎本报记者 李 禾在日常生活和工作中，电子设备运行时会产生电磁辐射，可能会给人们的健康带来不良影响，各设备间的电磁干扰也会严重影响电子设备的性能及其正常运行。因此，发展新型电磁屏蔽材料，尤其是高性能电磁屏蔽材料是解决电磁污染的关键。如今，各种电子设备越来越多地应用于人们的生活和工作中，但是电子设备在运行过程中会产生电磁辐射，可能会给人们的健康带来不良影响，各设备间的电磁干扰也会造成信号被拦截、数..
科学家首次演示“量子数字支付”【总编辑圈点】科技日报北京7月5日电 （记者张梦然）尽管每天使用，但你是否对数字支付仍心存不安？奥地利维也纳大学科学家设计了一种无条件安全的系统，将现代加密技术与量子光的基本特性相结合。团队在现实环境中进行了“量子数字支付”的首次演示，相关研究发表在最近的《自然·通讯》上。在当今的支付生态系统中，客户的敏感数据被随机数序列取代，并且每笔交易的唯一性通过经典的加密方法或代码来保证。然而，拥有强大计算..
数据显示：餐饮业复苏势头强劲餐饮业是促消费、惠民生、稳就业的重点领域。国家统计局近日发布的数据显示，5月份，全国餐饮收入4070亿元，同比上升35.1%；限额以上单位餐饮收入1084亿元，同比上升31.4%。1月份至5月份，全国餐饮收入、限额以上单位餐饮收入增速较去年同期上升31.1个、34.5个百分点，餐饮收入占社会消费品零售总额的10.6%。今年以来，餐饮业加快恢复向好、持续激发活力，为恢复和扩大消费提供了有力支撑。专家表示，餐饮业收入占社会消费品零售..
中国首个开源桌面操作系统“开放麒麟1.0”亮相科技日报北京7月5日电 （记者华凌）5日，在中关村国家自主创新示范区展示交易中心举行的2023操作系统产业大会上，中国首个开源桌面操作系统openKylin1.0（“开放麒麟1.0”）亮相。这标志着我国已具有系统组件自主选型、操作系统独立构建的能力，降低对上游操作系统发行版社区的依赖，填补了我国长期以来在桌面操作系统根社区领域的空白。大会现场发布的《中国基础软件行业调研报告》指出，2022年中国操作系统市场规模达到155.1..
电商平台定量包装商品缺斤短两，网购150个垃圾袋到手仅86个□ 本报记者 文丽娟“标注150个，收货一数只有86个。”近日，北京市民李女士在社交平台吐槽称，她无意间用“数垃圾袋打发时间”，却发现了“货不对板”的秘密，商家宣称150个垃圾袋，实际到手缩水近一半。李女士的经历并非个例。不少消费者在购买定量包装商品时都遇到过类似问题：声称500根一盒的棉签，到手一数少了88根；标注50片的纸尿裤，只有38片；号称100抽的抽纸，实际少了近四分之一；买了一箱橘子，测量发现只有1个大..
打开水龙头一股恶臭，数十万马里兰州居民慌了在美国，打开水龙头就可以直接饮用是默认可行的，大家对水质本身和质检十分放心。可这几天数十万计的马里兰州居民打开水龙头，一股异味直冲天灵盖，太酸爽了！图片来源于Fox，版权属于原作者据WSSC Water水务公司表示，因近期高温干旱天气，波托马克河（Potomac River）中的藻类激增，特别是一种名为土臭素（Geosmin）的天然化合物。图片来源于Fox，版权属于原作者因此，蒙哥马利县（Montgomery County）和乔治王子县（Prince..
不看肤色，美国高等教育会有什么变化6月29日，美国华盛顿特区，“平权行动”的支持者在美国联邦最高法院大楼附近抗议。当天，美国联邦最高法院裁定，哈佛大学和北卡罗来纳大学基于“平权行动”的招生政策违反宪法。当地时间6月29日，美国联邦最高法院做出裁决，认定哈佛大学和北卡罗来纳大学将种族因素作为招生标准违反了美国宪法第14条修正案的平等保护条款，包括首席大法官约翰·罗伯茨在内的6名保守派大法官都对此投出赞成票。这一历史性裁决推翻了美国高等教育..
“中国第一高楼”没有买家！被规划为“中国第一高楼”的世茂深港国际中心没能等到新主人。7月5日10时，随着倒计时停止跳动，深圳市世茂新里程实业有限公司（下称“深圳世茂新里程”）名下位于深圳市龙岗区龙城街道的12宗地土地使用权及地上物因无人出价而流拍，这是世茂深港国际中心的大部分资产。结果并不令人意外，早在标的上架之初，业内就预判了其流拍的结局。原因很简单，在当下时间节点，无论对哪家开发商而言，这类打了八折、价值仍超百亿的大型综合..