近日，在英国皇家航空学会伦敦“未来空战和空间能力”研讨会上，美国空军负责AI测试和运营的汉密尔顿上校披露，在美国空军进行的无人自主武器攻击试验中，无人机出现违背指令并攻击操作员的事例。随后，美国空军方面否认进行了此类试验。6月2日，英国皇家航空学会发表声明，称汉密尔顿透露的相关测试只是“假设性的思想试验”，汉密尔顿的发言“被断章取义了”。
在人类社会主要由自然力主导的低技术时代，人们对大自然充满敬畏、恐惧和无边的想象。当技术进步到决定性地影响社会发展的现代，人们开始对具有颠覆性作用的新技术产生了类似的恐惧和联想。
的确，人工智能产生的能力已经在某些方面超过了人类，例如，“深蓝”战胜国际象棋大师卡斯帕罗夫，“阿法狗”战胜人类一流围棋选手柯洁、李世石。这样的能力来自人类对人工智能系统的硬件赋能、软件和数据赋能。
人工智能在某一项具体功能、能力上超越人类，并不证明人工智能系统已经具有威胁人类的能力。人工智能的数学模型、智能算法等都是人类设计，人工智能据此进行反复迭代的数据，都来自人类的“投喂”。人类能够将自身能力赋予智能系统的前提，是人对自身的能力，尤其是思维能力的完全掌握，并且以技术方式赋予计算机系统。然而，人类对自身，尤其是大脑的思维活动至今并没有完全搞清楚，未知部分是不可能赋予计算机系统的。
科幻作家泰德・姜认为，目前人工智能的本质仅是应用统计学，即其思维逻辑仅仅是在大量数据统计的基础上，选择可能性最大的选项。这个判断或许比较文艺，但并非妄言。如围棋人工智能“阿法狗”，不管其算法如何复杂，它的下一步行棋，确实是选择棋盘中相对“价值最大”的位置。而这，离自主意志还有很远的距离。
人与武器实现最佳契合是达成最佳战场效果的基础。在人工智能出现之前，人与武器的契合度主要表现为人对武器装备的娴熟使用。在武器装备系统日益复杂化、技术化之后，侦、判、打、评或观察、定向、决策、行动的作战过程，每个环节都形成相对独立的装备和系统。信息化、智能化的加入，武器系统不仅可以发挥破坏作用，而且可以取代人的部分思维。这就产生人与武器系统之间怎样区分功能、作用，最关键的是人与武器系统怎样分配权限。
在区分人与武器的权限之前，要搞清楚“自动”与“自主”之间的区别。所谓“自动”是指原有机械化过程的全自动完成。过程的步骤和每个步骤的先后顺序，以及每一步的结果都是确定的。按照既定的流程、方式，无需施加人的控制，全过程自动完成。
所谓“自主”，是指整体程序、主要流程、大的节点是确定的，但过程中存在一定的不确定性。遇到突发意外情况时，其应对策略来自确定的模型和算法，但在某些细节上允许系统依据数据自主作出决策。
到底是操作员启动攻击，还是无人机自主攻击，或在什么条件下人工启动攻击，在什么条件下无人机自主攻击，这就是操作员与无人机权限的分配问题。
2004年以来，美国军方和中央情报局在海外的无人机空袭造成9000人至1.7万人死亡。2021年7月，美国前空军情报分析员和无人机操作员黑尔透露，在他执行无人机“定点清除”任务时，有不少人是无辜的。黑尔因为受到良心的煎熬，向媒体透露了一些事实，他这样做的代价是因“泄密罪”被判刑45个月。在面对舆论谴责时，美国军方拒绝为无人机误杀平民道歉。
事实上，在得到一些“恐怖分子”混杂在平民之中活动的情报后，无人机操作员控制无人机找到目标，不管无人机的侦察器材还是操作员本人，都很难将“恐怖分子”从平民中分离出来。操作员面临为了确保平民安全放弃攻击，还是将平民和“恐怖分子”都作为攻击对象的严酷选择。美国军方如果承认这样的攻击是错误的，将只能今后放弃用无人机执行此类攻击任务。
既然人工智能没有自主意识，也不会本质性威胁人类，那么，为什么还有那么多重量级人物发声对此表示警惕，甚至要求限制人工智能的研发和应用？美国前国务卿基辛格在2018年《大西洋》月刊上的一篇文章中称：核武器具有毁灭性，人工智能的能力有过之而无不及。马斯克和包括图灵奖得主在内的近千名科学家、企业家，联名呼吁叫停大规模人工智能研究。
破坏力由能力与意愿构成。人工智能本身不具有破坏意愿和自主意志，但是，它所具有的巨大破坏能力，一旦与人的破坏意愿相结合，就会导致毁灭性后果。核武器本身同样不具有破坏意愿，但它与人的破坏意愿结合的结果，在二战末期已经小试牛刀、令人惊骇。
为此，对人工智能的研发和应用，尤其是在军事领域的应用进行管理、控制和规范，就显得尤其重要。2019年10月，美国国防创新委员会发布《人工智能原则：国防部人工智能应用伦理的若干建议》，为人工智能军事应用提出了“负责、公平、可追踪、可靠、可控”五大原则，这从理论上构成了人工智能军事应用的基本规范。
2021年12月，中国发布《关于规范人工智能军事应用的立场文件》，呼吁各国秉持“智能向善”的原则，遵守国家或地区伦理道德准则，包括不通过人工智能技术谋求绝对军事优势，防止损害全球战略平衡与稳定。2022年11月，中国向联合国《特定常规武器公约》缔约国大会提交《关于加强人工智能伦理治理的立场文件》。今年4月，中国提出《生成式人工智能服务管理办法》草案，强调收集、处理个人信息应当具有明确、合理的目的等。
技术与伦理的矛盾一直都存在，如果不对核武器的使用施加严格限制，人类或许早已灭绝。对于被认为破坏性比核武器更厉害的人工智能，为其研发、应用树立道德伦理规范，更加不可或缺。
（作者单位：国防科技大学信息通信学院）
吴敏文 来源：中国青年报
,无人自主武器，是机遇写人作文300字 还是陷阱相关：
无人机出击 刚刚还是艳阳高照的戈壁大漠，突起风沙，能见度瞬间降到十几米。受天气影响，武警青海总队特战分队正在进行对抗演练的红蓝双方均暂停了进攻动作――这个时候任何一方的轻举妄动都可能给己方造成极大被动。 红方侦察兵胡明强侧躺在一处背风斜坡，怀里小心翼翼地保护着他最亲密的“战友”，一架侦察无人机。他右手食指始终放在无人机开关处，只待风沙减弱、条件允许，便要第一时间升空侦察。他心里很清楚，一会儿谁先探明..
国际大体联拓宽成都大运会运动员参赛资格 本报成都6月28日电（中青报・中青网记者 王鑫昕 梁璇）成都大运会执委会今天举行新闻发布会，介绍赛事的最新筹备情况。据介绍，为减少新冠疫情对学生运动员参赛影响，国际大学生体育联合会（以下简称“国际大体联”）决定拓宽运动员参赛资格。 根据国际大体联竞赛规程，年龄在18岁至25岁之间的在校大学生及在世界大学生运动会举办前一学年毕业的往届大学生均可代表所在国家或地区参加本届大运会。 成都大运会执委..
调查显示：网民对“饭圈”整治行动满意度最低调查说明2022年8月，在全国各级网信、公安、工信、市场监管等政府部门的指导和支持下，全国135家网络社会组织共同发起以“网络安全为人民、网络安全靠人民”为主题的“2022网民网络安全感满意度调查”（以下简称“安满度调查”），共收回问卷303万份。其中第6专题为“特殊人群（未成年人、老年人等）网络权益保护”，共收集样本19183份。男性占39.39%，女性占60.61%。未成年人（18周岁以下）占19.8%，青年人（18-44周岁）占66.11..
超半数受访未成年人表示身边发生过网络暴力近年来，网络暴力问题受到社会各界的关注。在互联网环境下成长起来的青少年，也会受到网络暴力的影响。《未成年人网络权益保护及安全感满意度调查报告》显示，超半数受访未成年人表示在自己身边发生过网络暴力，近三成受访未成年人在遭遇网络暴力后会感到情绪低落、抑郁。同时，也有三成多受访未成年人表示参与过与网络暴力行为相关的活动。超半数受访未成年人表示在自己身边发生过网络暴力调查显示，在12岁以下及12-18岁未成年..
苹果股价又创历史新高 市值直逼3万亿美元财联社6月29日讯（编辑 牛占林）美东时间周三，苹果公司股价盘中又创历史新高，使得这家消费电子巨头的市值逼近3万亿美元。苹果股价盘中一度上涨1%，创下189.90美元的纪录，市值达到2.98万亿美元。该股需要收于或高于190.73美元，才能达到3万亿美元的市值。苹果市值上一次突破3万亿美元是在2022年1月初，当时该股的交易价格为182.86美元，但那时苹果的流通股更多，提高了其整体市值。苹果股价今年以来上涨了约46%，在这家全球市..
00后的新社交神器，人手一条“地摊货”？文玩？饰品？都不对。天下网商 朱之丛编辑 李丹超夜幕降临，吴珊走进中国地质大学珠宝大楼。在武汉的大学生圈子里，这里算是一个物美价廉的小饰品商场。珠宝设计是中国地质大学的王牌专业之一，吴珊相信学生们的专业能力和“特殊门路”。走出珠宝城时，她手腕上多了一条由和田玉、南红玛瑙、绿松石串成的手串，三种颜色相映生辉。摊主报价247元，以大学生的消费水平来说算是价格不菲，但吴珊表示满意：“这是我自己一颗一颗挑..
定了！OpenAI首个海外分部在这个国家……财联社6月29日讯（编辑 赵昊）当地时间周三（6月28日），人工智能聊天机器人ChatGPT的开发商OpenAI在官网宣布，已经在英国伦敦设立了新的办事处，也是这家美国公司在海外的第一个分部。新闻稿称，在伦敦的第一个国际办事处标志着OpenAI发展的一个里程碑。公司负责人事的副总裁Diane Yoon写道，“我们很高兴将我们的研发足迹扩展到伦敦，这座以其丰富的文化和卓越的人才库而闻名的城市。”“ChatGPT之父”、公司首席执行官山姆..
谷歌云CEO：正与欧盟对话 不害怕对AI的监管财联社6月28日讯（编辑 夏军雄）谷歌云CEO托马斯·库里安近日表示，谷歌正与欧盟监管机构进行富有成效的早期对话，讨论欧盟的人工智能（AI）法规，以及谷歌和其他公司如何安全、负责任地构建AI业务。欧盟正在推进《人工智能法案》，该法案有望成为全球首部关于AI的全面立法。库里安在接受媒体采访时称：“我们正在欧盟政府进行富有成效的对话，因为我们确实想找到一条前进的道路。这些（AI）技术有风险，但它们也有巨大的能力，..
AI前哨传美国欲收紧对华AI芯片出口 英伟达：后果很严重英伟达CFO克雷斯凤凰网科技讯《AI前哨》北京时间6月29日消息，有消息称，美国正在考虑进一步收紧对中国的人工智能(AI)芯片出口管制。对此，美国主要AI芯片供应商英伟达CFO克莱特·克雷斯(Colette Kress)周三表示，此举可能会产生严重后果。克雷斯周三在一个在线投资者活动上表示，英伟达已经注意到了这一报道。她先是安抚投资者称，由于公司产品的整体需求旺盛，所以即便美国推出此类出口管制规定，也不会对公司的利润产生重大..
中央军委此次晋升上将仪式中，一个重要细节发生变化撰文 | 李岩央视6月28日消息，中央军委晋升上将军衔仪式当天在北京八一大楼举行。两位军官晋升上将央视披露，这次晋升上将军衔的军官是：北部战区政治委员郑璇、军事科学院政治委员凌焕新。梳理公开报道，两位新晋上将此次均是以新职务亮相。中国青年网刊文指出，郑璇曾长期在西南边陲服役。本轮军改后，郑璇在2016年冬季升任中部战区副政委兼政治工作部主任。大众网曾披露，2022年9月30日，山东省、驻济部队举行烈士公祭活动..