AI事故频发！美军无人机在模拟测试中杀死操作员，“AI革命”该管了

据英国《卫报》6月2日报道，一位美国官员5月透露，在美国军方的一次模拟测试中，一架由人工智能（AI）控制的无人机向妨碍其执行任务的人类操作员发动攻击，终杀死人类操作员。

美国MQ-9无人机　图源Getty　Images

据美国空军上校汉密尔顿介绍，在模拟测试中，一架负责执行防空火力压制(SEAD)任务的无人机收到指令，要识别并摧毁敌方防空导弹，但终是否开火需要取得操作员的批准。然而，在进行数据训练时，这架无人机使用的AI系统得到信息，“摧毁敌方防空系统”是优先级高的任务。因此，当操作员发出不允许发动攻击的命令时，AI系统认为操作员是在阻止它执行优先级更高的命令，因而选择对操作员发动攻击，杀死了人类操作员。

情况发生后，美军重新对无人机使用的AI系统进行训练，增加了不允许攻击操作员的命令。然而，在随后的测试中，AI系统却开始命令无人机摧毁传输指令的信号塔，试图断开与操作人员的联系。

AI蓬勃发展的同时，也带来日益严峻的挑战

随着人工智能的蓬勃发展，该技术或将带来医学上的重大突破，保障并挽救数十亿人的生命健康。同时，它也将成为史上强大的引擎，给后世数代人提供我们无法想象的强大工具。然而，在AI给人类带来重大发展机遇的同时，各种风险和挑战也随之而至。

首先，AI技术或将加剧互联网虚假信息的泛滥。近年来，社交媒体上纷繁的信息已经使人们眼花缭乱、难分虚实，但随着生成性AI的应用逐渐大众化，网络虚假信息带来更严峻的挑战。据澎湃新闻此前报道，以ChatGPT为代表的变革性AI新技术不仅可以模拟人类语言，还可以利用深度伪造技术（Deep　Fake），强化伪造图片、声音、视频的逼真性，催生场景化和沉浸式的互动，不仅可能扰乱大众认知，还可被用来实施网络欺诈，致使用户利益受损，甚至扭曲公众舆论、危及公共安全。日前甘肃一例虚假信息案中，犯罪嫌疑人就通过ChatGPT编造虚假社会新闻，而后上传至其*的百家号上非法获利。

不仅如此，AI还可能对劳动力市场造成冲击。诚然，比起为人们带来就业压力，历史上几次技术飞跃普遍创造了更多的就业机会，并提高了生产力。然而，这意味着就业市场需要进行调整和转型，以适应新的技术和工作方式。传统的职业也需要转型和重新定位，通过学习新的技能和知识来适应新的市场需求。*、教育机构和企业也需要制定适应新兴职业的教育和培训计划，以满足人才需求。这对于各方而言，都绝非易事。

此外，AI还可能摧毁人类的情感，取代人与人之间的沟通。未来，AI很可能如科幻电影中描绘的那样，替代人类成为我们的伴侣。而据科学家分析，若长期沉溺在虚拟世界中，依赖AI的陪伴，这对人类的影响将是不可逆转的。这或许是AI为我们带来的大挑战。

英国公司开发的人形机器人，能说多种语言并模仿人类的表情　图源*

降低AI潜在风险应成为全球优先考虑事项

5月30日，非营利研究机构人工智能安全中心发布了一份《AI风险声明》，由370多名领域权威专家联合签名发布，包括美国开放人工智能研究中心的首席执行官萨姆·奥尔特曼、图灵奖得主约书亚·本吉奥、“深度学习之父”　杰弗里·辛顿等人。

中国科学院自动化研究所研究员*、清华大学教授张亚勤、助理教授詹仙园等中国学者也位列其中。这封信虽然简短，但它概括了人工智能的风险。信中提到：“降低人工智能灭绝人类的风险以及降低流行病和核战争等其他影响全社会的风险，应该成为全球优先考虑的事项。”

这种对AI风险的表态并非首次。今年3月22日，生命未来研究所发布《暂停人工智能巨模型实验》*，呼吁所有人工智能实验室立即暂停比GPT-4更强大的人工智能系统的训练，暂停时间为至少6个月。这封*获得了马斯克、约书亚·本希奥、苹果联合创始人史蒂夫·沃兹尼亚克等科技巨头和科学家的公开签名。

人工智能安全中心官网发布的《AI风险声明》图源官网

人工智能技术应实现可持续发展

据南方财经此前报道，参与了《AI风险声明》签名的中国学者*表示，首先，AI的研发者应通过研制和发布AI安全解决方案解决尽可能多的安全风险隐患。其次，应大限度地提升AI所有利益相关方对AI安全隐患的意识，包括但不限于研发者、使用与部署者、*与公众、媒体等，让AI的所有利益相关方都成为给AI稳健发展保驾护航的参与者。再次，对于AI给人类造成生存风险的各种可能，要开展充分的研究、极限与压力测试，以大限度地降低这种风险。解决AI给人类带来的生存风险问题，AI伦理安全的问题需要建立全球协作机制，共享AI红利的同时，需要全球共护安全。

“少数人很难改变趋势，但少数人首先站出来提升公众的意识，终参与改变现状的就会是多数人。”*提醒到，AI的研发者有义务确保AI不给人类带来生存风险，至少要通过AI的各种利益相关方小化这种风险的可能性。

此前，*曾在多个场合提出，“可持续发展的人工智能”或许是一个有益的选择。他解释，“可持续发展的人工智能”一方面意味着应当使人工智能作为赋能技术促进全球可持续发展目标的实现，另一方面意味着应当确保人工智能技术的可持续性。他观察到，目前这方面的努力主要聚焦于高利润高回报的领域如教育和健康，但保护生物多样性、减缓气候变暖、促进公平公正等真正关乎人类未来的议题领域，受到人工智能技术的关注仍然较少。

*认为，逐步提升人工智能真正意义的智能水平，才能使人工智能技术真正实现可持续发展。人工智能不应停留在“看似智能的信息处理”的阶段，不应当满足于“绝大多数情况比人好”，否则很多时候会犯“人类不犯的错误”。

九派新闻实习记者　孙知蔚

【来源：九派新闻】

声明：此文版权归原作者所有，若有来源错误或者侵犯您的合法权益，您可通过邮箱与我们取得联系，我们将及时进行处理。邮箱地址：jpbl@jp.jiupainews.com

以上就是【AI事故频发！美军无人机在模拟测试中杀死操作员，“AI革命”该管了】的相关内容，查看其它ai资讯请关注微咔网