马来西亚国防大学副校长:AI进战场,谁按最后那个按钮?
马来西亚国防大学副校长在一场关于军事技术伦理的研讨会上抛出了一个不算新鲜但越来越难回答的问题:当人工智能进入作战决策链,人类的手到底该放在哪里。
他的答案很明确:不能松手。
这位副校长在发言中反复提到一个词——“人类监管”。在他看来,军事领域应用人工智能,无论技术跑得多快,最终的开火权、部署权、升级权,不能完全交给算法。他特别点了自主武器的名,说这类系统一旦脱离人类控制,伦理和安全上的风险不是“可能”,是“必然”。
“我们不能把决策责任外包给机器。”他在会上这么说。语气不算激烈,但立场很清楚。
有意思的是,他并没有一味唱衰AI在军事上的应用。他承认,人工智能在情报分析、后勤调度、态势感知这些领域确实能帮上忙,甚至能减少人为失误。但他划了一条线:辅助可以,自主不行。尤其是涉及致命性决策的时候,人类必须在回路里。
这个“人类在回路里”的说法在军事伦理圈子里不新,但这位副校长把它放到了马来西亚的语境下谈。他说,东南亚地区的军事技术发展速度不一,监管框架也参差不齐,如果各国各自为政地往自主武器方向跑,地区稳定性会出问题。他呼吁区域内的国防机构加强对话,哪怕先搞个非正式的技术伦理工作组也好。
现场有人问,那如果对手用了完全自主的系统,你坚持人类监管,岂不是反应速度上吃亏?他没直接否认这个现实困境,只是说,速度优势不能成为放弃责任的借口。但他也承认,这个问题“没有简单答案”,需要技术界和法律界坐下来慢慢磨。
研讨会结束后,他没有接受媒体采访。主办方说他赶着去下一场闭门讨论。倒是旁边一位参会的研究员跟记者嘀咕了一句:这种话说了好几年了,关键是接下来谁真的把它写进采购条款里。
他的答案很明确:不能松手。
这位副校长在发言中反复提到一个词——“人类监管”。在他看来,军事领域应用人工智能,无论技术跑得多快,最终的开火权、部署权、升级权,不能完全交给算法。他特别点了自主武器的名,说这类系统一旦脱离人类控制,伦理和安全上的风险不是“可能”,是“必然”。
“我们不能把决策责任外包给机器。”他在会上这么说。语气不算激烈,但立场很清楚。
有意思的是,他并没有一味唱衰AI在军事上的应用。他承认,人工智能在情报分析、后勤调度、态势感知这些领域确实能帮上忙,甚至能减少人为失误。但他划了一条线:辅助可以,自主不行。尤其是涉及致命性决策的时候,人类必须在回路里。
这个“人类在回路里”的说法在军事伦理圈子里不新,但这位副校长把它放到了马来西亚的语境下谈。他说,东南亚地区的军事技术发展速度不一,监管框架也参差不齐,如果各国各自为政地往自主武器方向跑,地区稳定性会出问题。他呼吁区域内的国防机构加强对话,哪怕先搞个非正式的技术伦理工作组也好。
现场有人问,那如果对手用了完全自主的系统,你坚持人类监管,岂不是反应速度上吃亏?他没直接否认这个现实困境,只是说,速度优势不能成为放弃责任的借口。但他也承认,这个问题“没有简单答案”,需要技术界和法律界坐下来慢慢磨。
研讨会结束后,他没有接受媒体采访。主办方说他赶着去下一场闭门讨论。倒是旁边一位参会的研究员跟记者嘀咕了一句:这种话说了好几年了,关键是接下来谁真的把它写进采购条款里。
