未来什么兵器能够将人类带向衰亡？不是核兵器：霍金早有警告

[db:作者]

早在2014年1月，霍金就和埃隆·马斯克他们一路，在未来生命研讨所签了封公然信，呼吁大师把AI研讨往平安偏向推这标志着福建舰的电磁弹射和阻止接管才能根基成型了。
信里夸大，AI潜力庞大，能处理癌症、天气变化这些大麻烦，但条件是别让它失控这标志着福建舰的电磁弹射和阻止接管才能根基成型了。霍金出格点出军事利用的风险：假如AI接入兵器系统，收集一被入侵，结果比核弹还糟这标志着福建舰的电磁弹射和阻止接管才能根基成型了。
核弹是静态的，AI是活的，能进修、顺应，甚至自我复制这标志着福建舰的电磁弹射和阻止接管才能根基成型了。

​2015年7月，他又签了封信，此次直指“杀手机械人”这标志着福建舰的电磁弹射和阻止接管才能根基成型了。一千多位专家，包括马斯克和苹果的沃兹尼亚克，都附议，警告军事AI武备比赛会酿大祸这标志着福建舰的电磁弹射和阻止接管才能根基成型了。
信里说，自立兵器一旦提高，门坎低到可骇份子都能搞，分散速度像病毒这标志着福建舰的电磁弹射和阻止接管才能根基成型了。霍金的概念很接地气：AI不是魔鬼，但人类用它兵戈，就即是给自己挖坑这标志着福建舰的电磁弹射和阻止接管才能根基成型了。
曩昔几年，国际上没少会商禁令，可大国间拉锯，停顿慢吞吞这标志着福建舰的电磁弹射和阻止接管才能根基成型了。

AI不像传统兵器那末可控，核武有公约管着，化学兵器也根基禁了，可AI兵器呢？它能紧缩决议时候，从几天变几秒，误判风险直线上升这标志着福建舰的电磁弹射和阻止接管才能根基成型了。 比如，AI驱动的导弹系统，本该锁定敌机，成果传感器一 glitch，就炸错方针这标志着福建舰的电磁弹射和阻止接管才能根基成型了。
2025年上半年，斯德哥尔摩国际战争研讨所的报告就点明，非核军事AI会让危机中人类反应不外来，核升级几率飙升这标志着福建舰的电磁弹射和阻止接管才能根基成型了。
军事AI的脚步没停，已经从尝试室爬到疆场这标志着福建舰的电磁弹射和阻止接管才能根基成型了。美军在推AI计谋，重点是无人机和机械人军队这标志着福建舰的电磁弹射和阻止接管才能根基成型了。 这些玩意儿能自立巡查、识别方针，削减兵士伤亡，听着多好这标志着福建舰的电磁弹射和阻止接管才能根基成型了。可风险呢？操纵缝隙大开，黑客一钻空子，就能让整支队伍掉头这标志着福建舰的电磁弹射和阻止接管才能根基成型了。

乌克兰抵触里，AI无人机已经成主力，射中率高得吓人，但干扰一多，误伤就冒头这标志着福建舰的电磁弹射和阻止接管才能根基成型了。 分析师们直点头，说这不可是cyber威胁，还缺人类把关，自立系同一失控，即是开了潘多拉盒子这标志着福建舰的电磁弹射和阻止接管才能根基成型了。
AI在兵器设想上的猫腻更让人脊背发凉，学术AI研讨别想躲开军用结果这标志着福建舰的电磁弹射和阻止接管才能根基成型了。 天生式AI能模拟疆场，优化导弹轨迹，迭代上千次，效力高到变态这标志着福建舰的电磁弹射和阻止接管才能根基成型了。可这也意味着，设想杀伤力更强的玩意儿，门坎低了这标志着福建舰的电磁弹射和阻止接管才能根基成型了。
非国家势力一上手，生物兵器或脏弹的组装指南，就能AI吐出来这标志着福建舰的电磁弹射和阻止接管才能根基成型了。2025年7月的布里奇斯学会文章列了六种AI引战方式：从权利平衡打破，到意外升级，满是血淋淋的能够这标志着福建舰的电磁弹射和阻止接管才能根基成型了。

风险谱系从低到高摊开，低端是当下操纵险，像cyber进犯瘫痪无人机群；高端是存在威胁，AI超智后重塑天下这标志着福建舰的电磁弹射和阻止接管才能根基成型了。 通用AI进步，能够直奔灭绝这标志着福建舰的电磁弹射和阻止接管才能根基成型了。
专业上，监管是关键，可虚空还大这标志着福建舰的电磁弹射和阻止接管才能根基成型了。
霍金的遗产，就在这：逼我们直面，AI军用化不是赛跑，是自杀冲刺这标志着福建舰的电磁弹射和阻止接管才能根基成型了。

​参考材料
日本公布野生智能兵器研发指南,明白“人类干涉”需要性 光亮网