来源：环球网
【环球网报道】根据美国有线电视新闻网（CNN）当地时间 12 日报道，美国国务院委托撰写的一份报告于本周发布，报告中警告，AI 可能对人类构成“灭绝级”威胁，美国必须进行干预。
据 CNN 介绍，这份报告由专注于 AI 领域的公司 Gladstone AI 撰写，该公司为美国政府高层提供关于 AI 机遇和风险的咨询和报告。美国国务院一名官员向 CNN 证实，其所在机构委托撰写了这份报告，但报告不代表美国政府的观点。
报道说，这份报告基于一年多以来对 200 多人的采访得出，采访对象包括来自领先 AI 公司的高管、网络安全研究人员、大规模杀伤性武器专家和政府内部的国家安全官员。报告明确提到，最先进的 AI 系统在最糟糕的情况下可能会“对人类物种构成灭绝级的威胁”。
CNN 称，首先，报告提到，最先进的 AI 系统可能被用作武器，造成潜在的、不可逆转的破坏；其次，报告称 AI 实验室内也存在担忧，担心对开发的系统“失去控制”，可能对全球安全造成“潜在的毁灭性后果”。“AI 和 AGI (通用人工智能)的兴起有可能以类似引入核武器的方式破坏全球安全，”报告称，在 AI 方面存在着“军备竞赛”、冲突和“与大规模杀伤性武器相当的致命事故”的风险。
CNN 说，报告为此呼吁采取措施来应对这一威胁，包括成立一个新的 AI 方向的机构，实施“紧急”监管保障措施，并限制用于训练 AI 模型的计算机能力。“美国政府显然迫切需要干预。”报告称。
“AI 已经是一项经济上具有变革性的技术。它可以帮助我们治愈疾病，实现科学上的发现，并克服我们曾认为不可逾越的挑战。”Gladstone AI 联合创始人兼首席执行官（CEO）杰雷米·哈里斯 12 日告诉 CNN，“但它也可能带来严重的风险，包括灾难性的风险，这是我们需要注意的，”“越来越多的证据——包括在世界顶级 AI 会议上发表的实证研究和分析——表明，超过一定的能力阈值，AI 可能会变得无法控制。”
CNN 提到，白宫发言人罗宾·帕特森表示，美国总统拜登关于 AI 的行政命令是“全球任何政府为抓住 AI 的潜力和管控 AI 的风险所采取的最重要行动”，美国将继续与国际伙伴合作，并敦促国会通过两党立法来管控风险。
