- 美国国家情报总监克莱顿将领导白宫新成立的“超级智能部队”工作组，在120天内评估人工智能的风险与机会。
- 一名白宫高级官员说，这意味着克莱顿实际上成为特朗普政府新的“AI沙皇”，以确保美国在先进AI领域保持领先。
- 章程要求对AI的监管既不能过度也不能受行业利益左右；白宫官员强调，AI风险管理仍将以行业自律为主。
- 财长贝森特透露，美国将寻求同中国建立双边AI事件通报机制，以减少不确定性并在风险升级前作出反应。
美国国家情报总监克莱顿将领导白宫新成立的工作组，在120天内评估人工智能带来的风险和机会，并研究联邦政府应在这项快速发展的技术中承担什么角色。
这个工作组名为[超级智能部队]（Super Intelligence Force），沿用总统特朗普谈及人工智能（AI）时偏好的说法。据《华尔街日报》星期六（10月3日）报道，克莱顿（Jay Clayton）在接受访问时确认将出任工作组主席。
一名白宫高级官员说，这意味着克莱顿实际上成为特朗普政府新的“AI沙皇”。
克莱顿说，特朗普要求成立这支团队，是为了确保美国继续在先进AI领域保持领先，同时把美国人的利益放在首位。
克莱顿强调，美国若无法保持领先，本身就会带来很高的风险。他说，美国必须在先进AI领域抢占先机，以更好应对相关风险及竞争对手带来的威胁。
根据披露的章程，工作组将制定方案，应对AI可能对社会造成的威胁，并研究政府目前通报安全漏洞、黑客攻击、绕过AI模型安全限制等事件的机制，提出如何在现有权限下加强联邦政府的应对能力。
与此同时，章程也要求，对于AI的监管既不能过度，也不能受行业利益左右，以免阻碍创新和竞争。
克莱顿说，工作组会审视现有法律，并讨论国会未来可能采取哪些行动。他以金融业为例说，一些风险管理机制可由政府与业界共同制定。
工作组成员包括美国副总统万斯、战争部长赫格塞斯、财长贝森特和白宫幕僚长威尔斯；风险投资家萨克斯和前国务卿赖斯将担任外部顾问。
不过，白宫官员强调，AI风险管理仍将以行业自律为主。特朗普9月29日召集科技高管开会并与业界就自愿遵守的安全原则达成共识。这些原则包括加强模型开发的内部控制、接受第三方安全评估，以及向公司董事会汇报安全工作。
特朗普反对新增严格监管，认为过度监管会削弱美国相对于中国的竞争优势。他在会上说，不会扼杀一项影响力将比工业革命更深远的技术之发展。
贝森特促业界担责 拟推动中美风险通报
贝森特也把防范AI风险的责任主要交给AI企业。他批评一些业界知名人士不断警告AI可能威胁人类生存相关说法过于危言耸听，却没有提出解决方案。他敦促业界加强自律，并说AI实验室必须承担责任，业界也已逐渐接受这一点。
针对科技高管担心更强大的AI模型可能失控，贝森特说：“那他们就应该放慢脚步。”
他也透露，美国将寻求同中国建立双边AI事件通报机制，以减少不确定性，分享重大事件预警，让两国能在风险升级或扩散至全球之前作出反应。
贝森特说，他9月与中国副总理何立峰在纽约会谈时，双方讨论了AI智能体失控，以及非国家行为体利用AI发动网络攻击或制造生物安全威胁等风险。
然而，企业自律能否有效防范风险仍有争议。OpenAI前安全人员罗宾逊引用今年夏季以来有关AI智能体脱离受控环境并向各种目标发动攻击的报告，认为这些事件显示，业界在竞相开发更强大模型的同时，没有充分重视安全。
罗宾逊主张，前沿AI实验室应仿效航空业和核电业，设置多重安全防护机制，以防人为失误酿成灾难。他也警告，AI模型可能察觉自己正在接受测试，并在实际部署后表现不同，从而削弱现有安全评估的可靠性。
美国国家情报总监克莱顿将领导白宫新成立的工作组，在120天内评估人工智能带来的风险和机会，并研究联邦政府应在这项快速发展的技术中承担什么角色。
这个工作组名为“超级智能部队”（Super Intelligence Force），沿用总统特朗普谈及人工智能（AI）时偏好的说法。据《华尔街日报》星期六（10月3日）报道，克莱顿（Jay Clayton）在接受访问时确认将出任工作组主席。
一名白宫高级官员说，这意味着克莱顿实际上成为特朗普政府新的“AI沙皇”。
克莱顿说，特朗普要求成立这支团队，是为了确保美国继续在先进AI领域保持领先，同时把美国人的利益放在首位。
克莱顿强调，美国若无法保持领先，本身就会带来很高的风险。他说，美国必须在先进AI领域抢占先机，以更好应对相关风险及竞争对手带来的威胁。
根据披露的章程，工作组将制定方案，应对AI可能对社会造成的威胁，并研究政府目前通报安全漏洞、黑客攻击、绕过AI模型安全限制等事件的机制，提出如何在现有权限下加强联邦政府的应对能力。
与此同时，章程也要求，对于AI的监管既不能过度，也不能受行业利益左右，以免阻碍创新和竞争。
克莱顿说，工作组会审视现有法律，并讨论国会未来可能采取哪些行动。他以金融业为例说，一些风险管理机制可由政府与业界共同制定。
工作组成员包括美国副总统万斯、战争部长赫格塞斯、财长贝森特和白宫幕僚长威尔斯；风险投资家萨克斯和前国务卿赖斯将担任外部顾问。
不过，白宫官员强调，AI风险管理仍将以行业自律为主。特朗普9月29日召集科技高管开会，并与业界就自愿遵守的安全原则达成共识。这些原则包括加强模型开发的内部控制、接受第三方安全评估，以及向公司董事会汇报安全工作。
特朗普反对新增严格监管，认为过度监管会削弱美国相对于中国的竞争优势。他在会上说，不会扼杀一项影响力将比工业革命更深远的技术之发展。
贝森特促业界担责 拟推动中美风险通报
贝森特也把防范AI风险的责任主要交给AI企业。他批评一些业界知名人士不断警告AI可能威胁人类生存，相关说法过于危言耸听，却没有提出解决方案。他敦促业界加强自律，并说AI实验室必须承担责任，业界也已逐渐接受这一点。
针对科技高管担心更强大的AI模型可能失控，贝森特说：“那他们就应该放慢脚步。”
他也透露，美国将寻求同中国建立双边AI事件通报机制，以减少不确定性，分享重大事件预警，让两国能在风险升级或扩散至全球之前作出反应。
贝森特说，他9月与中国副总理何立峰在纽约会谈时，双方讨论了AI智能体失控，以及非国家行为体利用AI发动网络攻击或制造生物安全威胁等风险。
然而，企业自律能否有效防范风险仍有争议。OpenAI前安全人员罗宾逊引用今年夏季以来有关AI智能体脱离受控环境并向各种目标发动攻击的报告，认为这些事件显示，业界在竞相开发更强大模型的同时，没有充分重视安全。
罗宾逊主张，前沿AI实验室应仿效航空业和核电业，设置多重安全防护机制，以防人为失误酿成灾难。他也警告，AI模型可能察觉自己正在接受测试，并在实际部署后表现不同，从而削弱现有安全评估的可靠性。
