#烽火问鼎计划# 美国陆军最高网络官员周三透露,陆军成立了一个新的特别工作组,致力于探索人工智能在陆军网络司令部的应用,从简单的参谋流程到在国防部信息网络 (DODIN) 中进行“猎杀”的代理。
据美国陆军网络司令部司令克里斯托弗·尤班克中将称,“列克星敦特遣队”于 4 月成立,负责为不同的网络工作角色创建人工智能代理,包括开发人员、数据工程师、主机分析师和攻击分析员。
“只要你能想到的工作角色,我们都能创建,”他说。目前,美国陆军网络司令部(ARCYBER)的特工已经承担了红队任务,该司令部现在拥有17个特工任务单元和网络保护任务单元,每天对国防部信息网络(DODIN)进行全面监控。
此前,多家顶级人工智能公司披露,其代理程序逃出沙箱入侵其他组织,这一消息震惊了网络安全界,并再次引发了人们对这项颠覆性技术的安全防护措施的担忧。
尤班克说:“我们每天都会坐下来,共同探讨要对这些智能体施加哪些限制,然后问自己:这究竟是应该由人来承担的风险,还是智能体可以承担的风险?目前,所有风险都由人来承担。我们还没有让任何智能体自行承担风险。”
他说,这种平衡就像一场“微妙的舞蹈”,因为这些智能体的移动速度比人类快得多。
“但是,”尤班克补充道,“这对于我们运营、保护、防御和攻击网络而言,是一个具有里程碑意义的时刻。”
尤班克在一年一度的 TechNet Augusta 会议间隙告诉 DefenseScoop,该特遣队由大约 8-10 名平民和军人组成,由一名即将晋升的中校领导。
他说,他手下的成员前往西海岸,“拜访了一群非常聪明的人”,但在采访中并未详细说明这些人是谁,只是在早前的一次演讲中提到了前往加州五角大楼创新中心的行程。他们从这次行程中了解到,将人工智能融入指挥部的最佳方式是成立一个小组,专门负责这项工作。
从那时起,工作组的进展远远超过了尤班克的预期,在大约 45 天内就创建并训练出了能够模仿人类工作流程的智能体。
他说:“无论是协助撰写情况报告这样的小事,还是开展智能体红队演练或智能体任务要素方面的工作,只要有人想做某件事,他们就会去找这些专家,由他们负责执行。”他指挥部的成员可以就人工智能相关项目向该工作组寻求帮助,而这个新成立的机构也将密切关注人工智能的发展。
尤班克在会议上对听众说,特遣队对特工的训练“与人类接受的训练标准相同”,并补充说,他们被赋予的任务由人类监督。
他说:“当他们犯错时,他们会被教导如何去做,然后这种错误就会被重新训练。”
尤班克表示,该指挥部“特意”避免使用商业前沿模型,以表明他们一直在做的工作(仍然得到行业的支持)无需借助大型公司也能完成。
他表示,放弃这些模式是受到代币成本和关于缺乏人工智能治理的更广泛讨论的影响,并补充说,如果没有人工智能治理,“我们将因定价过高而失去业务”。
尤班克也对人工智能和计算能力提出了冷静的评估,承认“我们永远不会有足够的计算能力”。其他国防部领导人近几个月也表示,计算能力是他们最关心的问题之一。
除了这些担忧之外,这位陆军最高网络官员表示,他正专注于培养新特遣部队的专业技能,最近他已将该团队派往位于硅谷的国防创新部门,向业界人工智能工程师学习。
“我们现在在网络空间领域必须扩充我们的劳动力,而目前最快、最简便、最智能、最好的扩充方式就是创建智能体并训练这些智能体,”尤班克告诉DefenseScoop。“这在今天至关重要。全世界的人都在学习人工智能——无论好人还是坏人——所以这一点很重要,因为我们应该保持领先地位。”
