但游戏不仅仅是人类的爱好。游戏是人工智能(AI)学习基本决策技能、处理不确定性和应对复杂互动的训练场。人工智能能够不知疲倦地探索数千种可能性,这使其成为寻找人类可能忽略的策略的完美工具。
布拉德利电气与计算机工程系教授、移动安全初创公司A2Labs创始人AngelosStavrou计划利用多智能体训练器(MATrEx)将AI训练提升到新水平。通过这个“矩阵”,AI面对新的对手——其他AI——但其影响远不止一场有趣的游戏。
“我们想要做的是将弗吉尼亚理工大学网络之类的网络复制到虚拟环境中,然后使用人工智能代理生成的逻辑运行攻击和防御模拟,”弗吉尼亚理工大学创新园区创业负责人斯塔夫鲁说道。“人工智能可以玩数十亿种游戏变体,因此它们实际上可以描述系统的网络安全启动,并决定哪些攻击或防御更胜一筹。”
玩游戏
在一个网络威胁层出不穷的世界里,通过减少漏洞来提高计算机网络的安全性对于保护手机、5G无线系统和美国数千个数据中心至关重要。这个过程被称为“网络强化”。这就像给房子加装坚固的锁并加固墙壁一样。
MATrEx是一个价值1600万美元的项目,由美国国防高级研究计划局资助,是网络代理测试和学习环境项目的一部分。这是一种在三层游戏系统(模拟、仿真和真实网络)中训练AI的开创性方法。在MATrEx中,AI代理分为两类:
红色特工,需要了解游戏网络以及如何最好地突破系统防御进行攻击
蓝方特工充分了解网络,包括防御能力
“游戏”是红蓝特工相互对抗的场景。研究人员将研究哪些攻击可以突破、哪些防御措施可以阻止攻击、特定攻击期间会发生什么等。
“我们的想法是创建一个循环,这样人工智能就可以在一个网络中玩游戏,这个网络将从真实网络开始,然后模拟和仿真它,”斯塔夫鲁说。“真实系统是准确的,但速度很慢。模拟很快,但不那么准确。所以你需要在所有这些环境中玩游戏,将知识从真实网络转移到模拟网络。然后将策略从模拟网络转移回真实网络。”
真实、模拟和仿真网络的独特组合使MATrEx有别于世界上任何其他人工智能训练系统。每个网络都为人工智能提供了一个训练场地和研究人员数据集。
真实网络:这是人们每天使用的物理计算机或无线网络。它有实际的交换机、路由器、电缆和设备,它们连接在一起传输数据。在MATrEx中,这是公司真实网络的副本,由公司自己提供和托管。
模拟网络:真实网络的“数字孪生”是运行真实网络的实际操作系统的虚拟机的集合,并镜像其网络配置。
模拟网络:也称为“状态机”,这种网络可以捕捉网络内计算机的行为,而无需使用网络的实际操作系统。因此,操作可以比实时运行得更快。
随着AI代理通过每个网络运行游戏,代理变得更加智能,网络的复杂性也随之增加,从而为客户提供了扩大或重新制定其真实的非MATrEx网络战略的能力。
保障未来
安全是一场军备竞赛,而网络安全研究人员等“好人”并不是唯一能够使用人工智能代理的人。
“黑客的工作为攻击提供了更多的可能性,而不是防御,因为攻击者只需成功一次,即使他们失败了1,000次,”斯塔夫鲁说。“我们正在打开潘多拉魔盒,但我们正试图了解人工智能在网络安全中的影响。”
MATrEx的最终目的是科学评估红方特工的能力——他们将开发哪些新策略——并教会蓝方特工如何战胜攻击者。MATrEx将设计为公司内部运行该程序,这样他们的受保护数据就不会泄露,所有开发的代理策略都会得到控制。这是第一个不仅可以在传统网络连接服务器上进行测试,还可以在5G上进行测试的训练环境。
“从来没有一个5G系统连接到具有这种模拟级别的网络安全测试平台,”斯塔夫鲁说。“5G网络相当新,通常封闭在大公司内部。这将使我们能够看到当人工智能代理攻击或防御这种类型的网络和连接时会发生什么。”
AdamGorski为英联邦网络计划安装xG测试平台组件,该平台具有保护5G和下一代移动网络以及AI保证的能力。MATrEx将利用5G系统,使其成为独一无二的网络安全测试平台。
AdamGorski为英联邦网络计划安装xG测试平台组件,该组件可确保5G和下一代移动网络以及AI保障。MATrEx将使用5G系统,使其成为独一无二的网络安全测试平台。插图由弗吉尼亚理工大学的AnthonyWright绘制。
弗吉尼亚理工大学提供科学基础设施和与位于阿灵顿的英联邦网络计划xG试验平台的连接,另外四个合作伙伴将通过大规模网络模拟和仿真、网络靶场设置、代理学习优化、管理等方式为MATrEx提供支持:
A2实验室(原Kryptowire实验室)
科研公司
雷神技术公司
PUNCH网络分析小组
在该项目的未来四年里,斯塔夫鲁寻求的不仅仅是用于玩游戏的人工智能;MATrEx将作为一个网络训练场,人类可以在这里玩游戏、训练和学习网络安全,同时训练有素的红色特工也将参与游戏并赢得胜利。
他还希望建立一个教育部门,支持学生的实践学习和创新园区的未来。
“该项目的目标不仅仅是创建一家公司,而是发展企业与大学的合作关系,”斯塔夫鲁说。“在创新园区,我们希望有一个可以展示我们工作成果的空间,一个独一无二的人工智能教学实验室,供学生创建项目。真的,我们希望它是任何你能想象到的东西。”