首页 互联网 > 内容

AIGPU会成为新的大型机吗新的开源技术允许用户免费分时共享GPU资源用于AI目的

时间:2024-06-26 10:33:01 来源:
导读 如果无法有效地从现有基础设施中榨取额外的计算能力,组织通常被迫购买额外的硬件或推迟项目。这可能会导致等待结果的时间更长,并可能输给...

如果无法有效地从现有基础设施中榨取额外的计算能力,组织通常被迫购买额外的硬件或推迟项目。这可能会导致等待结果的时间更长,并可能输给竞争对手。由于需要高GPU计算负载的AI工作负载增加,这个问题变得更加严重。

ClearML提出了它认为是该问题的完美解决方案——为开源用户提供部分GPU功能,从而可以“拆分”单个GPU,以便同时运行多个AI任务。

此举让人回想起计算机发展的早期,当时大型计算机可以在个人和组织之间共享,使他们能够利用计算能力,而无需购买额外的硬件。

ClearML表示,新功能允许DevOps专业人员和AI基础设施领导者将他们的NvidiaGTX、RTX和数据中心级、支持MIG的GPU划分为更小的单元,以支持多个AI和HPC工作负载,使用户能够在小型研发工作和更大、更苛刻的培训工作之间切换。

该方法支持多租户,提供安全且保密的计算,但有严格的内存限制。ClearML表示,利益相关者可以在单个共享计算资源上运行独立的并行工作负载,从而提高效率并降低成本。

ClearML首席执行官兼联合创始人MosesGuttmann表示:“我们的新免费产品现在支持比其他任何公司都广泛的NvidiaGPU的部分功能,ClearML正在实现计算访问的民主化,这是我们帮助我们的社区以更快的速度在任何规模上构建更好的AI的承诺的一部分。”“我们希望拥有混合基础设施的组织能够使用ClearML,并从他们已有的计算和资源中获得更多收益。”

标签:
猜你喜欢