导读 尽管每个人都想参与其中，但大规模部署生成式人工智能已被证明对大型企业和政府机构来说是一个巨大的挑战。尽管人们认识到该技术具有简化流...
尽管每个人都想参与其中，但大规模部署生成式人工智能已被证明对大型企业和政府机构来说是一个巨大的挑战。
尽管人们认识到该技术具有简化流程、降低成本和改善供应链的潜力，但对成本、复杂性、安全性、数据隐私、模型所有权和法规遵从性的担忧却成为该技术采用的障碍。
软银资助的SambaNovaSystems宣布推出Samba-1，这是第一个万亿参数生成式AI模型，这是一个潜在的突破。Samba-1由SambaNovaSuite提供支持，旨在满足性能、准确性、可扩展性和总拥有成本(TCO)要求。该模型还承诺将推理成本降低90%，尽管这种说法应该谨慎对待。
与其他以单一整体形式构建的万亿参数模型不同，Samba-1采用专家组合(CoE)架构。该系统将多个小型“专家”模型聚合成一个大型解决方案，作为一个大型模型运行。这种方法提供了涵盖各种主题的更广泛知识、高准确度和多模态性。
据报道，CoE模型还可以为专业领域提供比其他大型模型更多的知识和准确性。可以针对特定领域(例如金融、法律、物理或生物)训练单个小型模型，并将其添加到CoE，从而为该特定领域带来高精度，而无需对整个万亿参数模型进行训练。
Samba-1的发布紧随SambaNova宣布推出SN40L之后，SN40L是一款智能，旨在与AI巨头Nvidia的相媲美。这款与Samba-1型号的集成代表着向前迈出的重要一步，SambaNova是第一个为企业提供集成硬件和软件系统的。