当今,我国大模型产业迅速发展,从建设到应用,已经成为政府和企业推进数字产业升级的重要手段。然而,随着大量数据、复杂场景和更高成本的伴随,大模型产业入局者的门槛也越来越高,产业发展急需“开箱即用”的0-1开发方案。为了推动我国大模型产业的发展,中科可控联合捷通华声共同发布量知大模型训推一体机。该系统具有“高性能、高安全、更便捷”三大核心优势,可为大模型计算提供充分性能保障,同时为产业提供安全可靠的开发环境,并且具有更加便捷的开发体验。 首先,量知大模型训推一体机能够为大模型计算提供性能保障。它采用中科可控服务器作为底层算力支撑,采用异构解耦合设计架构,搭载国产CPU处理器与GPU异构加速卡,具有强大的性能。该架构可以根据用户需求进行调整,针对不同算法引擎提供性能加速,对于主流大模型预训练引擎可实现秒级返回首字,一秒生成百字内容,单卡支持多个并发,单台8卡服务器可满足企业AI大模型部署应用需求。 其次,在提供高性能的基础上,量知大模型训推一体机还提供了安全可靠的开发环境。它搭载全国产核心器件,从CPU、GPU到存储与网络设备,全面支持信创,且支持国密算法、可信计算等多种先进安全方案,在数据处理过程中为用户提供更高质量的数据安全保障。此外,新系统还支持企业私有化部署,确保数据不脱离企业内网,实现数据物理隔离安全。 最后,量知大模型训推一体机具有更加便捷的开发体验。它不仅预置多种主流预训练AI