随着大型模型时代的到来,边缘计算将在网宿科技中扮演越来越重要的角色。

2023-07-17 16:51:41 网宿科技股份有限公司

  • 近日,在网宿科技全球边缘计算大会上,该公司分享了边缘计算对于大模型时代的思考和探索。网宿科技边缘智能平台资深架构师陈云辉表示,大模型将成为一种基础设施,每个行业甚至每个企业都会有属于自己的大模型。然而,如何将大模型落地到具体应用场景,提升生产力,是产业共同探索的方向,也是网宿边缘计算的机会所在。 边缘计算如何在大模型时代发挥价值?陈云辉认为,边缘计算可以从微调训练和边缘推理两大场景切入。目前,大模型和AIGC正引领全球科技新浪潮,而由于从零开始训练模型面临周期长、GPU需求大、成本高等问题,大模型的使用范式主要为“预训练+微调训练+提示词工程”,即基于预训练好的大模型进行领域知识微调训练或使用提示词工程,再应用到具体的场景,从而降低成本。 “这种模式可以加快AIGC创新步伐,但大模型的参数量巨大,进行所有参数的微调成本非常高,LoRA成为有效的解决方法之一。网宿边缘计算可以支持LoRA、QLoRa等轻量微调训练方法,大大降低大模型个性化、领域化的适配成本,促进AIGC在垂直应用场景的落地。”陈云辉分析道。 此外,随着多模态AI的发展以及AIGC在更多领域的应用,AIGC生成的内容将涵盖图片、语音以及视频,AI推理相对训练的成本占比将提升,对流量需求将越来越高。同时,伴随AIGC模型领域化、小型化、轻量化技术的发展,未来AIGC对算力要求也将持续降低。因此

    网宿科技股份有限公司
  • 网宿科技(300017)成立于2000年,2009年于创业板首批上市,是全球领先的云分发及边缘计算公司,业务遍及全球70多个国家和地区。公司始终致力于提升用户的数字化体验,满足用户随时随地、安全、可靠的数据处理及交互需求。公司通过提供CDN、安全与性能、MSP、边缘计算、云计算产品及解决方案,帮助客户业务创新,是客户数字化升级值得信赖的合作伙伴。国内90%视频直播网站使用网宿国内80%以上电商&游戏&短视频公司使用网宿参与历次春晚,阅兵,两会,LOL决赛,世界杯,奥运会等重大活动保障服务中国互联网百强榜世界物联网排行榜500强企业工信部网络安全公共服务平台厦门、深圳、首尔、硅谷全球四大研发中心。

  • 招聘范围主要集中在厦门、上海、北京,主要招聘经验要求为3-5年,学历要求为本科的岗位。

  • 公司参与招标7次,招标金额为19.20(万元),公司参与中标742次,中标金额为873346.31(万元),最近项目为:网宿CDN升级服务中标结果公告、苏州研发中心2021-2023年全局流量管理产品资源采购项目_中选结果公示、安徽移动2020-2021年度网间链路优化服务(动态缓存加速及国际出口)_中选结果公示。

网站地图 用户协议 隐私政策 京ICP备18021895号 版权所有:北京百炼智能科技有限公司 友情链接: 百炼智能 潜客宝 知了标讯