典型文献
基于端云协同体系的预训练大模型及其服务化
文献摘要：
传统云计算模式将所有数据集中,以中心化原则在云上训练大模型,通过云服务支撑端侧多样服务需求,这一模式存在网络时延大、隐私安全低和算力成本高等不足.在"泛在互联、移动优先、AI赋能"时代,需要机器学习支撑丰富多样端侧应用,因此建立端云协同计算范式,既提供云上服务和端侧推理能力,又推动云上模型和端侧模型的协同进化,从云计算和端智能向端云协同进化计算模式进行跨越,充分发挥云上、端侧和端云链中各类计算资源的最佳效果是当前的重大挑战.本文围绕云上预训练大模型、端云协同体系、基于端云协同体系的预训练大模型服务化与隐私保护,以及未来挑战进行了讨论.
文献关键词：
端云协同;预训练大模型;大模型服务化;隐私保护
中图分类号：
作者姓名：
杨洋;况琨;陈政聿;孙逸飞;方陶然;张圣宇;孙建凯;杨鑫;杨红霞;吴飞
作者机构：
浙江大学计算机科学与技术学院,杭州310027;字节跳动,Sunnyvale,US 94089;浙江大学上海高等研究院,上海201203;上海人工智能实验室,上海 200030
文献出处：
引用格式：
[1]杨洋;况琨;陈政聿;孙逸飞;方陶然;张圣宇;孙建凯;杨鑫;杨红霞;吴飞-.基于端云协同体系的预训练大模型及其服务化)[J].人工智能,2022(06):103-120
A类：
预训练大模型,大模型服务化
B类：
端云协同,协同体系,计算模式,云服务,服务支撑,网络时延,隐私安全,和算,算力,泛在,移动优先,协同计算,计算范式,侧推,推理能力,协同进化,进化计算,计算资源,最佳效果,隐私保护,未来挑战
AB值：
0.273209
机标中图分类号，由域田数据科技根据网络公开资料自动分析生成，仅供学习研究参考。
