电子行业专题:高通等IT龙头布局终端生成式AI,终端AI推理应用有望带动产业链升级
随着大模型参数规模的迅速增大,参数规模迈入千亿级和万亿级时代,通用大模型性能优秀,但也带来更大的硬件投入和功耗。近期Meta、微软、谷歌、苹果、英特尔等科技龙头公司均加快部署生成式AI,并探索在手机、PC 等终端的应用。高通在《混合 AI 白皮书》中提出,混合 AI 是 AI 规模化发展的必然趋势,混合 AI 是指终端和云端协同工作,在适当的场景和时间下分配 AI 计算的工作负载,模型训练在云端实现;根据模型复杂度,推理工作部分放在终端侧。能够带来成本、能耗、性能、隐私、安全和个性化优势,助力实