从「构建 AI」到「驾驭 AI」，100+ 实战案例拆解 AI Native 时代的工程新实践！ 2026 年 QCon 全球软件开发大会大会 · 上海站 将于 10 月 22 日-24 日 举办，来自阿里巴巴、腾讯、字节跳动、美团、小红书、蚂蚁集团、无问芯穹、阶跃星辰、快手、百度、网易、微软、华为、携程、平安等企业的一线技术实践者，将从 AI 应用、Agent 工程、AI Coding、基础设施、数据系统、质量、安全、SRE 以及具身智能等方向，分享 AI 进入真实生产环境之后正在发生的变化。
阶跃星辰 AI 终端解决方案架构师袁俊杰已确认出席 “ 千行百业 Agent 创新实践 ” 专题，并发表题为 《 “AI+终端”时代的萌芽：大模型在终端领域的探索和量产落地 》 的主题分享。 AI 的发展正从“Chat 问答”走向“Reasoning 推理”，再到“Coding 生成”，而下一个必然的浪潮，是向“终端”的全面渗透。
大模型的能力正在从云端走向车端、手机端、可穿戴设备、智能家居、IoT 终端——从“能回答问题”进化为“能理解场景、执行任务、交付体验”。这意味着模型不仅要跑得动，还要跑得快、跑得稳——面向百万辆级别的量产交付，端侧模型压缩、混合部署、OTA 迭代、数据飞轮等工程化能力成为真正的壁垒。
在袁俊杰看来，AI 落地的终局，不在云端，而在用户触手可及的终端设备里——在每一次点火启动让 AI 帮你抵达目的地的瞬间，在每一次抬手看表的刹那，在每一次语音唤醒的交互中。当大模型真正跑进每一台设备、服务每一个用户，我们才真正迎来 AI 终端的时代。
在本次演讲中，他将围绕以上话题展开分享。袁俊杰，拥有多年解决方案及模型产品商业化经验，曾任职于多家“模型六小龙”企业，21 年起陆续参与阶跃 Step、Moonshot、盘古等多个大模型的早期商业化实践，当前聚焦于大模型加终端的前沿方向探索与实际规模化量产落地，主导阶跃星辰模型在汽车及终端领域从 0 到 100 万数量的落地，对于大模型在汽车舱驾、终端陪伴等多个场景的应用具有丰富的经验。
他在本次会议的详细演讲内容如下： 演讲提纲 1. 行业趋势与 AI 终端现状 AI 发展的必然浪潮：从云端走向终端。跨终端场景的落地现状。
汽车座舱、手机端、可穿戴设备、智能家居正在加速落地。 2. 技术选型与架构设计：下一代 Realtime Voice Agent 框架 传统级联式语音交互的瓶颈。
ASR→NLU→DM→TTS 架构带来的延迟累积、语义断层、无法打断等问题，无法满足用户对实时性、自然度、可打断性的体验需求。 Realtime Voice Agent 框架设计。
端到端流式多模态架构：语音输入到意图理解到动作执行到语音输出的全链路实时化，端到端延迟控制在 200ms 以内。流式打断与动态响应：支持用户随时打断、修正指令，模型理解上下文并动态调整执行逻辑。
多模态融合输入：语音加视觉加传感器信号的联合理解，提升意图识别准确率与鲁棒性。 Agentic 能力与任务执行。
任务分解与自主执行：用户输入一句自然语言，Agent 自动拆解为多步任务并执行。工具调用与 API 编排：内生调用车控接口、导航 SDK、健康监测 API、智能家居协议等，实现跨终端互联。
记忆与上下文管理：短期对话记忆、长期用户偏好记忆、跨设备场景记忆的融合。 3. 端云协同框架 端侧模型部署的现状与挑战。
当前端侧模型尺寸仍然不够大，性能不够强，延迟相对较长。模型压缩与量化在不同终端芯片上的实测效果与取舍。
混合部署策略：端侧轻量模型处理高频离线场景，云端大模型处理复杂推理。端云协同的工程化方案。
离线优先架构：核心功能端侧可完成，云侧作为能力增强。断网续连机制、隐私保护、差分隐私与联邦学习的终端适用性。
- 跨终端场景的深度融合 汽车座舱：舱驾深度融合。大模型成为连接座舱感知与智驾规划的“统一认知中枢”。
自然语言控制智驾：用户通过语音指令表达意图，模型调用智驾规划接口。动态交互策略生成：依据智驾系统可靠度与场景复杂度，动态生成 HMI 策略。
手机端和 IOT 设备：从问答工具到个人 Agent。理解屏幕内容、自动执行跨应用操作、管理日程与通知。
端侧模型的隐私保护与离线推理能力。 5. 落地实践与踩坑经验 当前端侧模型的真实瓶颈。
模型尺寸不够大：受限于终端芯片内存与存储，无法部署大参数模型。性能不够强：复杂推理任务仍需上云，端侧仅能处理轻量级场景。
延迟比较长：端侧推理速度难以满足实时交互需求，端云切换带来额外延迟。数据飞轮与持续优化。
脱敏数据回流、用户行为反馈闭环、模型迭代周期从月级压缩到周级。半监督评测体系：自动评测覆盖 90% 基础场景，人工专家评测聚焦 10% 长尾边缘场景。
跨终端交互的挑战。同一用户在不同终端上的体验连贯性。
跨设备场景记忆的同步与隐私保护的平衡。实践痛点 端侧模型尺寸不够大、性能不够强、时延比较长 对于物理世界的感知和理解现状没有太好的方案，只能涉及皮毛 前沿亮点 ： 模型在终端领域实际量产落地的前沿探索 下一代的 Realtime Voice Agent 框架 端侧模型及端云融合方案的探索 在 AI+终端领域实际跑的最前的面向与 c 端用户实际大批量量产的前沿案例（100 万以上），面向百万用户级别的模型交付实践 听众收益： 从基础模型公司视角分享模型在汽车、终端行业落地的前沿实践 了解新一代的交互 Agent 框架、端云结合框架 了解下一个注定的 AI+终端 方向当前的探索现状 除此之外，本次大会还策划了 Loop Engineering 、 千行百业 Agent 创新实践 、 Agent 自主进化：从记忆到持续学习 、 Agent as a Service 、 Vibe Coding 时代的新质量债 、 理性驾驭 AI 的 SRE 可靠性工程 、 金融 AI Native工程实践：从研发提效到业务破局 、 AI Infra：算力效率决定规模化落地 、 AI Native 架构 等 20 个专题论坛，届时将有来自不同行业、不同领域、不同企业的 100+资深专家在现场带来前沿技术洞察和一线实践经验。
查看更多详情可扫码或联系票务经理 18514549229 进行咨询。