AI 平台架构师 / AI 基础设施架构师 岗位方向:AI Platform / Agent Infrastructure / Cloud Native / GPU Infrastructure 经验要求:8 年以上开发/架构经验,3 年以上 AI 相关项目经验优先 岗位职责 负责公司 AI 平台及 AI 应用基础设施的整体架构设计与技术落地,支撑 AI Agent 、AIGC 图像/视频、大模型 API 、模型推理等业务稳定运行。不仅要求具备传统后端及云原生架构能力,还需要理解当前 AI 应用的技术体系,能够完成从: AI 应用 → Agent → 模型服务 → GPU 算力 → Kubernetes → DevOps → 可观测性 的完整技术架构设计。
- AI 平台架构 负责公司 AI 平台整体技术架构设计、技术选型及核心模块建设。负责 AI Agent 、LLM 、AIGC 图像/视频等业务的基础架构设计。
建设统一 AI Gateway ,对接 OpenAI 、Claude 、Gemini 、DeepSeek 、Qwen 、MiniMax 及私有部署模型。设计统一模型调用层,实现模型路由、Fallback 、负载均衡、限流、熔断、重试及成本控制。
设计 Agent Runtime / Tool Runtime ,支撑 Tool Calling 、MCP 、Workflow 、异步任务等能力。建设模型、Prompt 、Agent 、Workflow 的版本管理和发布体系。
负责 AI 服务高可用、高并发、可扩展架构设计。 2. Python / Go 后端架构 熟练使用 Python + Go 进行后端及基础设施开发。
Python 方向熟悉 FastAPI 、Pydantic 、AsyncIO 、Celery 等常见技术。 Go 方向熟悉 Gin 、Fiber 、gRPC 等技术体系。
熟悉 REST API 、WebSocket 、SSE 、gRPC 等通信方式。熟悉微服务、分布式系统、任务队列、缓存、数据库及对象存储等基础架构。
能够针对 AI 长任务、GPU 任务设计异步任务系统。具备高并发、限流、熔断、降级、幂等、重试、分布式锁等实际工程经验。
- Kubernetes / 云原生 精通 Kubernetes 生产环境部署及运维。熟悉 Deployment 、StatefulSet 、DaemonSet 、Job 、CronJob 、Service 、Ingress 、HPA 、PVC 等核心资源。
熟悉 Helm / Kustomize 。能够设计多 Namespace 、多环境、多集群部署架构。
熟悉 Pod 调度、资源限制、健康检查、滚动更新、自动扩缩容。能够快速定位 Pod Pending 、OOMKilled 、CrashLoopBackOff 、MinimumReplicasUnavailable 等常见问题。
熟悉 GPU Kubernetes 调度,包括 NVIDIA Device Plugin 、GPU Resource 、Node Selector 、Affinity/Taint/Toleration 等。有 EKS / ACK / GKE / Azure AKS 等公有云 Kubernetes 生产经验优先。
- GPU / AI Infra 理解 GPU 推理服务的部署和资源管理。熟悉 NVIDIA GPU 、CUDA 、显存、GPU Utilization 等基本概念。
能够设计 GPU 资源池及任务调度机制。熟悉多 GPU / 多节点推理场景。
熟悉模型加载、模型缓存、冷启动、显存回收及 OOM 处理。理解 FP16 / BF16 / FP8 / INT8 / INT4 等推理优化方式。
有 vLLM 、SGLang 、TensorRT-LLM 、Triton Inference Server 等经验优先。有 ComfyUI / Diffusers / 图像视频生成任务的 GPU 调度经验优先。
- CI/CD & DevOps 负责公司 AI 系统完整 DevOps 体系建设,包括: Git → Build → Test → Image → Registry → Deploy → Monitor → Rollback 熟悉 Git / Gitea 。能够基于 Gitea Actions / Drone / Jenkins / Argo CD 等建设自动化流水线。
熟悉 Docker 镜像构建及镜像优化。熟悉 Harbor 或其他 Docker Registry 。
熟悉 Helm 自动化部署。熟悉 GitOps 。
能够设计 Dev / Test / Staging / Production 多环境发布体系。支持灰度发布、滚动发布、蓝绿发布及快速回滚。
建设代码、镜像、配置、模型、Workflow 的版本追踪体系。 6. 云计算架构 熟悉 AWS / 阿里云 / 腾讯云 / GCP 等至少一种主流云平台。
熟悉 VPC 、Subnet 、NAT Gateway 、Load Balancer 、安全组、DNS 等基础网络。熟悉对象存储 S3 / OSS 。
熟悉 CDN 。熟悉云数据库、Redis 、消息队列等云服务。
能够设计跨区域 / 多云架构。能够针对 AI GPU 业务进行云资源成本优化。
有混合云 / 本地 GPU + 云 GPU 架构经验优先。 7. 可观测性与稳定性 建设完整的: Metrics + Logs + Traces + Alerts 可观测体系。
熟悉: Prometheus Grafana Loki / ELK / OpenSearch OpenTelemetry Jaeger / Tempo 能够针对 AI 系统建立: API 请求耗时 Token 消耗 模型成功率 Agent Task 成功率 Workflow 执行时间 GPU 利用率 GPU 显存 Queue Length 模型推理耗时 单任务成本 等关键指标。负责线上故障定位、容量规划、性能优化及稳定性治理。
任职要求 必备能力 计算机相关专业本科及以上学历优先。 8 年以上软件开发 / 架构相关经验。
有大型互联网系统、AI 平台或云原生平台架构经验。熟练掌握 Python 和 Go ,至少一门达到高级水平。
熟悉 Linux / Docker / Kubernetes 。有 Kubernetes 生产环境实际管理经验,而不仅仅是部署过 Demo 。
熟悉微服务及分布式系统设计。熟悉 MySQL / PostgreSQL / Redis / MQ / Object Storage 等基础组件。
熟悉 Gitea / GitLab / GitHub 等代码管理体系。有完整 CI/CD Pipeline 建设经验。
熟悉至少一种主流公有云。有良好的系统设计能力。
简历投递联系 telegram @ nini0804