工程与运维

GPU 与集群 K8s 调度、多卡并行、显存碎片与故障处理 评测框架 promptfoo / Ragas / 自建 eval 流水线与 CI 集成 LLMOps 与观测 链路追踪、Token 监控、告警与成本看板 架构与选型 技术选型对比、系统设计、容量规划与演进路径