Job Description
业务背景(团队主战场)
团队业务聚焦外呼电话与智能语音机器人。RAG 工程侧需在多格式知识、多变处理策略下,搭建可观测、可实验、可灰度的检索增强链路;其中文件与知识的处理策略随业务变化快,静态规则难以维护。本岗位以 RAG + Agent 为主线:通过 Agent 编排与工具化策略,在延迟、成本与合规约束下动态选择解析、分块、摘要、召回与降级路径,并与模型侧 Embedding / Reranker 迭代形成闭环。
职位概述
负责 RAG Workflow 与 Agent 的设计与实现:知识入库、解析与清洗、策略目录与路由、多路召回与上下文组装、观测与实验平台;将 LangChain / LlamaIndex / Haystack 等业界组件或自研模块 落地为可维护的生产管线,而非一次性脚本;与模型算法共同维护 端到端评测 与 Badcase 归因。
岗位职责
RAG 链路与 Agent 架构
设计并实现 可编排的 RAG Workflow(检索前处理、召回、重排、上下文裁剪、生成接口对接等);建设 RAG Agent:在 工具与策略目录 上完成 动态策略选择(如按文件类型/版式/置信度选择解析器、chunk 方案、摘要深度、多路召回组合),并保留 安全红线、合规与人工降级 路径。
知识处理与策略
主导或深度参与 多类型文件与知识 的解析、结构化抽取、分块与元数据策略;推动 内循环(入库—检索—反馈—再处理)所需的 数据面与任务调度;与业务/数据团队协作界定 权限、脱敏与审计 的技术落点。
工程化与可运营
建设 日志、trace 回放、指标看板与 A/B 或影子流量 能力;保障 配置化、版本化与可回滚;在 P95 延迟、配额与失败率 约束下做容量与降级设计。
与模型侧协作
向模型侧提供 同构的线上/评测切片;消费 模型版本卡 与基准结果,调整链路中的 切分、拼接与 rerank 候选构造;参与 双周端到端指标 复盘。
技术跟踪与方案论证
跟进 Agent、Tool Calling、GraphRAG、长上下文裁剪、自适应分块等方向;结合外呼 / 机器人场景做 可落地 的 POC 与取舍说明。
Requirements
任职要求
学历与经验
硕士研究生及以上学历,计算机、软件工程、人工智能 或其他密切相关方向;2 年及以上 后端或算法工程经验,其中 至少 1 年 与 LLM 应用、RAG、Agent 或搜索/推荐系统工程 强相关(实习中可量化的全职等效经验可说明)。
RAG / Agent 实践
理解 检索、重排、上下文窗口、hallucination 与拒答 等基础概念;有 Prompt + Tool / Function Calling 或 Agent 工作流 的落地经验;能读懂并改造 主流编排框架(LangChain、LlamaIndex、Haystack 等之一)或具备等价的 自研编排 能力。
工程能力
熟练掌握 Python;熟悉 Git、Docker、CI;具备 REST/gRPC、异步任务、消息队列 中若干项的生产级实践;代码 模块化、可测试,注重 边界条件与幂等。
问题拆解与协作
能将模糊需求拆解为 可验收的里程碑;与 模型算法、LLM、数据、业务 清晰对齐接口与排期;书面输出 策略说明与运行手册。
学习与思辨
具备 英文文档 阅读能力;对「框架默认实现是否适合当前规模」有 批判性判断;关注成本、延迟与可观测性。
职业素养
工作 主动、负责,沟通表达清晰;具备 团队合作意识;对线上故障与数据合规有敬畏心,能 持续推进并同步风险。
加分项
有 电话 / 客服 / 外呼机器人 场景下的 RAG、知识库或工单检索落地经验。
有 多格式文档解析(PDF 版式、表格、扫描件、HTML、音视频转写文本等)管线或 OCR 后处理 经验。
熟悉 向量库、全文检索、混合检索、权限过滤 之一或多项的生产部署与调优。
有 评测集建设、线上影子集、LLM-as-judge(含其偏差治理)相关实践。
有 从 0 到 1 搭建 Agent 工具平台或 RAG 数据面(含血缘与回放)的经历。
熟悉 Go / Java 等语言,能参与推理网关或高性能服务协作。
我们特别看重
端到端 Owner:不满足于「能跑 demo」,而是追求 可灰度、可回滚、可解释 的生产路径。
策略可演进:用 Agent + 工具目录 控制复杂度,避免不可维护的巨型规则树。
与模型共背指标:主动推动 trace 同构 与 Badcase 归因,而不是与模型侧各说各话。
Owner 意识:对配置漂移、密钥与隐私边界、线上事故复盘能主动兜底与同步。
About AI Rudder
AI Rudder is an AI product company transforming how business communicate to their customers.
We launched in 2019 with one of the world’s first enterprise-grade AI voice agents: built to hold real, intelligent conversations, not just play back scripts. Today, we serve over 500 enterprises across 20+ countries, processing 50 million calls every day and having delivered more than 8 billion calls to date. Our customers range from fast-growing startups to large enterprises.
When AI talks to people, it has to feel human. That’s what we build.
How We Work
AI-first: AI isn’t a tool we reach for. It’s the default we start from. Every team, every workflow: AI-first.
Global Collaboration: We operate globally and work as one team. Distance is a logistics problem, not a cultural one. We build the habits that make distributed teams actually work
Communication Principle: Simple, Trust, Transparent. We remove unnecessary complexity so people can focus on what matters most.
What We Offer
- Learning & Development: Continuous learning through real projects, knowledge sharing session, mentorship, and cross-functional collaboration.
- Performance Recognition: Regular performance reviews, feedback, and opportunities for career progression.
- Global Exposure: Collaborate with international teams, global rotations, and work with global enterprise customers.
- Meaningful Impact: Build AI solutions that create real value for businesses around the world.
- Ownership & Autonomy: Freedom to take initiative and drive outcomes.
- Team Engagement: Team Building, Local & Global Gatherings & Local Events Celebration
AI Rudder is an Equal Opportunity Employer. We celebrate diversity and are committed to creating an inclusive environment for all employees and applicants.