diff --git "a/Extra-Chapter/Extra01-\351\235\242\350\257\225\351\227\256\351\242\230\346\200\273\347\273\223.md" "b/Extra-Chapter/Extra01-\351\235\242\350\257\225\351\227\256\351\242\230\346\200\273\347\273\223.md" index 7e89dc73..11b87fa6 100644 --- "a/Extra-Chapter/Extra01-\351\235\242\350\257\225\351\227\256\351\242\230\346\200\273\347\273\223.md" +++ "b/Extra-Chapter/Extra01-\351\235\242\350\257\225\351\227\256\351\242\230\346\200\273\347\273\223.md" @@ -81,6 +81,11 @@ 11. 了解A2A框架吗?它和普通Agent框架的区别在哪,挑一个最关键的不同点说明。 12. 你用过哪些Agent框架?选型是如何选的?你最终场景的评价指标是什么? 13. 有微调过Agent能力吗?数据集如何收集? +14. 当前大多数 LLM Agent 依赖“外部触发”(如用户提问)才开始行动。如何设计一个具备“主动目标生成”或“内在动机驱动”的自主 Agent?是否需要引入任务发现机制、好奇心奖励或长期效用函数? +15. 评估 Agent 性能时,传统指标(如准确率、响应时间)往往不足以反映其在复杂任务中的表现。你认为应如何构建一个端到端的 Agent 能力评测体系?是否应包含任务完成率、工具调用成功率、错误恢复能力、人类偏好评分等维度? +16. LLM Agent 在执行长链推理或多步任务时,常因上下文长度限制或中间错误累积而失败。有哪些技术可以提升其推理的“鲁棒性”和“可回溯性”?例如:检查点机制、子任务验证、反思(Reflection)模块、或分层规划? +17. 在人机协作场景中(如医生+诊断 Agent、程序员+编码 Agent),Agent 应该扮演“执行者”、“协作者”还是“建议者”?你如何设计其交互协议以避免过度依赖或责任模糊? +18. 当一个 Agent 给出错误结果时,如何进行归因分析?是检索失败、工具误用、逻辑推理错误,还是提示词设计缺陷?你是否会构建一个“Agent 调试日志系统”来追踪每一步的决策依据? --- @@ -98,6 +103,11 @@ 10. RAG 系统在实际部署中可能面临哪些挑战? 11. 了解搜索系统吗?和RAG有什么区别? 12. 知道或者使用过哪些开源RAG框架比如Ragflow?如何选择合适场景? +13. 考察对检索前端优化的理解,是工业级 RAG 的关键技巧。 +14. 聚焦动态知识管理,贴近真实业务需求(如客服、新闻、金融)。 +15. 涉及泛化能力与模型适配,适合全球化或垂直行业场景。 +16. 强调安全与合规,在金融、医疗等领域至关重要。 +17. 展望未来趋势,连接多模态 AI 与 RAG 的融合方向。 --- @@ -127,6 +137,11 @@ 7. 个性化是 LLM 应用的重要方向。在实现高度个性化的 Agent 或助手的过程中,我们应如何平衡效果、隐私和安全? 8. 你认为 Transformer 架构会长久地统治这个领域吗?还是你看到了像状态空间模型(SSM, 如 Mamba)等新架构的潜力? 9. 展望未来 3-5 年,你认为 LLM 和 Agent 技术最有可能在哪个行业或领域率先实现颠覆性的应用?为什么? +10. 如何设计一个能进行长期目标追踪(如“帮我准备一场国际会议”)的 LLM Agent?需要哪些核心组件(记忆、规划、工具调用、反思机制)? +11. 当前 LLM Agent 在多智能体协作(Multi-Agent)场景中面临哪些挑战?例如角色分配、通信协议、冲突消解等。你认为应如何建模智能体间的“社会性”? +12. LLM Agent 的“幻觉”问题在自主行动中可能带来严重后果(如错误操作 API 或机器人动作)。有哪些技术手段可以实现“可验证的推理”(Verifiable Reasoning)或“安全护栏”(Safety Guardrails)? +13. 如何评估一个 LLM Agent 的能力?传统的 NLP 指标(如 BLEU、ROUGE)显然不足。你认为应构建怎样的评测框架(如 WebArena、AgentBench)?是否需要引入人类反馈或环境交互指标? +14. 如果要让 LLM Agent 具备“好奇心”或主动探索能力(如主动提问、实验、信息搜寻),应如何在架构或训练目标中引入内在动机(Intrinsic Motivation)机制? --- @@ -139,4 +154,4 @@ 5. 如果让你自由探索,你最想创造一个什么样的Agent来解决什么问题? 6. 对于想要进入Agent领域的初学者,你会给他/她什么建议?应该重点学习哪些技术? 7. 总结一下,你认为一个顶尖的AI Agent工程师,应该具备哪些核心素质? -8. 平常使用AI吗,都用来干嘛?如果我想使用AI,比如coding领域,你有何建议给我? \ No newline at end of file +8. 平常使用AI吗,都用来干嘛?如果我想使用AI,比如coding领域,你有何建议给我?