ai-llm-evaluationLLM 应用质量评测与回归测试实操手册——从"感觉不错"到"可度量可门禁":评测全景与指标体系(正确性/相关性/忠实度/幻觉率/鲁棒性/效率)、评测集构建(黄金数据集/对抗样本/领域评测集/规模估算)、RAG 系统评测(RAGAS 四指标:忠实度/答案相关性/上下文精度/上下文召回)、幻觉检测与度量(事实性幻觉/提示幻觉/上下文矛盾分类与检测方法)、Prompt 回归测试(用例管理/回归门禁/漂移检测/版本对比)、模型对比选型(评测矩阵/成本质量权衡/多模型 A-B/上线决策)、评测流水线与报告(自动化评测/评分聚合/报告模板/上线门禁)。附零依赖本地工具一键查指标、建评测集清单、看 RAG 指标、出对比矩阵、生成评测报告模板。面向 AI 工程师、测试、产品与质量负责人——与 AI 安全红队测试(测安全)互补,本技能测质量。
Install via ClawdBot CLI:
clawdbot install zhaoxinghua09-cell/ai-llm-evaluationGrade Limited — based on market validation, documentation quality, package completeness, maintenance status, and authenticity signals.
Calls external URL not in known-safe list
https://clawhub.ai/user/zhaoxinghua09-cellAudited Sep 11, 2026 · audit v1.0
Generated Oct 8, 2026
企业搭建了一套基于检索增强生成(RAG)的客服/内部知识库问答系统,需要在正式上线前对忠实度、上下文召回、答案相关性等指标进行系统评测,识别幻觉风险。使用本技能可快速获取 RAGAS 四指标定义、评测集构建清单和评分报告模板,形成上线门禁标准。
AI 产品团队频繁优化 Prompt 提示词或切换底层模型版本,担心新版本在某些场景下质量下降。本技能提供 Prompt 回归测试用例管理、漂移检测与回归门禁方法,帮助团队建立自动化回归流程,确保每次变更都经过质量卡点。
企业在 GPT、Claude、国产大模型之间做选型,需要量化对比不同模型在特定业务场景下的质量表现与调用成本。本技能提供评测矩阵、成本-质量权衡框架和多模型 A-B 测试方法,辅助技术团队产出可解释的上线决策报告。
在金融投顾、医疗问答等强监管领域,AI 输出的事实性错误可能引发合规风险。本技能提供幻觉分类(事实性/提示/上下文矛盾)与量化方法(幻觉率计算),结合人工抽样双轨机制,帮助风控团队建立可审计的幻觉度量体系。
质量负责人希望在 CI/CD 流程中嵌入 LLM 质量门禁,每次模型或 Prompt 更新自动运行评测集并生成报告。本技能提供评测流水线设计、评分聚合、报告模板及零依赖本地工具,快速产出结构化评测结果并对接现有 DevOps 体系。
面向企业 AI 团队提供 LLM 评测体系建设的内训课程或咨询项目,帮助客户从零搭建可度量的质量评测流程。结合本技能的方法论、评测集模板和报告框架,可快速交付定制化落地方案。
将零依赖本地工具封装为云端 SaaS 平台,提供评测集管理、自动化跑分、RAG 指标看板和回归门禁告警功能。面向中小 AI 团队按月/年订阅,降低评测体系搭建门槛。
基于本技能的方法论体系开设线上课程或认证考试,培养「LLM 质量评测工程师」等新兴岗位人才。通过视频课程、实战训练营和认证证书实现知识变现。
💬 Integration Tip
建议将本技能的评测方法论与现有 CI/CD 流水线结合,在模型或 Prompt 变更时自动触发评测集跑分并生成门禁报告;同时可对接 RAGAS、LangSmith 等评测框架执行具体指标计算,本技能提供设计框架与报告模板。
Scored Sep 11, 2026
Medical device risk management specialist implementing ISO 14971 throughout product lifecycle. Provides risk analysis, risk evaluation, risk control, and pos...
When the user wants to plan a product launch, feature announcement, or release strategy. Also use when the user mentions 'launch,' 'Product Hunt,' 'feature r...
When the user wants to build a free tool for marketing — lead generation, SEO value, or brand awareness. Use when they mention 'engineering as marketing,' 'f...
管理多类型项目看板,支持新增项目、变更状态与版本、分类管理及查看项目总览和变更日志。
Competitor Analysis — SEO/GEO Intelligence & Market Positioning. Analyze competitor SEO rankings, AI search citations, content strategy, and market posi...
Conduct structured PHQ-9 depression symptom screening and submit the completed assessment for evaluation.