本次实测结果
2026 年 10 月 6 日 Demo 回放
复核已保存的公司正文、财务正文和资产负债结构分析,未重新生成报告。评测记录更新于 2026 年 10 月 14 日(北京时间)。
33 项逐项结果
以下为 10 月 6 日主样本的保存产物复核,程序检查另注明范围。点击编号查看指标定义,展开每项查看核对范围。“待评”不是零分。
正在载入实测数据…
检索与取材效果演进
作为 B-04.1 所需资料取得率的补充实验从找到片段,到取得报告依据
项目先用业务问题建立检索基线,再引入混合检索,最后针对封板 Demo 实际覆盖的业务范围,补测研究后的资料取得情况。三次实验关注的范围不同,因此同时展示结果与比较边界。
一、三次实验总览
| 比较项 | 早期检索基线 | 混合检索实验 | 封板 Demo 取材实验 |
|---|---|---|---|
| 评测目标 | 检查基础检索能否找到所需资料 | 检查混合检索能否提高相关资料的命中与排序 | 检查按业务要求研究、多次读取后,实际取得哪些资料 |
| 评测范围 | 41 道题中,37 道适合本地资料评测 | 41 道题中,37 道适合本地资料评测 | 原题单中,2 道与公司节研究范围完整对应;另测 5 道部分对应的财务题 |
| 观察对象 | 每题排名前 10 条检索结果 | 每题排名前 10 条检索结果 | 研究结束后保留的资料,不限定为前 10 条 |
| 至少找到一页所需资料的题目比例 | 37.8%14 / 37 | 64.9%24 / 37 | 50.0%1 / 2 |
| 覆盖全部必需证据组的题目比例 | 16.2%6 / 37 | 16.2%6 / 37 | 50.0%1 / 2 |
| 每题所需页面的平均覆盖率 | 25.3% | 35.3% | 50.0% |
| 主要发现 | 相关资料经常未进入前 10 条,跨页证据难以找齐 | 更容易找到部分相关资料,但完整证据覆盖仍未改善 | 主营业务跨页资料取得更完整,客户集中度所需页面仍未取得 |
| 比较边界 | 历史检索成绩,不代表当前 Demo | 与早期基线并列观察,不能等同于报告质量 | 仅 2 道完整对应题,且读取方式与预算不同,不能代表 37 道题的整体提升 |
- 至少命中一页
- 至少找到了一部分所需资料。
- 全部证据组覆盖
- 题目要求的每组必需证据都有命中。
- 平均页面覆盖率
- 先算每道题所需页面找到了多少,再对题目取平均。
二、相同问题下,具体改善在哪里?
| 同一道业务问题 | 早期基线前 10 条结果 | 混合检索前 10 条结果 | 封板 Demo研究后取得的资料 | 能说明什么 |
|---|---|---|---|---|
| 主营业务及各业务收入占比 | 所需页面 0 / 9 | 所需页面 2 / 9 | 所需页面 9 / 9 | 对这道跨页问题,研究后的资料获取比单次检索结果更完整 |
| 前五大客户集中度 | 所需页面 0 / 1 | 所需页面 0 / 1 | 所需页面 0 / 1 | 这一缺口仍然存在,不能宣称所有业务问题都已改善 |
三、财务问题单独比较:从检索页面,到取得可核对的数字
财务部分采用结构化财务数据与附注资料,不能继续用“有没有找到某张 PDF 页面”作为唯一标准。因此,对 5 道部分对应题另外拆分需要回答的信息,检查实际取得情况。
| 财务问题 | 财务数据中已直接取得的信息 | 已归入本次演示主题的信息 | 仍缺什么 |
|---|---|---|---|
| 营收、资产、资产负债率、净资产及其变化 | 8 / 24 项 | 5 / 24 项 | 母公司口径、部分指标定义及未登记的计算结果 |
| 短期与长期偿债能力 | 9 / 12 项 | 9 / 12 项 | 部分指标口径未取得 |
| 三年会计师事务所是否一致 | 0 / 4 项 | 0 / 4 项 | 审计及相关文字依据 |
| 存货如何变化,为什么 | 2 / 5 项 | 2 / 5 项 | 尚未登记的变化计算及原因说明 |
| 固定资产中机器设备的年末净值 | 0 / 1 项 | 0 / 1 项 | 对应附注明细 |
另有 140 项金额与随附工作簿核对一致、12 项公式复核一致;这些证明数据传递和计算一致,不证明所有财务问题已回答完整,也不与前述主样本的 84、12、105 项数字核对合并计算。
本轮评测带来的判断
混合检索提高了“找到部分资料”的能力,但没有解决“找齐全部依据”的问题。后续按业务要求组织研究,在主营业务跨页取材上取得了具体改善;客户集中度、审计信息和财务附注仍暴露出缺口。因此,项目将“检索命中、资料取得、数字核对、最终回答质量”分别评估,不用一个召回率概括整份报告。
范围与未完成项。本页分别展示历史检索、封板取材补测与一次 Demo 的产物复核,不合成综合分数。资料是否充分、正文是否准确和读者是否能完成任务,仍有项目待人工评阅或建立对照答案;缺少当时检索轨迹的项目不能用其他实验替代。单次生成完成不代表稳定可用或已经获得发布确认。
查看主样本与评测来源
报告生成编号:m930_3_cited_upload_20261006T033105Z。评测版本:rbeval-demo-5x8-2。来源为本轮上传的 readback.md 与 website_eval_showcase.md;检索演进部分依据另行补充的三次实验对照。