跳到正文
Jones Ray
返回

PaperAgent:面向天体测量与学术论文库的深度研读智能体

PaperAgent:面向天体测量与学术论文库的深度研读智能体

在严肃的天文与天体测量科研场景中,通用的问答模型往往无法直接触达课题组专属的学术论文库,且极易出现术语幻觉、推理割裂与无法严密溯源的问题。PaperAgent 是一个面向天体测量与学术论文库的深度研读智能体,将专业文献解析为结构化知识表征,支持跨文献比对与确定性过滤,且每一条学术推论皆可精确回溯到原文切片。


一、核心定位与技术栈演进

1. 核心解决的学术研读痛点

2. 现代技术栈选型

前端界面: Streamlit (深度定制响应式 CSS,适配桌面端与 390px 移动视口)
文档解析: MinerU (高保真学术 PDF 布局、公式与层级树解析)
切片策略: 1600 字符层次感知切片 (保留 H1/H2 路径与 180 字符重叠)
文本嵌入: BGE-M3 (高维度语义表征,兼顾密集向量与稀疏关键词权重)
检索体系: FAISS 稠密向量索引 + BM25 稀疏检索 (RRF 倒数排名融合)
推理内核: 标准通用兼容接口,长上下文与长思维链学术推理内核 (Flash / Thinking / Pro)
调度编排: 元数据倒排过滤 + 多路路由分流调度引擎 + 来源严格回溯机制

3. 多档学术推理策略

系统根据科研研读场景提供灵活的内核档位:


二、系统架构与混合检索链路

[ 原始天体测量与学术 PDF 论文库 ]
                │
                ▼ (MinerU 深度布局与层级解析)
[ 结构化 Markdown 树状文本 ]
                │
                ▼ (1600 字符层次感知切片,保留章节路径元数据,overlap=180)
┌─────────────────────────────────────────────────────────────┐
│                      混合索引持久化层                          │
│  ├─ BGE-M3 密集向量 ──► FAISS 稠密索引库                      │
│  ├─ BM25 词频统计   ──► 稀疏关键词倒排索引                    │
│  └─ 结构化元数据     ──► 倒排索引 (作者/年份/观测源/星表版本)  │
└─────────────────────────────────────────────────────────────┘
                                │
[ 用户学术提问 / 深度研读诉求 ]   │
                │               │
                ▼               │
┌───────────────────────────┐   │
│   查询路由器 (Query Router)│   │
│  ├─ 1. 元数据/文献清单 ───┼───┴─► 命中倒排索引直接返回 100% 确定性结果
│  ├─ 2. 跨对象/星表比对 ───┼───► 分解 Query 并行检索,双向平衡召回
│  └─ 3. 复杂理论与推导 ───┼───► RRF (Reciprocal Rank Fusion) 混合融合
└───────────────────────────┘   │
                                ▼
┌─────────────────────────────────────────────────────────────┐
│                 上下文拼装与学术推理内核                       │
│  ├─ 注入精准召回片段 + 章节路径元数据                         │
│  └─ 调用推理内核进行推演 (流式提取 Reasoning 思维链)          │
└─────────────────────────────────────────────────────────────┘
                                │
                                ▼
┌─────────────────────────────────────────────────────────────┐
│                 响应式 Streamlit 全端交互                     │
│  ├─ 思维链折叠/展开组件 (清晰透传推理逻辑)                    │
│  ├─ 流式 Markdown 严谨解答渲染                              │
│  └─ 严格可溯源引用卡片 (展示文件名、匹配度与定位片段)         │
└─────────────────────────────────────────────────────────────┘

三、核心技术突破

1. 1600 字符层次感知切片设计

在早期原型中,过小的切片(如 500 字符)常将完整的数学推导公式或观测条件拆成断片,导致检索召回后模型“只见树木不见森林”。

PaperAgent 采用了 1600 字符层次感知切片:

2. 确定性路由与双向平衡对比

学术研读中充斥着对比类问题(例如:“对比 Gaia DR2 与 Gaia DR3 在历史星表自行系统差改正中的作用”)。常规 RAG 往往直接按综合相似度检索,导致篇幅较长的一方严重挤占召回窗口。

PaperAgent 实现了双向检索平衡机制:

  1. 实体识别器抽取出对比双方(Gaia DR2 与 Gaia DR3)。
  2. 构建隔离并行的双向检索流,各自召回 Top-K 片段后进行等权重交叉融合。
  3. 确保学术推理内核在生成对比矩阵时,两侧的数据支撑同等完备。

3. Streamlit 移动端(390px 视口)响应式重构

Streamlit 默认在移动端存在侧边栏遮挡、代码块水平滚动失效、流式文字生成时页面抖动等痛点。为满足移动科研研读需求,系统在前端进行了专门的 CSS 注入与布局改造:


四、服务启动与流水线更新

1. 运行 Web 研读端

# 启动 Streamlit 响应式研读界面
streamlit run app.py \
  --server.address 0.0.0.0 \
  --server.port 8000 \
  --server.headless true

2. 论文库增量解析与索引流水线

当新增天体测量批次文献(PDF)时,执行结构化处理流水线:

# 1. 将新 PDF 放入数据目录
# 2. 执行 MinerU 结构化解析
python scripts/parse_papers.py --input-dir data/papers/ --output-dir data/parsed/

# 3. 运行 1600 字符层次切片并重建向量与倒排索引
python scripts/build_hybrid_index.py --parsed-dir data/parsed/

五、总结

PaperAgent 的工程实践表明:在天体测量等严谨的科学计算与天文研究领域,“高保真解析 + 1600 字符层次切片 + 确定性/混合检索路由 + 长思维链推演 + 全端自适应交互” 的系统级工程设计,能够将文献库真正转化为可交互、可验证、可移动研读的科研生产力工具。

作者:杨哲(Jones Ray) · 个人站点:zheoi.com



上一篇
ScholarPulse:本地优先的学术情报监测与自动化流水线
下一篇
K8S 小白到大师:从单机容器到集群编排