无限 OCR：一次性长上下文解析

OCR 现状

• 对于 OCR 是否已经“解决”存在强烈分歧。
• 有人认为，传统 OCR 对许多印刷体、简单文档来说速度快、成本低，而且非常可靠。
• 也有人说，即使到了 2026 年，OCR “还是很糟”，尤其是在复杂版式、表格、数学公式以及现实中凌乱扫描件上。
• 非拉丁文字（CJK、阿拉伯语、越南语、泰语）以及草写或历史手写体被认为尤其具有挑战性。

传统 OCR 与基于 LLM/VLM 的 OCR

• 传统 OCR：
  • 擅长字符级检测、手填表单、固定版式，以及离线 CPU 使用。
  • 往往难以理解版式（多栏、页眉/页脚、广告、非规则结构）。
• 基于 LLM/VLM 的 OCR：
  • 更擅长处理多样化文字、草写、混合语言内容和复杂版式。
  • 可以利用语言先验修正噪声输入，但也带来幻觉和无声纠错的担忧。
  • 商业云服务（例如主要的云 OCR API）准确率大约为“85%”，价格昂贵，而且失败模式各不相同。

Unlimited OCR 与长上下文注意力

• KV cache 的增长是长文档的一个主要瓶颈；朴素方法需要按页分块。
• Unlimited OCR 使用 Reference Sliding Window Attention：
  • 全局：始终关注整份文档图像。
  • 局部：只保留自身生成文本中的一个小型移动窗口。
• 其目标是在避免 O(N) 内存增长的同时维持整篇文档上下文，这对长 PDF 和本地部署很有前景。
• 也有人质疑局部窗口是否对超长或 token 很密集的输入来说太小。

用例、工具与基准

• 用户提到使用多种工具（marker、Mistral OCR、Claude、云服务、文档解析框架），但结果参差不齐。
• 对于长而复杂的技术文档（标准、数据手册、科研 PDF），结构感知分块和多页上下文被认为至关重要。
• 有人希望将其与其他 SOTA OCR 解析器和基准进行比较；当前 Unlimited OCR 相比领先模型的地位尚不清楚。

可靠性、幻觉与信任

• 一个担忧是，具备上下文感知的模型会“纠正”文本（姓名、外语词），或者在应该只转写时去翻译，这对于归档或法律用途可能不可接受。
• 有人提出昂贵的验证循环（从文本重新生成图像并进行视觉比对），以接近近乎 100% 的可靠性。

开源与策略

• 大公司开源被认为是由理想、声誉、招聘、生态建设以及对竞争对手的潜在战略影响等多种因素共同驱动。
• 有人认为，中国强大的 OCR 模型广泛发布，可能会削弱西方 AI 实验室的收入。