探索生成式AI在文档处理中的应用：llm Whisperer

在现代科技的快速发展中，生成式人工智能（Generative AI）正逐渐改变我们处理文档的方式。虽然许多生成式AI模型在处理文档时表现出色，但面对复杂文档时，大多数开源模型仍显得力不从心。甚至连GPT-4在某些情况下也会遇到困难，特别是在没有预处理管道的情况下。这种情况下，用户往往会感到十分痛苦，尤其是当文档中包含表格、图像或复杂数据时。

什么是复杂文档？

复杂文档通常指的是包含表格、图像或复杂数据的文档。这些文档不仅仅是简单的文本，而是需要处理和解析更多信息。在这种情况下，普通的生成式AI模型往往无法准确理解和处理这些内容。

介绍llm Whisperer

llm Whisperer是一款专门用来处理复杂文档的工具，它使得与复杂文档的交互变得更加轻松。llm Whisperer不仅能够处理这些复杂文档，而且操作起来非常简单。在本文中，我们将深入探讨这款工具，并了解其强大功能。

为什么选择llm Whisperer？

生成式AI的输出质量取决于输入数据的质量，即所谓的“垃圾进，垃圾出”（Garbage In, Garbage Out）原则。因此，不能简单地将文档丢给生成式AI模型，而是需要一个工具来进行数据清理和预处理。llm Whisperer正是这样一款工具，它不仅可以进行数据清理和预处理，还能够保留文档的布局。

保留布局的重要性

在处理文档时，布局的保留非常重要。如果简单地将文档丢给生成式AI模型，可能会导致布局丢失。此外，如果文档中包含复选框和单选按钮，那么大多数处理管道都无法正确处理这些内容。而llm Whisperer在处理这些方面表现得非常出色，能够正确读取复选框和单选按钮的值，从而准确解析文档内容。

自动模式切换

llm Whisperer还具备自动模式切换功能。这意味着在处理文档时，如果文本模式提取失败，工具会自动切换到OCR模式（光学字符识别模式），无需用户担心提取模式的问题。这大大提高了文档处理的效率和准确性。

自动压缩

使用生成式AI处理文档时，输入的tokens越多，处理时间越长，成本也越高。llm Whisperer可以进行自动压缩，将不必要的tokens压缩，同时保留布局。这不仅节省了时间，还降低了成本。

可控的预处理

为了获得最佳结果，用户可以控制扫描图像的预处理。例如，可以选择中值滤波或高斯模糊，这些参数可以通过API进行调整。llm Whisperer还提供RESTful API，用户可以使用API密钥进行部署，非常便捷。

实际操作演示

LLMWhisperer: Make Complex Document Data Ready for LLMs

让我们实际操作一下llm Whisperer，看看它的强大功能。首先，注册一个免费账户，登录后进入演示操场。在右侧可以上传任何文档，或者使用提供的示例文档。我们先尝试上传一个包含表格的PDF文档。

上传PDF文档

上传表格PDF文档后，点击提交，工具会自动提取文本。我们可以看到，llm Whisperer非常准确地识别了表格内容，尽管表格线条没有显示，但所有数字和符号都非常准确，包括逗号和括号。即使是复杂的表格，llm Whisperer也能处理得非常好。

处理收据图像

我们再试试处理一张收据图像。收据通常很难读取，但llm Whisperer同样表现得非常出色，准确地提取了所有信息，包括GST税率。

处理手写表单

最后，我们试试处理一张手写表单。手写表单中包含日期和复选框，llm Whisperer准确识别了手写日期和选中的复选框，表现非常令人印象深刻。

结论

llm Whisperer是一款非常强大的工具，能够处理各种复杂文档，保留布局，自动切换模式，压缩不必要的tokens，提供RESTful API，以及用户可控的预处理功能。无论是处理表格、收据还是手写表单，llm Whisperer都表现得非常出色。

关注我，每天带你开发一个AI应用。每周二四六直播，欢迎多多交流。