5.2 PEST运行记录文件

第七版序言

这很可能是PEST手册的最后一个版本。它与PEST版本15的发布不谋而合。这反过来又与PEST++版本4的发布相结合。

这是一个过渡时期。在此期间结束时，PEST++套件的程序将包括反演的首选程序包，以及如果建模要在环境决策支持中实现其真正潜力，则必须执行的其他模型增值任务。其中包括优化、不确定性分析和不确定性下的优化。

然而，PEST并不会消失。它仍然提供了其他软件包无法提供的功能。此外，因为PEST++程序也使用PEST控制文件（即。

一个PST文件）、一个雅可比矩阵文件（即JCO文件）和一个参数值文件（即标准杆数文件），其规格与PEST的规格相同，可以使用本手册第二部分中记录的操作和构建这些类型文件的实用程序

John Doherty June, 2018

第六版序言

自第五版PEST手册出版至今已有10多年了。在此期间，PEST 的改进及其实用套件的扩展持续快速进行。

每一项新功能都记录在 PEST 手册第五版完成后的附录中。随着新公用事业数量的增加以及 PEST 本身的增强，附录也变得越来越大。随着这种情况的继续，提供第六版 PEST 手册（其中所有文档均经过合理化、重新排序和重新格式化）的任务变得越来越艰巨。所以它被推迟了，再一次推迟，因为我的努力致力于改进 PEST 软件套件，而不是使其文档合理化。

在此期间，PEST 及其支持实用软件中添加的许多功能包括： 更好地容忍不良模型数值行为，这可能会导致有限差分导数的质量下降。

• 扩展并行运行管理，包括将BEOPEST 添加到PEST 套件中（BEOPEST 采用TCP/IP 进行管理器和代理之间的通信）；

• 一套实用程序，用于进行线性参数和预测、校准前和校准后误差和不确定性分析； • 计算参数可识别性并采用奇异值分解将参数和模型输出分解为所谓的“超参数”和“超观测值”的实用软件； • 线性分析软件，用于检查模型缺陷对校准引起的参数/预测偏差的影响；

• 使用零空间蒙特卡罗方法实施非线性不确定性分析；

• 一种新的 PEST 操作模式，称为“帕累托”模式，它实施直接预测假设检验和计算机辅助手动正则化；

• 增强查询、操作和处理二进制雅可比矩阵文件中包含的数据的能力；

• 支持与模型无关的参数预处理和观测后处理的实用程序；

• 对矩阵进行参数估计相关操作的实用程序；

• 两个与PEST 兼容的全局优化器。

其中许多程序都有 32 位和 64 位版本。 PEST 及其所有实用程序套件的源代码也可用；因此，用户可以编译整个 PEST 套件的自己版本，以便在 UNIX 平台上使用。

随着 PEST 手册第六版的出版，漫长的拖延期结束了。此版本的 PEST 手册以比第五版 PEST 手册及其广泛的附录更加连贯的形式提供了 PEST 及其所有支持实用程序的文档。由于 PEST 及其实用支持软件提供了极大的扩展功能，本手册现在分为两部分。第一部分介绍 PEST 本身，以及与 PEST 兼容的 SCEUA_P 和 CMAES_P 全局优化器，以及基本的 SENSAN 灵敏度分析器。手册的第二部分记录了 PEST 的实用支持软件。

PEST 手册实际上还有第三部分。这是一本名为《复杂环境模型的校准和不确定性分析》的书，由 Watermark NumericalComputing 于 2015 年出版，由我本人 John Doherty 撰写。详细描述了参数估计和不确定性分析的一般理论，特别是 PEST 实现的理论；它还提出了将该理论转化为最佳历史匹配和不确定性分析实践的方法，特别是在建立模型以支持环境管理和决策的情况下。 PEST 手册第 6 版广泛引用了本书。这减少了手册的长度，因为手册不再需要记录 PEST 及其实用支持软件所依赖的理论。本书可以从 PEST 网页 http://www.pesthomepage.org 下载。许多读者都知道，本手册第二部分中记录的实用程序并不是唯一支持在以下环境中使用 PEST 的程序：环境模型校准和不确定性分析。其他广泛的实用软件套件可加快 PEST 在地下水和地表水模型中的使用。特别参见 PLPROC“参数列表处理器”和 TSPROC“时间序列处理器”。这些扩展的实用软件套件都有自己的文档。它们及其各自的手册可以从 PEST 网页下载。

约翰·多尔蒂 2016 年 4 月

第五版序言

自第四版PEST手册出版以来，PEST已经进行了重大改进。所有这些都是为了提高 PEST 在大型复杂模型校准中的性能，其中许多参数需要通过正则化反演过程进行估计。

最深刻的进步是“SVD-assist”方案。该方法结合了两种重要的正则化方法，即截断奇异值分解和吉洪诺夫正则化。结果是一种具有前一种方案的数值稳定性和后一种方案的“参数友好性”的方法。然而，更重要的是，现在可以进行正则化反演，并在模型运行效率方面取得惊人的进步。这是因为每次优化迭代所需的模型运行次数不再需要等于或超过所估计的参数数量；事实上，在某些情况下，它可以少至可估计参数数量的十分之一。其影响是深远的，因为它使以前被认为不可能的模型的正则反演变得容易。

其他 PEST 改进包括以下内容。

• 正则化约束现在可以细分为单独的组，以便于以最适合当前问题的比率应用这些约束。

• 奇异值分解作为逆问题解决方案提供。

• 作为奇异值分解的替代方案，可以采用“自动用户干预”来降低参数估计问题的维数，以防止在数据不足以同时估计所有参数时出现数值不稳定。

• PEST 的并行化功能已经有了相当大的改进。代理现在可以稍后进入并行化过程。此外，还为并行 PEST 提供了特殊的重新启动功能，允许其在先前中断执行的运行时重新启动。

• PEST 在进行参数估计过程时会写入许多新的输出文件。参数估计问题的条件数现在随时可用，与最新升级的参数集相关的残差也是如此。如果采用奇异值分解，则还可以随时获得有关奇异值和（可选）参数特征值的信息。

• 雅可比矩阵和其他矩阵现在可以以压缩形式存储。在高度正则化的设置中集体估计参数时，这可以提高内存和运行时效率。

• PEST 套件中添加了许多新的实用程序，以增强对其输入数据集的操作并帮助对 PEST 输出进行后处理。

随着时间的推移，环境过程模拟作为自然资源管理的辅助手段变得越来越普遍。如果要使用模型来预测未来的环境行为，该模型必须能够复制该系统的历史行为。因此必须对其进行校准。如果系统很复杂（所有环境系统都是如此），则可能需要估计数十、数百甚至数千个参数。在许多情况下，这些参数无法唯一估计。因此，人们经常尝试通过模型来简化环境过程的表示，从而减少需要估计的参数的数量。

正则反演认识到模型校准过程中可以估计的参数数量受到可用于校准的数据集的信息内容的限制。然而，它并不依赖于不适当或“人为”的模型简化方法作为反演过程数值稳定性所付出的代价。

相反，支持正则化反演的理念是“让反演过程本身根据数据的信息内容确定参数估计问题的维度”。因此，以允许估计数据允许的尽可能多的不同参数组合的方式进行简化，同时对无法估计的参数组合施加平滑性、相等性或其他约束。由于用户很少提前知道给定校准环境的最佳简化策略，因此许多参数的使用为校准过程提供了以完美适应该环境的方式简化模型参数化所需的自由度。因此，使用许多参数提供了从给定数据集中提取最大信息内容的方法（获取数据通常非常昂贵），并允许尽可能多的信息反映在用于模拟的模型的参数化中显着的环境过程。

然而，在此过程中，通过施加适当的“拟合限制”来防止“过度拟合”的不良影响，该“拟合限制”设置在适合校准数据集的测量和“结构”噪声内容的水平。

PEST 是迄今为止环境建模者可用的最先进的参数估计包。然而它的发展仍在继续快速发展。认识到正则化反演允许用户在他/她的模型中包含解释数据所必须存在的系统复杂性级别，但这种复杂性级别可能远远低于实际存在的复杂性级别，继续 PEST目前开发的目标是“填补参数空白”。这只能在概率意义上完成。然而，忽视这种复杂性的代价可能是在关键模型预测中引入重大偏差。因此，进一步的 PEST 开发现在的目标是评估模型预测中的不确定性，因为它不仅取决于测量和结构噪声（目前使用 PEST 的预测分析器处理），还取决于可能存在的系统复杂性的概率行为，但校准过程根本无法捕获。

我个人发现 PEST 的开发是一项真正令人兴奋的努力，它使建模者能够更好地利用其复杂而巧妙的模型作为解释复杂环境数据的机制，从而更好地管理环境。我希望随着越来越多的模型用户也成为 PEST 用户，他们和我一样兴奋，因为他们有机会从来之不易的数据中提取每一盎司的信息，从而使他们能够以比以前更明智的方式做出重要的环境决策。否则是可能的。

约翰·多尔蒂 2004 年 7 月

第四版序言

PEST 手册第四版的出版标志着 PEST 发展的两个重要里程碑。首先是添加了先进且强大的正则化功能，为 PEST 5.0 版本的发布提供了基础。第二个是PEST从商业产品状态转变为公共领域包状态。

在过去的几年中，PEST 的持续发展集中于其成功处理复杂、高度参数化模型的能力。首先是 PEST 的用户干预功能，这允许用户将麻烦的参数（通常不敏感和/或高度相关的参数）保留在其当前值，以便参数估计过程可以继续进行，而不会受到这些参数对该过程的破坏性影响。第二个是结合了 PEST 的非线性预测分析功能，这表明人们认识到这样一个事实：增加参数化通常会导致参数非唯一性增加，同时任何模型线性的外观都会迅速从视野中消失。现在，PEST 5.0 版本带来了高级正则化功能。在撰写本序言时，PEST 的新正则化功能已经证明自己在异构二维和三维空间模型域的参数化中非常有用，特别是当伴随着使用灵活的空间参数定义方法（例如“pilot”）时。点”（参见 PEST 地下水公用事业套件）。在“正则化”模式下使用 PEST 允许建模者估计比其他方式更多的参数。因此，在使用空间模型时，PEST 能够“自行发现”物理或水力特性异常的区域，而不需要建模者使用分段参数恒定区域提前描绘出这些区域。此外，该过程在数值上非常稳定，避免了参数不敏感或过度相关性对该过程的有害影响，而这些参数通常伴随着尝试估计太多参数。

将 PEST 纳入公共领域的决定并非轻率做出的。然而，有两个因素使得这一决定几乎无法避免。其中之一是竞争性公共领域软件的出现，该软件虽然没有 PEST 的功能，但仍然高度可见并得到了美国政府的支持。另一个考虑是更具慈善性质。我的直觉告诉我，未来十年环境建模中最大的问题将是预测不确定性分析。 PEST 在这方面可以做出重大贡献。我希望通过以零成本向所有建模者免费提供 PEST，它将为基于现实系统计算机模拟的环境管理做出比迄今为止更重要的贡献。

PEST 版本 5 中发现的以前版本的 PEST 中没有的其他新功能包括以下内容。

• 与参数、参数组、观测值、观测组和先验信息项相关的所有名称现在的长度最多可达 12 个字符。

• 现在必须将先验信息项分配给观察组。

• 反演过程中使用的观测值和先验信息方程的不确定性现在可以用协方差矩阵来表示，而不是简单地用权重来表示。

• 如果模型输出相对于可调参数的导数可以由模型计算，而不是由 PEST 通过使用有限差分来计算，则 PEST 可以使用这些导数（如果它们是通过模型编写的文件提供给它）。

• 可以使用不同的命令来运行模型，以满足 PEST 使用模型的不同目的（即测试参数升级、计算不同参数的导数等）。

• PEST 现在可以向模型发送“消息”，允许模型根据 PEST 运行的目的调整其行为的某些方面。

• PEST 将雅可比矩阵存储在一个特殊的二进制文件中，该矩阵与在参数估计过程的任何阶段实现的最佳参数集相对应，该二进制文件随着参数估计过程的进展而更新。名为 JACWRIT 的新实用程序以文本格式重写雅可比矩阵以供用户检查。

• PEST 打印出比以前版本更全面的复合参数敏感性信息。

• PEST 套件中添加了名为 PAR2PAR 的新实用程序。这是一个“参数预处理器”，允许用户在将参数提供给模型之前根据任意复杂的数学方程来操纵参数。

约翰·多尔蒂 2002 年 1 月

第三版序言

PEST 手册第三版的制作与 PEST 4.0 版本的发布同时进行。 PEST 4.0 版本中封装的 PEST 功能的主要补充是提供预测分析功能，以补充 PEST 现有的参数估计功能。

随着非线性参数估计技术在模型校准中的使用越来越多，建模者越来越认识到与通过模型校准过程导出的参数值相关的非唯一性程度。伴随着这种认识，人们越来越希望检查参数非唯一性对校准模型预测的不确定性的影响。量化预测不确定性的重要性不可低估。可以说，模型参数通常是一种抽象，有时与现实世界系统中可以测量甚至观察到的数量仅具有短暂的相似性。然而，模型预测却并非如此，因为这就是模型最初建立的原因。如果依赖模型预测作为健全环境管理的基础（通常如此），那么量化与此类预测相关的不确定性的能力与首先做出此类预测的能力一样重要。

“预测”的概念可以扩展到描述 PEST 在参数估计本身就是目的的领域中的使用。在地球物理环境中尤其如此，其中 PEST 用于根据在地表和/或多个钻孔进行的测量来推断地球特性。在这种情况下，模型参数（通过非线性参数估计过程确定）似乎具有压倒性的重要性，并且实际上“模型预测”的概念是不适用的。然而，这种情况并非如此;事实上，PEST 的预测分析功能已被证明对勘探地球物理学家的武器库来说是极其有用的补充。在“预测分析”模式下使用 PEST 允许地球物理数据解释员提出（并回答）诸如“在某个位置钻的孔是否有可能不与任何导电材料相交？”或“什么是导电材料？”之类的问题。导致异常表面测量的导体的最大可能深度范围？”本手册中使用的术语“预测分析”描述了计算通过校准过程估计的参数不确定性对预测不确定性的影响的任务。已经记录了许多用于进行此类分析的方法，例如蒙特卡罗方法和线性不确定性传播。然而，与许多其他方法不同的是，PEST 预测分析算法不依赖于有关模型线性的假设；此外，尽管模型预测不确定性的计算在数值上是一个费力的过程，但 PEST 的预测分析算法的数值强度比许多其他非线性预测不确定性分析方法要低。

人们希望，PEST 预测分析仪的使用将使来自科学和工程各个领域的建模者能够在他们当前从事的任何研究领域有效地使用计算机模拟模型方面实现另一个巨大飞跃。

约翰·多尔蒂 1999 年 10 月

第二版序言

自 1994 年初发布第一版以来，PEST 已被世界各地许多不同领域的科学家和工程师使用，包括生物学、地球物理学、岩土工程、机械、航空和化学工程、地下水和地表水水文学等字段。通过在模型校准和数据解释中使用 PEST，许多 PEST 用户已经能够使用他们的模型获得比通过试错法手动尝试此类任务时更大的优势。

PEST 手册的第二版与 PEST 3.5 版本的发布同时进行。

这个新的 PEST 中包含的一些增强功能源于我自己将 PEST 应用于校准大型复杂模型的经验。其他的内容是根据各个 PEST 用户的建议而包含的，其中一些用户正在独特且有趣的情况下应用 PEST。对于那些已经熟悉 PEST 的人来说，下面是新功能的简要总结。

一个名为“Parallel PEST”的 PEST 版本已经创建。这使得 PEST 可以在 PC 网络上的不同机器上运行模型，从而极大地减少总体优化时间。

根据普遍需求，参数、观察、参数组和先验信息名称现在的长度最多可达 8 个字符。之前每个名称 4 个字符的限制是作为内存保护策略而设置的，随着计算硬件的不断改进，这一问题逐渐减少。

现在可以将观察结果分组，并通过优化过程报告每个组对目标函数的贡献。此信息对于为不同测量类型分配权重非常有帮助。

如果参数对观察没有影响，PEST 不再停止执行并显示错误消息；相反，它只是将有问题的参数保留为其初始值。

可以要求 PEST 仅运行模型一次，然后终止执行。这样PEST就可以简单地用于目标函数计算。或者，可以要求仅根据需要运行模型多次，以便根据初始参数估计来计算参数协方差矩阵和相关统计数据。

PEST 套件中添加了两个新程序。它们是 SENSAN（一种独立于模型的灵敏度分析器）和 PARREP（一种实用程序，可使用先前 PEST 运行中生成的参数值来促进新 PEST 运行的开始）。

然而，到目前为止，PEST 最重要的变化是它为用户干预参数估计过程提供的改进功能。每次计算雅可比矩阵时，PEST 现在都会将其存储在文件中以供以后使用。它将每个参数的总体灵敏度记录在另一个文件上，这与包含与该参数相关的雅可比矩阵列的向量的大小有关。因此，在优化过程的任何阶段，都可以区分敏感参数和不敏感参数。在复杂模型的标定中（尤其是参数较多且相关性较高的情况下），最容易出现问题的是不敏感的参数。

在优化过程的任何阶段，用户都可以请求将某些麻烦的参数保持在当前值。这些参数可以单独标定，也可以根据参数估计过程中它们的灵敏度是否下降到某个阈值以下来标定。或者，用户可以请求在计算参数升级向量时保留某一组内的N个最不敏感的参数，其中N由用户根据他/她对当前参数估计问题的知识和直觉来提供。除此之外，现在可以在 PEST 运行期间更改控制参数升级向量计算方式的某些变量。

现在可以重复参数升级向量的计算。因此，如果用户认为 PEST 在某个优化迭代期间可以更好地降低目标函数，他/她可以停止 PEST 执行，指示 PEST 将某些参数保持在当前值，并要求 PEST 计算参数升级再次向量。

无需重新计算雅可比矩阵（PEST 操作中最耗时的部分）即可完成此操作，因为每次计算雅可比矩阵时都会存储此类请求。

作为识别顽固参数的辅助手段，PEST 现在记录在任何参数升级事件期间经历最大因子和相对变化的参数，这些参数通常是产生问题的参数。

值得注意的是，尽管 PEST 发生了一些变化并包含了许多新的强大功能，但以前版本的 PEST 使用的文件协议与最新版本的 PEST 使用的文件协议相同，但有一个例外：这是将观察组数据添加到 PEST 控制文件中。然而，新版本的 PEST 能够识别为旧 PEST 版本编写的 PEST 控制文件，并且会毫无怨言地读取它，为所有观察值分配一个虚拟组名称。

PEST 经受住了时间的考验。当它最初发布时，它为模型校准和数据解释提供了全新的可能性。随着越来越多的科学家和工程师意识到通过使用这些可能性可以获得的好处，PEST 用户群正在缓慢但肯定地扩大。 PEST 的最新版本包括并行 PEST 和上面简要概述的用户干预选项，允许将 PEST 的使用扩展到大型复杂模型的校准，而迄今为止，非线性参数估计技术的应用一直被考虑到这些模型不可能的。希望新的和现有的 PEST 用户能够通过这些增强功能将 PEST 应用于新的令人兴奋的问题，并且他们将能够利用比以往更复杂和更有效地使用模型的潜力。

约翰·多尔蒂 1998 年 10 月

第一版序言

本文档描述了 PEST（一种与模型无关的参数估计器）的使用。

非线性参数估计并不新鲜。许多书籍和论文都致力于这个主题；许多著名的数学子程序库中都提供了子程序；来自所有科学领域的许多建模包都包含参数估计作为处理选项；大多数统计和数据分析包允许对用户提供的数据集进行曲线拟合。然而，为了利用该软件提供的非线性参数估计功能，您必须承担特定于特定包的建模任务，您必须更改模型的源代码，使其满足特定优化的接口要求子例程，或者您必须将建模问题重新转换为特定于您正在使用的包的语言。

虽然 PEST 与现有的非线性参数估计软件有一些相似之处（它使用强大而稳健的估计技术，该技术已在各种问题类型上进行了广泛的测试），但它是根据非常不同的理念设计的。 PEST 的新颖之处在于，它允许您使用特定模型进行参数估计和/或数据解释，而无需对该模型进行任何更改。因此，PEST 会适应现有模型，您无需使模型适应 PEST。

通过将 PEST 包裹在模型中，您可以将其转变为模型所模拟系统的非线性参数估计器或复杂的数据解释包。该模型可以简单或复杂，可以自制或购买，可以用任何编程语言编写。

据我所知，PEST 是独一无二的。由于它的多功能性以及能够满足建模者“他或她在哪里”的需求，而不是要求建模者重新表述他/她的问题以适应参数估计过程，我相信PEST将把非线性参数估计方法放入比迄今为止更广泛的人能够参与其中，并将使其能够应用于比以往更广泛的问题类型。我真诚地希望这将显着增强计算机建模在许多研究领域理解过程和解释数据方面的应用。

然而，您应该意识到，非线性参数估计既是一门艺术，也是一门科学。 PEST 或任何其他参数估计器只能用于补充您自己在理解系统并推断其参数方面所做的努力。它不能代替洞察力；它无法从数据集中提取比该数据集固有信息内容更多的信息。此外，PEST 对于不同的模型会有不同的工作方式。您可以对 PEST 进行许多调整以将其调整为特定模型，并且您需要知道这些调整是什么；通常，只有通过反复试验，您才能确定针对特定情况的最佳设置。事实上，PEST 的操作可以通过这种方式进行调整，这是它的优势之一；然而，只有当您知道自己可以选择哪些选项时，才能正确利用这种优势。

因此，我强烈建议您在使用 PEST 解释实际数据之前花些时间了解本手册的内容。通过这种方式，您将最大限度地提高成功使用 PEST 的机会。经验表明，对于一些困难或“混乱”的模型，单个控制变量的设置可以决定 PEST 是否适用于该模型。

一旦确定了正确的设置，PEST 就可以永远与该模型一起使用，也许可以为应用该模型的每个新问题节省数天甚至数周的模型校准时间。因此，只需投入少量时间来了解本手册的内容可以获得丰厚的回报。

所以“祝你好运”使用 PEST；我希望它能让您校准模型以及解释现场和实验室数据的能力实现质的飞跃。

约翰·多尔蒂 1994 年 2 月

免责声明

本软件的用户接受并自行承担使用本软件的风险。

作者不对本软件做出任何形式的明示或暗示的保证。作者也不对因提供、使用或执行本软件而引起的偶然或间接损害承担责任。

PEST 控制变量

有关 PEST 控制文件的完整规范，请参阅本手册第一部分的附录 A，其中包括所有 PEST 输入变量的列表及其角色的描述。

错误 如果您发现 PEST 或其任何实用程序中的错误，请通过以下电子邮件地址向我 John Doherty 报告。

pestsupport@ozemail.com.au

Table of Contents

1. Introduction............................................................................................................................1

1.1 Installation.......................................................................................................................1

1.2 Software ..........................................................................................................................1

1.3 Concepts..........................................................................................................................2

1.4 Philosophy.......................................................................................................................3

1.5 PEST- The Book .............................................................................................................4

1.6 Some Practical Considerations........................................................................................4

1.6.1 The Model ...............................................................................................................4

1.6.2 Model Input and Output Files .................................................................................5

1.6.3 WINDOWS and UNIX ...........................................................................................6

1.6.4 Differentiability.......................................................................................................6

1.6.5 Local Optima...........................................................................................................7

1.6.6 Observations and Predictions..................................................................................7

1.6.7 Numerical Burden ...................................................................................................8

1.7 Some Common Tasks .....................................................................................................8

1.7.1 General ....................................................................................................................8

1.7.2 Over-Determined Model Calibration ......................................................................8

1.7.3 Highly Parameterized Inversion..............................................................................9

1.7.4 Parameter Preprocessing and Observation Postprocessing.....................................9

1.7.5 Linear Sensitivity and Uncertainty Analysis...........................................................9

1.7.6 Jacobian and General Matrix Manipulation ..........................................................10

1.7.7 Testing the Integrity of Finite-Difference Derivatives..........................................10

1.7.8 Nonlinear Uncertainty Analysis............................................................................10

1.7.9 In Conclusion ........................................................................................................11

2. The Model-PEST Interface ..................................................................................................12

2.1 PEST Input Files...........................................................................................................12

2.2 Template Files...............................................................................................................12

2.2.1 Model Input Files ..................................................................................................12

2.2.2 An Example...........................................................................................................13

2.2.3 The Parameter Delimiter.......................................................................................14

2.2.4 Parameter Names...................................................................................................15

2.2.5 Setting the Parameter Space Width.......................................................................15

2.2.6 How PEST Fills a Parameter Space with a Number .............................................17

2.2.7 Multiple Occurrences of the Same Parameter.......................................................19

2.2.8 Preparing a Template File .....................................................................................20

2.3 Instruction Files.............................................................................................................20

2.3.1 Precision in Model Output Files............................................................................20

2.3.2 How PEST Reads a Model Output File ................................................................21

2.3.3 An Example Instruction File .................................................................................21

2.3.4 The Marker Delimiter............................................................................................22

2.3.5 Observation Names ...............................................................................................23

2.3.6 The Instruction Set ................................................................................................23

2.3.7 Making an Instruction File ....................................................................................34

3. What PEST Does .................................................................................................................35 3.1 General ..........................................................................................................................35

3.2 The PEST Control File..................................................................................................35

3.2.1 General ..................................................................................................................35

3.2.2 Sections of the PEST Control File ........................................................................35

3.2.3 Naming Conventions.............................................................................................37

3.3 Modes of Operation.......................................................................................................37

3.3.1 General ..................................................................................................................37

3.3.2 Estimation Mode ...................................................................................................38

3.3.3 Regularisation Mode .............................................................................................39

3.3.4 Predictive Analysis Mode .....................................................................................39

3.3.5 Pareto Mode ..........................................................................................................40

3.3.6 Another “Mode”....................................................................................................40

3.4 Parameter Adjustment...................................................................................................40

3.4.1 General ..................................................................................................................40

3.4.2 Parameter Transformation.....................................................................................41

3.4.3 Fixed and Tied Parameters....................................................................................41

3.4.4 Upper and Lower Parameter Bounds ....................................................................41

3.4.5 Optional Alternative Bounds Accommodation .....................................................42

3.4.6 Scale and Offset ....................................................................................................43

3.4.7 Global Parameter Scaling......................................................................................44

3.4.8 Parameter Change Limits......................................................................................44

3.4.9 Damping of Parameter Changes............................................................................46

3.5 The Calculation of Derivatives .....................................................................................47

3.5.1 General ..................................................................................................................47

3.5.2 Forward, Central and Five-Point Differences.......................................................48

3.5.3 Parameter Increments for Two and Three-Point Derivatives................................50

3.5.4 Settings for Higher Order Derivatives ..................................................................51

3.5.5 How to Obtain Derivatives You Can Trust...........................................................52

3.5.6 Looking at Model Outputs under the Magnifying Glass.......................................54

3.5.7 Split Slope Analysis..............................................................................................55

3.5.8 Model-Calculated Derivatives...............................................................................57

3.5.9 Using a Surrogate Model for Derivatives Calculation ..........................................57

3.6 The Jacobian Matrix File ..............................................................................................57

3.7 The Objective Function.................................................................................................58

3.7.1 Weights..................................................................................................................58

3.7.2 Covariance Matrices..............................................................................................59

4. The PEST Control File.........................................................................................................61

4.1 Introduction...................................................................................................................61

4.1.1 General ..................................................................................................................61

4.1.2 The Role of the PEST Control File .......................................................................61

4.1.3 Some Specifications..............................................................................................61

4.1.4 Comments, Blank Lines and “++” Lines ..............................................................63

4.2 Control Data Section.....................................................................................................64

4.2.1 General ..................................................................................................................64

4.2.2 First Line ...............................................................................................................64

4.2.3 Second Line...........................................................................................................64

4.2.4 Third Line..............................................................................................................64

4.2.5 Fourth Line............................................................................................................66

4.2.6 Fifth Line...............................................................................................................67

4.2.7 Sixth Line ..............................................................................................................71

4.2.8 Seventh Line..........................................................................................................74

4.2.9 Eighth Line............................................................................................................78

4.2.10 Ninth Line ...........................................................................................................81

4.3 Sensitivity Reuse Section..............................................................................................83

4.4 Singular Value Decomposition Section ........................................................................83

4.4.1 General ..................................................................................................................83

4.4.2 Second Line...........................................................................................................84

4.4.3 Third Line..............................................................................................................84

4.4.4 Fourth Line............................................................................................................85

4.5 LSQR Section ...............................................................................................................85

4.5.1 Second Line...........................................................................................................86

4.5.2 Third Line..............................................................................................................86

4.5.3 Fourth Line............................................................................................................87

4.5.4 Some Notes ...........................................................................................................87

4.6 Automatic User Intervention Section............................................................................88

4.7 SVD Assist Section.......................................................................................................88

4.8 Parameter Groups Section.............................................................................................89

4.8.1 General ..................................................................................................................89

4.8.2 Parameter Group Variables...................................................................................89

4.9 Parameter Data Section.................................................................................................92

4.9.1 General ..................................................................................................................92

4.9.2 First Part ................................................................................................................93

4.9.3 Second Part............................................................................................................96

4.10 Observation Groups Section .......................................................................................96

4.11 Observation Data Section............................................................................................97

4.12 Derivatives Command Line Section ...........................................................................98

4.13 Model Command Line Section ...................................................................................98

4.14 Model Input/Output Section......................................................................................101

4.15 Prior Information Section..........................................................................................102

4.16 Predictive Analysis Section.......................................................................................104

4.17 Regularisation Section ..............................................................................................104

4.18 Pareto Section............................................................................................................104

4.19 Covariance Matrix Files............................................................................................105

4.19.1 General ..............................................................................................................105

4.19.2 Format of a Covariance Matrix File ..................................................................106

5. Running PEST ...................................................................................................................108

5.1 Introduction.................................................................................................................108

5.1.1 General ................................................................................................................108

5.1.2 Checking PEST’s Input Data ..............................................................................108

5.1.3 Versions of PEST................................................................................................108

5.1.4 Starting PEST......................................................................................................109

5.1.5 Command Line Switches ....................................................................................109

5.2 The PEST Run Record File.........................................................................................114

5.2.1 An Example.........................................................................................................114

5.2.2 Echoing the Input Data Set..................................................................................123

5.2.3 The Parameter Estimation Record.......................................................................123

5.2.4 Optimised Parameter Values and Confidence Intervals......................................125

5.2.5 Observations and Prior Information....................................................................126

5.2.6 Objective Function ..............................................................................................127

5.2.7 Correlation Coefficient........................................................................................127

5.2.8 Analysis of Residuals..........................................................................................127

5.2.9 Kullback-Leibler (K-L) Information Loss Statistics...........................................127

5.2.10 Post-Calibration Parameter Covariance Matrix ................................................128

5.2.11 Correlation Coefficient Matrix..........................................................................129

5.2.12 Normalised Eigenvector Matrix and Eigenvalues.............................................129

5.3 Other PEST Output Files ............................................................................................130

5.3.1 General ................................................................................................................130

5.3.2 Parameter Value File...........................................................................................130

5.3.3 Parameter Sensitivity File ...................................................................................131

5.3.4 Observation Sensitivity File ................................................................................134

5.3.5 Residuals File ......................................................................................................135

5.3.6 Interim Residuals File .........................................................................................136

5.3.7 The Matrix File....................................................................................................136

5.3.8 The Condition Number File ................................................................................137

5.3.9 Singular Value Decomposition File ....................................................................138

5.3.10 LSQR Output File .............................................................................................138

5.3.11 Run Management Record File...........................................................................138

5.3.12 Pareto Output Files............................................................................................138

5.3.13 The Jacobian Matrix File...................................................................................138

5.3.14 Resolution Data File..........................................................................................139

5.3.15 Other Files.........................................................................................................139

5.3.16 PEST’s Screen Output.......................................................................................139

5.3.17 Run-time Errors.................................................................................................140

5.4 Stopping and Restarting PEST....................................................................................141

5.4.1 Interrupting PEST Execution ..............................................................................141

5.4.2 Restarting PEST ..................................................................................................141

5.4.3 Why Stop PEST?.................................................................................................141

5.5 If PEST Won’t Work ..................................................................................................142

5.5.1 General ................................................................................................................142

5.5.2 Model Output File not Found..............................................................................142

5.5.3 Objective Function Gradient Zero.......................................................................142

5.5.4 Erratic Objective Function Behaviour caused by Bad Derivatives.....................143

5.5.5 Other Factors Leading to Erratic Objective Function Behaviour .......................144

5.5.6 Excessive Number of Model Runs......................................................................144

5.5.7 Discontinuous Problems......................................................................................144

5.5.8 Parameter Correlation and Insensitivity..............................................................145

5.6 PEST Postprocessing ..................................................................................................145
 

5.6.1 General ................................................................................................................145

5.6.2 Calibration as Hypothesis-Testing ......................................................................145

5.6.3 Traditional Statistics............................................................................................147

5.6.4 Statistics Appropriate to Regularised Inversion..................................................147

5.6.5 Information Content of the Calibration Dataset..................................................147

5.6.6 Model Outputs based on Optimal Parameter Values ..........................................148 6. Intervention........................................................................................................................149

6.1 Introduction.................................................................................................................149

6.2 User Intervention.........................................................................................................149

6.2.1 Aberrant PEST Behaviour in the Absence of Regularisation .............................149

6.2.2 Fixing the Problem..............................................................................................150

6.2.3 The Parameter Hold File .....................................................................................150

6.2.4 Re-calculating the Parameter Upgrade Vector....................................................152

6.2.5 Maximum Parameter Change..............................................................................153

6.3 Automatic User Intervention.......................................................................................153

6.3.1 Concepts..............................................................................................................153

6.3.2 Automatic User Intervention Control Variables .................................................154

6.3.3 A Note on Default Automatic User Intervention Settings ..................................158

6.4 Bad Derivatives Mitigation.........................................................................................159

6.4.1 General ................................................................................................................159

6.4.2 Implementation....................................................................................................159

7. Sensitivity Reuse................................................................................................................161

7.1 Introduction.................................................................................................................161

7.2 Implementation Details...............................................................................................161

7.2.1 Activating Sensitivity Reuse ...............................................................................161

7.2.2 Sensitivity Reuse Control Variables ...................................................................161

8. Predictive Analysis ............................................................................................................164 8.1 Introduction.................................................................................................................164

8.2 Predictive Analysis Mode ...........................................................................................165

8.3 Predictive Analysis Control Variables........................................................................167

8.3.1 The PESTMODE Variable..................................................................................167

8.3.2 Predictive Analysis Section of the PEST Control File........................................167

8.3.3 User Intervention.................................................................................................173

8.4 Confidence and Predictive Intervals ...........................................................................173

8.4.1 General ................................................................................................................173

8.4.2 One Methodology for Accommodation of Predictive Noise ..............................174

8.4.3 An Alternative Methodology ..............................................................................175

8.4.4 Objective Function Constraints...........................................................................175

8.4.5 Implementation in PEST .....................................................................................176

8.5 Model-Based Hypothesis Testing ...............................................................................176

9. Tikhonov Regularisation....................................................................................................178

9.1 General ........................................................................................................................178

9.1.1 Advantages of Highly Parameterized Inversion..................................................178

9.1.2 Tikhonov Regularisation .....................................................................................178

9.1.3 Measurement and Regularization Objective Functions ......................................179

9.1.4 Target Measurement Objective Function............................................................180

9.1.5 Solution Mechanism............................................................................................181

9.1.6 Termination Criteria............................................................................................181

9.2 Regularisation and the PEST Control File ..................................................................182

9.2.1 Setting the Mode .................................................................................................182

9.2.2 Observation Groups.............................................................................................182

9.2.3 Regularisation Section.........................................................................................182

9.3 Regularisation Weight Relativity Adjustment ............................................................187

9.3.1 Overview .............................................................................................................187

9.3.2 IREGADJ Settings of 1 and 2 .............................................................................188

9.3.3 IREGADJ Setting of 3.........................................................................................189

9.3.4 IREGADJ Settings of 4 and 5 .............................................................................190

9.4 PEST Run-Time and End-of-Run Information...........................................................193

9.4.1 Run-Time Information ........................................................................................193

9.4.2 Post-Run Information..........................................................................................194

9.5 Group-Specific Target Objective Functions ...............................................................195

9.5.1 General ................................................................................................................195

9.5.2 Implementation....................................................................................................197

9.6 A Final Word ..............................................................................................................197

10. SVD-Assist ......................................................................................................................199

10.1 Concepts....................................................................................................................199

10.1.1 Super Parameters...............................................................................................199

10.1.2 Implementation Overview.................................................................................200

10.1.3 How Many Super Parameters? ..........................................................................202

10.1.4 Strengths and Weaknesses ................................................................................202

10.2 SVDAPREP ..............................................................................................................203

10.2.1 Preparing a PEST Input Dataset........................................................................203

10.2.2 Running SVDAPREP........................................................................................204

10.2.3 What SVDAPREP Does....................................................................................206

10.2.4 The New Model Batch File ...............................................................................207

10.3 The PARCALC and PICALC Utilities.....................................................................208

10.3.1 PARCALC ........................................................................................................208

10.3.2 PICALC.............................................................................................................208

10.4 The Super Parameter PEST Control File ..................................................................209 10.4.1 General ..............................................................................................................209

10.4.2 An Important Note on Super Parameter Definition ..........................................209

10.4.3 The “SVD Assist” Section ................................................................................210

10.5 SVD-Assisted Inversion............................................................................................217

10.5.1 What PEST Does...............................................................................................217

10.5.2 Best Parameter Estimates..................................................................................218

10.5.3 Parallelised SVD-Assisted Inversion ................................................................218

10.6 Some Final Points .....................................................................................................219

10.6.1 JCO2JCO and other Utility Programs...............................................................219

10.6.2 Efficiency ..........................................................................................................219

10.6.3 Null Space Monte Carlo....................................................................................220

11. Parallel PEST and BEOPEST..........................................................................................223

11.1 General ......................................................................................................................223

11.1.1 Introduction .......................................................................................................223

11.1.2 Parallelisation of the Jacobian Matrix Calculation Process ..............................224

11.1.3 Parallelisation of the Parameter Upgrade Process.............................................224

11.1.4 Communication Overheads...............................................................................224

11.1.5 Installing Parallel PEST and BEOPEST ...........................................................225

11.1.6 The Parallel Run Queue ....................................................................................225

11.2 Parallel PEST – Concepts and Specifications...........................................................225 11.2.1 Model Input and Output Files ...........................................................................225

11.2.2 The Parallel PEST Agent Program....................................................................226

11.2.3 Running the Model on Different Machines.......................................................227

11.2.4 Communications between Parallel PEST and its Agents..................................228

11.2.5 The Parallel PEST Run Management File ........................................................229

11.2.6 Alternative PARLAM Settings .........................................................................233

11.2.7 PARLAM Override ...........................................................................................236

11.2.8 Agent Groups ....................................................................................................236

11.3 Using Parallel PEST..................................................................................................236

11.3.1 Preparing for a Parallel PEST Run....................................................................236

11.3.2 Starting the Agents............................................................................................237

11.3.3 Starting PEST....................................................................................................237

11.3.4 Re-Starting Parallel PEST.................................................................................238

11.3.5 Starting Agents Late..........................................................................................239

11.3.6 Losing Agents ...................................................................................................239

11.3.7 Re-Starting Agents............................................................................................239

11.3.8 Parallelisation of First Model Run ....................................................................240

11.3.9 The Parallel PEST Run Management Record File............................................240

11.3.10 The Importance of the WAIT Variable ...........................................................241

11.3.11 If Parallel PEST does not Respond .................................................................242

11.3.12 An Example.....................................................................................................242

11.4 BEOPEST .................................................................................................................243

11.4.1 Credits ...............................................................................................................243

11.4.2 Some Concepts..................................................................................................243

11.4.3 Versions of BEOPEST......................................................................................244

11.4.4 Running BEOPEST as the Manager .................................................................244

11.4.5 Running BEOPEST as the Agent......................................................................245

11.4.6 Terminating BEOPEST Execution....................................................................245

11.4.7 BEOPEST and SVD-Assist...............................................................................246

11.4.8 Parallelisation of Initial Model Run ..................................................................246

11.4.9 Multiple Command Lines..................................................................................247

11.4.10 The Run Management File, PARLAM and RUN_SLOW_FAC....................247

11.4.11 Run Management Record File.........................................................................248

11.4.12 Agent Groups ..................................................................................................249

11.4.13 Culling Agents.................................................................................................249

11.4.14 Opening a Port to the Outside World ..............................................................249 11.4.15 An Example.....................................................................................................250

12. Model-Calculated Derivatives.........................................................................................251 12.1 Contents of this Chapter............................................................................................251

12.2 Sending a Message to the Model ..............................................................................251

12.3 Multiple Command Lines .........................................................................................252

12.4 Externally-Supplied Derivatives...............................................................................253

12.4.1 General ..............................................................................................................253

12.4.2 External Derivatives File...................................................................................253

12.4.3 File Formats.......................................................................................................254

12.4.4 File Management...............................................................................................255

12.4.5 Derivatives Type ...............................................................................................255

12.4.6 Tied Parameters.................................................................................................256

12.4.7 Combining External and Finite-Difference Derivatives ...................................256

12.4.8 Name of the Derivatives File ............................................................................257

12.4.9 Predictive Analysis Mode .................................................................................257

12.4.10 Parallel PEST and BEOPEST .........................................................................257

12.5 PEST Control Variables............................................................................................257

12.5.1 General ..............................................................................................................257

12.5.2 “Control Data” Section......................................................................................257

12.5.3 “Parameter Data” Section..................................................................................258

12.5.4 “Derivatives Command Line” Section..............................................................259

12.5.5 “Model Command Line” Section......................................................................259

12.6 JUPITER Protocol for External Derivatives.............................................................260

12.6.1 General ..............................................................................................................260

12.6.2 JUPITER Protocol for Model-Calculated Derivatives......................................260

12.6.3 Using JUPITER Derivatives Protocol with PEST ............................................262

12.6.4 Special Considerations......................................................................................262

12.7 Model-Calculated Derivatives and SVD-Assist........................................................263

12.7.1 External Derivatives..........................................................................................263

12.7.2 SVDAPREP ......................................................................................................264

12.8 An Example...............................................................................................................265

13. Pareto Mode .....................................................................................................................268

13.1 The Pareto Front........................................................................................................268

13.2 Exploration of Predictive Credibility........................................................................269

13.2.1 Concepts............................................................................................................269

13.2.2 Implementation..................................................................................................270

13.2.3 Preparations for a PEST Pareto Run .................................................................272

13.2.4 PEST Output Files.............................................................................................273

13.3 Highly Parameterized Inversion as a Trade-off ........................................................275

13.3.1 Concepts............................................................................................................275

13.3.2 Implementation..................................................................................................275

13.3.3 Operational Details............................................................................................277

13.4 Some Further Implementation Details......................................................................278

13.4.1 Parallelisation and Pareto ..................................................................................278

13.4.2 Restarting a Pareto Run.....................................................................................278

13.4.3 Special Considerations for SVD-Assist ............................................................278

13.4.4 Going the Other Way ........................................................................................280

13.4.5 Some Differences and Similarities with Other PEST Modes............................280

13.5 Pareto Support Utilities.............................................................................................281

13.5.1 The PPD2ASC Utility .......................................................................................281

13.5.2 The PPD2PAR Utility .......................................................................................282

14. Observation Re-referencing .............................................................................................283

14.1 Introduction...............................................................................................................283

14.2 General Principles.....................................................................................................283

14.3 Two Observation Re-Referencing Modes.................................................................284

14.3.1 Mode 1...............................................................................................................284

14.3.2 Mode 2...............................................................................................................285

14.4 Activating Observation Re-Referencing...................................................................286

14.5 SVD-Assist and Observation Re-referencing ...........................................................286

14.6 Parallelisation............................................................................................................287

14.7 Restarting ..................................................................................................................287

15. Large Numbers of Parameters .........................................................................................289

15.1 Introduction...............................................................................................................289

15.2 Derivatives Calculation.............................................................................................289

15.3 Versions of PEST......................................................................................................289

15.4 Compressed Internal Jacobian Storage .....................................................................289

15.4.1 Concepts............................................................................................................289

15.4.2 The MAXCOMPDIM Control Variable ...........................................................290

15.4.3 The DERZEROLIM Control Variable ..............................................................291

15.5 Ordering of Observation Groups...............................................................................291

15.6 Linear Regularisation Constraints.............................................................................291

15.7 Trading Memory for Functionality ...........................................................................292

15.8 Accelerated Input of Prior Information.....................................................................293

15.9 Accelerating Input of External Derivatives...............................................................295

15.10 Other Savings..........................................................................................................296 16. PEST-Compatible Global Optimisers..............................................................................297

16.1 CMAES_P.................................................................................................................297

16.1.1 General ..............................................................................................................297

16.1.2 The Algorithm in Brief......................................................................................297

16.1.3 The CMAES_P Implementation of CMA-ES...................................................298

16.1.4 Preparing for a CMAES_P Run ........................................................................299

16.1.5 Running CMAES_P ..........................................................................................301

16.1.6 Supplying a Parameter Covariance Matrix .......................................................305

16.1.7 SVD-Hybridization ...........................................................................................306

16.1.8 CMAES_P Output Files....................................................................................308

16.1.9 Parallelisation ....................................................................................................309

16.1.10 Pseudo-Regularisation.....................................................................................310

16.2 SCEUA_P .................................................................................................................311

16.2.1 Introduction .......................................................................................................311

16.2.2 Using SCEUA_P...............................................................................................311

16.2.3 Parallel SCEUA_P ............................................................................................316

16.2.4 Problem Formulation.........................................................................................318

17. SENSAN..........................................................................................................................319

17.1 Introduction...............................................................................................................319

17.2 SENSAN File Requirements.....................................................................................320

17.2.1 General ..............................................................................................................320

17.2.2 Template Files...................................................................................................320

17.2.3 Instruction Files.................................................................................................320

17.2.4 The Parameter Variation File ............................................................................321

17.2.5 SENSAN Control File.......................................................................................322

17.2.6 Control Data Section .........................................................................................323

17.2.7 SENSAN Files Section......................................................................................324

17.2.8 Model Command Line Section .........................................................................324

17.2.9 Model Input/Output Section..............................................................................324

17.2.10 Issuing a System Command from within SENSAN........................................325

17.3 Running SENSAN ....................................................................................................325

17.3.1 SENSAN Command Line .................................................................................325

17.3.2 Interrupting SENSAN Execution ......................................................................326

17.4 Files Written by SENSAN ........................................................................................326

17.4.1 SENSAN Output Files ......................................................................................326

17.4.2 Other Files used by SENSAN ...........................................................................327

17.5 Sensitivity of the Objective Function........................................................................327

17.6 SENSAN Error Checking and Run-Time Problems.................................................328

17.7 An Example...............................................................................................................329

18. A Simple PEST Example.................................................................................................331

18.1 Parameter Estimation ................................................................................................331

18.1.1 Laboratory Data.................................................................................................331

18.1.2 The Model .........................................................................................................332

18.1.3 Preparing the Template File ..............................................................................335

18.1.4 Preparing the Instruction File ............................................................................336

18.1.5 Preparing the PEST Control File.......................................................................337

18.2 Predictive Analysis....................................................................................................339

18.2.1 Obtaining the Model Prediction of Maximum Likelihood................................339

18.2.2 The Composite Model.......................................................................................340

18.2.3 The PEST Control File......................................................................................341

18.2.4 Template and Instruction Files..........................................................................342

18.2.5 Running PEST...................................................................................................343

19. References........................................................................................................................345

Appendix A. PEST Control File Specifications ....................................................................347

Appendix B. Files Used by PEST..........................................................................................364

B1.1 General .....................................................................................................................364

B1.2 PEST Input Files ......................................................................................................364

B1.3 PEST Output Files....................................................................................................365

5.2.1 示例

当PEST执行时，它将参数估计过程的详细记录写入名为case.rec的文件中，其中case是通过命令行指向的PEST控制文件的文件名基础。当参数和/或观测值数量很大时，该文件可能会变得非常长，以至于用户很难浏览它。如果PEST控制文件“控制数据”部分的VERBOSEREC变量设置为“noverboserec”，则该文件会变得更短。

图5.2显示了这样一个运行记录文件；与图5.2相对应的PEST控制文件如图4.1所示。注意，这个例子并没有证明测量结果和基于优化参数集计算的相应模型结果之间的非常好的拟合。这是因为它是为了演示参数估计过程的许多方面而制作的，这些方面将在以下几页中讨论。还要注意，PEST是在“估计”中运行的。

图5.2 PEST运行记录文件。图4.1显示了相应的PEST控制文件。