在专家系统的历史上，系统透明性的重要性很早就被认识到。在20世纪70年代，MYCIN提出专家系统应该能将他们的推理过程解释给用户^[2]。首先，以系统调试为目的，MYCIN包括了一个RULE指令，当被请求时，询问推理工具目前使用的是哪条规则。规则起初用一种AI语言LISP显示，但后来为了便于理解，尤其是对一些不理解计算机代码的非编程人员，采用英文进行显示。但是很显然这种指令本身不足以使用户确信系统的推理就是符合逻辑的，所提建议是正确的。因此，后来MYCIN的开发者就加入了一个WHY命令，意味着“你为什么让我输入这些数据？”作为响应，系统将显示由目前所要求的输入数据得到的规则。另外，第二个命令，HOW也被添加进来，意指“你如何得到这个结论？”作为响应，系统将显示所采用的规则链，这就是所谓的规则轨迹（rule traces）。从MYCIN的早期到现在，规则轨迹已经保持了解释的最普遍使用形式之一，目前仍广泛地应用在专家系统中。

尽管它们具有有效性和简明性，但规则轨迹（rule traces）也具有很多缺点，限制了其在提高系统透明性方面的有效性。首先，提问的Why-How模式仅仅提供了一种解释的受限形式。用户可能想问其他的问题。比如，“要是…又怎么样？”的问题允许用户去考察改变输入变量值的有效性，从而检测结论对一个给定范围的鲁棒性。“为什么不呢？”的问题或者“你为什么不推断出‘如此如此’是真实的结论呢？”或许也会由想探讨可选解决方案和假设可行性的用户提出。事实上，当探索真实人类专家时，这类问题很普遍。例如，一个财政决策制定专家可能建议用户，由于未来几年经济会膨胀，用户应投资于高度增长的股票。不完全清楚专家建议的用户可能想更深入调查专家去考虑其他的可能性。例如，为什么不是热门股票，为什么不是公债，为什么不是房地产，可选建议的考虑在专家-客户交互中自然地出现。

第二，对用户而言处理和理解规则轨迹经常是很困难的。因为一个规则轨迹是基于规则的显示，它由知识库直接复制，解释的特点是基于规则表达得有多清楚。在规则中出现的变量名应该是有意义的，而且是规则清晰的逻辑，否则规则轨迹将很难理解。为了提高它的清晰度，规则直接由计算机代码产生可以用易于理解的英文代替，也就是大家都知道的伪代码。然而，即使已经转化成了能理解的英文，规则有时仍包含太多的细节，而这是用户不感兴趣的。一部分典型的知识库包含了出现的规则，这些规则仅仅是为了要在计算机上作为算法要被实现。这些规则可能困扰着不需要理解每一个执行细节的用户。规则轨迹将会以通过重写规则以更高层次来表述，或者会被“清理”以便删去相关的困扰细节（当然，用这种方法重写规则的缺点就是每当知识库中有变化的时候，这个任务需要被保持和更新，而由计算机产生的规则轨迹（rule traces）不需要这样的保持，因为它们完全可以自动完成）。不是大多数，而是很多当前的专家系统框架都包括一个特点，就是根据请求产生规则轨迹。

另一个批评将矛头指向了传统的规则轨迹，它指出独立的规则自身不能判断自己的行为；基于此，一个规则经常被称为是不透明的（与透明相反）。让我们看一个简单的规则去理解一下规则如何不透明，因此不能满足想理解一个规则的结论为什么是从它的前件（或条件）得到的用户。在第3章中，我们描写并阐述了揭示宏观经济学知识的因果模型。一条知识可能会用如下规则进行编码：

IF通货膨胀增加

THEN消费者消费减少

这个规则自身根本没有提供出通货膨胀和消费者消费之间关系的理由。一个不了解任何宏观经济学的用户将必须盲目地接收这个规则。我们能而且应该在证明这种规则方面做更好的工作。

一种解决方案是将规则链接到该领域更深层的因果模型。这是一种域模型（domain model）函数，它是一种领域的描述知识，由分类学知识和随机关系这类信息构成。至于分类学知识，域模型可以作为一个分级分类图形的表示或者将一个因果模型作为一种直接图形。为了说明通货膨胀和消费者消费之间的关系，我们在图6-1（该图是图3-19的一部分）中提供了一个因果模型。图中符号表明关系的趋势。因此，图中的顶部路径被解释如下：通货膨胀的增加导致消费者财富的减少，反过来导致消费者消费的降低。下面路径用类似的方式解释如下：通货膨胀的增加导致一个较高的利润率，这又会导致消费者消费的降低。因此，当通货膨胀增加时，两条路径都会通向消费者消费节点，都将导致消费者消费降低。反过来，如果两条路径得到一个冲突的结论，一条路径导致增加，而另一条路径导致减少，我们就需要决定每一条结论的强度，并且计算它们的净效应。这就是我们在第8章提出概率推理的论题时将要讨论的一个主题。

图6-1中的因果模型比简单的IF-THEN规则提供了更多的理由。因此，我们可以通过在一种因果模型中说明因与果的机制来增加系统的透明性。作为选择，我们也可以在知识库中加入更多的规则，实际上，它会产生一个通货膨胀如何影响消费者消费更细密的防护物：

图6-1 说明通货膨胀和消费者消费之间关系的因果模型

IF通货膨胀增加

THEN消费者财富减少

IF消费者财富减少

THEN消费者消费减少

IF通货膨胀增加

THEN利润率增加

IF利润率增加

THEN消费者消费减少

我们也需要包含那些导致反射结论的规则——也就是，当通货膨胀减少时，消费者的消费会增加。

IF通货膨胀减少

THEN消费者财富增加

IF消费者财富增加

THEN消费者消费增加

IF通货膨胀减少

THEN利润率减少

IF利润率减少

THEN消费者消费增加(www.daowen.com)

事实上，我们可能不想增加这些附加的规则，这些可能会使知识库不必要的复杂化。保持规则简单和清楚是相当重要的，这将取决于用户的需要和决策制定任务自身的性质。另一方面，通过将列表中的8个统一成1个，事实上因果关系的所有知识都放入知识库中了。最终结果就是知识被编译到一个单一的不透明规则中。当Clancey谈论“在某种意义上规则就是被“编译”，它们是忽略不必要的步骤——处理普通问题需要的推理演化模式^[3]”时，很好地表达了这种思想。当忽略时，这些中间步骤经常需要后来向一个不理解专家系统如何得到其结论的用户作解释。

提供合适理由的另一种方法就是给每一条规则增加一条文本以进一步地给出解释。这样的规则可以以以下形式呈现：

IF（条件）

THEN（结论）

BECAUSE解释

这个规则的解释部分将包含一个正文的理由，它可以叙述域原则去解释为什么由条件得到结论。例如，叙述域原则的解释部分可以如下加入到规则中：

IF通货膨胀增加

THEN消费者财富减少

BECAUSE“通货膨胀降低了消费者的购买力”

IF消费者财富减少

THEN消费者消费减少

BECAUSE“随着能消费的美元减少，消费者消费下降”

IF通货膨胀增加

THEN利润率增加

BECAUSE“为了减少通货膨胀压力，美国联邦储备系统可能会增加利润率以减缓纸币供应的增长，因此，较高的通货膨胀就会导致较高的利润率”

IF利润率增加

THEN消费者消费减少

BECAUSE“随着利润率的增加，消费者不可能使出贷款去购买商品和服务；因此，消费者消费减少”

通过包括一个文本理由，规则轨迹不仅能显示出规则自身而且也能给出一个英文的解释。因果图和这些解释文本片断一起使用就能比任何一种单独使用提供更多的系统透明性。

在例子中将包括域原则，这比简短的叙述更详尽。它们能描述在域中解决问题的过程和方法；它们也可以叙述附加说明，以指明规则不能应用的环境；它们还可以定义域中困难的术语和分类学的知识。实际上，因为它们以一种自由形式的句型来表达，所以它们可以是任何描述类型，以有助于在IF-THEN规则逻辑下用户能更好地理解逻辑依据。

规则轨迹的最后评论是它们缺乏结构知识。难以理解专家系统的一个原因是规则之间的结构关系不清楚明了。独立规则的一致性（即它们大多是有相同IF-THEN结构单调的规则）意味着用户对它们在知识库中如何组织没有任何实际意义。包含上百条规则的大型知识库中这种组织的缺乏尤其成问题。

我们如何创建一个知识库以便在它的基础上有一种较大型的结构？我们在第5章已经讨论了一种方法。它涉及策略知识的创建^[4]。这时，我们参考解决问题的一种高阶方案或方法。例如，一类解决问题的方案可能是将一个问题分解成子问题，依次又把子问题分解成子子问题（如何解决一个问题的组成部分的等级分类）。如果没有这些高级策略对知识库的作用，那就任专家系统自行其是，结果对用户而言，看起来是用一种相当随意的方式去制定决策。

提供结构的第二种方法就是将规则聚集为总联机程序和信息控制系统，以便它们能以一些形式进行组织。例如，一个由上百条规则组成的知识库可能分成一打或更多的种类，以便一个知识库包含更高阶次的目标以有助于引导用户通读所有的规则。通过做这些，由于知识库包含了离散的、易于理解的部分，则其就更容易理解。理论上这些部分对用户而言应该具有一些直观的吸引力，所以一个系统能用它们作为合适的说明部分。并且这些部分能组织成一种图形，如一个分级、流程图或网络相关图形。在本章后面我们将探讨如何创建知识库的图形化表示。

图形化结构的应用也能帮助用户更有效地跟踪知识库的推理方向。正如早些特别提到的，规则轨迹很难跟踪和理解。将它们翻译成更容易理解的英文能有一定的帮助作用，但只有这点是远远不够的。用户仍很难明白知识库是如何处理这些规则的。因为图形可以提供较大的环境——比如知识库可选的路径可以被可视化，所以可以用来将推理方向可视化。不幸的是，这种环境在规则轨迹中是非常不足的。

正如本节所讨论的，我们在表6-1中为提高专家系统的透明性概括了建议。具体建议整理成三种：（1）规则轨迹、（2）精确理由和（3）结构知识。

表6-1 提高专家系统透明性：具体建议