在培根抨击亚里士多德用形式因和目的因作科学描述之前，数学和经验主义证明的关系就已经固定下来了。当天文学家托勒密（约公元２００年）提出宇宙的地心说时，他用数学运算的经验主义证明来证实自己学说的正确性。群星按照数学的精度（包括较小的调整在内）进入天空的位置。可是，这些经验主义证据并未使中世纪的哲学唯理主义者们产生深刻印象。他们认为不仅仅需要数学运算和观察，还需要哲学证据。
这种证据应以不言自明的、看来有理的根据为基础，就如曾用于第一因的论证或证明上帝造就了可以想象的行星的完美圆形运动的根据一样。中世纪犹太哲学家摩西迈蒙尼德、阿拉伯哲学家阿威罗伊和天主教神学家阿奎那（约１２００年的著作）都将数学证明和哲学证明区别开来，并且都坚定地信赖哲学证明。
也有一个举世无双的思想家把这两种证明方式结合在一起，这就是哥白尼（约１５００年）。虽然他的日心说已被观察和数学计算证实，他还是以如下的 “ 事实 ” 作为他的地球引力说的基础：即当物质自行确定其本身界限时，它会自然而然地压缩成球体。雨点落向地面时形成 “ 自然的 ” 球体，因此与地球的形状相符。这个很容易想象的论证因为看来有理，就比当时被提出来以证实日心说的那些极其难以置信的（在当时！）经验主义论据和数学证明更能让人接受。甚至培根也批评哥白尼，认为他太热衷于把假设引入他的日心说，为的是使数学的运算看来正确。
这一点就告诉我们，使经验主义科学兴起的基本问题是一个人的理论陈述的源泉问题。在解释我们怎样才能科学地认识任何事物时，培根就像一个哲学唯理主义者那样推理，对观察的事实可允许“塞进”多少东西的基本原则提起争论。他不是怀疑形象地解释理论或以似乎有理的方式理解被检验的理论的必要性。他只是想要减少那些似乎有理的成分，剔除那些有赖于目的阐释的部分。如果说大自然有秩序，培根认为，这种秩序不能通过某种先行的、有意图的设计来加以解释，它只是漫无目的的质料原动力因的产物。由于引入假设，哥白尼违反了这一严谨的规则，即只能从所看见的、所感觉的或在日常经验中觉得似乎有理的方面去解释现实。
知识的终极来源问题在哲学上通常具有唯实论以及与之相对的唯心论的争论。唯实论者认为知识总是可以追溯到具体可见的现实存在中的一种固定模式。在这类模式中可以有各种表示关系的方式，但是原则上则有一个真实存在的组织；如果使用的测量程序足够精确，我们可以对这一组织进行逐一的探索。唯心论者则坚持认为，要么现实不存在（例如，我们可能看见的都是上帝精神安排有序的空幻景象），要么这种确实产生在认识中的秩序必须靠人的理智的帮助。因此，把被心智整理成为认识中的现实说成是独立于心智之外的，这在原则上是不可能的，无论这种知识的测量精确与否！经验主义者很可能是唯实论者。但也有一些经验主义者（例如逻辑实证论者）觉得这种区别没有意义，因而抗议把唯实论者的标签贴到他们身上。
同样，虽然不是所有的数学家都会承认自己是唯心论者（很可能大部分都不会承认），但他们通过推理的数学方法来 提供证据的一般特征却带有唯心主义的味道。数学家不需要质料因或动力因的意义来进行研究。通过纯精神的数学证明而求得的内在连贯性可以给人以巨大的的确信感。事实上，作为数学家、天文学家的伽利略认为没有必要在每个例子中都提供经验（研究）证明。只有在两种数学推理方法发生冲突时，伽利略才认为有必要设计一个经验测验（实验）来解决争端。
哲学唯理主义同数学唯理主义的对抗在对伽利略的审判中（约１６１５年）也是显而易见的。这次审判使后来的自然科学家深受其苦，使他们进一步远离目的性描述的方式。虽然经常被说成似乎伽利略是被迫要求放弃他的整个观点，但事实是宗教法庭的教士们仅要求伽利略承认日心说是一种数学假设，而地心说才是哲学真理。到这个历史阶段，托勒密的地心说观点便已在上面讨论过的“从定义上论证”（ｐ１６）的意义上融进了《圣经》中有关宇宙起源的故事中。结果，地球是万物的中心这种似乎有理的理论就被描绘成了神学上的真理。因此而必然产生的情况是：否定这种观点的理论描述就是否定上帝的安排——这正是一种头等重要的目的性解释方法。由于伽利略手中有经验证据，教士们唯一的解决办法就是把日心说看成一种数学运算把戏，并坚持《圣经》中神灵启示而且合乎常识的地心说。如历史所载，这种做法的结果对宗教和所有其他类型的目的论都是灾难性的。
显而易见，到１７世纪人们目睹了哲学证明让位于新出现的被称为科学的证明方法。１６０９年，开普勒用数学与经验证明行星绕椭圆形而不是圆形轨道运行又是一个例子。它证明 了那些常识中看来似乎有理的东西在观察界并不一定站得住脚。常识上似乎有理的东西与经验上观察到的东西之间这一决裂是我们乐意接受的，它最清楚地把中世纪哲学家与现代科学家区分开来了。并且，数学的方便之处在于它能对现实中所观察到的东西进行记录和跟踪而不必形象地解释正在发生的东西为什么会发生。数学如此抽象，它允许数学家在理论上不受约束，允许数学家有时对他正在记录或正在跟踪的东西究竟是什么，可以一无所知。
这方面有一个完美的例子。牛顿爵士坦率地承认，他不能把他的地心引力的数学概念形象地描绘成实际上存在于观察中。牛顿在一封写给同事的信（约１７２５年）里告诫说： “ 你有时说引力对物质来说是基本和固有的，请不要把那个概念归于我，因为我从不假装懂得引力的起因 …… 如果没有别的物料作媒介，既无生命亦无灵魂的物质竟然会作用于并影响别的物质而又互不接触，这是不可理解的。 ” 如果我们用原因说来解释，那牛顿就是基本上承认，尽管他能够用形式因和目的因的数学操作方法来推理，并由此得到一个宇宙是怎样被组织起来的理论（数学唯理主义），但他不能用质料因和动力因的描述（哲学唯理主义）来填充这幅图画。虽然牛顿不屑于在数学领域外作假设，但他的后继者们即统称为牛顿主义者的人们却热衷于填充这一抽象。他们引入诸如以太那样的概念，以便使他们能够在像一架机器似的宇宙形象中形象地描绘引力。
他们通过利用 “ 定律 ” 这个词的双重意义达到这一点。牛顿的引力定律是一个数学假设，首先被证明在数学空间里 （即没有广延性）成立，然后再应用于现实。但是“定律”也可以指一种由实验或某个天文规律反复观察到的结果，在此，数学测量和运算在记录和跟踪这些结果的过程中被当作一种辅助手段来使用。“定律”的第一种用法完全依赖形式因果关系的意义，但在后一种用法里，由于我们正在观察具体可见的事件，包括早期事件对后期事件的影响，所以这很容易就暗示着数学的规律性仅仅揭示那些被实际上观察到“在大自然中”发生的、潜在质料因和动力因产生出来的模式。
甚至牛顿运用的那种数学也能保证他会采取我们在上面目睹他遵循的跟踪方法。那就是，他采纳了笛卡尔而不是欧几里得的几何设想。欧几里得给一直线下的定义是两点之间的最短距离，而笛卡尔给直线下的定义是沿直线函数独立运动的点。所有别的几何图形如椭圆或圆都同样被描绘成一运动点形成的线。对欧几里得式科学家来说，静止的物体是处于它的本然状态而运动则需要解释。但对牛顿式科学家来说，观察到的现实都已？在运动中，因此，需要加以解释的是出现在现实中的各种物体之间的相对位移。而且，正如我们在上面指出的，牛顿式科学家也很容易把大自然中变化的流体状态看成一支动力因果关系之流。
培根的科学描述同笛卡尔的数学结合在一起终于导致拉普拉斯的乐观主义机械论观点（约１８００年）： “ 一个能了解诸原子在任何瞬间的位置和运动的超人才智能够预测出未来事件的整个过程。 ” 上帝依然存在于这一画图之中，被看作数学计算正确的终极源泉，正像上帝也曾总被看作世界完美的源泉一样。宇宙有如一台大时钟，装有永恒上紧了的发条、滑 轮、齿轮和推动别的部件的部件；或不像时钟，这要取决于存在于这些具体可见的部件之间的接触和在时间上这种接触的频度。哲学唯理主义早已从神学论证转向科学论证了，但是，对哲学证明作形象的描绘和常识性理解在牛顿的机器比喻中被挽救下来了（即质料因和动力因果关系处于最高地位），但这种情况并没有持续很久。
在麦克斯韦的理论（约１７０年）中，电磁现象则完全由数学方程来解释。这一理论一劳永逸地确立，现代物理学家主要致力于研究其数学符号系统的各种关系。尽管麦克斯韦的确曾试图通过运用以太概念来建立他本人的机械论观点，但赫兹随后却为所有现代物理学家作了概括：“麦克斯韦的理论只不过是麦克斯韦的方程，也就是说，问题不在于这些方程是否形象化，即它们能否被机械地加以解释；问题只在于是否能从这些可以通过纯机械性实验检验的方程中得出形象的结论。”由赫兹、马赫、普安卡雷和杜安领导的１９世纪和２０世纪物理学再一次将数学理论置于单纯的观察和测量之上。事实上，正如马赫和杜安所表明的，在一个理论建立起来以前，是没有什么“单纯的观察或测量这样的东西加入进来的。所有的观察、所有的事实在经验上确定下来之前本身就是理论构架。
数学唯理主义对哲学唯理主义的最后胜利发生在２０世纪。爱因斯坦的广义相对论显示，几何学赖以为基础的假想并不是被嵌进拉普拉斯的完美规律性观点赖以为基础的那种刻板的动力因果关系里的。之所以如此是因为量具、仪表和光线的机械特性本身就受时空连续体中各种变化无常的“ 检测值”的影响。人作为观察者也成了所有事实资料的相对性之中的一个因素。这一点在亚原子物理学中比任何其他地方更显而易见了。在亚原子物理学中，我们并没有发现培根曾指明的那个可靠的质料和动力因基础结构，而是发现现实正从我们的思维理解中溜走。正如玻尔在１９２７年表达事物时所说的：“……量子假设意味着任何原子现象的观察必然会涉及不可忽视的观察者（即人）的作用。因此，一个在普通物理意义上的独立现实既不能归因于种种现象，也不能归因于观察者。观察的概念毕竟是任意的，因为它取决于哪些客体被包括在行将受到观察的系统之内。”
尽管从某种意义上说，这是对唯心论的让步，但这也是对下列双方的告诫——一方认为一切认识