《终极算法》阅读笔记（一）

type

status

date

slug

summary

category

icon

password

从最少数量的假设和公理出发用逻辑演绎推理的方法解释最大量的经验事实。

——阿尔伯特·爱因斯坦

（逻辑演绎推理的方法解释最大量的经验事实）

网飞不喜欢给你推荐大片

联结学派目前是大放光彩

如果我无法创造某样东西，那么也就无法理解它。

恋爱需要大前提，就是互相吸引。如果没有相互产生吸引，那就会变成单方面的礼貌性回复或者鱼池养鱼。

我发现我的思考很多时候是超出我的能力的，我潜意识里可能就认为如果家里有条件，就应该把孩子早早送出国，不要让他们到了读本科或者读硕士的时候，再等着出来社交，因为人基本过了18岁，价值观和朋友圈、筛选标准基本都会变得稳定，硕士出来读，跟三四十岁移民一代出来没有什么区别，你很难融入当地人的圈子。

开学的时候，参加campus tour，跟一位台湾女生聊天的时候，又遇到了一位高中就在这里上的女生，她所展示出的状态和面容是足以在最开始吸引我的，但是当时感觉她们讲英文很快，而且聊的也不是我擅长的话题，就只是在旁边静静地跟着，听着，然而，更让我对那位女生有了触动。

随后几天，我们又在学校曼宁bar遇到了，我鼓起勇气上前搭话，结果她用英文跟我说，她的朋友在那边，她要立马过去，我当然知道那是假话啦，因为她在那里坐了半小时了，都是一个人，哎，只能说我完全没有吸引到她，甚至让她感到不适了。

哎，我脑中想的是，如果我高中来的话，我就不太愿意再跟过来英文还不咋地的中国人来往了，我更倾向于与当地的生态打交道。

既然我能被她吸引，可能我们想法是有几分相同的。

我还需要提升，但是我发现每次一提升，我的要求就也在提升，我的实际能力却总是低于我要求的对等水平，这是真正困扰我的。

计算机科学通常需要的是准确思维，但机器学习需要的是统计思维。

该给谁打电话，该拜访谁，该说什么

现有的民主制度也有了漏洞

无论是过去的、现在的还是未来的都有可能通过单个通用学习算法来从数据中获得

应该有一个统一的，通用的存在，我们只不过是在那之后又有细化，但是我们的应用绝不是单一化，不可逆，不能改变的。

机器学习十分有魅力，无数先贤都在寻找统一的、能够一通万物的第一性原理类的东西，而机器学习，特别是当前的联结主义派，强大的泛化能力正是在体现这一特征。

我认为大脑很可能是不可解的，他的复杂度太高，就像我们今天面对人类自己搭建的庞大神经网络难于对其为何会有这样好的效果做出严谨分析的困难是一样的。

简洁精妙不是潦草直白

曼德布洛特集合（Mandelbrot Set）

如果世界上的山峰、河流、云朵以及树木都是这些重复程序的产物（分形几何学表明它们就是）

图片中的文本提到了NP完全问题，并以俄罗斯方块游戏作为背景，阐述了其与计算机科学中的理论问题之间的联系。

NP完全问题（NP-Complete Problems）是计算机科学中一个重要的理论概念，属于非确定性多项式时间（NP）问题的一个子类。这些问题有几个关键特征：

验证容易：对于NP问题，给定一个候选解，我们可以在多项式时间内验证其是否是正确解。

求解困难：对于NP完全问题，目前尚未找到多项式时间求解的方法。换句话说，它们是“最难的NP问题”。

归约性质：所有NP问题都可以多项式时间归约到NP完全问题。如果你能高效解决任何一个NP完全问题，就可以解决所有NP问题。

俄罗斯方块和NP完全性的联系在于：

判断给定一系列方块能否在不溢出的情况下堆叠完成，是一个NP完全问题。

这意味着随着问题规模的增大，求解难度呈指数级增长。

总结来说：

理解和掌握NP完全问题，有助于我们认识现实世界中许多难以高效解决的复杂问题。

俄罗斯方块是一个简单易懂的例子，但其背后反映的却是计算机科学中深刻的理论问题。

俄罗斯方块

俄罗斯方块的成功条件并不完全像其他游戏那样有明确的终点或胜利条件，它更像是一种生存游戏，主要目标是延长游戏时间并取得更高的分数。一般来说，成功的标准可以根据以下几个方面来理解：

1. 核心目标：不让方块堆叠到顶部

游戏的主要失败条件是：方块堆叠到屏幕的顶端，无法放置新的方块，游戏结束。

成功条件（相对而言）：通过快速清理行，保持方块堆叠的高度较低，尽量延长游戏时间。

2. 清除行获得高分

玩家通过将方块组合成完整的水平行，这些行会被清除，玩家获得相应的分数。

一次清除多行（例如4行，称为“Tetris”）会获得更高的分数。

成功标准：实现高效的方块放置策略，清除尽量多的行，以追求高分。

3. 追求更高的难度与速度

随着游戏进行，方块下落的速度会逐渐增加，游戏难度不断提升。

玩家要具备更快的反应和更高的决策能力。

成功条件：在高难度下坚持更长时间，展现高水平的技巧。

4. 理论上的完美游戏

虽然在实际操作中，人类很难做到“完美”游戏，但从理论上讲：

如果玩家能够始终正确地放置方块，且永远不会让方块堆叠到顶部，游戏可以无限持续。

然而，由于随机性和人的反应能力限制，这在实际操作中是不可实现的。

小结

俄罗斯方块的“成功条件”并没有终点，它是一场关于耐力、策略和分数的挑战：

短期目标：清除尽量多的行，延长游戏时间。

长期目标：在高难度下坚持更久，创造更高的分数纪录。

因此，玩家的成功更多地依赖于自身设定的目标：例如突破自己的最高分数或挑战极限操作技巧。

大家都变成了体验派，我相信随着物质条件的富裕，各种观念和事物都会变得自由和宽容。

我感觉大家到了一定的年龄都会思考终极的问题

深度思考真的很有必要，认知的提升只能通过自己的大彻大悟。

图灵找到通用计算机的第一个公式

这句话中的核心观点是一个比喻，充满批判性，值得深入分析：

1. “新石油” 比喻

通常，大数据被称为**“新石油”**，这是因为：

石油曾经是工业时代最宝贵的资源，推动了社会变革和经济增长；

大数据在信息时代中扮演了类似角色，可以驱动决策、创造价值、推动创新。

这类说法往往强调数据的价值和潜力，尤其是在人工智能和知识工程领域，通过数据驱动技术实现生产力的飞跃。

2. “骗人的新蛇油”

蛇油（Snake Oil）一词源于19世纪美国的**“蛇油推销员”**，他们声称某种药油可以包治百病，但实际上毫无疗效，完全是骗人的。

将大数据比作“新蛇油”是在暗示：大数据的价值被夸大了，甚至有时候只是个噱头，实际效果并不如宣传的那样神奇。

3. 为什么会有这种批判？

数据质量问题：大数据量大但杂乱，缺乏高质量的数据清洗和处理，可能难以得到有价值的洞察。

算法与分析能力：光有数据不够，缺乏先进的算法和合适的工具，数据就像一堆无用的废石。

过度营销与炒作：一些公司和专家把“大数据”作为噱头来吸引投资，但实际应用效果有限。

噪音与误导：大量无用或错误的数据可能导致错误的结论和决策。

4. 对知识工程师的影响

知识工程师主要专注于将知识进行结构化和工程化，通过规则、数据和推理来解决问题。对他们来说：

处理大数据的核心难题不在于数据量有多大，而在于如何提取有意义的信息。

如果大数据只是徒有其量，没有高质量的数据和有效的方法论，它反而会成为一种负担。

因此，这句话是在提醒人们不要被“大数据”这一概念的炒作迷惑，而是要看到数据背后真正的挑战和价值，特别是对知识工程师这类技术实践者而言。

5. 总结

“新石油”是对大数据潜力的乐观比喻，而“新蛇油”则揭示了大数据可能存在的夸大和误导。

这句话强调了一种理性、批判的态度，呼吁人们在面对大数据热潮时，保持清醒，聚焦数据的真正质量和实际应用。

归约一个问题转换成另外一个问题的步骤

如果你可以高效解决这个问题，那么你也可以解决另外的问题，进而推导到你可以解决所有问题

科学经历了三个时期：布拉赫时期、开普勒时期、牛顿时期。对于布拉赫时期，我们收集了很多数据，就像第谷·布拉赫日复一日、年复一年耐心记录行星的位置那样。对于开普勒时期，我们使经验规律符合数据，就像开普勒对行星运动所做的那样。对于牛顿时期，我们发现了更深刻的真理。

NP完全问题我们都在思考NP完全问题，这个问题是所有计算机专业学习算法时很早就会遇到、需要思考的问题，我们所有人都会在那么一瞬间思考所谓的终极算法，一个算法高效解决所有问题。

计算机从业者们的工作内容是与复杂性作斗争，无论是时间复杂性，还是空间（内存）复杂性。无数人工作、研究的最终目的，是想出一个终极算法，一个算法就可以高效解决所有问题（NP完全问题）。

机器学习五大门派下的联结主义学派在近几年大放异彩，神经网络依靠单层叠多个感知机，并通过构造多层网络结构与充裕的数据，就可以展现出惊人的泛化能力，符合我对该终极算法的大体构想，底层应该很简单，构造不复杂，但是却能够通用干许多事情。我们离终极又近了一步。

未来属于那些深深懂得如何将自己的独特专长与算法的擅长结合起来的人。简单说，未来属于会“整活”的人，拥有一个有价值的idea会变得愈发重要。

计算机从业者的核心工作，就是与复杂性进行斗争——无论是时间复杂度，还是空间（内存）复杂度。无数人的努力与研究，最终都是为了寻找一个“终极算法”，即能够高效解决所有问题的方案（如NP完全问题）。

近年来，机器学习五大流派之一的联结主义学派大放异彩。神经网络通过堆叠多层感知机，构建起深度网络结构，并依托海量数据，展现出了令人惊叹的泛化能力。这种特性恰好符合我对“终极算法”的设想：底层结构简单而不复杂，却能够广泛适用于多种任务，具备强大的通用性。在通向“终极算法”的道路上，我们似乎又向前迈进了一步。

未来属于那些能够将自身独特专长与算法优势深度结合的人。简而言之，未来属于那些善于“整活”的人——拥有一个有价值的创意和想法，将变得愈发重要。