计算机科学中最重要的32个算法

gxqcn

　　奥地利符号计算研究所（Research Institute for Symbolic Computation，简称RISC）的Christoph Koutschan博士在自己的页面上发布了一篇文章，提到他做了一个调查，参与者大多数是计算机科学家，他请这些科学家投票选出最重要的算法，以下是这次调查的结果，按照英文名称字母顺序排序。

• A* 搜索算法(A* search algorithm)
  图形搜索算法，从给定起点到给定终点计算出路径。其中使用了一种启发式的估算，为每个节点估算通过该节点的最佳路径，并以之为各个地点排定次序。算法以得到的次序访问这些节点。因此，A*搜索算法是最佳优先搜索的范例。
  
• 集束搜索（又名定向搜索，Beam Search）
  最佳优先搜索算法的优化。使用启发式函数评估它检查的每个节点的能力。不过，集束搜索只能在每个深度中发现最前面的m个最符合条件的节点，m是固定数字——集束的宽度。
  
• 二分查找（Binary Search）
  在线性数组中找特定值的算法，每个步骤去掉一半不符合要求的数据。
  
• 分支界定算法（Branch and Bound）
  在多种最优化问题中寻找特定最优化解决方案的算法，特别是针对离散、组合的最优化。
  
• Buchberger算法
  一种数学算法，可将其视为针对单变量最大公约数求解的欧几里得算法和线性系统中高斯消元法的泛化。
  
• 数据压缩
  采取特定编码方案，使用更少的字节数（或是其他信息承载单元）对信息编码的过程，又叫来源编码。
  
• Diffie-Hellman密钥交换算法
  一种加密协议，允许双方在事先不了解对方的情况下，在不安全的通信信道中，共同建立共享密钥。该密钥以后可与一个对称密码一起，加密后续通讯。
  
• Dijkstra算法
  针对没有负值权重边的有向图，计算其中的单一起点最短算法。
  
• 离散微分算法（Discrete differentiation）
  
• 动态规划算法（Dynamic Programming）
  展示互相覆盖的子问题和最优子架构算法
  
• 欧几里得算法（Euclidean algorithm）
  计算两个整数的最大公约数。最古老的算法之一，出现在公元前300前欧几里得的《几何原本》。
  
• 期望-最大算法（Expectation-maximization algorithm，又名EM-Training）
  在统计计算中，期望-最大算法在概率模型中寻找可能性最大的参数估算值，其中模型依赖于未发现的潜在变量。EM在两个步骤中交替计算，第一步是计算期望，利用对隐藏变量的现有估计值，计算其最大可能估计值；第二步是最大化，最大化在第一步上求得的最大可能值来计算参数的值。
  
• 快速傅里叶变换（Fast Fourier transform，FFT）
  计算离散的傅里叶变换（DFT）及其反转。该算法应用范围很广，从数字信号处理到解决偏微分方程，到快速计算大整数乘积。
  
• 梯度下降（Gradient descent）
  一种数学上的最优化算法。
  
• 哈希算法（Hashing）
  
• 堆排序（Heaps）
  
• Karatsuba乘法
  需要完成上千位整数的乘法的系统中使用，比如计算机代数系统和大数程序库，如果使用长乘法，速度太慢。该算法发现于1962年。
  
• LLL算法（Lenstra-Lenstra-Lovasz  lattice reduction）
  以格规约（lattice）基数为输入，输出短正交向量基数。LLL算法在以下公共密钥加密方法中有大量使用：背包加密系统（knapsack）、有特定设置的RSA加密等等。
  
• 最大流量算法（Maximum flow）
  该算法试图从一个流量网络中找到最大的流。它优势被定义为找到这样一个流的值。最大流问题可以看作更复杂的网络流问题的特定情况。最大流与网络中的界面有关，这就是最大流-最小截定理（Max-flow min-cut theorem）。Ford-Fulkerson 能找到一个流网络中的最大流。
  
• 合并排序（Merge Sort）
  
• 牛顿法（Newton's method）
  求非线性方程（组）零点的一种重要的迭代法。
  
• Q-learning学习算法
  这是一种通过学习动作值函数（action-value function）完成的强化学习算法，函数采取在给定状态的给定动作，并计算出期望的效用价值，在此后遵循固定的策略。Q-leanring的优势是，在不需要环境模型的情况下，可以对比可采纳行动的期望效用。
  
• 两次筛法（Quadratic Sieve）
  现代整数因子分解算法，在实践中，是目前已知第二快的此类算法（仅次于数域筛法Number Field Sieve）。对于110位以下的十位整数，它仍是最快的，而且都认为它比数域筛法更简单。
  
• RANSAC
  是“RANdom SAmple Consensus”的缩写。该算法根据一系列观察得到的数据，数据中包含异常值，估算一个数学模型的参数值。其基本假设是：数据包含非异化值，也就是能够通过某些模型参数解释的值，异化值就是那些不符合模型的数据点。
  
• RSA
  公钥加密算法。首个适用于以签名作为加密的算法。RSA在电商行业中仍大规模使用，大家也相信它有足够安全长度的公钥。
  
• Schönhage-Strassen算法
  在数学中，Schönhage-Strassen算法是用来完成大整数的乘法的快速渐近算法。其算法复杂度为：O(N log(N) log(log(N)))，该算法使用了傅里叶变换。
  
• 单纯型算法（Simplex Algorithm）
  在数学的优化理论中，单纯型算法是常用的技术，用来找到线性规划问题的数值解。线性规划问题包括在一组实变量上的一系列线性不等式组，以及一个等待最大化（或最小化）的固定线性函数。
  
• 奇异值分解（Singular value decomposition，简称SVD）
  在线性代数中，SVD是重要的实数或复数矩阵的分解方法，在信号处理和统计中有多种应用，比如计算矩阵的伪逆矩阵（以求解最小二乘法问题）、解决超定线性系统（overdetermined linear systems）、矩阵逼近、数值天气预报等等。
  
• 求解线性方程组（Solving a system of linear equations）
  线性方程组是数学中最古老的问题，它们有很多应用，比如在数字信号处理、线性规划中的估算和预测、数值分析中的非线性问题逼近等等。求解线性方程组，可以使用高斯—约当消去法（Gauss-Jordan elimination），或是柯列斯基分解（ Cholesky decomposition）。
  
• Strukturtensor算法
  应用于模式识别领域，为所有像素找出一种计算方法，看看该像素是否处于同质区域（ homogenous region），看看它是否属于边缘，还是是一个顶点。
  
• 合并查找算法（Union-find）
  给定一组元素，该算法常常用来把这些元素分为多个分离的、彼此不重合的组。不相交集（disjoint-set）的数据结构可以跟踪这样的切分方法。合并查找算法可以在此种数据结构上完成两个有用的操作：
  • 查找：判断某特定元素属于哪个组。
  • 合并：联合或合并两个组为一个组。
• 维特比算法（Viterbi algorithm）
  寻找隐藏状态最有可能序列的动态规划算法，这种序列被称为维特比路径，其结果是一系列可以观察到的事件，特别是在隐藏的Markov模型中。
  

以上就是Christoph博士对于最重要的算法的调查结果，你们熟悉哪些算法？又有哪些算法是你们经常使用的？


注：以上转自http://www.infoq.com/cn/news/2012/08/32-most-important-algorithms，略作排版改编。

liangbch

自己实现过3，6，11，13，17，20，21，29。
对8，15，16，25,26有所了解。

gxqcn

楼上厉害！
我自己实现过：3、11、13、17、21、25、29，
对 27、28 略有了解。

mathe

1,2,4,6,8,10,11,13,15,21,25,29实现过
7,14,16,20,27,28,32都了解

KeyTo9_Fans

mathe不可能没实现过二分查找（Binary Search）算法呀。

我实现过的算法：
3、二分查找（Binary Search）
8、Dijkstra算法
10、动态规划算法（Dynamic Programming）
11、欧几里得算法（Euclidean algorithm）
14、梯度下降（Gradient descent）
15、哈希算法（Hashing）
16、堆排序（Heaps）
19、最大流量算法（Maximum flow）
20、合并排序（Merge Sort）
21、牛顿法（Newton's method）
29、求解线性方程组（Solving a system of linear equations）
31、合并查找算法（Union-find）

未实现，但了解的算法：
1、A* 搜索算法(A* search algorithm)
2、集束搜索（又名定向搜索，Beam Search）
4、分支界定算法（Branch and Bound）
6、数据压缩
13、快速傅里叶变换（Fast Fourier transform，FFT）
25、RSA
27、单纯型算法（Simplex Algorithm）

不了解的算法：
5、Buchberger算法
7、Diffie-Hellman密钥交换算法
9、离散微分算法（Discrete differentiation）
12、期望-最大算法（Expectation-maximization algorithm，又名EM-Training）
17、Karatsuba乘法
18、LLL算法（Lenstra-Lenstra-Lovasz  lattice reduction）
22、Q-learning学习算法
23、两次筛法（Quadratic Sieve）
24、RANSAC
26、Schönhage-Strassen算法
28、奇异值分解（Singular value decomposition，简称SVD）
30、Strukturtensor算法
32、维特比算法（Viterbi algorithm）

根据liangbch、gxqcn 、mathe 、和Fans的回复，得到熟知程度之和最高的算法如下（就当作mathe实现过二分查找）：
3、二分查找（Binary Search）
11、欧几里得算法（Euclidean algorithm）
21、牛顿法（Newton's method）
29、求解线性方程组（Solving a system of linear equations）

熟知程度之和第二高的算法如下（就当作mathe没实现过二分查找）：
3、二分查找（Binary Search）
6、数据压缩
8、Dijkstra算法
15、哈希算法（Hashing）
20、合并排序（Merge Sort）

mathe

弄错了，3弄成2了。
不过感觉这里的很多“算法”其实不是一种具体的算法，而是一类解决问题的思路。比如动态规划
另外有些算法看名字和解释好像过于简单，不知道是不是我理解错了。
比如离散微分算法是不是就是用差分代替微分，如果这样就太简单了。同样期望最大算法故名思意就是利用概率论里的极大似然估计，另外合并查找算法，集束搜索等同样看上去都很简单

郭先抢

两次筛法（Quadratic Sieve）
这个应该翻译成二次筛法，两次算法，给人的感觉是筛了两次