算法学习之分治法(divide and conquer)

什么是分治法

字面上的解释是“分而治之”，就是把一个复杂的问题分成两个或更多的相同或相似的子问题，直到最后子问题可以简单的直接求解，原问题的解即子问题的解的合并。

解决问题的流程

divide and conquer divide and conquer

分治法适用情况

分治法所能解决的问题一般具有以下几个特征：

1\. 该问题的规模缩小到一定的程度就可以容易地解决

2\. 该问题可以分解为若干个规模较小的相同问题，即该问题具有最优子结构性质。

3\. 利用该问题分解出的子问题的解可以合并为该问题的解；

4\. 该问题所分解出的各个子问题是相互独立的，即子问题之间不包含公共的子问题。

第一条特征是绝大多数问题都可以满足的，因为问题的计算复杂性一般是随着问题规模的增加而增加；

第二条特征是应用分治法的前提它也是大多数问题可以满足的，此特征反映了递归思想的应用；、

第三条特征是关键，能否利用分治法完全取决于问题是否具有第三条特征，如果具备了第一条和第二条特征，而不具备第三条特征，则可以考虑用贪心法或动态规划法。

第四条特征涉及到分治法的效率，如果各子问题是不独立的则分治法要做许多不必要的工作，重复地解公共的子问题，此时虽然可用分治法，但一般用动态规划法较好。

应用问题

归并排序

可以看到排序问题正好满足以上提到的四个特征。
归并排序通过将待排序数组分为两个部分，递归地处理它们，最终将两个排序好的部分合并起来。
值得一提的是归并排序通过数组的下标分割子问题，即每次都把数组分为两半。

伪代码如下

merge_sort

merge

例子

例子

快速排序

跟归并排序的思想是类似的，但是快速排序是根据值来分割子问题，即把数组根据一个值分为大于和小于它两个部分。

伪代码如下

quick_sort

partition

例子

例子

对一个有序的数组进行二分搜索，每次比较中间的值，key大于它说明在右边，小于说明左边。

伪代码如下

binary_search binary_search

例子

例子

image.png

总结

分治法实际上就是类似于数学归纳法，找到解决本问题的求解方程公式，然后根据方程公式设计递归程序。

1. 一定是先找到最小问题规模时的求解方法
2. 然后考虑随着问题规模增大时的求解方法
3. 找到求解的递归函数式后（各种规模或因子），设计递归程序即可。

参考资料：

五大常用算法之一：分治算法

大整数乘法和Strassen矩阵乘法