分治算法

分治算法的基本思想是将一个规模为N的问题分解为K个规模较小的子问题,这些子问题相互独立且与原问题性质相同。

求出子问题的解,就可得到原问题的解。即一种分目标完成程序算法,简单问题可用二分法完成。

基本思想

当我们求解某些问题时,由于这些问题要处理的数据相当多,或求解过程相当复杂,使得直接求解法在时间上相当长,或者根本无法直接求出。

对于这类问题,我们往往先把它分解成几个子问题,找到求出这几个子问题的解法后,再找到合适的方法,把它们组合成求整个问题的解法。

如果这些子问题还较大,难以解决,可以再把它们分成几个更小的子问题,以此类推,直至可以直接求出解为止。

这就是分治策略的基本思想。

二分法

利用分治策略求解时,所需时间取决于分解后子问题的个数、子问题的规模大小等因素,而二分法,由于其划分的简单和均匀的特点,是经常采用的一种有效的方法,例如二分法检索。

分治法解题的一般步骤:

(1)分解,将要解决的问题划分成若干规模较小的同类问题;

(2)求解,当子问题划分得足够小时,用较简单的方法解决;

(3)合并,按原问题的要求,将子问题的解逐层合并构成原问题的解。

应用场景

运用分治策略解决的问题一般来说具有以下特点:

1、原问题可以分解为多个子问题

这些子问题与原问题相比,只是问题的规模有所降低,其结构和求解方法与原问题相同或相似。

2、原问题在分解过程中,递归地求解子问题

由于递归都必须有一个终止条件,因此,当分解后的子问题规模足够小时,应能够直接求解。

3、在求解并得到各个子问题的解后

应能够采用某种方式、方法合并或构造出原问题的解。

不难发现,在分治策略中,由于子问题与原问题在结构和解法上的相似性,用分治方法解决的问题,大都采用了递归的形式。

在各种排序方法中,如归并排序、堆排序、快速排序等,都存在有分治的思想。

分治算法的时间复杂度

分治算法的时间复杂度分析我们可以用递推公式和递归树。

例如:一个规模为n的问题,每次将其分解为k个子问题,直至子问题的规模为1,合并k个子问题的时间复杂度为O(n).

则原问题的时间复杂度T(n)=kT(n/k)+O(n).

由此可求得起时间复杂度为 O(nlogn).

经典问题

(1)二分搜索

(2)大整数乘法

(3)Strassen矩阵乘法

(4)棋盘覆盖

(5)合并排序

(6)快速排序

(7)线性时间选择

(8)最接近点对问题

(9)循环赛日程表

(10)汉诺塔

合并排序

  [cpp]
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
/************************************* * * Megre_Sort() * 输入:两个数组及长度 *************************************/ void Megre_sort(int *A,int p,int *C,int q) { int *B; int s=0,t=0,k=0,i = 0,r=p+q; B = (int *)malloc(sizeof(int)*(p+q)); while( s <= p && t <= q ) { if(A[s] <= C[t]) { B[k] = A[s]; s++; } else { B[k] = C[t]; t++; } k++; } if (s = q +1) for( i = 0; i <= (r-k);i++) B[k+i] = C[t+i]; else for( i = 0; i <= (r-k);i++) B[k+i] = A[s+i]; for(i = 0; i < p+q ; i++) { printf("%d ",B[i]); } } /************************************* * * BottomUp_Sort() * 输入:数组及长度 *************************************/ void BottomUp_Sort(int n) { int i = 1,s,j; int *A; A = (int*)malloc(sizeof(int)*n); srand( (unsigned)time( NULL ) ); for(i = 0;i < n; i ++) { A[i] = rand(); } while ( i < n) { s = i; i = 2*s; j = 0; while ( j + i <= n) { Megre_sort(A,s,A+s,i); j++; } if ( j + s < n) Megre_sort(A,s,A+s,n-j); } }

快速排序

  [cpp]
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
/************************************* * * Quick_Sort() * 输入:数组及长度 *************************************/ void Quick_Sort(int *A,int low,int high) { if (A == NULL || low >= high) return ; int part = SPLIT(A, low, high); Quick_Sort(A, low, part-1); Quick_Sort(A, part+1, high); } /************************************* * * SPLIT() * 输入:划分数组 *************************************/ int SPLIT(int *a, int beg, int end) { int i,c,x,j; i = beg; x = a[beg]; for(j = beg+1; j <= end; ++j) { if(a[j] <= x) { ++i; if(i != j) { c= a[i]; a[i]=a[j]; a[j] =c; } } } x = a[beg]; a[beg]=a[i]; a[i] = x; return i; }

个人收获

Map-Reduce 是类似的思想

多线程甚至也可以理解为分治的思想。

参考资料

百度百科-分治算法

【算法学习笔记】之分治算法

【博客】点分治算法小结(实用入门篇)

五大常用算法(一) - 分治算法

分治算法总结