0、算法概述
0.1 算法分类
十种常见排序算法可以分为两大类:
- 比较类排序:通过比较来决定元素间的相对次序,由于其时间复杂度不能突破O(nlogn),因此也称为非线性时间比较类排序。
- 非比较类排序:不通过比较来决定元素间的相对次序,它可以突破基于比较排序的时间下界,以线性时间运行,因此也称为线性时间非比较类排序。
0.2 算法复杂度
0.3 相关概念
- 稳定:如果a原本在b前面,而a=b,排序之后a仍然在b的前面。
- 不稳定:如果a原本在b的前面,而a=b,排序之后 a 可能会出现在 b 的后面。
- 时间复杂度:对排序数据的总的操作次数。反映当n变化时,操作次数呈现什么规律。
- 空间复杂度:是指算法在计算机内执行时所需存储空间的度量,它也是数据规模n的函数。
1、冒泡排序(Bubble Sort)
冒泡排序是一种简单的排序算法。它重复地走访过要排序的数列,一次比较两个元素,如果它们的顺序错误就把它们交换过来。走访数列的工作是重复地进行直到没有再需要交换,也就是说该数列已经排序完成。这个算法的名字由来是因为越小的元素会经由交换慢慢“浮”到数列的顶端。
1.1 算法描述
- 比较相邻的元素。如果第一个比第二个大,就交换它们两个;
- 对每一对相邻元素作同样的工作,从开始第一对到结尾的最后一对,这样在最后的元素应该会是最大的数;
- 针对所有的元素重复以上的步骤,除了最后一个;
- 重复步骤 /(1/) ~ /(3/),直到排序完成。
1.2 动图演示
1.3 代码实现
#include <stdio.h>
//交换 a 和 b 的位置的函数
void swap(int *a, int *b);
int main()
{
int array[8] = {49,38,65,97,76,13,27,49};
int i, j;
int key;
//有多少记录,就需要多少次冒泡,当比较过程,所有记录都按照升序排列时,排序结束
for (i = 0; i < 8; i++){
key=0;//每次开始冒泡前,初始化 key 值为 0
//每次起泡从下标为 0 开始,到 8-i 结束
for (j = 0; j+1<8-i; j++){
if (array[j] > array[j+1]){
key=1;
swap(&array[j], &array[j+1]);
}
}
//如果 key 值为 0,表明表中记录排序完成
if (key==0) {
break;
}
}
for (i = 0; i < 8; i++){
printf("%d ", array[i]);
}
return 0;
}
void swap(int *a, int *b){
int temp;
temp = *a;
*a = *b;
*b = temp;
}
2、选择排序(Selection Sort)
选择排序(Selection-sort)是一种简单直观的排序算法。它的工作原理:首先在未排序序列中找到最小(大)元素,存放到排序序列的起始位置,然后,再从剩余未排序元素中继续寻找最小(大)元素,然后放到已排序序列的末尾。以此类推,直到所有元素均排序完毕。
2.1 算法描述
n个记录的直接选择排序可经过n-1趟直接选择排序得到有序结果。具体算法描述如下:
- 初始状态:无序区为R[1..n],有序区为空;
- 第 /(i/) 趟排序 /((i=1,2,3…n-1)/) 开始时,当前有序区和无序区分别为 /(R[1..i-1]/) 和 /(R(i..n)/)。该趟排序从当前无序区中-选出关键字最小的记录 /(R[k]/),将它与无序区的第 /(1/) 个记录 /(R/) 交换,使 /(R[1..i]/) 和 /(R[i+1..n)/) 分别变为记录个数增加 /(1/) 个的新有序区和记录个数减少 /(1/) 个的新无序区;
- /(n-1/) 趟结束,数组有序化了。
2.2 动图演示
2.3 代码实现
public static int[] selectionSort(int[] arr) {
for (int i = 0; i < arr.length - 1; i++) {
//以当前数为基准
int minIndex = i;
//向后遍历,找到比基准更小的数的索引
for (int j = i + 1; j < arr.length; j++) {
if (arr[j] < arr[minIndex]) {
minIndex = j;
}
}
//交换两个数
int tmp = arr[minIndex];
arr[minIndex] = arr[i];
arr[i] = tmp;
}
return arr;
}
2.4 算法分析
表现最稳定的排序算法之一,因为无论什么数据进去都是 /(O(n^2)/) 的时间复杂度,所以用到它的时候,数据规模越小越好。唯一的好处可能就是不占用额外的内存空间了吧。理论上讲,选择排序可能也是平时排序一般人想到的最多的排序方法了吧。
3、插入排序(Insertion Sort)
插入排序(Insertion-Sort)的算法描述是一种简单直观的排序算法。它的工作原理是通过构建有序序列,对于未排序数据,在已排序序列中从后向前扫描,找到相应位置并插入。
3.1 算法描述
一般来说,插入排序都采用in-place在数组上实现。具体算法描述如下:
- 从第一个元素开始,该元素可以认为已经被排序;
- 取出下一个元素,在已经排序的元素序列中从后向前扫描;
- 如果该元素(已排序)大于新元素,将该元素移到下一位置;
- 重复步骤 /(3/),直到找到已排序的元素小于或者等于新元素的位置;
- 将新元素插入到该位置后;
- 重复步骤 /(2/) ~ /(5/)。
3.2 动图演示
3.3 代码实现
public static int[] insertionSort(int[] arr) {
for (int i = 1; i < arr.length; i++) {
int begin = i;
while (begin > 0 && arr[begin] < arr[begin - 1]) {
// 交换相邻两个数
int target = arr[begin - 1];
arr[begin - 1] = arr[begin];
arr[begin] = target;
begin--;
}
}
return arr;
}
3.4 算法分析
插入排序在实现上,通常采用in-place排序(即只需用到 /(O(1)/) 的额外空间的排序),因而在从后向前扫描过程中,需要反复把已排序元素逐步向后挪位,为最新元素提供插入空间。
4、希尔排序(Shell Sort)
1959年Shell发明,第一个突破 /(O(n^2)/) 的排序算法,是简单插入排序的改进版。它与插入排序的不同之处在于,它会优先比较距离较远的元素。希尔排序又叫缩小增量排序。
4.1 算法描述
先将整个待排序的记录序列分割成为若干子序列分别进行直接插入排序,具体算法描述:
- 选择一个增量序列 /(t_1,t_2,…,t_k/),其中 /(t_i>t_j,t_k=1/);
- 按增量序列个数 /(k/),对序列进行 /(k/) 趟排序;
- 每趟排序,根据对应的增量 /(t_i/),将待排序列分割成若干长度为 /(m/) 的子序列,分别对各子表进行直接插入排序。仅增量因子为 /(1/) 时,整个序列作为一个表来处理,表长度即为整个序列的长度。
4.2 动图演示
4.3 代码实现
public static int[] shellSort(int[] arr) {
for (int gap = arr.length / 2; gap > 0; gap /= 2) { //增量
for (int i = gap; i < arr.length; i++) {
for (int j = i - gap; j >= 0 && arr[j] > arr[gap + j]; j -= gap) {
// 交换相邻两个数
int target = arr[j];
arr[j] = arr[gap+j];
arr[gap+j] = target;
}
}
}
return arr;
}
4.4 算法分析
希尔排序的核心在于间隔序列的设定。既可以提前设定好间隔序列,也可以动态的定义间隔序列。动态定义间隔序列的算法是《算法(第4版)》的合著者Robert Sedgewick提出的。
5、归并排序(Merge Sort)
归并排序是建立在归并操作上的一种有效的排序算法。该算法是采用分治法(Divide and Conquer)的一个非常典型的应用。将已有序的子序列合并,得到完全有序的序列;即先使每个子序列有序,再使子序列段间有序。若将两个有序表合并成一个有序表,称为 2-路归并。
5.1 算法描述
- 把长度为 /(n/) 的输入序列分成两个长度为 /(n/2/) 的子序列;
- 对这两个子序列分别采用归并排序;
- 将两个排序好的子序列合并成一个最终的排序序列。
5.2 动图演示
5.3 代码实现
public static int[] mergeSort(int[] arr) {
if (arr.length < 2) {
return arr;
}
int middle = arr.length / 2;
int[] left = Arrays.copyOfRange(arr, 0, middle);
int[] right = Arrays.copyOfRange(arr, middle, arr.length);
return merge(mergeSort(left), mergeSort(right));
}
private static int[] merge(int[] left, int[] right) {
int[] result = new int[left.length + right.length];
int r = 0; //新数组的指针
int i = 0; //left数组的指针
int j = 0; //right数组的指针
// 对两个数列进行排序
while (i < left.length && j < right.length) {
if (left[i] < right[j]) {
result[r++] = left[i++];
} else {
result[r++] = right[j++];
}
}
while (i < left.length) {
result[r++] = left[i++];
}
while (j < right.length) {
result[r++] = right[j++];
}
return result;
}
5.4 算法分析
归并排序是一种稳定的排序方法。和选择排序一样,归并排序的性能不受输入数据的影响,但表现比选择排序好的多,因为始终都是 /(O(nlogn)/)的时间复杂度。代价是需要额外的内存空间。
6、快速排序(Quick Sort)
快速排序的基本思想:通过一趟排序将待排记录分隔成独立的两部分,其中一部分记录的关键字均比另一部分的关键字小,则可分别对这两部分记录继续进行排序,以达到整个序列有序。
6.1 算法描述
快速排序使用分治法来把一个串(list)分为两个子串(sub-lists)。具体算法描述如下:
- 从数列中挑出一个元素,称为 “基准”(pivot);
- 重新排序数列,所有元素比基准值小的摆放在基准前面,所有元素比基准值大的摆在基准的后面(相同的数可以到任一边)。在这个分割结束之后,对基准值的排序就已经完成;
- 递归地(recursive)把小于基准值元素的子数列和大于基准值元素的子数列排序。
6.2 动图演示
6.3 代码实现
public static int[] quickSort(int[] arr, int left, int right) {
if (left < right) {
int partitionIndex = partition(arr, left, right);
quickSort(arr, left, partitionIndex - 1);
quickSort(arr, partitionIndex + 1, right);
}
return arr;
}
private static int partition(int[] arr, int left, int right){
// 设定基准值(pivot)
int pivot = left;
int index = pivot + 1;
for (int i = index; i <= right; i++) {
if (arr[i] < arr[pivot]) {
swap(arr, i, index);
index++;
}
}
swap(arr, pivot, index - 1);
return index - 1;
}
private static void swap(int[] arr, int i, int j) {
int temp = arr[i];
arr[i] = arr[j];
arr[j] = temp;
}
7、堆排序(Heap Sort)
堆排序(Heapsort)是指利用堆这种数据结构所设计的一种排序算法。堆积是一个近似完全二叉树的结构,并同时满足堆积的性质:即子结点的键值或索引总是小于(或者大于)它的父节点。
- 大顶堆:每个节点的值都大于或等于其子节点的值,在堆排序算法中用于升序排列;
- 小顶堆:每个节点的值都小于或等于其子节点的值,在堆排序算法中用于降序排列;
7.1 算法描述
- 将初始待排序关键字序列(/(R_1,R_2….R_n/))构建成大顶堆,此堆为初始的无序区;
- 将堆顶元素R[1]与最后一个元素R[n]交换,此时得到新的无序区(/(R_1,R_2….R_{n-1}/))和新的有序区(/(R_n/)),且满足 /(R[1,2…n-1]<=R[n]/);
- 由于交换后新的堆顶R[1]可能违反堆的性质,因此需要对当前无序区(/(R_1,R_2….R_{n-1}/))调整为新堆,然后再次将R[1]与无序区最后一个元素交换,得到新的无序区(R1,R2….Rn-2)和新的有序区(Rn-1,Rn)。不断重复此过程直到有序区的元素个数为n-1,则整个排序过程完成。
7.2 动图演示
7.3 代码实现
public static int[] sort(int[] arr) {
int length = arr.length;
//1.调整大顶堆
for (int i = length / 2; i >= 0; i--) {
adjustHeap(arr, i, length);
}
//2.交换堆顶元素与末尾元素+调整堆结构
for (int i = length - 1; i > 0; i--) {
swap(arr, 0, i);
length--;
adjustHeap(arr, 0, length);
}
return arr;
}
/**
* 调整堆结构
*
* 将堆按从上到下、从左到右的顺序映射到数组中,用简单的公式描述一下堆的定义就是:
* 大顶堆:arr[i] >= arr[2i+1] && arr[i] >= arr[2i+2]
* 小顶堆:arr[i] <= arr[2i+1] && arr[i] <= arr[2i+2]
*/
private static void adjustHeap(int[] arr, int i, int length) {
int left = 2 * i + 1; //当前节点的左子节点
int right = 2 * i + 2; //当前节点的右子节点
int largest = i; //值最大的节点
if (left < length && arr[left] > arr[largest]) {
largest = left;
}
if (right < length && arr[right] > arr[largest]) {
largest = right;
}
//当前节点与最大子节点比较
if (largest != i) {
swap(arr, i, largest);
adjustHeap(arr, largest, length);
}
}
/**
* 交换数组中的两个数
*/
private static void swap(int[] arr, int i, int j) {
int temp = arr[i];
arr[i] = arr[j];
arr[j] = temp;
}
8、计数排序(Counting Sort)
计数排序不是基于比较的排序算法,其核心在于将输入的数据值转化为键存储在额外开辟的数组空间中。 作为一种线性时间复杂度的排序,计数排序要求输入的数据必须是有确定范围的整数。
8.1 算法描述
- 找出待排序的数组中最大和最小的元素;
- 统计数组中每个值为 /(i/) 的元素出现的次数,存入数组 /(C/) 的第 /(i/) 项;
- 对所有的计数累加(从 /(C/) 中的第一个元素开始,每一项和前一项相加);
- 反向填充目标数组:将每个元素i放在新数组的第 /(C(i)/) 项,每放一个元素就将 /(C(i)/) 减去 /(1/)。
8.2 动图演示
8.3 代码实现
public static int[] countingSort(int[] arr, int maxValue) {
int bucketLen = maxValue + 1;
int[] bucket = new int[bucketLen];
for (int value : arr) {
bucket[value]++;
}
int sortedIndex = 0;
for (int j = 0; j < bucketLen; j++) {
while (bucket[j] > 0) {
arr[sortedIndex++] = j;
bucket[j]--;
}
}
return arr;
}
8.4 算法分析
计数排序是一个稳定的排序算法。当输入的元素是 /(n/) 个 /(0/) 到 /(k/) 之间的整数时,时间复杂度是/(O(n+k)/),空间复杂度也是 /(O(n+k)/) ,其排序速度快于任何比较排序算法。当 /(k/) 不是很大并且序列比较集中时,计数排序是一个很有效的排序算法。
9、桶排序(Bucket Sort)
桶排序是计数排序的升级版。它利用了函数的映射关系,高效与否的关键就在于这个映射函数的确定。桶排序 (Bucket sort)的工作的原理:假设输入数据服从均匀分布,将数据分到有限数量的桶里,每个桶再分别排序(有可能再使用别的排序算法或是以递归方式继续使用桶排序进行排)。
9.1 算法描述
- 设置一个定量的数组当作空桶;
- 遍历输入数据,并且把数据一个一个放到对应的桶里去;
- 对每个不是空的桶进行排序;
- 从不是空的桶里把排好序的数据拼接起来。
9.2 图片演示
9.3 代码实现
/**
* @param bucketSize 桶的数量
*/
public static int[] bucketSort(int[] arr, int bucketSize) {
if (arr.length == 0) {
return arr;
}
// 找到最小值和最大值
int minValue = arr[0];
int maxValue = arr[0];
for (int value : arr) {
if (value < minValue) {
minValue = value;
} else if (value > maxValue) {
maxValue = value;
}
}
// 数量÷桶数=每个桶的容量
int bucketCount = (maxValue - minValue) / bucketSize + 1;
int[][] buckets = new int[bucketCount][0]; // 每个桶的容量默认是0
// 利用映射函数将数据分配到各个桶中
for (int i = 0; i < arr.length; i++) {
int index = (arr[i] - minValue) / bucketSize;
buckets[index] = arrAppend(buckets[index], arr[i]);
}
int arrIndex = 0;
for (int[] bucket : buckets) {
if (bucket.length <= 0) {
continue;
}
// 对每个桶进行排序,这里使用了插入排序
bucket = insertionSort(bucket);
for (int value : bucket) {
arr[arrIndex++] = value;
}
}
return arr;
}
/**
* 自动扩容,并保存数据
*/
public static int[] arrAppend(int[] arr, int value) {
arr = Arrays.copyOf(arr, arr.length + 1);
arr[arr.length - 1] = value;
return arr;
}
/**
* 插入排序
*/
public static int[] insertionSort(int[] arr) {
for (int i = 1; i < arr.length; i++) {
int begin = i;
while (begin > 0 && arr[begin] < arr[begin - 1]) {
// 交换相邻两个数
int target = arr[begin - 1];
arr[begin - 1] = arr[begin];
arr[begin] = target;
begin--;
}
}
return arr;
}
9.4 算法分析
桶排序最好情况下使用线性时间 /(O(n)/) ,桶排序的时间复杂度,取决与对各个桶之间数据进行排序的时间复杂度,因为其它部分的时间复杂度都为 /(O(n)/)。很显然,桶划分的越小,各个桶之间的数据越少,排序所用的时间也会越少。但相应的空间消耗就会增大。
10、基数排序(Radix Sort)
基数排序是按照低位先排序,然后收集;再按照高位排序,然后再收集;依次类推,直到最高位。有时候有些属性是有优先级顺序的,先按低优先级排序,再按高优先级排序。最后的次序就是高优先级高的在前,高优先级相同的低优先级高的在前。
10.1 算法描述
- 取得数组中的最大数,并取得位数;
- arr为原始数组,从最低位开始取每个位组成radix数组;
- 对radix进行计数排序(利用计数排序适用于小范围数的特点);
10.2 动图演示
10.3 代码实现
public static int[] sort(int[] arr) {
int maxDigit = getMaxDigit(arr);
return radixSort(arr, maxDigit);
}
/**
* 获取最高位数
*/
private static int getMaxDigit(int[] arr) {
if (arr.length==0){
return 0;
}
// 遍历取最大值
int maxValue = arr[0];
for (int value : arr) {
if (maxValue < value) {
maxValue = value;
}
}
// 求最大值的位数
if (maxValue == 0) {
return 1;
}
int lenght = 0;
for (long temp = maxValue; temp != 0; temp /= 10) {
lenght++;
}
return lenght;
}
public static int[] radixSort(int[] arr, int maxDigit) {
int mod = 10;
int dev = 1;
for (int i = 0; i < maxDigit; i++, dev *= 10, mod *= 10) {
// 考虑负数的情况,这里扩展一倍队列数,其中 [0-9]对应负数,[10-19]对应正数 (bucket + 10)
int[][] counter = new int[mod * 2][0];
for (int j = 0; j < arr.length; j++) {
int bucket = ((arr[j] % mod) / dev) + mod;
counter[bucket] = arrayAppend(counter[bucket], arr[j]);
}
int pos = 0;
for (int[] bucket : counter) {
for (int value : bucket) {
arr[pos++] = value;
}
}
}
return arr;
}
/**
* 自动扩容,并保存数据
*/
private static int[] arrayAppend(int[] arr, int value) {
arr = Arrays.copyOf(arr, arr.length + 1);
arr[arr.length - 1] = value;
return arr;
}
10.4 算法分析
基数排序基于分别排序,分别收集,所以是稳定的。但基数排序的性能比桶排序要略差,每一次关键字的桶分配都需要 /(O(n)/) 的时间复杂度,而且分配之后得到新的关键字序列又需要 /(O(n)/) 的时间复杂度。假如待排数据可以分为 /(d/) 个关键字,则基数排序的时间复杂度将是 $O(d*2n) $ ,当然d要远远小于 /(n/),因此基本上还是线性级别的。
基数排序的空间复杂度为 /(O(n+k)/) ,其中k为桶的数量。一般来说 /(n»k/) ,因此额外空间需要大概n个左右。
鸣谢
感谢作者的整理,本文在原文的基础使用 C++ & Java 实现了一遍算法,替换了原文中的JavaScript实现。
原创文章,作者:jamestackk,如若转载,请注明出处:https://blog.ytso.com/273382.html