mirror of
https://github.com/CyC2018/Interview-Notebook.git
synced 2026-11-01 03:23:42 +00:00
Update 算法 - 算法分析.md
补充算法分析基础概念的举例说明与双指针原理解释；更新 ThreeSum 倍率实验代码及测试数据，并补充实测附录。
This commit is contained in:
CyC2018
+48
-20
@@ -17,6 +17,8 @@
|
||||
* [2. ThreeSumBinarySearch](#2-threesumbinarysearch)
|
||||
* [3. ThreeSumTwoPointer](#3-threesumtwopointer)
|
||||
* [倍率实验](#倍率实验)
|
||||
* [附录：实测](#附录实测)
|
||||
* [A1. ThreeSumSlow 的倍率实验](#a1-threesumslow-的倍率实验)
|
||||
* [参考资料](#参考资料)
|
||||
<!-- GFM-TOC -->
|
||||
|
||||
@@ -25,7 +27,7 @@
|
||||
|
||||
### 1. 近似
|
||||
|
||||
N<sup>3</sup>/6-N<sup>2</sup>/2+N/3 \~ N<sup>3</sup>/6。使用 \~f(N) 来表示所有随着 N 的增大除以 f(N) 的结果趋近于 1 的函数。
|
||||
例如下文 ThreeSumSlow 的内循环执行 N<sup>3</sup>/6-N<sup>2</sup>/2+N/3 次，N 很大时后两项可以忽略，记为 \~N<sup>3</sup>/6。\~f(N) 表示所有随着 N 的增大除以 f(N) 的结果趋近于 1 的函数。
|
||||
|
||||
### 2. 增长数量级
|
||||
|
||||
@@ -33,17 +35,17 @@ N<sup>3</sup>/6-N<sup>2</sup>/2+N/3 的增长数量级为 O(N<sup>3</sup>)。增
|
||||
|
||||
### 3. 内循环
|
||||
|
||||
执行最频繁的指令决定了程序执行的总时间，把这些指令称为程序的内循环。
|
||||
执行最频繁的指令决定了程序执行的总时间，把这些指令称为程序的内循环。例如 ThreeSumSlow 的内循环是最内层的 if 语句，执行约 N<sup>3</sup>/6 次；外面两层循环中的语句最多执行约 N<sup>2</sup>/2 次，对总时间的影响可以忽略。
|
||||
|
||||
### 4. 成本模型
|
||||
|
||||
使用成本模型来评估算法，例如数组的访问次数就是一种成本模型。
|
||||
成本模型规定统计哪一种基本操作的次数来评估算法，例如 ThreeSum 统计数组的访问次数，排序算法统计比较和交换的次数。
|
||||
|
||||
## 注意事项
|
||||
|
||||
### 1. 大常数
|
||||
|
||||
在求近似时，如果低级项的常数系数很大，那么近似的结果是错误的。
|
||||
在求近似时，如果低级项的常数系数很大，那么近似的结果是错误的。例如 N<sup>2</sup> + 1000N 近似为 \~N<sup>2</sup>，但 N = 1000 时低次项和高次项一样大。
|
||||
|
||||
### 2. 缓存
|
||||
|
||||
@@ -51,19 +53,19 @@ N<sup>3</sup>/6-N<sup>2</sup>/2+N/3 的增长数量级为 O(N<sup>3</sup>)。增
|
||||
|
||||
### 3. 对最坏情况下的性能的保证
|
||||
|
||||
在核反应堆、心脏起搏器或者刹车控制器中的软件，最坏情况下的性能是十分重要的。
|
||||
在核反应堆、心脏起搏器或者刹车控制器中的软件，最坏情况下的性能是十分重要的。例如快速排序平均只需要 \~2NlnN 次比较，最坏却需要 \~N<sup>2</sup>/2 次，需要最坏情况保证时可以改用[归并排序或堆排序](算法%20-%20排序.md#1-排序算法的比较)。
|
||||
|
||||
### 4. 随机化算法
|
||||
|
||||
通过打乱输入，去除算法对输入的依赖。
|
||||
通过打乱输入，去除算法对输入的依赖。例如[快速排序](算法%20-%20排序.md#快速排序)先随机打乱数组，避免有序输入导致的最坏情况。
|
||||
|
||||
### 5. 均摊分析
|
||||
|
||||
将所有操作的总成本除以操作总数来将成本均摊。例如对一个空栈进行 N 次连续的 push() 调用需要访问数组的次数为 N+4+8+16+...+2N=5N-4（N 是向数组写入元素的次数，其余都是调整数组大小时进行复制需要的访问数组次数），均摊后访问数组的平均次数为常数。
|
||||
将所有操作的总成本除以操作总数来将成本均摊。例如对一个空栈（[数组实现](算法%20-%20栈和队列.md#1-数组实现)，满时容量翻倍）进行 N 次连续的 push() 调用需要访问数组的次数为 N+4+8+16+...+2N=5N-4（N 为 2 的幂）：N 是向数组写入元素的次数；容量从 k 扩大到 2k 时，新数组初始化 2k 个元素，复制旧元素读、写各 k 次，共 4k 次，k 依次为 1、2、4……N/2。例如 N = 8 时共 8 + 4 + 8 + 16 = 36 次，均摊后访问数组的平均次数为常数。
|
||||
|
||||
## ThreeSum
|
||||
|
||||
ThreeSum 用于统计一个数组中和为 0 的三元组数量。
|
||||
ThreeSum 用于统计一个数组中和为 0 的三元组数量。为了突出算法本身，下面的代码假设元素的绝对值较小（倍率实验中都在 ±10<sup>6</sup> 之内），求和、取相反数都不会超出 int 的范围；否则要先转为 long 再计算。
|
||||
|
||||
```java
|
||||
public interface ThreeSum {
|
||||
@@ -104,6 +106,8 @@ public class ThreeSumSlow implements ThreeSum {
|
||||
该方法可以将 ThreeSum 算法增长数量级降低为 O(N<sup>2</sup>logN)。
|
||||
|
||||
```java
|
||||
import java.util.Arrays;
|
||||
|
||||
public class ThreeSumBinarySearch implements ThreeSum {
|
||||
|
||||
@Override
|
||||
@@ -150,9 +154,13 @@ public class BinarySearch {
|
||||
|
||||
更有效的方法是先将数组排序，然后使用双指针进行查找，时间复杂度为 O(N<sup>2</sup>)。
|
||||
|
||||
固定 nums[i] 后，在它右侧的有序区间中用 l、h 两个指针从两端向中间找和为 -nums[i] 的两个数。和太小时 l 右移：nums[l] 与 h 左侧任何元素的和只会更小，nums[l] 不可能再组成答案；和太大时同理 h 左移。每次移动都排除一个元素，所以每个 i 只需 O(N) 次比较。
|
||||
|
||||
同样不适用于数组存在重复元素的情况。
|
||||
|
||||
```java
|
||||
import java.util.Arrays;
|
||||
|
||||
public class ThreeSumTwoPointer implements ThreeSum {
|
||||
|
||||
@Override
|
||||
@@ -184,35 +192,40 @@ public class ThreeSumTwoPointer implements ThreeSum {
|
||||
|
||||
如果 T(N) \~ aN<sup>b</sup>logN，那么 T(2N)/T(N) \~ 2<sup>b</sup>。
|
||||
|
||||
例如对于暴力的 ThreeSum 算法，近似时间为 \~N<sup>3</sup>/6。进行如下实验：多次运行该算法，每次取的 N 值为前一次的两倍，统计每次执行的时间，并统计本次运行时间与前一次运行时间的比值，得到如下结果：
|
||||
例如对于暴力的 ThreeSum 算法，近似时间为 \~N<sup>3</sup>/6。进行如下实验：多次运行该算法，每次取的 N 值为前一次的两倍，数组元素为 [-10<sup>6</sup>, 10<sup>6</sup>] 内的随机整数，统计每次执行的时间，并统计本次运行时间与前一次运行时间的比值，得到如下结果（JDK 21 实测，见附录 A1）：
|
||||
|
||||
| N | Time(ms) | Ratio |
|
||||
| :---: | :---: | :---: |
|
||||
| 500 | 48 | / |
|
||||
| 1000 | 320 | 6.7 |
|
||||
| 2000 | 555 | 1.7 |
|
||||
| 4000 | 4105 | 7.4 |
|
||||
| 8000 | 33575 | 8.2 |
|
||||
| 16000 | 268909 | 8.0 |
|
||||
| 250 | 6 | / |
|
||||
| 500 | 20 | 3.3 |
|
||||
| 1000 | 149 | 7.5 |
|
||||
| 2000 | 1195 | 8.0 |
|
||||
| 4000 | 10301 | 8.6 |
|
||||
| 8000 | 83576 | 8.1 |
|
||||
|
||||
可以看到，T(2N)/T(N) \~ 2<sup>3</sup>，因此可以确定 T(N) \~ aN<sup>3</sup>。
|
||||
N 较小时运行时间只有几毫秒，计时误差和 JIT 编译的影响较大，比值偏离 8；N 增大后比值稳定在 8 附近，即 T(2N)/T(N) \~ 2<sup>3</sup>，因此可以确定 T(N) \~ aN<sup>3</sup>。
|
||||
|
||||
```java
|
||||
import java.util.Random;
|
||||
|
||||
public class RatioTest {
|
||||
|
||||
public static void main(String[] args) {
|
||||
int N = 500;
|
||||
int loopTimes = 7;
|
||||
Random random = new Random(42);
|
||||
int N = 250;
|
||||
int loopTimes = 6;
|
||||
double preTime = -1;
|
||||
while (loopTimes-- > 0) {
|
||||
int[] nums = new int[N];
|
||||
for (int i = 0; i < N; i++) {
|
||||
nums[i] = random.nextInt(2_000_001) - 1_000_000; // [-10^6, 10^6]
|
||||
}
|
||||
StopWatch.start();
|
||||
ThreeSum threeSum = new ThreeSumSlow();
|
||||
int cnt = threeSum.count(nums);
|
||||
System.out.println(cnt);
|
||||
double elapsedTime = StopWatch.elapsedTime();
|
||||
double ratio = preTime == -1 ? 0 : elapsedTime / preTime;
|
||||
System.out.println(N + " " + elapsedTime + " " + ratio);
|
||||
System.out.println(N + " " + cnt + " " + elapsedTime + " " + ratio);
|
||||
preTime = elapsedTime;
|
||||
N *= 2;
|
||||
}
|
||||
@@ -238,6 +251,21 @@ public class StopWatch {
|
||||
}
|
||||
```
|
||||
|
||||
## 附录：实测
|
||||
|
||||
### A1. ThreeSumSlow 的倍率实验
|
||||
|
||||
环境：Temurin JDK 21.0.13，Apple M1 Pro。代码为正文中的 ThreeSum、ThreeSumSlow、StopWatch 和 RatioTest，直接运行 java RatioTest。每行依次为 N、和为 0 的三元组数量、耗时（ms）、与上一行的耗时比值：
|
||||
|
||||
```text
|
||||
250 1 6.0 0.0
|
||||
500 5 20.0 3.3333333333333335
|
||||
1000 60 149.0 7.45
|
||||
2000 494 1195.0 8.020134228187919
|
||||
4000 4035 10301.0 8.620083682008369
|
||||
8000 32176 83576.0 8.11338704980099
|
||||
```
|
||||
|
||||
## 参考资料
|
||||
|
||||
- Sedgewick R, Wayne K. 算法（第 4 版）[M]. 人民邮电出版社, 2012.
|
||||
|
||||
Reference in New Issue
Block a user