diff --git a/notes/算法 - 算法分析.md b/notes/算法 - 算法分析.md
index e59d646c..953e93b4 100644
--- a/notes/算法 - 算法分析.md
+++ b/notes/算法 - 算法分析.md
@@ -17,6 +17,8 @@
* [2. ThreeSumBinarySearch](#2-threesumbinarysearch)
* [3. ThreeSumTwoPointer](#3-threesumtwopointer)
* [倍率实验](#倍率实验)
+ * [附录:实测](#附录实测)
+ * [A1. ThreeSumSlow 的倍率实验](#a1-threesumslow-的倍率实验)
* [参考资料](#参考资料)
@@ -25,7 +27,7 @@
### 1. 近似
-N3/6-N2/2+N/3 \~ N3/6。使用 \~f(N) 来表示所有随着 N 的增大除以 f(N) 的结果趋近于 1 的函数。
+例如下文 ThreeSumSlow 的内循环执行 N3/6-N2/2+N/3 次,N 很大时后两项可以忽略,记为 \~N3/6。\~f(N) 表示所有随着 N 的增大除以 f(N) 的结果趋近于 1 的函数。
### 2. 增长数量级
@@ -33,17 +35,17 @@ N3/6-N2/2+N/3 的增长数量级为 O(N3)。增
### 3. 内循环
-执行最频繁的指令决定了程序执行的总时间,把这些指令称为程序的内循环。
+执行最频繁的指令决定了程序执行的总时间,把这些指令称为程序的内循环。例如 ThreeSumSlow 的内循环是最内层的 if 语句,执行约 N3/6 次;外面两层循环中的语句最多执行约 N2/2 次,对总时间的影响可以忽略。
### 4. 成本模型
-使用成本模型来评估算法,例如数组的访问次数就是一种成本模型。
+成本模型规定统计哪一种基本操作的次数来评估算法,例如 ThreeSum 统计数组的访问次数,排序算法统计比较和交换的次数。
## 注意事项
### 1. 大常数
-在求近似时,如果低级项的常数系数很大,那么近似的结果是错误的。
+在求近似时,如果低级项的常数系数很大,那么近似的结果是错误的。例如 N2 + 1000N 近似为 \~N2,但 N = 1000 时低次项和高次项一样大。
### 2. 缓存
@@ -51,19 +53,19 @@ N3/6-N2/2+N/3 的增长数量级为 O(N3)。增
### 3. 对最坏情况下的性能的保证
-在核反应堆、心脏起搏器或者刹车控制器中的软件,最坏情况下的性能是十分重要的。
+在核反应堆、心脏起搏器或者刹车控制器中的软件,最坏情况下的性能是十分重要的。例如快速排序平均只需要 \~2NlnN 次比较,最坏却需要 \~N2/2 次,需要最坏情况保证时可以改用[归并排序或堆排序](算法%20-%20排序.md#1-排序算法的比较)。
### 4. 随机化算法
-通过打乱输入,去除算法对输入的依赖。
+通过打乱输入,去除算法对输入的依赖。例如[快速排序](算法%20-%20排序.md#快速排序)先随机打乱数组,避免有序输入导致的最坏情况。
### 5. 均摊分析
-将所有操作的总成本除以操作总数来将成本均摊。例如对一个空栈进行 N 次连续的 push() 调用需要访问数组的次数为 N+4+8+16+...+2N=5N-4(N 是向数组写入元素的次数,其余都是调整数组大小时进行复制需要的访问数组次数),均摊后访问数组的平均次数为常数。
+将所有操作的总成本除以操作总数来将成本均摊。例如对一个空栈([数组实现](算法%20-%20栈和队列.md#1-数组实现),满时容量翻倍)进行 N 次连续的 push() 调用需要访问数组的次数为 N+4+8+16+...+2N=5N-4(N 为 2 的幂):N 是向数组写入元素的次数;容量从 k 扩大到 2k 时,新数组初始化 2k 个元素,复制旧元素读、写各 k 次,共 4k 次,k 依次为 1、2、4……N/2。例如 N = 8 时共 8 + 4 + 8 + 16 = 36 次,均摊后访问数组的平均次数为常数。
## ThreeSum
-ThreeSum 用于统计一个数组中和为 0 的三元组数量。
+ThreeSum 用于统计一个数组中和为 0 的三元组数量。为了突出算法本身,下面的代码假设元素的绝对值较小(倍率实验中都在 ±106 之内),求和、取相反数都不会超出 int 的范围;否则要先转为 long 再计算。
```java
public interface ThreeSum {
@@ -104,6 +106,8 @@ public class ThreeSumSlow implements ThreeSum {
该方法可以将 ThreeSum 算法增长数量级降低为 O(N2logN)。
```java
+import java.util.Arrays;
+
public class ThreeSumBinarySearch implements ThreeSum {
@Override
@@ -150,9 +154,13 @@ public class BinarySearch {
更有效的方法是先将数组排序,然后使用双指针进行查找,时间复杂度为 O(N2)。
+固定 nums[i] 后,在它右侧的有序区间中用 l、h 两个指针从两端向中间找和为 -nums[i] 的两个数。和太小时 l 右移:nums[l] 与 h 左侧任何元素的和只会更小,nums[l] 不可能再组成答案;和太大时同理 h 左移。每次移动都排除一个元素,所以每个 i 只需 O(N) 次比较。
+
同样不适用于数组存在重复元素的情况。
```java
+import java.util.Arrays;
+
public class ThreeSumTwoPointer implements ThreeSum {
@Override
@@ -184,35 +192,40 @@ public class ThreeSumTwoPointer implements ThreeSum {
如果 T(N) \~ aNblogN,那么 T(2N)/T(N) \~ 2b。
-例如对于暴力的 ThreeSum 算法,近似时间为 \~N3/6。进行如下实验:多次运行该算法,每次取的 N 值为前一次的两倍,统计每次执行的时间,并统计本次运行时间与前一次运行时间的比值,得到如下结果:
+例如对于暴力的 ThreeSum 算法,近似时间为 \~N3/6。进行如下实验:多次运行该算法,每次取的 N 值为前一次的两倍,数组元素为 [-106, 106] 内的随机整数,统计每次执行的时间,并统计本次运行时间与前一次运行时间的比值,得到如下结果(JDK 21 实测,见附录 A1):
| N | Time(ms) | Ratio |
| :---: | :---: | :---: |
-| 500 | 48 | / |
-| 1000 | 320 | 6.7 |
-| 2000 | 555 | 1.7 |
-| 4000 | 4105 | 7.4 |
-| 8000 | 33575 | 8.2 |
-| 16000 | 268909 | 8.0 |
+| 250 | 6 | / |
+| 500 | 20 | 3.3 |
+| 1000 | 149 | 7.5 |
+| 2000 | 1195 | 8.0 |
+| 4000 | 10301 | 8.6 |
+| 8000 | 83576 | 8.1 |
-可以看到,T(2N)/T(N) \~ 23,因此可以确定 T(N) \~ aN3。
+N 较小时运行时间只有几毫秒,计时误差和 JIT 编译的影响较大,比值偏离 8;N 增大后比值稳定在 8 附近,即 T(2N)/T(N) \~ 23,因此可以确定 T(N) \~ aN3。
```java
+import java.util.Random;
+
public class RatioTest {
public static void main(String[] args) {
- int N = 500;
- int loopTimes = 7;
+ Random random = new Random(42);
+ int N = 250;
+ int loopTimes = 6;
double preTime = -1;
while (loopTimes-- > 0) {
int[] nums = new int[N];
+ for (int i = 0; i < N; i++) {
+ nums[i] = random.nextInt(2_000_001) - 1_000_000; // [-10^6, 10^6]
+ }
StopWatch.start();
ThreeSum threeSum = new ThreeSumSlow();
int cnt = threeSum.count(nums);
- System.out.println(cnt);
double elapsedTime = StopWatch.elapsedTime();
double ratio = preTime == -1 ? 0 : elapsedTime / preTime;
- System.out.println(N + " " + elapsedTime + " " + ratio);
+ System.out.println(N + " " + cnt + " " + elapsedTime + " " + ratio);
preTime = elapsedTime;
N *= 2;
}
@@ -238,6 +251,21 @@ public class StopWatch {
}
```
+## 附录:实测
+
+### A1. ThreeSumSlow 的倍率实验
+
+环境:Temurin JDK 21.0.13,Apple M1 Pro。代码为正文中的 ThreeSum、ThreeSumSlow、StopWatch 和 RatioTest,直接运行 java RatioTest。每行依次为 N、和为 0 的三元组数量、耗时(ms)、与上一行的耗时比值:
+
+```text
+250 1 6.0 0.0
+500 5 20.0 3.3333333333333335
+1000 60 149.0 7.45
+2000 494 1195.0 8.020134228187919
+4000 4035 10301.0 8.620083682008369
+8000 32176 83576.0 8.11338704980099
+```
+
## 参考资料
- Sedgewick R, Wayne K. 算法(第 4 版)[M]. 人民邮电出版社, 2012.