diff --git a/notes/Java 并发.md b/notes/Java 并发.md index 4bcfb2c0..d948c310 100644 --- a/notes/Java 并发.md +++ b/notes/Java 并发.md @@ -21,6 +21,7 @@ * [ReentrantLock](#reentrantlock) * [比较](#比较) * [使用选择](#使用选择) + * [Java 中的锁](#java-中的锁) * [五、线程之间的协作](#五线程之间的协作) * [join()](#join) * [wait() notify() notifyAll()](#wait-notify-notifyall) @@ -39,6 +40,7 @@ * [Semaphore](#semaphore) * [八、J.U.C - 其它组件](#八juc---其它组件) * [FutureTask](#futuretask) + * [CompletableFuture](#completablefuture) * [BlockingQueue](#blockingqueue) * [ForkJoin](#forkjoin) * [九、线程不安全示例](#九线程不安全示例) @@ -121,7 +123,7 @@ public static void main(String[] args) throws ExecutionException, InterruptedExc ### 继承 Thread 类 -同样也是需要实现 run() 方法，因为 Thread 类也实现了 Runable 接口。 +同样也是需要实现 run() 方法，因为 Thread 类也实现了 Runnable 接口。 当调用 start() 方法启动一个线程时，虚拟机会将该线程放入就绪队列中等待被调度，当一个线程被调度时会执行该线程的 run() 方法。 @@ -155,7 +157,7 @@ Executor 管理多个异步任务的执行，而无需程序员显式地管理 主要有三种 Executor： -- CachedThreadPool：一个任务创建一个线程； +- CachedThreadPool：有空闲线程时复用，没有时为任务新建一个线程，线程空闲 60 秒后被回收； - FixedThreadPool：所有任务只能使用固定大小的线程； - SingleThreadExecutor：相当于大小为 1 的 FixedThreadPool。 @@ -290,7 +292,7 @@ public void run() { ### InterruptedException -通过调用一个线程的 interrupt() 来中断该线程，如果该线程处于阻塞、限期等待或者无限期等待状态，那么就会抛出 InterruptedException，从而提前结束该线程。但是不能中断 I/O 阻塞和 synchronized 锁阻塞。 +通过调用一个线程的 interrupt() 来中断该线程，如果该线程正在 sleep()、wait()、join() 等方法中处于限期等待或者无限期等待状态，那么就会抛出 InterruptedException，从而提前结束该线程。但是不能中断传统 I/O 的阻塞和等待 synchronized 锁的阻塞（BLOCKED）。 对于以下代码，在 main() 中启动一个线程之后再中断它，由于线程中调用了 Thread.sleep() 方法，因此会抛出一个 InterruptedException，从而提前结束线程，不执行之后的语句。 @@ -364,7 +366,7 @@ Thread end ### Executor 的中断操作 -调用 Executor 的 shutdown() 方法会等待线程都执行完毕之后再关闭，但是如果调用的是 shutdownNow() 方法，则相当于调用每个线程的 interrupt() 方法。 +调用 Executor 的 shutdown() 方法后，线程池不再接受新任务，已经提交的任务会继续执行完，它本身不会阻塞等待，需要等待时调用 awaitTermination()；如果调用的是 shutdownNow() 方法，则相当于调用每个线程的 interrupt() 方法，并返回队列中还没有执行的任务。 以下使用 Lambda 创建线程，相当于创建了一个匿名内部线程。 @@ -590,7 +592,43 @@ synchronized 中的锁是非公平的，ReentrantLock 默认情况下也是非 ### 使用选择 -除非需要使用 ReentrantLock 的高级功能，否则优先使用 synchronized。这是因为 synchronized 是 JVM 实现的一种锁机制，JVM 原生地支持它，而 ReentrantLock 不是所有的 JDK 版本都支持。并且使用 synchronized 不用担心没有释放锁而导致死锁问题，因为 JVM 会确保锁的释放。 +除非需要使用 ReentrantLock 的高级功能，否则优先使用 synchronized。这是因为 synchronized 是 JVM 实现的一种锁机制，JVM 原生地支持它，并且使用 synchronized 不用担心没有释放锁而导致死锁问题，因为 JVM 会确保锁的释放；ReentrantLock 则必须在 finally 中调用 unlock()。 + +### Java 中的锁 + +Java 中的锁可以从几个角度分类，同一把锁会同时属于多类，例如 ReentrantLock 默认是悲观、独占、可重入的非公平锁： + +| 分类 | 区别 | 例子 | +| --- | --- | --- | +| [悲观锁与乐观锁](#4-乐观锁与悲观锁) | 先加锁再访问；或者先访问，提交时再检查有没有冲突 | synchronized、ReentrantLock；AtomicInteger 的 CAS、StampedLock 的乐观读 | +| 独占锁与共享锁 | 同一时刻只能有一个线程持有；或者可以有多个 | ReentrantLock、写锁；读锁、Semaphore | +| [公平锁与非公平锁](#七juc---aqs) | 按申请的顺序获得锁；或者允许新来的线程插队 | new ReentrantLock(true)；synchronized、ReentrantLock 默认 | +| 可重入锁 | 持有锁的线程可以再次获得同一把锁，不会被自己阻塞 | synchronized、ReentrantLock、ReentrantReadWriteLock | +| [自旋锁](#自旋锁) | 获取失败时循环重试，而不是挂起线程 | synchronized 的自适应自旋、CAS 循环 | +| [偏向锁、轻量级锁、重量级锁](#十二锁优化) | synchronized 在不同竞争程度下的实现 | synchronized | + +读多写少时，读和读之间不需要互斥，可以使用读写锁 ReentrantReadWriteLock：读锁是共享锁，多个线程可以同时持有；写锁是独占锁，持有写锁时其它线程既不能读也不能写。JDK 8 的 StampedLock 还提供乐观读，读之前不加锁，只记下一个版本号，读完再检查期间有没有写入，有写入才加读锁重读： + +```java +long stamp = lock.tryOptimisticRead(); +long sum = readWork(); +if (!lock.validate(stamp)) { // 读的过程中有写入 + stamp = lock.readLock(); + try { sum = readWork(); } finally { lock.unlockRead(stamp); } +} +``` + +在本机用 8 个线程访问同一个保存了 1000 个商品价格的 HashMap，99% 的操作是遍历求总价，1% 是修改价格，每个线程 2 万次，三种锁的耗时如下（JDK 21，各运行 3 次）： + +- ReentrantLock：365～427 ms，读也互斥，与单线程不加锁执行同样多次读的 357 ms 差不多，8 个线程实际上是排队执行的； +- ReentrantReadWriteLock：139～156 ms，读可以并行，但每次加读锁都要用 CAS 修改锁中的读线程计数，多个线程争抢同一个变量，不能做到 8 倍； +- StampedLock 乐观读：61～63 ms，读的时候不修改任何共享变量，只有极少数读取需要重试。 + +需要注意的是： + +- 读锁不能升级为写锁：持有读锁时再获取写锁，要等所有读锁释放，而自己的读锁不会释放，实测 tryLock 等待 1 秒后返回 false，用 lock() 就会永远阻塞； +- 写锁可以降级为读锁：先获取写锁，再获取读锁，然后释放写锁，这样修改之后的数据可以继续读，期间不会被其它线程修改； +- StampedLock 不可重入，也不支持 Condition，乐观读期间读到的数据可能是不一致的，只能在 validate 成功之后使用。 ## 五、线程之间的协作 @@ -844,6 +882,8 @@ for (int i = 0; i < 3; i++) { 阻塞和等待的区别在于，阻塞是被动的，它是在等待获取 monitor lock。而等待是主动的，通过调用 Object.wait() 等方法进入。 +需要注意的是，只有等待 synchronized 的线程才处于 BLOCKED 状态。ReentrantLock 基于 AQS，抢不到锁的线程通过 LockSupport.park() 挂起，状态是 WAITING：让一个线程等待 synchronized、另一个线程等待 ReentrantLock，在 JDK 21 上打印两者的 getState()，分别是 BLOCKED 和 WAITING。 + | 进入方法 | 退出方法 | | --- | --- | | 没有设置 Timeout 参数的 Object.wait() 方法 | Object.notify() / Object.notifyAll() | @@ -874,13 +914,37 @@ for (int i = 0; i < 3; i++) { java.util.concurrent（J.U.C）大大提高了并发性能，AQS 被认为是 J.U.C 的核心。 +AbstractQueuedSynchronizer（AQS）用两样东西实现了各种同步器： + +- 一个 int 类型的 state，含义由具体的同步器决定，修改时使用 CAS； +- 一个等待队列，获取失败的线程包装成节点加入队尾，并通过 LockSupport.park() 挂起，释放时唤醒队头的线程。 + +以 ReentrantLock 为例，state 表示锁被重入的次数：0 表示没有被持有，加锁时用 CAS 把 0 改为 1，同一个线程再次加锁时直接加 1，解锁时减 1，减到 0 才真正释放。下面的代码中，main 线程加锁两次后，t1、t2 都进入了等待队列： + +```java +ReentrantLock lock = new ReentrantLock(); +lock.lock(); +lock.lock(); +System.out.println(lock.getHoldCount()); // 2 +Thread t1 = new Thread(lock::lock), t2 = new Thread(lock::lock); +t1.start(); t2.start(); +Thread.sleep(200); +System.out.println(lock.getQueueLength()); // 2，t1、t2 的状态都是 WAITING +lock.unlock(); +lock.unlock(); // state 减到 0，唤醒队头的 t1 +``` + +公平锁与非公平锁的区别只在加锁的第一步：非公平锁不管队列里有没有线程在等，先尝试 CAS 抢一次；公平锁先检查队列（hasQueuedPredecessors），有线程在等就直接排到队尾。非公平锁的好处是刚释放锁的线程可以立即再次获得锁，省去了唤醒另一个线程的开销。在本机用 8 个线程各加锁、解锁 20 万次，非公平锁约 37 ms，公平锁约 3.3 秒，差距接近 100 倍，所以 ReentrantLock 默认是非公平的，只有严格要求先来先得时才使用公平锁。 + +CountDownLatch、Semaphore 等也基于 AQS，只是对 state 的解释不同：CountDownLatch 的 state 是剩余的计数，Semaphore 的 state 是剩余的许可数。 + ### CountDownLatch 用来控制一个或者多个线程等待多个线程。 维护了一个计数器 cnt，每次调用 countDown() 方法会让计数器的值减 1，减到 0 的时候，那些因为调用 await() 方法而在等待的线程就会被唤醒。 -

+

```java public class CountdownLatchExample { @@ -912,7 +976,7 @@ run..run..run..run..run..run..run..run..run..run..end 和 CountDownLatch 相似，都是通过维护计数器来实现的。线程执行 await() 方法之后计数器会减 1，并进行等待，直到计数器为 0，所有调用 await() 方法而在等待的线程才能继续执行。 -CyclicBarrier 和 CountDownLatch 的一个区别是，CyclicBarrier 的计数器通过调用 reset() 方法可以循环使用，所以它才叫做循环屏障。 +CyclicBarrier 和 CountDownLatch 的一个区别是，所有线程到达、屏障打开之后，CyclicBarrier 的计数器会自动恢复为初始值，可以用于下一轮，所以它才叫做循环屏障；CountDownLatch 的计数减到 0 之后不能再重置。reset() 用于强制重置屏障，正在等待的线程会抛出 BrokenBarrierException。 CyclicBarrier 有两个构造函数，其中 parties 指示计数器的初始值，barrierAction 在所有线程都到达屏障的时候会执行一次。 @@ -929,7 +993,7 @@ public CyclicBarrier(int parties) { } ``` -

+

```java public class CyclicBarrierExample { @@ -1047,6 +1111,32 @@ other task is running... 4950 ``` +### CompletableFuture + +Future 只能调用 get() 阻塞等待结果，多个异步任务之间有依赖时（A 完成后做 B，A 和 B 都完成后合并结果），需要自己写等待的逻辑。JDK 8 的 CompletableFuture 可以给任务注册回调，把多个异步任务组合起来。 + +例如订单详情页要依次查询订单和物流（查物流要用到订单中的运单号），同时还要查询优惠券，每次调用约 200 ms。下面的 call() 模拟一次远程调用，其中优惠券服务会抛出异常： + +```java +ExecutorService pool = Executors.newFixedThreadPool(8); +CompletableFuture order = CompletableFuture.supplyAsync(() -> call("订单 1024", 200), pool); +CompletableFuture logistics = order.thenApplyAsync(o -> call("物流 SF1234567", 200), pool); // 依赖订单的结果 +CompletableFuture coupon = CompletableFuture.supplyAsync(() -> call("优惠券 2 张", 200), pool) + .exceptionally(e -> "优惠券暂不可用"); // 失败时降级 +String page = logistics.thenCombine(coupon, (l, c) -> l + "，" + c).join(); +``` + +```text +串行：640 ms +物流 SF1234567，优惠券暂不可用，耗时 425 ms +``` + +需要注意的是： + +- 不传入线程池时，任务在 ForkJoinPool.commonPool() 中执行，它的线程数默认为 CPU 核数 − 1（本机 10 核时为 9），并且被并行流等代码共用，阻塞的 I/O 任务应该使用自己的线程池； +- 异常不会自动抛出，要用 exceptionally、handle 处理，否则只有调用 join() 时才会得到包装后的 CompletionException； +- thenApply 的函数返回普通的值，thenCompose 的函数返回另一个 CompletableFuture，用来串联两个异步调用，避免得到 CompletableFuture<CompletableFuture<T>>。 + ### BlockingQueue java.util.concurrent.BlockingQueue 接口有以下阻塞队列的实现： @@ -1164,9 +1254,9 @@ ForkJoin 使用 ForkJoinPool 来启动，它是一个特殊的线程池，线程 public class ForkJoinPool extends AbstractExecutorService ``` -ForkJoinPool 实现了工作窃取算法来提高 CPU 的利用率。每个线程都维护了一个双端队列，用来存储需要执行的任务。工作窃取算法允许空闲的线程从其它线程的双端队列中窃取一个任务来执行。窃取的任务必须是最晚的任务，避免和队列所属线程发生竞争。例如下图中，Thread2 从 Thread1 的队列中拿出最晚的 Task1 任务，Thread1 会拿出 Task2 来执行，这样就避免发生竞争。但是如果队列中只有一个任务时还是会发生竞争。 +ForkJoinPool 实现了工作窃取算法来提高 CPU 的利用率。每个线程都维护了一个双端队列，用来存储需要执行的任务。工作窃取算法允许空闲的线程从其它线程的双端队列中窃取一个任务来执行。线程从自己队列的一端取最新放入的任务，窃取者从另一端取最早放入的任务，两者分别在队列的两端操作，避免发生竞争。例如下图中，Thread2 从 Thread1 的队列中窃取最早的 Task1，Thread1 自己取出 Task3 执行。但是如果队列中只有一个任务时还是会发生竞争。 -

+

## 九、线程不安全示例 @@ -1221,19 +1311,19 @@ Java 内存模型试图屏蔽各种硬件和操作系统的内存访问差异， 加入高速缓存带来了一个新的问题：缓存一致性。如果多个缓存共享同一块主内存区域，那么多个缓存的数据可能会不一致，需要一些协议来解决这个问题。 -

+

所有的变量都存储在主内存中，每个线程还有自己的工作内存，工作内存存储在高速缓存或者寄存器中，保存了该线程使用的变量的主内存副本拷贝。 线程只能直接操作工作内存中的变量，不同线程之间的变量值传递需要通过主内存来完成。 -

+

### 内存间交互操作 -Java 内存模型定义了 8 个操作来完成主内存和工作内存的交互操作。 +Java 内存模型定义了 8 个操作来完成主内存和工作内存的交互操作。这种描述来自 JDK 5 之前的规范，现在的规范改用下文的先行发生关系来定义，但它仍然便于理解变量在主内存和工作内存之间的传递。 -

+

- read：把一个变量的值从主内存传输到工作内存中 - load：在 read 之后执行，把 read 得到的值放入工作内存的变量副本中 @@ -1256,11 +1346,11 @@ Java 内存模型保证了 read、load、use、assign、store、write、lock 和 下图演示了两个线程同时对 cnt 进行操作，load、assign、store 这一系列操作整体上看不具备原子性，那么在 T1 修改 cnt 并且还没有将修改后的值写入主内存，T2 依然可以读入旧值。可以看出，这两个线程虽然执行了两次自增运算，但是主内存中 cnt 的值最后为 1 而不是 2。因此对 int 类型读写操作满足原子性只是说明 load、assign、store 这些单个操作具备原子性。 -

+

AtomicInteger 能保证多个线程修改的原子性。 -

+

使用 AtomicInteger 重写之前线程不安全的代码之后得到以下线程安全实现： @@ -1360,7 +1450,7 @@ volatile 关键字通过添加内存屏障的方式来禁止指令重排，即 ### 先行发生原则 -上面提到了可以用 volatile 和 synchronized 来保证有序性。除此之外，JVM 还规定了先行发生原则，让一个操作无需控制就能先于另一个操作完成。 +上面提到了可以用 volatile 和 synchronized 来保证有序性。JDK 5（JSR-133）起，Java 内存模型用先行发生（happens-before）关系来定义可见性：如果操作 A 先行发生于操作 B，那么 A 的结果对 B 可见。它说的是可见性和顺序上的保证，并不要求 A 在时间上先执行。以下规则天然成立，不需要额外的同步手段。 #### 1. 单一线程原则 @@ -1368,7 +1458,7 @@ volatile 关键字通过添加内存屏障的方式来禁止指令重排，即 在一个线程内，在程序前面的操作先行发生于后面的操作。 -

+

#### 2. 管程锁定规则 @@ -1376,7 +1466,7 @@ volatile 关键字通过添加内存屏障的方式来禁止指令重排，即 一个 unlock 操作先行发生于后面对同一个锁的 lock 操作。 -

+

#### 3. volatile 变量规则 @@ -1384,7 +1474,7 @@ volatile 关键字通过添加内存屏障的方式来禁止指令重排，即 对一个 volatile 变量的写操作先行发生于后面对这个变量的读操作。 -

+

#### 4. 线程启动规则 @@ -1392,7 +1482,7 @@ volatile 关键字通过添加内存屏障的方式来禁止指令重排，即 Thread 对象的 start() 方法调用先行发生于此线程的每一个动作。 -

+

#### 5. 线程加入规则 @@ -1400,7 +1490,7 @@ Thread 对象的 start() 方法调用先行发生于此线程的每一个动作 Thread 对象的结束先行发生于 join() 方法返回。 -

+

#### 6. 线程中断规则 @@ -1522,6 +1612,24 @@ public final int getAndAddInt(Object var1, long var2, int var4) { J.U.C 包提供了一个带有标记的原子引用类 AtomicStampedReference 来解决这个问题，它可以通过控制变量值的版本来保证 CAS 的正确性。大部分情况下 ABA 问题不会影响程序并发的正确性，如果需要解决 ABA 问题，改用传统的互斥同步可能会比原子类更高效。 +#### 4. 乐观锁与悲观锁 + +悲观锁认为冲突一定会发生，访问共享数据之前先加锁，其它线程只能等待，例如 synchronized、ReentrantLock，以及数据库的 SELECT ... FOR UPDATE。乐观锁认为冲突很少发生，不加锁直接操作，提交时再检查数据是否被别人改过，改过就重试或放弃，例如 CAS 和数据库中的版本号。 + +数据库中常用版本号实现乐观锁。例如两个请求都读到库存 10、版本号 1，然后都执行： + +```sql +UPDATE product SET stock = stock - 1, version = version + 1 WHERE id = 1 AND version = 1; +``` + +先执行的请求影响 1 行，库存变为 9、版本号变为 2；后执行的请求影响 0 行，说明数据已被修改，需要重新读取后再试。 + +两者的选择： + +- 读多写少、冲突少时用乐观锁，没有加锁和阻塞的开销； +- 写多、冲突频繁时用悲观锁，否则乐观锁会不断失败重试，反而浪费 CPU； +- 乐观锁只能保证单个变量或单行数据的原子更新，涉及多个资源时仍然要加锁或使用事务。 + ### 无同步方案 要保证线程安全，并不是一定就要进行同步。如果一个方法本来就不涉及共享数据，那它自然就无须任何同步措施去保证正确性。 @@ -1618,7 +1726,7 @@ public class ThreadLocalExample1 { 它所对应的底层结构图为： -

+

每个 Thread 都有一个 ThreadLocal.ThreadLocalMap 对象。 @@ -1661,7 +1769,18 @@ public T get() { ThreadLocal 从理论上讲并不是用来解决多线程并发问题的，因为根本不存在多线程竞争。 -在一些场景 (尤其是使用线程池) 下，由于 ThreadLocal.ThreadLocalMap 的底层数据结构导致 ThreadLocal 有内存泄漏的情况，应该尽可能在每次使用 ThreadLocal 后手动调用 remove()，以避免出现 ThreadLocal 经典的内存泄漏甚至是造成自身业务混乱的风险。 +ThreadLocalMap 的 Entry 继承自 WeakReference，对 key（ThreadLocal 对象）是弱引用，对 value 是强引用。ThreadLocal 对象没有其它强引用时，key 会在 GC 后变为 null，但 value 仍然被线程的 Map 引用着；线程池中的线程一直存活，这些 value 就一直无法回收，这就是 ThreadLocal 的内存泄漏。 + +更常见的问题是线程池复用线程导致数据串用。在只有一个线程的线程池中，请求 1 设置了用户 alice 但没有 remove()，请求 2 没有登录，调用 get() 却读到了 alice。所以每次使用 ThreadLocal 后都要在 finally 中调用 remove()： + +```java +try { + USER.set(user); + handle(request); +} finally { + USER.remove(); +} +``` #### 3. 可重入代码（Reentrant Code） @@ -1709,6 +1828,8 @@ public static String concatString(String s1, String s2, String s3) { 每个 append() 方法中都有一个同步块。虚拟机观察变量 sb，很快就会发现它的动态作用域被限制在 concatString() 方法内部。也就是说，sb 的所有引用永远不会逃逸到 concatString() 方法之外，其他线程无法访问到它，因此可以进行消除。 +需要注意的是，这是 JDK 1.5 之前的情况。JDK 5 到 8 的 javac 改用不加锁的 StringBuilder，JDK 9 起改为 invokedynamic 调用 makeConcatWithConstants，用 javap 查看 JDK 21 编译出的字节码可以确认，现在的字符串拼接已经没有锁了。但在代码中直接使用 StringBuffer、Vector 这类同步容器的局部对象时，锁消除仍然适用。 + ### 锁粗化 如果一系列的连续操作都对同一个对象反复加锁和解锁，频繁的加锁操作就会导致性能损耗。 @@ -1719,19 +1840,19 @@ public static String concatString(String s1, String s2, String s3) { JDK 1.6 引入了偏向锁和轻量级锁，从而让锁拥有了四个状态：无锁状态（unlocked）、偏向锁状态（biasable）、轻量级锁状态（lightweight locked）和重量级锁状态（inflated）。 -以下是 HotSpot 虚拟机对象头的内存布局，这些数据被称为 Mark Word。其中 tag bits 对应了五个状态，这些状态在右侧的 state 表格中给出。除了 marked for gc 状态，其它四个状态已经在前面介绍过了。 +以下是 64 位 HotSpot 虚拟机对象头的内存布局，这些数据被称为 Mark Word。末尾两位的锁标志和倒数第 3 位的偏向标志区分了五种状态，除了 GC 标记状态，其它四个状态已经在前面介绍过了。 -

+

下图左侧是一个线程的虚拟机栈，其中有一部分称为 Lock Record 的区域，这是在轻量级锁运行过程创建的，用于存放锁对象的 Mark Word。而右侧就是一个锁对象，包含了 Mark Word 和其它信息。 -

+

轻量级锁是相对于传统的重量级锁而言，它使用 CAS 操作来避免重量级锁使用互斥量的开销。对于绝大部分的锁，在整个同步周期内都是不存在竞争的，因此也就不需要都使用互斥量进行同步，可以先采用 CAS 操作进行同步，如果 CAS 失败了再改用互斥量进行同步。 当尝试获取一个锁对象时，如果锁对象标记为 0 01，说明锁对象的锁未锁定（unlocked）状态。此时虚拟机在当前线程的虚拟机栈中创建 Lock Record，然后使用 CAS 操作将对象的 Mark Word 更新为 Lock Record 指针。如果 CAS 操作成功了，那么线程就获取了该对象上的锁，并且对象的 Mark Word 的锁标记变为 00，表示该对象处于轻量级锁状态。 -

+

如果 CAS 操作失败了，虚拟机首先会检查对象的 Mark Word 是否指向当前线程的虚拟机栈，如果是的话说明当前线程已经拥有了这个锁对象，那就可以直接进入同步块继续执行，否则说明这个锁对象已经被其他线程线程抢占了。如果有两条以上的线程争用同一个锁，那轻量级锁就不再有效，要膨胀为重量级锁。 @@ -1743,8 +1864,6 @@ JDK 1.6 引入了偏向锁和轻量级锁，从而让锁拥有了四个状态： 当有另外一个线程去尝试获取这个锁对象时，偏向状态就宣告结束，此时撤销偏向（Revoke Bias）后恢复到未锁定状态或者轻量级锁状态。 -

- 需要注意的是，偏向锁在 JDK 15 中被默认禁用并废弃（JEP 374），JDK 18 起相关参数已不再生效。 ## 十三、多线程开发良好的实践 @@ -1775,7 +1894,7 @@ JDK 1.6 引入了偏向锁和轻量级锁，从而让锁拥有了四个状态： - [Java 线程面试题 Top 50](http://www.importnew.com/12773.html) - [BlockingQueue](http://tutorials.jenkov.com/java-util-concurrent/blockingqueue.html) - [thread state java](https://stackoverflow.com/questions/11265289/thread-state-java) -- [CSC 456 Spring 2012/ch7 MN](http://wiki.expertiza.ncsu.edu/index.php/CSC_456_Spring_2012/ch7_MN) +- [CSC 456 Spring 2012/ch7 MN](https://web.archive.org/web/20250417190245/https://wiki.expertiza.ncsu.edu/index.php/CSC_456_Spring_2012/ch7_MN) - [Java - Understanding Happens-before relationship](https://www.logicbig.com/tutorials/core-java-tutorial/java-multi-threading/happens-before.html) - [6장 Thread Synchronization](https://www.slideshare.net/novathinker/6-thread-synchronization) - [How is Java's ThreadLocal implemented under the hood?](https://stackoverflow.com/questions/1202444/how-is-javas-threadlocal-implemented-under-the-hood/15653015) @@ -1783,3 +1902,5 @@ JDK 1.6 引入了偏向锁和轻量级锁，从而让锁拥有了四个状态： - [JAVA FORK JOIN EXAMPLE](http://www.javacreed.com/java-fork-join-example/ "Java Fork Join Example") - [聊聊并发（八）——Fork/Join 框架介绍](http://ifeve.com/talk-concurrency-forkjoin/) - [Eliminating SynchronizationRelated Atomic Operations with Biased Locking and Bulk Rebiasing](http://www.oracle.com/technetwork/java/javase/tech/biasedlocking-oopsla2006-preso-150106.pdf) +- [JEP 374: Deprecate and Disable Biased Locking](https://openjdk.org/jeps/374) +- [markOop.hpp | OpenJDK jdk8u](https://github.com/openjdk/jdk8u/blob/master/hotspot/src/share/vm/oops/markOop.hpp) diff --git a/notes/pics/jc-atomic-cas.png b/notes/pics/jc-atomic-cas.png new file mode 100644 index 00000000..5b68499a Binary files /dev/null and b/notes/pics/jc-atomic-cas.png differ diff --git a/notes/pics/jc-cnt-race.png b/notes/pics/jc-cnt-race.png new file mode 100644 index 00000000..d1e0f548 Binary files /dev/null and b/notes/pics/jc-cnt-race.png differ diff --git a/notes/pics/jc-countdownlatch.png b/notes/pics/jc-countdownlatch.png new file mode 100644 index 00000000..42db01ff Binary files /dev/null and b/notes/pics/jc-countdownlatch.png differ diff --git a/notes/pics/jc-cpu-cache.png b/notes/pics/jc-cpu-cache.png new file mode 100644 index 00000000..ab1707b5 Binary files /dev/null and b/notes/pics/jc-cpu-cache.png differ diff --git a/notes/pics/jc-cyclicbarrier.png b/notes/pics/jc-cyclicbarrier.png new file mode 100644 index 00000000..d648ece8 Binary files /dev/null and b/notes/pics/jc-cyclicbarrier.png differ diff --git a/notes/pics/jc-hb-join.png b/notes/pics/jc-hb-join.png new file mode 100644 index 00000000..7ac8279f Binary files /dev/null and b/notes/pics/jc-hb-join.png differ diff --git a/notes/pics/jc-hb-monitor.png b/notes/pics/jc-hb-monitor.png new file mode 100644 index 00000000..8be8854a Binary files /dev/null and b/notes/pics/jc-hb-monitor.png differ diff --git a/notes/pics/jc-hb-program-order.png b/notes/pics/jc-hb-program-order.png new file mode 100644 index 00000000..40ae5334 Binary files /dev/null and b/notes/pics/jc-hb-program-order.png differ diff --git a/notes/pics/jc-hb-start.png b/notes/pics/jc-hb-start.png new file mode 100644 index 00000000..40f9421a Binary files /dev/null and b/notes/pics/jc-hb-start.png differ diff --git a/notes/pics/jc-hb-volatile.png b/notes/pics/jc-hb-volatile.png new file mode 100644 index 00000000..9b36c673 Binary files /dev/null and b/notes/pics/jc-hb-volatile.png differ diff --git a/notes/pics/jc-jmm-ops.png b/notes/pics/jc-jmm-ops.png new file mode 100644 index 00000000..decc984c Binary files /dev/null and b/notes/pics/jc-jmm-ops.png differ diff --git a/notes/pics/jc-jmm.png b/notes/pics/jc-jmm.png new file mode 100644 index 00000000..9db572be Binary files /dev/null and b/notes/pics/jc-jmm.png differ diff --git a/notes/pics/jc-threadlocal.png b/notes/pics/jc-threadlocal.png new file mode 100644 index 00000000..fab25269 Binary files /dev/null and b/notes/pics/jc-threadlocal.png differ diff --git a/notes/pics/jc-work-stealing.png b/notes/pics/jc-work-stealing.png new file mode 100644 index 00000000..9502efd5 Binary files /dev/null and b/notes/pics/jc-work-stealing.png differ diff --git a/notes/pics/lock-record.png b/notes/pics/lock-record.png new file mode 100644 index 00000000..b88a03fd Binary files /dev/null and b/notes/pics/lock-record.png differ diff --git a/notes/pics/lock-states.png b/notes/pics/lock-states.png new file mode 100644 index 00000000..b36faed0 Binary files /dev/null and b/notes/pics/lock-states.png differ diff --git a/notes/pics/markword.png b/notes/pics/markword.png new file mode 100644 index 00000000..5d1d7087 Binary files /dev/null and b/notes/pics/markword.png differ diff --git a/tools/diagram/src/jc-atomic-cas.svg b/tools/diagram/src/jc-atomic-cas.svg new file mode 100644 index 00000000..613e3683 --- /dev/null +++ b/tools/diagram/src/jc-atomic-cas.svg @@ -0,0 +1,63 @@ + + + + + + + + + + + + + + + + AtomicInteger：CAS 失败就重新读取再试 + + 线程 T1 + incrementAndGet() + + + 线程 T2 + incrementAndGet() + + 时间 + + + 读取当前值 + → 0 + + 读取当前值 + → 0 + + CAS(期望 0，新值 1) + 成功 + + CAS(期望 0，新值 1) + 失败，当前是 1 + + 重新读取当前值 + → 1 + + CAS(期望 1，新值 2) + 成功 + 结果为 2。CAS 由 CPU 的一条原子指令完成：只有当前值等于期望值时才写入新值。 + diff --git a/tools/diagram/src/jc-cnt-race.svg b/tools/diagram/src/jc-cnt-race.svg new file mode 100644 index 00000000..70eec535 --- /dev/null +++ b/tools/diagram/src/jc-cnt-race.svg @@ -0,0 +1,64 @@ + + + + + + + + + + + + + + + + 两个线程同时执行 cnt++，结果只加了 1 + + 线程 T1 + cnt++ + + + 线程 T2 + cnt++ + + 时间 + + + load：从主内存读入 cnt + → 0 + + load：从主内存读入 cnt + → 0 + + assign：cnt = 0 + 1 + → 1 + + assign：cnt = 0 + 1 + → 1 + + store：写回主内存 + cnt = 1 + + store：写回主内存 + cnt = 1 + 执行了两次自增，主内存中的 cnt 是 1 而不是 2。 + load、assign、store 每一步都是原子的，但三步合在一起不是。 + diff --git a/tools/diagram/src/jc-countdownlatch.svg b/tools/diagram/src/jc-countdownlatch.svg new file mode 100644 index 00000000..14b67d35 --- /dev/null +++ b/tools/diagram/src/jc-countdownlatch.svg @@ -0,0 +1,68 @@ + + + + + + + + + + + + + + + + CountDownLatch：计数减到 0 时唤醒等待的线程 + main + + worker-1 + + worker-2 + + worker-3 + + + 执行 + + await()，等待 + + 被唤醒，继续执行 + + 执行任务 + + countDown() + + + 执行任务 + + countDown() + + + 执行任务 + + countDown() + + count = 3 + 2 + 1 + 0 + 示意：new CountDownLatch(3)，main 调用 await() 等待 3 个工作线程各调用一次 countDown()。计数不能重置，只能使用一次。 + diff --git a/tools/diagram/src/jc-cpu-cache.svg b/tools/diagram/src/jc-cpu-cache.svg new file mode 100644 index 00000000..3779c5a6 --- /dev/null +++ b/tools/diagram/src/jc-cpu-cache.svg @@ -0,0 +1,79 @@ + + + + + + + + + + + + + + + + CPU 缓存：每个核心先读写自己的缓存 + + 核心 0 + + L1 数据缓存 + 128 KB + + + 核心 1 + + L1 数据缓存 + 128 KB + + + 核心 2 + + L1 数据缓存 + 128 KB + + + 核心 3 + + L1 数据缓存 + 128 KB + + + L2 缓存，4 个性能核共享 + 12 MB + + + + + + 主内存 + 32 GB + + 以本机 Apple M1 Pro 为例（sysctl） + 缓存以缓存行为单位读写， + 本机的缓存行为 128 字节。 + 核心 0 修改了缓存中的变量， + 其它核心缓存里可能还是旧值， + 缓存一致性协议负责让它们失效， + 但编译器和 CPU 的重排序、 + 写缓冲仍会导致其它线程看不到 + 最新的值。 + 图中只画了一组 4 个性能核；本机共有 8 个性能核和 2 个能效核。 + diff --git a/tools/diagram/src/jc-cyclicbarrier.svg b/tools/diagram/src/jc-cyclicbarrier.svg new file mode 100644 index 00000000..10804b06 --- /dev/null +++ b/tools/diagram/src/jc-cyclicbarrier.svg @@ -0,0 +1,68 @@ + + + + + + + + + + + + + + + + CyclicBarrier：线程到齐后一起继续，然后自动开始下一轮 + thread-0 + + thread-1 + + thread-2 + + + 第 1 轮 + + await() + + 第 2 轮 + + await() + + 第 1 轮 + + await() + + 第 2 轮 + + await() + + 第 1 轮 + + 第 2 轮 + + 屏障打开 + 执行 barrierAction + + 再次打开 + 执行 barrierAction + new CyclicBarrier(3, barrierAction)：先到的线程在 await() 处等待，第 3 个线程到达时屏障打开； + 计数随即恢复为 3，同一个对象可以用于下一轮。在 JDK 21 上运行两轮，barrierAction 各执行了一次。 + diff --git a/tools/diagram/src/jc-hb-join.svg b/tools/diagram/src/jc-hb-join.svg new file mode 100644 index 00000000..9dd8f88f --- /dev/null +++ b/tools/diagram/src/jc-hb-join.svg @@ -0,0 +1,50 @@ + + + + + + + + + + + + + + + + 线程加入规则 + + 线程 t + + main + + x = 1; + + // 线程结束 + + t.join(); // 返回 + + print(x); // 1 + + + + 线程 t 中的所有操作先行发生于其它线程从 t.join() 返回。 + diff --git a/tools/diagram/src/jc-hb-monitor.svg b/tools/diagram/src/jc-hb-monitor.svg new file mode 100644 index 00000000..a12e2139 --- /dev/null +++ b/tools/diagram/src/jc-hb-monitor.svg @@ -0,0 +1,51 @@ + + + + + + + + + + + + + + + + 管程锁定规则 + + 线程 T1 + + 线程 T2 + + synchronized (lock) { + + x = 1; + + } // unlock + + synchronized (lock) { // lock + + print(x); // 1 + + + T1 释放锁先行发生于 T2 之后获得同一把锁，T1 在锁内的修改对 T2 可见。 + diff --git a/tools/diagram/src/jc-hb-program-order.svg b/tools/diagram/src/jc-hb-program-order.svg new file mode 100644 index 00000000..df9922ec --- /dev/null +++ b/tools/diagram/src/jc-hb-program-order.svg @@ -0,0 +1,45 @@ + + + + + + + + + + + + + + + + 单一线程原则 + + 线程 T + + x = 1; + + y = x + 1; + + print(y); // 2 + + + 同一个线程内，前面的操作先行发生于后面的操作。 + diff --git a/tools/diagram/src/jc-hb-start.svg b/tools/diagram/src/jc-hb-start.svg new file mode 100644 index 00000000..a6f1bb94 --- /dev/null +++ b/tools/diagram/src/jc-hb-start.svg @@ -0,0 +1,47 @@ + + + + + + + + + + + + + + + + 线程启动规则 + + main + + 线程 t + + x = 1; + + t.start(); + + print(x); // 1 + + + start() 先行发生于新线程中的每一个操作。 + diff --git a/tools/diagram/src/jc-hb-volatile.svg b/tools/diagram/src/jc-hb-volatile.svg new file mode 100644 index 00000000..652b537b --- /dev/null +++ b/tools/diagram/src/jc-hb-volatile.svg @@ -0,0 +1,50 @@ + + + + + + + + + + + + + + + + volatile 变量规则 + + 线程 T1 + + 线程 T2 + + data = 42; + + ready = true; // volatile + + if (ready) // 读到 true + + print(data); // 42 + + + + 写 volatile 变量先行发生于之后读到这个值；加上传递性，T2 也能看到 data = 42。 + diff --git a/tools/diagram/src/jc-jmm-ops.svg b/tools/diagram/src/jc-jmm-ops.svg new file mode 100644 index 00000000..44076873 --- /dev/null +++ b/tools/diagram/src/jc-jmm-ops.svg @@ -0,0 +1,54 @@ + + + + + + + + + + + + + + + + 主内存与工作内存之间的 8 种操作 + + 主内存 + 变量 cnt + + 工作内存 + cnt 的副本 + + 执行引擎 + cnt + 1 + + read → load + + store → write + + use + + assign + lock / unlock + 作用于主内存中的变量 + read 把值从主内存传到工作内存，load 放入副本；store 把副本传回主内存，write 写入变量。 + diff --git a/tools/diagram/src/jc-jmm.svg b/tools/diagram/src/jc-jmm.svg new file mode 100644 index 00000000..ca5cf4ae --- /dev/null +++ b/tools/diagram/src/jc-jmm.svg @@ -0,0 +1,61 @@ + + + + + + + + + + + + + + + + Java 内存模型：线程读写自己的工作内存，通过主内存交换数据 + + 线程 1 + + 工作内存 + cnt = 1 + + + 已修改，还没写回 + + 线程 2 + + 工作内存 + cnt = 0 + + + 读到的是旧值 + + 线程 3 + + 工作内存 + cnt = 0 + + + + 主内存 + cnt = 0 + 工作内存是对寄存器、缓存等的抽象。线程 1 把 cnt 改为 1 但还没有写回主内存，线程 2 读到的仍然是 0。 + diff --git a/tools/diagram/src/jc-threadlocal.svg b/tools/diagram/src/jc-threadlocal.svg new file mode 100644 index 00000000..b1f3a572 --- /dev/null +++ b/tools/diagram/src/jc-threadlocal.svg @@ -0,0 +1,73 @@ + + + + + + + + + + + + + + + + ThreadLocal：值保存在每个线程自己的 ThreadLocalMap 中 + + Thread1.threadLocals + + value + + 1 + + 1 + + key（弱引用） + + threadLocal1 + + threadLocal2 + + Thread2.threadLocals + + key（弱引用） + + threadLocal1 + + threadLocal2 + + value + + 2 + + 2 + + threadLocal1 + + + + threadLocal2 + + + ThreadLocal 对象 + 每个线程的 Map 以 ThreadLocal 对象为 key：同一个 threadLocal1，在两个线程中取到的值不同。 + Entry 对 key 是弱引用，对 value 是强引用；线程池中的线程一直存活，value 不 remove() 就一直留在 Map 中。 + diff --git a/tools/diagram/src/jc-work-stealing.svg b/tools/diagram/src/jc-work-stealing.svg new file mode 100644 index 00000000..1bb217df --- /dev/null +++ b/tools/diagram/src/jc-work-stealing.svg @@ -0,0 +1,53 @@ + + + + + + + + + + + + + + + + 工作窃取：自己从队列一端取，窃取从另一端取 + Thread1 的双端队列 + + + Task1 + + Task2 + + Task3 + 旧 + 新 + + Thread1 自己取出最新的 Task3 + （后进先出） + + Thread2 的队列为空 + + Thread2 窃取最早的 Task1（先进先出） + 所有者和窃取者在队列的两端操作，只有队列中只剩一个任务时才会发生竞争。 + 先放入的任务通常是拆分前更大的任务，窃取它能让空闲线程分到更多的工作。 + diff --git a/tools/diagram/src/lock-record.svg b/tools/diagram/src/lock-record.svg new file mode 100644 index 00000000..b39e7377 --- /dev/null +++ b/tools/diagram/src/lock-record.svg @@ -0,0 +1,52 @@ + + + + + + + + + + + + + + + + 轻量级锁：加锁就是一次 CAS + + 线程 T1 的栈 + + 其它栈帧 + + Lock Record + 保存原来的 Mark Word …01 + + 锁对象 + + Mark Word：Lock Record 的地址 …00 + + 类型指针 + + 字段 + + CAS 成功 + CAS 期望 Mark Word 仍是原来的 …01，成功就加锁完成；失败说明已被其它线程持有（或是当前线程重入），竞争时膨胀为重量级锁。 + diff --git a/tools/diagram/src/lock-states.svg b/tools/diagram/src/lock-states.svg new file mode 100644 index 00000000..0fa4a66f --- /dev/null +++ b/tools/diagram/src/lock-states.svg @@ -0,0 +1,59 @@ + + + + + + + + + + + + + + + + synchronized 的锁状态变化（JDK 21 用 JOL 实测 Mark Word） + + 无锁 + 0x0000000000000001 + 末尾 01 + + 轻量级锁 + 0x000000016faceae0 + 末尾 00 + 指向加锁线程栈中的 Lock Record + + 重量级锁 + 0x000000015b630a72 + 末尾 10 + 指向 ObjectMonitor + + + 进入 synchronized：CAS 把 Mark Word 换成 + Lock Record 地址；退出时 CAS 换回 + + 另一个线程加锁时 CAS 失败， + 膨胀为重量级锁，抢不到的线程阻塞 + 实测：① 新建的对象是 0x…01；② 一个线程进入 synchronized 后变为 thin lock；③ 退出后恢复为 0x…01； + ④ 另一个线程持有锁时再去加锁，变为 fat lock；⑤ 两个线程都退出后仍是 fat lock，空闲的监视器由 JVM 之后回收。 + 如果对象调用过 hashCode()，哈希值会写进 Mark Word，例如 0x00000028ac3dc301 中的 28ac3dc3。 + 锁只会从轻量级膨胀为重量级，不会在使用中降级；JDK 15 之前，一个线程反复加锁时还会先进入偏向锁。 + diff --git a/tools/diagram/src/markword.svg b/tools/diagram/src/markword.svg new file mode 100644 index 00000000..e9e53f4e --- /dev/null +++ b/tools/diagram/src/markword.svg @@ -0,0 +1,79 @@ + + + + + + + + + + + + + + + + 64 位 HotSpot 的 Mark Word（JDK 8） + 是否偏向 + 锁标志 + 无锁 + + unused 25 + + hashCode 31 + + 1 + + age 4 + + 0 + + 01 + 偏向锁 + + 线程 ID 54 + + epoch 2 + + 1 + + age 4 + + 1 + + 01 + 轻量级锁 + + 指向栈中 Lock Record 的指针 62 + + 00 + 重量级锁 + + 指向 ObjectMonitor 的指针 62 + + 10 + GC 标记 + + + + 11 + 末尾两位是锁标志，01 时再看倒数第 3 位区分无锁和偏向锁。偏向锁在 JDK 15 默认禁用（JEP 374），之后被移除， + 现在对象只在无锁、轻量级锁、重量级锁之间转换。依据 jdk8u 的 markOop.hpp。 +