ZGC 在 JDK11 中作为实验性功能引入后,已经经过了 5 个版本的演进,目前较之前版本有了较大的变化。本文将分析 ZGC 的设计思想和原理。
ZGC 主要设计理念如下:
ZGC 为了支持 TB 级内存,采用了基于 Page 的分页管理(类似于 G1 的 Region)。同时,为了加快内存访问速度,快速的进行并发标记和 relocate,ZGC 新引入了 Color Pointers;Color Pointers 与 Shenandoah GC 使用的 Brooks Pointers 机制不同,依赖内核提供的多视图映射,因此仅能支持部分操作系统的 64 位版本,适用性不如 Shenandoah GC,同时也无法支持指针压缩 CompressedOops。另外,为了高效内存管理,设计了两级内存管理系统。内存管理指针结构zGlobals_x86.cpp
// Address Space & Pointer Layout 3// --------------------------------//// --------------------------------0x00007FFFFFFFFFFF (127TB)//..//..//..// --------------------------------0x0000500000000000 (80TB)//| Remapped View|// --------------------------------0x0000400000000000 (64TB)//..// --------------------------------0x0000300000000000 (48TB)//| Marked1 View |// --------------------------------0x0000200000000000 (32TB)//| Marked0 View |// --------------------------------0x0000100000000000 (16TB)//..// --------------------------------0x0000000000000000//// 6 444 4// 3 874 3 0// ------------------ ---- ------------------------------------------------- //|00000000 00000000 |1111|1111 11111111 11111111 11111111 11111111 11111111|// ------------------ ---- ------------------------------------------------- //|||//||* 43-0 Object Offset (44-bits, 16TB address space)//||//|* 47-44 Metadata Bits (4-bits)0001 = Marked0(Address view 16-32TB)//|0010 = Marked1(Address view 32-48TB)//|0100 = Remapped (Address view 64-80TB)//|1000 = Finalizable(Address view N/A)//|//* 63-48 Fixed (16-bits, always zero)//
ZGC 指针布局有三种方式,分别用于支持 4TB、8TB、16TB 的堆空间,以上代码用于为 layout 3 支持 16TB 的布局;43-0 bit 对象地址;47-44 对象视图,分为三种对象视图:Marked0、Marked1Remappedx86 和 aarch64 架构下最多仅支持 48 位指针,主要是因为硬件限制。通常为了节约成本,64 位处理器地址线一般仅 40-50 条,因此寻址范围远不及 64 位的理论值。多视图
ZGC 将同一段物理内存映射到 3 个不同的虚拟内存视图,分别为 Marked0、Marked1、Remapped,这即是 ZGC 中的 Color Pointers,通过 Color Pointers 区分不同的 GC 阶段。
映射ZGC 的多视图映射依赖于内核提供的 mmap 方法,具体代码如下
zPhysicalMemory.hpp, zPhysicalMemory.cpp, zPhysicalMemoryBacking_linux.cpp
// 物理内存管理类class ZPhysicalMemory {private:ZArray<ZPhysicalMemorySegment> _segments;void insert_segment(int index, uintptr_t start, size_t size, bool committed);void replace_segment(int index, uintptr_t start, size_t size, bool committed);void remove_segment(int index);public:ZPhysicalMemory();ZPhysicalMemory(const ZPhysicalMemorySegment& segment);ZPhysicalMemory(const ZPhysicalMemory& pmem);const ZPhysicalMemory& operator=(const ZPhysicalMemory& pmem);bool is_null() const;size_t size() const;int nsegments() const;const ZPhysicalMemorySegment& segment(int index) const;void add_segments(const ZPhysicalMemory& pmem);void remove_segments();void add_segment(const ZPhysicalMemorySegment& segment);bool commit_segment(int index, size_t size);bool uncommit_segment(int index, size_t size);ZPhysicalMemory split(size_t size);ZPhysicalMemory split_committed();};// 将三个虚拟内存视图映射到同一物理内存// 在JDK14中增加了对于ZVerifyViews JVM参数的支持(https://bugs.openjdk.java.net/browse/JDK-8232604)void ZPhysicalMemoryManager::map(uintptr_t offset, const ZPhysicalMemory& pmem) const {const size_t size = pmem.size();if (ZVerifyViews) {// Map good viewmap_view(ZAddress::good(offset), pmem);} else {// Map all viewsmap_view(ZAddress::marked0(offset), pmem);map_view(ZAddress::marked1(offset), pmem);map_view(ZAddress::remapped(offset), pmem);}nmt_commit(offset, size);}void ZPhysicalMemoryManager::map_view(uintptr_t addr, const ZPhysicalMemory& pmem) const {size_t size = 0;// 逐个映射物理内存// ZGC中使用segment管理物理内存,后续文章将详细介绍for (int i = 0; i < pmem.nsegments(); i) {const ZPhysicalMemorySegment& segment = pmem.segment(i);_backing.map(addr size, segment.size(), segment.start());size= segment.size();}// Setup NUMA interleaving for large pagesif (ZNUMA::is_enabled() && ZLargePages::is_explicit()) {// To get granule-level NUMA interleaving when using large pages,// we simply let the kernel interleave the memory for us at page// fault time.os::numa_make_global((char*)addr, size);}}// 最终对于map的调用// 对于linux系统,调用mmap进行映射void ZPhysicalMemoryBacking::map(uintptr_t addr, size_t size, uintptr_t offset) const {// 可读、可写、修改共享// 如果参数start所指的地址无法成功建立映射时,则放弃映射,不对地址做修正。const void* const res = mmap((void*)addr, size, PROT_READ|PROT_WRITE, MAP_FIXED|MAP_SHARED, _fd, offset);if (res == MAP_FAILED) {ZErrno err;fatal("Failed to map memory (%s)", err.to_string());}}
ZPhysicalMemory 是 ZGC 对于物理内存管理的抽象,收敛 ZGC 对于物理内存的访问。ZPhysicalMemory 底层根据宿主操作系统调用不同的 ZPhysicalMemoryBacking 实现,进行多视图映射。物理内存管理
ZGC 对于物理内存的管理主要在 ZPhysicalMemory 类中,此处需要注意,ZGC 上下文中的物理内存,不是真正的物理内存,而是操作系统虚拟内存。
ZGC 中管理物理内存的基本单位是 segment。segment 默认与 small page size 一样,都是 2MB。引入 segment 是为了避免频繁的申请和释放内存的系统调用,一次申请 2MB,当 segment 空闲时,将加入空闲列表,等待之后重复使用。
zGlobals_x86.hpp
// 默认page size偏移量const size_t ZPlatformGranuleSizeShift = 21; // 2MB
ZPhysicalMemorySegment 是 ZGC 对于物理内存 segment 的抽象,定义如下:
zPhysicalMemory.cpp
private:// 开始偏移量uintptr_t _start;// 开始偏移量 sizeuintptr_t _end;bool_committed;public:ZPhysicalMemorySegment();ZPhysicalMemorySegment(uintptr_t start, size_t size, bool committed);uintptr_t start() const;uintptr_t end() const;size_t size() const;bool is_committed() const;void set_committed(bool committed);};
页面管理Page 介绍
ZGC 中内存管理的基本单元是 Page(类似于 G1 中的 region),ZGC 有 3 种不同的页面类型:小型(2MB),中型(32MB)和大型(2MB 的倍数)。
zGlobals_x86.hpp
const size_t ZPlatformGranuleSizeShift = 21; // 2MB
zGlobals.hpp
// Page typesconst uint8_t ZPageTypeSmall= 0;const uint8_t ZPageTypeMedium = 1;const uint8_t ZPageTypeLarge= 2;// Page size shiftsconst size_tZPageSizeSmallShift = ZGranuleSizeShift;extern size_t ZPageSizeMediumShift;// Page sizes// small page 2MBconst size_tZPageSizeSmall= (size_t)1 << ZPageSizeSmallShift;extern size_t ZPageSizeMedium;// 对象size限制,small page不超过2MB/8, 256KBconst size_tZObjectSizeLimitSmall = ZPageSizeSmall / 8; // 12.5% max wasteextern size_t ZObjectSizeLimitMedium;
medium 页 size 的计算方法如下:
zHeuristics.cpp
void ZHeuristics::set_medium_page_size() {// Set ZPageSizeMedium so that a medium page occupies at most 3.125% of the// max heap size. ZPageSizeMedium is initially set to 0, which means medium// pages are effectively disabled. It is adjusted only if ZPageSizeMedium// becomes larger than ZPageSizeSmall.const size_t min = ZGranuleSize;const size_t max = ZGranuleSize * 16;const size_t unclamped = MaxHeapSize * 0.03125;const size_t clamped = clamp(unclamped, min, max);const size_t size = round_down_power_of_2(clamped);if (size > ZPageSizeSmall) {// Enable medium pagesZPageSizeMedium = size;ZPageSizeMediumShift= log2_intptr(ZPageSizeMedium);ZObjectSizeLimitMedium= ZPageSizeMedium / 8;ZObjectAlignmentMediumShift = (int)ZPageSizeMediumShift - 13;ZObjectAlignmentMedium= 1 << ZObjectAlignmentMediumShift;}}
取堆最大容量(Xmx)的 0.03125 unclamped;如果 unclamped 在 2MB 到 32MB 之间,clamped 赋值 unclamped;如果 unclamped 小于 2MB,则 clamped 赋值 2MB;如果 unclamped 大于 32MB,则 clamped 赋值 32MB;向下取 clamped 最接近的 2 的幂数,即为 medium 页 size;考虑到目前的硬件环境,通常的 medium 页 size 为 32MB;ZObjectSizeLimitMedium 为 ZPageSizeMedium / 8,则通常情况下,medium 页的对象 size 限制为 4MB。超过 4MB 的对象需要放入 large 页。
对于 large page 的处理如下:
zObjectAllocator.cpp
uintptr_t ZObjectAllocator::alloc_large_object(size_t size, ZAllocationFlags flags) {uintptr_t addr = 0;// Allocate new large pageconst size_t page_size = align_up(size, ZGranuleSize);ZPage* const page = alloc_page(ZPageTypeLarge, page_size, flags);if (page != NULL) {// Allocate the objectaddr = page->alloc_object(size);}return addr;}
分配大对象时,触发分配 large page;对齐大对象 size 到 2MB 的倍数后分配 large page。
zObjectAllocator.cpp
uintptr_t ZObjectAllocator::alloc_object(size_t size, ZAllocationFlags flags) {if (size <= ZObjectSizeLimitSmall) {// Smallreturn alloc_small_object(size, flags);} else if (size <= ZObjectSizeLimitMedium) {// Mediumreturn alloc_medium_object(size, flags);} else {// Largereturn alloc_large_object(size, flags);}}
当对象 size 大于 medium 页对象 size 限制时,触发大对象分配;因此,large 页的实际 size 很可能小于 medium 页 size。Page 的分配
Page 分配的入口在 ZHeap 的 alloc_page 方法:
zHeap.cpp
ZPage* ZObjectAllocator::alloc_page(uint8_t type, size_t size, ZAllocationFlags flags) {// 调用了page分配器的alloc_page函数ZPage* const page = ZHeap::heap()->alloc_page(type, size, flags);if (page != NULL) {// 增加使用内存数Atomic::add(_used.addr(), size);}return page;}
zPageAllocator.cpp
ZPage* ZPageAllocator::alloc_page(uint8_t type, size_t size, ZAllocationFlags flags) {EventZPageAllocation event;retry:ZPageAllocation allocation(type, size, flags);// 从page cache分配page// 如果分配成功,调用alloc_page_finalize完成分配// 分配过程中,如果是阻塞模式,有可能在安全点被阻塞if (!alloc_page_or_stall(&allocation)) {// Out of memoryreturn NULL;}// 如果从page cache分配失败,则从物理内存申请页// 提交pageZPage* const page = alloc_page_finalize(&allocation);if (page == NULL) {// 如果commit或者map失败,则goto到retry,重新分配alloc_page_failed(&allocation);goto retry;}// ...// ...// ...return page;}bool ZPageAllocator::alloc_page_or_stall(ZPageAllocation* allocation) {{// 分配page需要上锁,因为只有一个堆ZLocker<ZLock> locker(&_lock);// 分配成功,返回trueif (alloc_page_common(allocation)) {return true;}// 如果是非阻塞模式,返回falseif (allocation->flags().non_blocking()) {return false;}// 分配请求入队,等待GC完成_stalled.insert_last(allocation);}return alloc_page_stall(allocation);}// 阻塞分配,等待GCbool ZPageAllocator::alloc_page_stall(ZPageAllocation* allocation) {ZStatTimer timer(ZCriticalPhaseAllocationStall);EventZAllocationStall event;ZPageAllocationStall result;// 检查虚拟机是否已经完成初始化check_out_of_memory_during_initialization();do {// 启动异步GCZCollectedHeap::heap()->collect(GCCause::_z_allocation_stall);// 挂起,等待GC结果result = allocation->wait();} while (result == ZPageAllocationStallStartGC);// ...// ...// ...return (result == ZPageAllocationStallSuccess);}
阻塞分配与非阻塞分配,由系统参数 ZStallOnOutOfMemory 控制,默认阻塞分配。阻塞分配时,如果分配失败,则触发 GC,等待 GC 结束后再次分配,直到分配成功。对象分配
自从 JDK10 中的引入了 JEP 304: Garbage Collector Interface 后,OpenJDK 定义了一整套关于 GC 的虚方法,供具体的 GC 算法实现。极大了简化了开发难度和代码的可维护性。
JEP 304 定义了 CollectedHeap 类,每个 GC 都需要实现。CollectedHeap 类负责驱动 HotSpot 的 GC,以及和其他模块的交互。GC 应当实现如下功能:
CollectedHeap 的子类;BarrierSet 集合类的实现,提供在运行时各种屏障功能;CollectorPolicy 类的实现;GCInterpreterSupport 的实现,提供 GC 在解释执行时各种屏障功能(使用汇编指令);GCC1Support 的实现,提供 GC 在 C1 编译代码中各种屏障功能;GCC2Support 的实现,提供 GC 在 C2 编译代码中各种屏障功能;最终 GC 指定参数的初始化;一个 MemoryService,提供内存池、内存管理等。通常地,对象分配的入口在 InstanceKlass::allocate_instance,该方法调用 heap->obj_allocate()进行分配。
instanceOop InstanceKlass::allocate_instance(TRAPS) {bool has_finalizer_flag = has_finalizer(); // Query before possible GCint size = size_helper();// Query before forming handle.instanceOop i;i = (instanceOop)Universe::heap()->obj_allocate(this, size, CHECK_NULL);if (has_finalizer_flag && !RegisterFinalizersAtInit) {// 对于实现了finalize方法的类的实例的特殊处理i = register_finalizer(i, CHECK_NULL);}return i;}
CollectedHeap 对象分配流程图
对象分配一般遵循如下流程:
ZCollectedHeap 重载了 CollectedHeap 的方法,其中包含了对象分配的相关方法。而核心逻辑在放在 ZHeap 中。ZCollectedHeap 中主要的成员方法如下:
class ZCollectedHeap : public CollectedHeap {friend class VMStructs;private:// 软引用清理策略SoftRefPolicy _soft_ref_policy;// 内存屏障,解释执行/C1/C2执行时对象访问的屏障ZBarrierSet _barrier_set;// 初始化逻辑ZInitialize _initialize;// 堆管理的核心逻辑,包括对象分配、转移、标记ZHeap _heap;// 垃圾回收线程,触发ZDirector*_director;// 垃圾回收线程,执行ZDriver*_driver;// 垃圾回收线程,统计ZStat*_stat;// 工作线程ZRuntimeWorkers _runtime_workers;}
ZHeap
ZHeap 是 ZGC 内存管理的核心类。主要变量如下:
class ZHeap {friend class VMStructs;private:static ZHeap* _heap;// 工作线程ZWorkers_workers;// 对象分配器ZObjectAllocator_object_allocator;// 页面分配器ZPageAllocator_page_allocator;// 页表ZPageTable_page_table;// 转发表,用于对象迁移后的指针映射ZForwardingTable_forwarding_table;// 标记管理ZMark _mark;// 引用处理器ZReferenceProcessor _reference_processor;// 弱引用处理器ZWeakRootsProcessor _weak_roots_processor;// 转移管理器,用于对象迁移(类比G1的疏散)ZRelocate _relocate;// 转移集合ZRelocationSet_relocation_set;// 从元空间卸载类ZUnload _unload;ZServiceability _serviceability;}
对象分配器
对象分配的主要逻辑在 ZObjectAllocator。
对象分配器主要变量ZObjectAllocator 的主要变量如下:
class ZObjectAllocator {private:const bool _use_per_cpu_shared_small_pages;// 分CPU记录使用内存sizeZPerCPU<size_t>_used;// 分CPU记录undo内存sizeZPerCPU<size_t>_undone;// 缓存行对齐的模板类ZContended<ZPage*> _shared_medium_page;// 按CPU从缓存分配对象ZPerCPU<ZPage*>_shared_small_page;}
分配方法
对象分配的核心方法是 alloc_object
uintptr_t ZObjectAllocator::alloc_object(size_t size, ZAllocationFlags flags) {if (size <= ZObjectSizeLimitSmall) {// Smallreturn alloc_small_object(size, flags);} else if (size <= ZObjectSizeLimitMedium) {// Mediumreturn alloc_medium_object(size, flags);} else {// Largereturn alloc_large_object(size, flags);}}
按对象的 size,决定调用 small page 分配、medium page 分配还是 large page 分配。分配入参除了 size 外,还有个 ZAllocationFlags。ZAllocationFlags 是个 8bit 的配置参数。
large page 分配方法如下:
uintptr_t ZObjectAllocator::alloc_large_object(size_t size, ZAllocationFlags flags) {uintptr_t addr = 0;// 对齐2MBconst size_t page_size = align_up(size, ZGranuleSize);// 分配页面ZPage* const page = alloc_page(ZPageTypeLarge, page_size, flags);if (page != NULL) {// 在页面中分配对象addr = page->alloc_object(size);}return addr;}
small page 分配和 medium page 分配都会调用到 alloc_object_in_shared_page 方法;小对象和中对象的分配略有不同,小对象是根据所在 CPU 从共享页面中分配对象。而中对象则是全部线程共享一个 medium page。
// shared_page:页面地址// page_type:page类型,small还是medium// page_size: page size// size: 对象size// flags: 分配标识uintptr_t ZObjectAllocator::alloc_object_in_shared_page(ZPage** shared_page,uint8_t page_type,size_t page_size,size_t size,ZAllocationFlags flags) {uintptr_t addr = 0;// 获取一个pageZPage* page = Atomic::load_acquire(shared_page);if (page != NULL) {// 调用page的分配对象方法addr = page->alloc_object_atomic(size);}if (addr == 0) {// 如果刚才没有获取page成功,则分配一个new pageZPage* const new_page = alloc_page(page_type, page_size, flags);if (new_page != NULL) {// 先分配对象,然后加载page到shared_page缓存addr = new_page->alloc_object(size);retry:// 加载page到shared_page缓存ZPage* const prev_page = Atomic::cmpxchg(shared_page, page, new_page);if (prev_page != page) {if (prev_page == NULL) {// 如果prev_page已经淘汰,则goto到retry一直重试page = prev_page;goto retry;}// 其他线程加载了页面,则使用prev_page分配const uintptr_t prev_addr = prev_page->alloc_object_atomic(size);if (prev_addr == 0) {// 如果分配失败,则goto到retry一直重试page = prev_page;goto retry;}addr = prev_addr;undo_alloc_page(new_page);}}}return addr;}
Page 内的对象分配
page 内的对象分配主要是两个方法 alloc_object_atomic 和 alloc_object,其中 alloc_object 没有锁竞争,主要用于新 page 的第一次对象分配。
先看 alloc_object_atomic
inline uintptr_t ZPage::alloc_object_atomic(size_t size) {assert(is_allocating(), "Invalid state");// 对象对齐,默认8字节对齐const size_t aligned_size = align_up(size, object_alignment());uintptr_t addr = top();for (;;) {const uintptr_t new_top = addr aligned_size;if (new_top > end()) {// page没有申昱空间,则返回0return 0;}// cas操作更新prev_top指针const uintptr_t prev_top = Atomic::cmpxchg(&_top, addr, new_top);if (prev_top == addr) {// 调用ZAddress::good获取colored pointerreturn ZAddress::good(addr);}// 无限重试addr = prev_top;}}
再看看 alloc_object
inline uintptr_t ZPage::alloc_object(size_t size) {assert(is_allocating(), "Invalid state");// 对象空间对齐,默认8字节const size_t aligned_size = align_up(size, object_alignment());const uintptr_t addr = top();const uintptr_t new_top = addr aligned_size;if (new_top > end()) {// 剩余空间不足,返回0return 0;}_top = new_top;// 调用ZAddress::good获取colored pointerreturn ZAddress::good(addr);}
Colored pointer 的计算
可以看到上述两个方法在分配结束都调用了 ZAddress::good 返回 colored pointer。看看 ZAddress::good 的实现。
inline uintptr_t ZAddress::offset(uintptr_t value) {return value & ZAddressOffsetMask;}inline uintptr_t ZAddress::good(uintptr_t value) {return offset(value) | ZAddressGoodMask;}void ZAddress::set_good_mask(uintptr_t mask) {ZAddressGoodMask = mask;ZAddressBadMask = ZAddressGoodMask ^ ZAddressMetadataMask;ZAddressWeakBadMask = (ZAddressGoodMask | ZAddressMetadataRemapped | ZAddressMetadataFinalizable) ^ ZAddressMetadataMask;}
good 方法其实挺简单,先取 4 位染色值,然后或操作实际地址,获取 colored pointer。colored pointer 将在 load barrier 中使用,后文将详细介绍 load barrier 机制。读屏障
对于并发 GC 来说,最复杂的事情在于 GC worker 在标记-整理,而 Java 线程(Mutator)同时还在不断的创建新对象、修改字段,不停的更新对象引用关系。因此并发 GC 一般采用两种策略 Incremental Update(增量更新、CMS) 和 SATB(snapshot at beginning、G1) ,两种策略网上介绍文章很多,此处不再赘述。
SATB 重点关注引用关系的删除,可以参考我之前的博客 JVM G1 源码分析(四)- Dirty Card Queue Set(https://blog.csdn.net/a860MHz/article/details/97631300),而 Incremental Update 重点关注引用关系的增加。
而 ZGC 并没有采取类似方式,而是借助读屏障、colored pointer 来实现并发标记-整理。
原理什么是 Load Barrier一小段在最佳位置由 JIT 注入的代码从堆中加载一个对象引用时检查这个引用是否是 bad color如果是,则自愈Load Barrier 的触发从堆中加载对象引用时触发 load barrier。
// 从堆中加载一个对象引用,需要load barrierString n = person.name;// 不需要load barrier,不是从堆中加载String p = n;// 不需要load barrier,不是从堆中加载n.isEmpty();// 不需要load barrier,不是引用类型int age = person.age;
当引用类型 n 被赋值修改后,在下一次使用 n 前,会测试 n 的染色指针是否为 good。此时测试为 bad color 可知 n 的引用地址进行过修改,需要自愈。
触发 load barrier 的伪代码如下:
// 从堆中加载一个对象引用,需要load barrierString n = person.name;if (n & bad_bit_mask) {slow_path(register_for(n), address_of)}
对应的汇编代码:
// String n = person.name;mov 0x10(%rax), %rbx// 是否bad colortest %rbx, (0x16)%r15// 如是,进入slow pathjnz slow_path
源码分析掩码
zGlobals.hpp
//// Good/Bad mask states// --------------------//// GoodMask BadMaskWeakGoodMask WeakBadMask// --------------------------------------------------------------//Marked0001110101010//Marked1010101110001//Remapped 100011100011//// Good/bad masksextern uintptr_tZAddressGoodMask;extern uintptr_tZAddressBadMask;extern uintptr_tZAddressWeakBadMask;
zAddress.inline.hpp
inline bool ZAddress::is_null(uintptr_t value) {return value == 0;}inline bool ZAddress::is_bad(uintptr_t value) {return value & ZAddressBadMask;}inline bool ZAddress::is_good(uintptr_t value) {return !is_bad(value) && !is_null(value);}
从以上两段代码可以很清晰看出,colored pointer 的状态是 Good/WeakGood/Bad/WeakBad 由 GoodMask 及 BadMask 来测定。
同时,GoodMask、BadMask 由 GC 所处的阶段决定。
void ZAddress::set_good_mask(uintptr_t mask) {ZAddressGoodMask = mask;ZAddressBadMask = ZAddressGoodMask ^ ZAddressMetadataMask;ZAddressWeakBadMask = (ZAddressGoodMask | ZAddressMetadataRemapped | ZAddressMetadataFinalizable) ^ ZAddressMetadataMask;}void ZAddress::initialize() {ZAddressOffsetBits = ZPlatformAddressOffsetBits();ZAddressOffsetMask = (((uintptr_t)1 << ZAddressOffsetBits) - 1) << ZAddressOffsetShift;ZAddressOffsetMax = (uintptr_t)1 << ZAddressOffsetBits;ZAddressMetadataShift = ZPlatformAddressMetadataShift();ZAddressMetadataMask = (((uintptr_t)1 << ZAddressMetadataBits) - 1) << ZAddressMetadataShift;ZAddressMetadataMarked0 = (uintptr_t)1 << (ZAddressMetadataShift 0);ZAddressMetadataMarked1 = (uintptr_t)1 << (ZAddressMetadataShift 1);ZAddressMetadataRemapped = (uintptr_t)1 << (ZAddressMetadataShift 2);ZAddressMetadataFinalizable = (uintptr_t)1 << (ZAddressMetadataShift 3);ZAddressMetadataMarked = ZAddressMetadataMarked0;set_good_mask(ZAddressMetadataRemapped);}void ZAddress::flip_to_marked() {ZAddressMetadataMarked ^= (ZAddressMetadataMarked0 | ZAddressMetadataMarked1);set_good_mask(ZAddressMetadataMarked);}void ZAddress::flip_to_remapped() {set_good_mask(ZAddressMetadataRemapped);}
比如,ZGC 初始化后,地址视图为 Remapped,GoodMask 是 100,BadMask 是 011。进入标记阶段后,地址视图切换为 M0,GoodMask 和 BadMask 变更为 001 和 110。
屏障的进入条件accessDecorators.cpp
// === Access Location ===// 对堆的访问const DecoratorSet IN_HEAP= UCONST64(1) << 18;// 对堆外的访问const DecoratorSet IN_NATIVE= UCONST64(1) << 19;const DecoratorSet IN_DECORATOR_MASK= IN_HEAP | IN_NATIVE;
zBarrierSet.cpp
bool ZBarrierSet::barrier_needed(DecoratorSet decorators, BasicType type) {assert((decorators & AS_RAW) == 0, "Unexpected decorator");//assert((decorators & ON_UNKNOWN_OOP_REF) == 0, "Unexpected decorator");// 是否引用类型if (is_reference_type(type)) {// 是否从堆中或者堆外加载一个对象引用assert((decorators & (IN_HEAP | IN_NATIVE)) != 0, "Where is reference?");// Barrier needed even when IN_NATIVE, to allow concurrent scanning.return true;}// Barrier not neededreturn false;}
屏障
load barrier 的入口代码在 zBarrier.inline.hpp
// 模板函数template <ZBarrierFastPath fast_path, ZBarrierSlowPath slow_path>inline oop ZBarrier::barrier(volatile oop* p, oop o) {const uintptr_t addr = ZOop::to_address(o);// 如果是good指针,只需做一次类型转换if (fast_path(addr)) {return ZOop::from_address(addr);}// 否则,进入slow pathconst uintptr_t good_addr = slow_path(addr);// 指针自愈if (p != NULL) {self_heal<fast_path>(p, addr, good_addr);}// 类型转换return ZOop::from_address(good_addr);}
barrier 接收两个模板函数指针,根据输入函数的执行结果决定走 fast path 还是 slow path;fast path 仅需一次类型转换;slow path 执行后,还需要进行指针自愈,最后返回前做类型转换。fast path
fast path 根据执行场景和 colored pointer 不同有不少选择,使用比较多的如下:zBarrier.inline.hpp
// 又调回到ZAddress的inline函数了,都是一堆用colored pointer & 掩码的操作inline bool ZBarrier::is_good_or_null_fast_path(uintptr_t addr) {return ZAddress::is_good_or_null(addr);}inline bool ZBarrier::is_weak_good_or_null_fast_path(uintptr_t addr) {return ZAddress::is_weak_good_or_null(addr);}inline bool ZBarrier::is_marked_or_null_fast_path(uintptr_t addr) {return ZAddress::is_marked_or_null(addr);}
slow path
同样的 slow path 根据场景不同,也有好几个选择,但是使用较多的就是 load_barrier_on_oop_slow_path zBarrier.cpp
uintptr_t ZBarrier::load_barrier_on_oop_slow_path(uintptr_t addr) {// 迁移还是标记return relocate_or_mark(addr);}// 迁移uintptr_t ZBarrier::relocate(uintptr_t addr) {assert(!ZAddress::is_good(addr), "Should not be good");assert(!ZAddress::is_weak_good(addr), "Should not be weak good");// 调用heap的relocate_objectreturn ZHeap::heap()->relocate_object(addr);}
迁移对象
zHeap.inline.cpp zRelocate.cpp
// 迁移对象inline uintptr_t ZHeap::relocate_object(uintptr_t addr) {assert(ZGlobalPhase == ZPhaseRelocate, "Relocate not allowed");// 从forwarding table拿到地址映射关系// forwarding table会在后文介绍GC的执行过程时详细介绍。先简单理解成一个旧地址到新地址的映射好了。ZForwarding* const forwarding = _forwarding_table.get(addr);if (forwarding == NULL) {// 不在forwarding table内,那就是个good addressreturn ZAddress::good(addr);}// 迁移对象return _relocate.relocate_object(forwarding, ZAddress::good(addr));}// 实际的迁移方法uintptr_t ZRelocate::relocate_object(ZForwarding* forwarding, uintptr_t from_addr) const {ZForwardingCursor cursor;// 在forwarding table找到新地址// 如果新地址非0,则表示对象已经疏散到新page了,直接返回新地址// 如果新地址为0,则先迁移对象uintptr_t to_addr = forwarding_find(forwarding, from_addr, &cursor);if (to_addr != 0) {// Already relocatedreturn to_addr;}// 迁移对象if (forwarding->retain_page()) {to_addr = relocate_object_inner(forwarding, from_addr, &cursor);forwarding->release_page();if (to_addr != 0) {// 迁移成功return to_addr;}// 如果迁移失败,等待GC 工作线程完成迁移整个pageforwarding->wait_page_released();}return forward_object(forwarding, from_addr);}
标记
zBarrier.cpp zHeap.inline.cpp
template <bool follow, bool finalizable, bool publish>uintptr_t ZBarrier::mark(uintptr_t addr) {uintptr_t good_addr;if (ZAddress::is_marked(addr)) {// 如果已经标记过,或 Good掩码good_addr = ZAddress::good(addr);} else if (ZAddress::is_remapped(addr)) {// 如果remapped,表示GC开始前创建的对象,或 Good掩码// 需要标记good_addr = ZAddress::good(addr);} else {// 需要remap和标记good_addr = remap(addr);}// 标记对象if (should_mark_through<finalizable>(addr)) {ZHeap::heap()->mark_object<follow, finalizable, publish>(good_addr);}if (finalizable) {// 如果是可回收对象,则或Finalizable和Good掩码return ZAddress::finalizable_good(good_addr);}return good_addr;}// 调用ZHeap的remap对象uintptr_t ZBarrier::remap(uintptr_t addr) {assert(!ZAddress::is_good(addr), "Should not be good");assert(!ZAddress::is_weak_good(addr), "Should not be weak good");return ZHeap::heap()->remap_object(addr);}// remap对象inline uintptr_t ZHeap::remap_object(uintptr_t addr) {assert(ZGlobalPhase == ZPhaseMark || ZGlobalPhase == ZPhaseMarkCompleted, "Forward not allowed");ZForwarding* const forwarding = _forwarding_table.get(addr);if (forwarding == NULL) {// 如果forwarding table中没有,则无需迁移return ZAddress::good(addr);}// 迁移对象// 主要是迁移上一次GC时标记的对象return _relocate.forward_object(forwarding, ZAddress::good(addr));}
指针自愈
zBarrier.inline.hpp
template <ZBarrierFastPath fast_path>inline void ZBarrier::self_heal(volatile oop* p, uintptr_t addr, uintptr_t heal_addr) {if (heal_addr == 0) {return;}assert(!fast_path(addr), "Invalid self heal");assert(fast_path(heal_addr), "Invalid self heal");// 死循环for (;;) {// CAS good指针替换原指针const uintptr_t prev_addr = Atomic::cmpxchg((volatile uintptr_t*)p, addr, heal_addr);if (prev_addr == addr) {// CAS成功即可返回return;}if (fast_path(prev_addr)) {// 如果fast path判断为true,则直接返回return;}// 走到这儿,可能是指针已经被其他barrier自愈了。assert(ZAddress::offset(prev_addr) == ZAddress::offset(heal_addr), "Invalid offset");addr = prev_addr;}}
总的来说,ZGC 的 load barrier 是个非常精巧的设计,借助 colored pointer 和多视图,有效地避免了 load barrier 带来的性能压力。
加入我们我们是线索智能营销团队,负责字节跳动线索营销型产品研发。致力于帮助百万中小广告主更快速、更高效地获取高价值客户。利用字节的精准流量、数据智能技术,为广告主提供了具有线索获取、线索跟进、培育销转和再营销增长闭环的一站式客户线索管理平台。期待您的加入。
社招:https://job.toutiao.com/s/LK66Cf7
实习生:https://job.toutiao.com/s/LK61qf7
自去年十月英雄联盟手游在外服上线后,国内电竞圈诸多新老俱乐部纷...详情
随着时间的推进,英雄联盟手游B测已于7月20日正式开始,这也意味着...详情
BANDAI NAMCO Entertainment近日公布预定今年冬季发售的PlayStati...详情
对游玩过《闪之轨迹》系列的玩家来说十分熟悉的“战术导力器(オー...详情
2022-04-06 | 性能评测
2022-04-06 | 性能评测
2022-04-06 | 性能评测
2022-04-06 | 性能评测
2022-04-06 | 性能评测
2022-04-06 | 性能评测
2022-04-06 | 性能评测
2022-04-06 | 性能评测
2021-12-27 | 性能评测
2021-12-27 | 性能评测