Tại hội nghị Hot Chips 2025, Google đã công bố thông tin chi tiết về TPU Ironwood, nền tảng tăng tốc AI thế hệ thứ 7 với hiệu năng vượt trội. Mỗi Ironwood TPU Superpod chứa tới 9.216 chip, được trang bị 192GB bộ nhớ HBM tốc độ 7,4 TB/s, cùng sức mạnh tính toán lên tới 4.614 TFLOPs trên mỗi chip, hứa hẹn đem lại bước nhảy vọt cho hạ tầng AI toàn cầu.
Từ TPU v4 đến Ironwood: cú nhảy hơn 16 lần sức mạnh
Google bắt đầu hành trình TPU từ năm 2022 với TPU v4, gồm 4.096 chip trong một pod, bộ nhớ HBM 32GB và hiệu năng 275 TFLOPs mỗi chip. Năm 2023, họ giới thiệu TPU v5p với 8.960 chip, 95GB HBM tốc độ 2,8 TB/s và 459 TFLOPs.
Đến năm nay, Ironwood nâng thông số lên một tầm mới:
- 9.216 chip mỗi pod
- 192GB HBM với băng thông 7,4 TB/s
- 4.614 TFLOPs mỗi chip – gấp 16 lần so với TPU v4.
Thiết kế Superpod và mạng lưới kết nối
Mỗi bo mạch Ironwood PCBA chứa 4 chip, ghép thành 16 PCBA trong một rack (tương đương 64 chip). Từ đó, Google xây dựng các Superpod với 144 rack, kết nối bằng InterChip Interconnect (ICI) – hệ thống mạng quy mô khổng lồ lên đến 1,8 petabyte.
Mỗi cụm logic được bố trí theo mô hình 3D Torus 4x4x4 (64 chip), kết hợp nhiều rack thành khối xử lý thống nhất. Hệ thống sử dụng liên kết quang, đồng và PCB hybrid để đảm bảo tính linh hoạt trong kết nối.
Công nghệ tản nhiệt và năng lượng
Ironwood Superpod được thiết kế với tản nhiệt bằng chất lỏng, có khay chống rò rỉ ở đỉnh rack và hệ thống phân phối điện 416V AC chuyển đổi sang DC. Khi vận hành tối đa, mỗi rack có thể đạt công suất hơn 100 kW, phản ánh quy mô khổng lồ của hạ tầng AI Google đang xây dựng.
Với Ironwood TPU, Google không chỉ tiếp tục dẫn đầu trong lĩnh vực chip AI chuyên dụng, mà còn cho thấy cách họ định hình siêu máy tính AI của kỷ nguyên trí tuệ nhân tạo thế hệ mới.
Nguồn: wccftech
