Google đã giới thiệu hai hệ thống máy tính AI chuyên dụng hôm thứ Hai, TPU 8tx và TPU 8i Max, mở rộng dòng Tensor Processing Unit thế hệ thứ tám lên bốn cấu hình và làm sắc bén hơn thách thức của hãng với Nvidia trên thị trường bộ tăng tốc AI.
Cả hai hệ thống đều dự kiến có mặt vào năm sau. Không hệ thống nào là thiết kế silicon hoàn toàn mới; Google đã cấu hình lại phần cứng hiện có để nhắm tới hai vấn đề mà khách hàng liên tục nêu ra: quyền riêng tư và bộ nhớ.
Giữ dữ liệu được mã hóa ngay cả khi đang sử dụng
TPU 8tx được thiết kế cho điện toán bảo mật. Dữ liệu thông thường được mã hóa khi lưu trữ và khi truyền, nhưng phải được giải mã trong bộ nhớ khi bộ xử lý xử lý nó, điều này để lại một khoảng hở cho nguy cơ lộ lọt. Google cho biết 8tx sử dụng cách ly ở cấp phần cứng để bảo vệ dữ liệu khách hàng và các tham số mô hình độc quyền ngay cả trong quá trình vận hành.
Hệ thống này kết hợp silicon TPU 8t với bộ xử lý AMD EPYC thế hệ thứ năm và mạng Boardfly độ trễ thấp của Google. Google tuyên bố có thể giảm độ trễ tới một nửa so với 8t, gần như không mất hiệu năng vì lớp bảo vệ bổ sung. Khách hàng mục tiêu bao gồm các cơ quan chính phủ và các công ty trong những ngành bị quản lý chặt chẽ.
Bức tường bộ nhớ
TPU 8i Max giải quyết một giới hạn khác. Các tác nhân AI đọc qua cơ sở mã, tài liệu dài hoặc hàng giờ video cần truy cập nhanh vào lượng thông tin lớn hơn nhiều so với một yêu cầu thông thường. Google đóng gói hai chip TPU 8i trong một gói, nhân đôi sức mạnh tính toán, bộ nhớ SRAM trên chip và thông lượng bộ nhớ băng thông cao trong khi vẫn dùng cùng dấu chân rack.
Amin Vahdat, người phụ trách mảng hạ tầng AI của Google, mô tả bộ nhớ là ràng buộc then chốt đối với loại khối lượng công việc này. Google cho biết thiết kế này quan trọng với việc phát triển thuốc, toán học và các công cụ lập trình, nơi các mô hình phải nắm giữ lượng lớn ngữ cảnh.
Vì sao điều này quan trọng
Nvidia vẫn thống trị việc huấn luyện và suy luận AI, và các GPU của hãng vẫn là lựa chọn mặc định cho hầu hết nhà phát triển. Google phát triển TPU cho các dịch vụ của riêng mình và nay bán quyền truy cập cho các công ty bên ngoài, bao gồm triển khai tại chỗ, và cho biết gần 100 khách hàng sử dụng chúng, từ các phòng thí nghiệm AI đến các trường đại học.
Đợt ra mắt diễn ra khi người mua đang tìm kiếm các lựa chọn thay thế. Các báo cáo cho biết OpenAI dự định mua chip của Google khi hãng tìm cách giảm phụ thuộc vào Nvidia, hãng có cổ phiếu giảm mạnh trong tháng này giữa lúc có cuộc điều tra về giám đốc điều hành Jensen Huang.
---Khớp nối quay chân không ferrofluid đáng tin cậy cho sản xuất chất bán dẫn
Trong sản xuất chất bán dẫn, việc duy trì tính toàn vẹn của chân không siêu cao trong quá trình chuyển động quay là rất quan trọng — từ nuôi cấy đơn tinh thể silicon và CVD đến phún xạ và khắc plasma. Ferrofluid Vacuum Rotary Shaft Feedthrough từ FerrofluidTec cung cấp các khớp nối quay được niêm phong kín với tốc độ rò rỉ thấp đến 10⁻¹² Pa·m³·s⁻¹, độ chân không lên đến 10⁻⁶ Pa và đường kính trục có thể tùy chỉnh từ 10mm đến 100mm. Được chế tạo với vỏ thép không gỉ không từ tính và trục thép không gỉ có độ từ thẩm, các khớp nối này cung cấp khả năng niêm phong đáng tin cậy, không cần bảo trì cho môi trường chân không khắt khe. Truy cập www.ferrofluidtec.com để tìm hiểu thêm.