기술

구글, 엔비디아 AI 칩 우위 겨냥한 TPU 시스템 2종 공개

6 조회수

구글은 월요일 특화 AI 컴퓨팅 시스템인 TPU 8tx와 TPU 8i Max를 공개하며 8세대 텐서 프로세싱 유닛 라인업을 네 가지 구성으로 확대하고, AI 가속기 시장에서 엔비디아에 대한 도전을 강화했다.

두 시스템 모두 내년에 출시될 예정이다. 어느 것도 완전히 새로운 실리콘 설계는 아니며, 구글은 고객들이 계속 제기하는 두 가지 문제, 즉 프라이버시와 메모리를 겨냥해 기존 하드웨어를 재구성했다.

데이터 사용 중 암호화 유지

TPU 8tx는 기밀 컴퓨팅을 위해 만들어졌다. 데이터는 보통 저장 및 전송 중에는 암호화되지만, 프로세서가 작업하는 동안 메모리에서 복호화되어야 하므로 노출될 틈이 생긴다. 구글은 8tx가 하드웨어 수준의 격리를 통해 작동 중에도 고객 데이터와 독점 모델 파라미터를 보호한다고 밝혔다.

이 시스템은 TPU 8t 실리콘에 5세대 AMD EPYC 프로세서와 구글의 저지연 Boardfly 네트워크를 결합한다. 구글은 추가 보호에도 거의 성능 저하 없이 8t 대비 지연 시간을 최대 절반까지 줄일 수 있다고 주장한다. 주요 고객으로는 정부 기관과 규제가 엄격한 산업의 기업들이 꼽힌다.

메모리 장벽

TPU 8i Max는 다른 한계를 해결한다. 코드베이스, 긴 문서, 수 시간 분량의 영상을 읽는 AI 에이전트는 단일 요청에 보통 필요한 것보다 훨씬 많은 정보에 빠르게 접근해야 한다. 구글은 TPU 8i 칩 두 개를 하나의 패키지에 담아 같은 랙 공간을 사용하면서 컴퓨팅 성능, 온칩 SRAM, 고대역폭 메모리 처리량을 두 배로 늘렸다.

구글의 AI 인프라 작업을 이끄는 아민 바흐다트는 이 계열 워크로드에서 메모리가 결정적 제약이라고 설명했다. 구글은 이 설계가 모델이 대량의 맥락을 유지해야 하는 신약 개발, 수학, 코딩 도구에 중요하다고 밝혔다.

중요한 이유

엔비디아는 여전히 AI 학습과 추론을 지배하고 있으며, 그 GPU는 대부분 개발자에게 기본 선택으로 남아 있다. 구글은 자사 서비스용으로 TPU를 개발했고 이제 온프레미스 배포를 포함해 외부 기업에 접근 권한을 판매하며, AI 연구소부터 대학까지 약 100개 고객이 사용한다고 밝혔다.

이번 출시는 구매자들이 대안을 찾는 시점에 나왔다. 보도에 따르면 오픈AI는 엔비디아 의존도를 줄이기 위해 구글 칩 구매를 계획하고 있으며, 엔비디아 주가는 젠슨 황 최고경영자에 대한 조사로 이번 달 급락했다.

---

반도체 제조를 위한 신뢰할 수 있는 자성유체 진공 회전 피드스루

반도체 제조에서는 회전 운동 중 초고진공 무결성을 유지하는 것이 중요합니다 — 단결정 실리콘 성장 및 CVD부터 스퍼터링 및 플라즈마 에칭까지. FerrofluidTec의 Ferrofluid Vacuum Rotary Shaft Feedthrough는 10⁻¹² Pa·m³·s⁻¹만큼 낮은 누출률, 최대 10⁻⁶ Pa의 진공도, 10mm에서 100mm까지 사용자 정의 가능한 샤프트 직경을 가진 기밀 밀봉 회전 피드스루를 제공합니다. 비자성 스테인리스 스틸 하우징과 자기 투자율 스테인리스 스틸 샤프트로 제작된 이 피드스루는 까다로운 진공 환경에 신뢰할 수 있는 유지보수 없는 밀봉을 제공합니다. 자세한 내용은 www.ferrofluidtec.com을 방문하세요.

출처: Bloomberg