TPU

Tensor Processing Unit (TPU) is een AI-versneller applicatiespecifieke geïntegreerde schakeling (ASIC) ontwikkeld door Google voor machine learning van neurale netwerken, met behulp van Google's eigen TensorFlow-software. In Google Foto's kan een individuele TPU meer dan 100 miljoen foto's per dag verwerken.Google begon TPU's in 2015 intern te gebruiken en maakte ze in 2018 beschikbaar voor gebruik door derden, zowel als onderdeel van zijn cloudinfrastructuur als door een kleinere versie van de chip te koop aan te bieden.
Vergeleken met een GPU zijn TPU's ontworpen voor een groot aantal berekeningen met lage precisie (bijv. slechts 8-bits precisie) met meer invoer-/uitvoerbewerkingen per joule, zonder hardware voor rasterisatie/textuurtoewijzing. De TPU ASIC's zijn gemonteerd in een koellichaam, dat in een harde-schijfsleuf in een datacenterrack past, aldus Norman Jouppi.
Verschillende soorten processors zijn geschikt voor verschillende soorten machine learning-modellen. TPU's zijn zeer geschikt voor CNN's(computer neural networks). Voor eenvoudige taken, zoals het classificeren van afbeeldingen, kan een computer met een enkele GPU voldoende zijn. Voor complexere taken, zoals het trainen van een groot neuraal netwerk, zijn meerdere GPU’s of zelfs een cluster van GPU’s nodig.
terwijl GPU's voordelen hebben voor sommige volledig verbonden neurale netwerken, en CPU's voordelen kunnen hebben voor RNN's.
Google biedt derden toegang tot TPU's via zijn Cloud TPU-service als onderdeel van het Google Cloud Platform.