TPU adalah chip AI khusus yang mempercepat tugas AI dan Machine Learning yang kompleks di balik Google Search, Photos, Translate, dan antarmuka AI Gemini.

Chip ini juga digunakan di pusat data Google, Google Cloud, perangkat, dan mesin rekomendasi.

Groq membangun chip akselerator AI khusus yang disebut Unit Pemrosesan Bahasa (LPU), yang dirancang khusus untuk inferensi AI yang cepat, berlatensi rendah, dan hemat energi.

Sementara unit pemrosesan grafis (GPU) tradisional bagus untuk melatih model AI, LPU Groq berfokus pada inferensi deterministik berkecepatan tinggi dengan konsumsi daya yang lebih rendah.

Hal ini membuat mereka sangat cocok untuk beban kerja yang lebih berat yang membutuhkan pembuatan token dengan cepat.

Tangkap dan bunuh? Apa yang dikatakan Nvidia tentang kesepakatan Groq?