Самое важное отличие Groq от традиционных CPU (центральный процессор) и GPU (графический процессор) состоит в том, что он создан специально для обработки естественного языка (LPU – языковой процессор). Это делает его уникальным в своем роде.
Вторая примечательная особенность Groq LPU заключается в его способности к выводу. Он основан на архитектуре тензорного потокового процессора (TSP) и одноядерный, что позволяет ему обеспечивать производительность в 750 операций в секунду для чисел с фиксированной точкой (INT8) и 188 терафлопс (TFLOPS) для чисел с плавающей запятой (FP16).
Groq LPU также может выполнять матричное умножение объединенных скалярных произведений размером 320×320, в дополнение к наличию 5120 векторных арифметико-логических устройств (ALU).
Судя по доступным в интернете данным, Groq значительно опережает своих конкурентов, использующих GPU.
Если вам понравился материал, кликните значок - вы поможете нам узнать, каким статьям и новостям следует отдавать предпочтение. Если вы хотите обсудить материал - не стесняйтесь оставлять свои комментарии : возможно, они будут полезны другим нашим читателям!