Mouser ofrece ya el acelerador GroqCard™ de BittWare. Este acelerador de ML con formato PCIe de ancho doble ofrece vías de despliegue sencillas para modelos de aprendizaje profundo entrenados con PyTorch, TensorFlow y ONNX. El acelerador GroqCard presenta nueve conexiones chip a chip RealScale™ para garantizar que se puedan utilizar varias tarjetas con la misma eficiencia que una sola. El acelerador ofrece escalabilidad casi lineal para varios servidores y bastidores sin conmutadores externos.

El código de corrección de errores (ECC) protege contra la corrupción de datos para mejorar el tiempo de actividad y la fiabilidad. El acelerador cuenta con el procesador GroqChip™ totalmente determinista para una escalabilidad mejorada. Al reducir el movimiento de datos, GroqChip garantiza un rendimiento predecible, sin cuellos de botella y de baja latencia. La suite GroqWare™, una pila de software integral y versátil, está compuesta por el compilador Groq, la API Groq y varias utilidades. La suite simplifica el proceso de integración y configuración y es compatible con los marcos de IA y ML estándar del sector. La cadena de herramientas GroqFlow™, incluida en la suite GroqWare, permite importar y transformar modelos existentes con una sola línea de código de Pytorch o TensorFlow.

El acelerador GroqCard ofrece hasta 750 TOP y 188 TFLOP a una frecuencia de 900 MHz para operaciones INT8 y FP16. Este acelerador cuenta con 230 MBytes de SRAM por chip y un ancho de banda de memoria en el chip de hasta 80 TB/s para permitir el acceso y procesamiento de datos a alta velocidad. El acelerador GroqCard es una opción versátil para acelerar cargas de trabajo de inteligencia artificial (IA), HPC y aprendizaje automático (ML), para aplicaciones financieras, gubernamentales, de IA generativa, de energía e industriales.

Más información