Groq - Inférences de LLM à 500tokens/secondes (groq.com)

submitted 5 months ago by Kuinox@lemmy.world to c/technologie@jlai.lu

0 comments fedilink hide all child comments

Démo assez impressionnante qui montre la vitesse d'inférence de leur puces de calculs dedié.
La démo est surchargé donc les messages sont dans une file d'attente, mais la vitesse est réelle.

no comments (yet)

sorted by: hot top controversial new old

there doesn't seem to be anything here

this post was submitted on 21 Feb 2024

1 points (100.0% liked)

Technologie - 🤖

494 readers

35 users here now

Ici concerne le champs de domaine large de la technologie : actualités sur l'informatique, partage de programme informatique et de code, montrer vos projets Arduino, ect.

Mégafil ici

founded 1 year ago

MODERATORS