Hoppa till huvudinnehåll
framtiden.ai
Fireworks AI logo

Fireworks AI

4x snabbare inferens med FireAttention

Pris
Freemium
Lanserades
2022-12-01

Om

Fireworks AI levererar företags-AI-inferens med upp till 4x högre genomströmning och 50% lägre latens än alternativen. Plattformen bearbetar 140 miljarder tokens dagligen med 99,99% drifttid och stöder finjustering med LoRA och RLHF.

Funktioner

  • Motorn FireAttention
  • Fyra gånger högre genomströmning
  • Finjustering med LoRA och RLHF
  • 140 miljarder tokens per dag
  • Uppfyller HIPAA och GDPR
  • Halva priset för batchkörning

Taggar