Groq (Inferenz-Plattform)
Auch bekannt als: GroqCloud, LPU, Language Processing Unit
Groq ist ein US-Anbieter für besonders schnelle LLM-Inferenz. Statt Grafikkarten nutzt das Unternehmen eigens entwickelte Chips: Language Processing Units (LPUs). Sie sind allein dafür gebaut, Sprachmodelle auszuführen, nicht sie zu trainieren.
Nicht zu verwechseln mit Grok, dem AI-Modell von xAI. Groq ist eine Infrastruktur-Plattform, Grok ist ein Sprachmodell.
Was die Plattform bietet
GroqCloud stellt offene Modelle per API bereit, darunter Llama von Meta, OpenAIs GPT-OSS sowie Qwen- und DeepSeek-Varianten. Geschlossene Modelle wie ChatGPT oder Claude fehlen bewusst. Ende 2025 lizenzierte Nvidia die LPU-Technologie für rund 20 Milliarden US-Dollar. GroqCloud läuft seitdem als eigenständiger Dienst weiter.
Besonderheit: Geschwindigkeit
LPUs liefern Antworten deutlich schneller als übliche GPU-Inferenz. Llama 3.3 70B erreicht auf GroqCloud rund 300–400 Token pro Sekunde. Kleinere Modelle schaffen bis zu 1.000. Das entspricht mehreren Seiten Text pro Sekunde.
Typische Einsatzzwecke
Geschwindigkeit zählt überall dort, wo Menschen auf Antworten warten: Chatbots, Sprachassistenten und AI Agents, die viele Schritte nacheinander ausführen. Je schneller jede einzelne Antwort, desto flüssiger der gesamte Workflow.
Den nächsten Schritt klären wir in einem kostenlosen Erstgespräch. Kontakt →
Stand: Juni 2026
Claude Cheat Sheet
Eine Übersicht über Funktionen und Modelle von Claude, ergänzt um Tipps aus unserem Arbeitsalltag. Es gibt sie auf Deutsch und Englisch, und wir halten sie laufend aktuell.
Cheat Sheet öffnenDigital Impact im Postfach
Mit einer Anmeldung bekommt ihr drei Newsletter: jede Woche den AI Insights Newsletter mit unseren neuen Artikeln, dazu einmal im Monat den Digital Impact Longread und das Digital Impact Update. Die Anmeldung läuft über Double Opt-in, abmelden könnt ihr euch jederzeit.
AI Operations zum Hören
Im Digital Impact Podcast sprechen André Hellmann, Christina D'Ilio, Christian Sattel und Sarah Stock mit Gästen aus der Praxis über AI Operations. Die Folgen lassen sich gut unterwegs hören.
So ist dieser Beitrag entstanden
- Themenwahl
- Quellenwahl
- Faktenprüfung
- Freigabe
- Recherche
- Textentwurf
- Schaubilder
- Publishing
Dieser Beitrag entstand mit AI-Unterstützung. Ideenfindung, Redaktionsplanung, inhaltliche Prüfung und Freigabe liegen beim Menschen, das Lektorat bei der AI. Die redaktionelle Verantwortung trägt André Hellmann.