Glossar

Vergleich von Prompts/Setups zur Qualitäts- und KPI-Optimierung

Standard/Ansatz, damit Agenten untereinander Aufgaben koordinieren

Regeln, was Mitarbeitende mit KI dürfen und nicht dürfen

Protokollierungspflichten für Nachvollziehbarkeit und Audit.

Englischer Haupteintrag für KI-Agenten (autonome Tool-Workflows)

KI, die Aufgaben plant und Tools autonom nutzt.

Prüfung von KI-Systemen auf Compliance, Risiko, Qualität und Prozesse

Assistenzsystem, das Aufgaben unterstützt (Text, Code, Office, Support)

Tool/Ansatz zur Schätzung von Tokenkosten, Latenz und Infrastrukturkosten.

Regeln/Prozesse zur Steuerung von KI in Organisationen.

Bewertung von Auswirkungen, Risiken und Schutzmaßnahmen von KI

Prozesse für Sicherheits-/Qualitätsvorfälle in KI-Systemen

Fähigkeit, KI sicher, kritisch und produktiv im Job zu nutzen

Tooling für Transkription, Zusammenfassung und Aufgaben aus Meetings.

Messung von Qualität, Kosten, Latenz und Sicherheit entlang LLM-Workflows.

Sprachagent für Telefonie: Anrufe führen, buchen, qualifizieren

Interne Regeln für Einsatz, Daten, Tools und Verantwortlichkeiten

Auswahl/Einkauf von KI-Tools inkl. Risiko-, Rechts- und IT-Prüfung

Automatisches Entfernen sensibler Inhalte vor Speicherung/Weitergabe

Systematische Bewertung von Risiken, Impact und Controls bei KI-Einsatz.

Regeln/Prozesse zur Qualität, Herkunft und Nutzung von Trainingsdaten.

Konkreter Geschäftsanwendungsfall inkl. Nutzen, Risiko und Datenbedarf

Prüfung von Anbieter: Sicherheit, DSGVO, DPA, Kosten, SLAs.

KI-Provider mit LLMs, teils MoE-orientiert, API-basiert.

Alternative GPU-Plattform für LLM-Inferenz/Training, oft günstiger je Verfügbarkeit.

Zentrale Schicht für Auth, Limits, Routing und Policies

Limits für API-Aufrufe pro Zeit; beeinflusst Stabilität und Kosten

Tests von Agenten auf Zielerreichung, Kosten, Sicherheit und Robustheit

Übergabe von Kontext/Aufgabe zwischen Agenten oder an Menschen

Isolierte Ausführungsumgebung für Agenten-Tools und Code

RAG, bei dem Agenten iterativ suchen, prüfen und nachrecherchieren

Mehrschritt-Prozess, in dem Agenten planen, Tools nutzen und prüfen.

KI-System ohne Internetverbindung für maximale Sicherheit.

Deutscher KI-Anbieter für Enterprise- und souveräne KI-Lösungen

AWS-Plattform für Foundation Models, Tools, Guardrails und RAG

Verfahren zur Entfernung/Ersetzung personenbezogener Daten

LLM-Familie von Anthropic, stark bei Reasoning und langen Kontexten.

KI in Jira/Confluence für Suche, Texte, Zusammenfassungen.

Gewichtet Token-Bezüge; ermöglicht Kontextverständnis in Transformern.

Automatisches Ausführen von Prozessen per Software/Workflows.

Microsoft-Hosting für OpenAI-Modelle mit Enterprise-Compliance.

Open-Source Embedding-Modelle für semantische Suche und RAG.

Klassischer Ranking-Algorithmus für Volltextsuche nach Begriffen.

Verarbeitung vieler Anfragen gebündelt statt in Echtzeit

Systematische Benachteiligung durch Daten/Modelle und Gegenmaßnahmen

Mitarbeitende nutzen eigene KI-Accounts/Tools für die Arbeit

Einführung von KI mit Rollen, Schulungen, Kommunikation und Prozessen

Chatbot von OpenAI auf Basis von LLMs.

Aufteilen von Dokumenten in passende Abschnitte für RAG/Embedding.

Stoppt/limitiert Aufrufe bei Fehlern, schützt Systeme und Kosten

Ausgabe von Belegen/Links zu genutzten Quellen in Antworten.

Anthropic-Modell für starke Textqualität, Tool-Use und Coding

Schnelles, kosteneffizientes Claude-Modell für Routineaufgaben und Automationen.

Anthropic-Modell für starke Text- und Agenten-Workflows

Schnelles, günstiges Claude-Modell für Routine-Workloads.

Analytics-Datenbank mit Funktionen für Vektorähnlichkeitssuche.

KI-Provider für LLMs und Re-Ranking (Enterprise-Fokus).

Node-basierte Oberfläche für Stable-Diffusion-Workflows

KI zur Analyse von Bildern/Videos (Erkennung, OCR, Qualität)

Hardware-geschützte Ausführung sensibler KI-Workloads (TEE)

Anbindungen an Systeme wie SharePoint, Confluence, Google Drive

Verwaltung von Einwilligungen zur Datenverarbeitung in KI-Systemen

Standard zur Herkunftskennzeichnung von KI-generierten Medien.

Klassifikator zur Erkennung/Blockade unsicherer Inhalte

Systematisches Design von Kontext, Daten, Tools und Regeln für LLMs

Reduziert Kontext dynamisch, um Tokenkosten und Rauschen zu senken

Wenn Eingaben das Kontextfenster überschreiten (Trunkierung).

Retrieval, das Kontext/Intention stärker berücksichtigt als Standard-RAG.

Strukturierter Zustand einer Unterhaltung inkl. Rollen und Verlauf.

Rechtsfragen zu Training, Output-Nutzung und Lizenzen

Methoden zur Reduktion von LLM-Kosten (Tokens, Caching, Routing)

Re-Ranking-Modell, das Query und Dokument gemeinsam bewertet

Automatisierung von Supportfällen via Chat/Email mit LLMs und Tools

Alignment-Verfahren mit Präferenzdaten ohne RL-Schleife.

Framework zur Optimierung von Prompts/Programmen mit Evals

Überlappung zwischen Chunks zur besseren Retrieval-Qualität

Einstufung von Daten nach Schutzbedarf (z.B. intern, vertraulich)

Sichere Umgebung für Datenanalyse ohne Rohdatenfreigabe.

Vertragliche Schnittstellen-Definitionen für Datenqualität und Schema.

Manuelle/automatische Annotation von Daten für Training und Evals

Dokumentation, wo Daten herkommen und wie sie verarbeitet wurden

Kontrollen zur Vermeidung von Datenabfluss via KI-Tools

Ersetzt sensible Daten durch Platzhalter, ohne Struktur zu verlieren.

Nur notwendige Daten verarbeiten; zentral für DSGVO-konforme KI

Manipulation von Trainings-/RAG-Daten zur Modellbeeinflussung

Vertrag zur Auftragsverarbeitung mit KI-Anbietern und Dienstleistern

DSGVO-Folgenabschätzung bei hohem Risiko für personenbezogene Daten

Festlegung, in welchem Land/Region Daten gespeichert und verarbeitet werden.

Regeln, wie lange Prompts/Outputs gespeichert und zu Trainingszwecken genutzt werden.

Kontrolle darüber, wo Daten liegen, wer zugreift und welche Gesetze gelten.

Auswahl, Bereinigung und Qualitätskontrolle von Trainingsdaten

Datenschutzanforderungen bei KI-Nutzung und Datenverarbeitung.

HTML-Entity-Variante des DSGVO-&-KI-Eintrags für Referenzen

Aktuelle Modellfamilie, bekannt für starke Reasoning-Leistung und Effizienz.

Datenschutztechnik mit Rauschen zur Vermeidung von Rückschlüssen.

Kleines Modell lernt Verhalten eines großen Teacher-Modells.

Automatisierte Extraktion/Validierung aus Dokumenten

Regeln für Chunk-Größe, Overlap und Struktur zur besseren RAG-Qualität.

Automatisiertes Klassifizieren, Antworten und Routing von E-Mails

Beliebte Open-Source Embedding-Familie für Retrieval und semantische Suche.

Datenextraktion und -aufbereitung für Training, RAG und Analytics

EU-Verordnung zur Regulierung von KI-Systemen.

Umsetzung von Pflichten aus dem EU AI Act in Unternehmen

EU-Behörde für Aufsicht/Koordination rund um den AI Act.

Branchenleitlinien zur Umsetzung von GPAI-Pflichten.

Prüfung, ob ein KI-System EU-Anforderungen erfüllt

Basismodelle mit breiten Fähigkeiten; besondere Transparenzpflichten

EU-Regeln für General-Purpose-KI und Foundation Models

KI-Systeme mit strengen Pflichten nach EU AI Act

Vorgaben zur menschlichen Aufsicht bei KI-Entscheidungen.

Überwachung von KI nach Inverkehrbringen (Incidents, Updates).

KI-Anwendungen, die nach EU AI Act untersagt sind.

Nachweis-Paket zu Modell, Daten, Risiken, Tests und Betrieb

Pflichten zu Kennzeichnung, Infos, Dokumentation für KI-Systeme.

Rechtsrahmen für Datentransfers in die USA; relevant bei Nutzung US-basierter KI-Tools.

Voice-KI für TTS, Voice Cloning und agentische Telefonie

Veränderung der Embedding-Verteilung durch Modell-/Datenwechsel

Modell, das Texte in Vektoren für Suche, RAG und Clustering wandelt

Vektorrepräsentationen für semantische Ähnlichkeitssuche.

Suche über interne Systeme wie DMS, Wiki, CRM und Files

Framework zum automatisierten Ausführen und Vergleichen von Evals

Messung von Modellqualität mit Tests, Metriken und Benchmarks.

Nachverfolgung von Runs, Parametern, Metriken und Artefakten

Alternatives Modell bei Ausfall, Timeout oder Budgetgrenzen.

Regeln für Ausweichmodelle/Workflows bei Fehlern oder Risiko

Zentrale Ablage wiederverwendbarer ML-Features für Training & Serving

Training über verteilte Daten, ohne Daten zentral zu sammeln.

Steuerung per wenigen Beispielen im Prompt statt Training.

Kostensteuerung für KI-Cloud, Modelle, APIs und GPU-Nutzung.

Nachtraining eines Modells auf spezifischen Daten.

Kostenlose Nutzung bis zu Limits (Tokens/Requests/Monat) bei KI-Anbietern.

Vergleich von Funktionsumfang, Limits, Datenschutz und Kostenmodellen.

LLM ruft definierte Funktionen/APIs strukturiert auf.

EU-Initiative für Datenräume/Interoperabilität mit Souveränitätsprinzipien

Speicherbedarf auf GPUs, der Modellgröße und Kontext bestimmt.

Mieten von GPU-Kapazität für Training/Inference in der Cloud.

Google-Modell mit sehr großem Kontextfenster für lange Dokumente

Google-Modellgeneration für multimodale und Tool-Workflows

Schnelles Gemini-Modell für günstige Inferenz, oft für Agenten- und Tool-Workflows genutzt.

Schnelles, günstiges Gemini-Modell für hohe Durchsätze.

KI, die neue Inhalte wie Text, Bild oder Code erzeugt.

KI-Paarprogrammierer für Code; Business-Version mit Admin/Policies

Kuratiertes Set zur stabilen Bewertung von KI-Qualität

Web-Tool zum Prototyping und Testen von Gemini-Prompts und APIs.

Multimodale Modellfamilie von Google für Text, Bild und Tools.

Google-Plattform für Modelle, Pipelines, Deployments und Evals

Gemini-Funktionen in Gmail/Docs/Sheets für Produktivität

RAG mit Wissensgraphen für präzisere Abfragen und Kontext

Inference-Anbieter mit sehr niedriger Latenz (LPU-Hardware).

Verlässliche Referenzdaten zur Bewertung von KI-Ergebnissen

Anbindung an verifizierbare Quellen zur Reduktion von Halluzinationen.

Regelwerk als Code zur Durchsetzung von Sicherheits- und Compliance-Vorgaben.

Regeln/Filter zur Kontrolle von Ausgaben, Tools und Datenzugriff.

Wenn KI plausible, aber falsche Inhalte erzeugt.

Ökosystem für Modelle, Datasets, Inference und Deployment

Menschliche Freigabe/Feedback in KI-Prozessen und Automationen.

Kombination aus Keyword- und semantischer Suche für bessere Treffer.

Deutscher Cloud-Zugang zu KI-Modellen mit Fokus auf Datenresidenz

Managementsystem-Standard für verantwortungsvolle KI in Organisationen

Injection über externe Inhalte (Web, Dokumente, E-Mails) statt Prompt

Ausführung eines trainierten Modells zur Ergebnisgenerierung.

Ausführung eines trainierten Modells zur Generierung von Ausgaben.

Server zum effizienten Ausliefern von LLM-Inferenz via API.

Rechenbudget zur Laufzeit für bessere Antworten (z.B. Mehrfach-Sampling).

Erzwingt valide JSON-Ausgaben für zuverlässige Automatisierung

Umgehung von Sicherheitsregeln/Policies durch spezielle Prompts.

Zwischenspeicher für Attention-Zustände zur Beschleunigung

Zentrale Quelle für Unternehmenswissen, oft Grundlage für RAG

Komprimierung eines großen Modells in ein kleineres für schnellere, günstigere Nutzung.

Graphstruktur zur Verknüpfung und Abfrage von Unternehmenswissen.

Maximale Token-Menge, die ein Modell pro Anfrage verarbeiten kann.

Sprachmodell, das Texte versteht und generiert.

Sicherheitslayer gegen Prompt-Injection, Datenabfluss und Policy-Verstöße.

Zwischenschicht für Routing, Auth, Logging, Policies und Kostenkontrolle von LLM-APIs.

LLM bewertet Antworten anderer Modelle nach definierten Kriterien

Framework zum Bauen von LLM-Apps mit Tools, RAG und Chains.

KI-Modell, das Texte versteht und generiert.

Antwortzeit und Durchsatz eines Modells/Systems im Betrieb.

Maximal zulässige Antwortzeit für eine KI-Funktion

Abwägung zwischen Antwortzeit und Token-/Compute-Kosten.

Meta Open-Weights LLM für On-Prem/Cloud und Anpassungen

Safety-Modell zur Inhaltsklassifikation und Policy-Durchsetzung

Open-Source Runtime zum Ausführen quantisierter LLMs lokal auf CPU/GPU.

Framework für RAG, Datenanbindung und Indexierung für LLMs.

Effiziente Fine-Tuning-Methode mit Low-Rank-Adaptern.

PEFT-Methode: Feinabstimmung über kleine Zusatzmatrizen.

Betrieb von Modellen lokal auf PC/Server statt in der Cloud.

LLM mit sehr großem Kontextfenster für lange Dokumente/Chats

Dienst, der Tools/Datenquellen standardisiert für LLMs bereitstellt

Methoden für Betrieb, Deployment und Monitoring von ML/KI.

No-Code Automatisierung mit KI-Modulen und Integrationen.

Angriff, der prüft, ob Daten im Training enthalten waren.

Kurz- und Langzeitgedächtnis für Agenten über Sessions hinweg.

Open-Weights LLMs von Meta, häufig on-prem und in OSS-Stacks genutzt.

Plattform zum Bauen, Testen und Deployen von GenAI/LLM-Anwendungen in Azure.

KI-Assistent in Microsoft 365 für Produktivität und Unternehmensdaten

Tool zum Erstellen/Anpassen von Copilots und Workflows.

Europäischer LLM-Anbieter mit starken Open-Weights und Enterprise-Angeboten.

Mistral-Flaggschiffmodell für Enterprise-Textaufgaben und Tool-Use

Architektur, die nur passende Teilmodelle pro Token aktiviert.

Anpassung von Modellen an menschliche Ziele, Werte und Regeln.

Nachweis, welches Modell welche Antwort erzeugt hat

Sammlung standardisierter Tests für Modellvergleich

Standardisierte Dokumentation zu Modellzweck, Daten, Risiken und Limits.

Standard, um LLMs sicher mit Tools, Daten und Kontext zu verbinden.

Anreicherung von Modellen mit Unternehmenskontext ohne Fine-Tuning

Leistungsabfall eines Modells durch veränderte Daten/Umgebung

Kennzahlen zur Bewertung von Modell- und RAG-Qualität.

Nachvollziehbarkeit von KI-Entscheidungen für Nutzer und Auditoren

Laufzeit-Schutzschicht für Inhalte, Tools, Daten und Policies

Angriff, der Trainingsdaten aus Modellantworten rekonstruiert.

Rechte/Pflichten zur Nutzung, Weitergabe und kommerziellen Verwendung.

Prozesse von Auswahl über Betrieb bis Stilllegung von Modellen

Überwachung von Qualität, Drift, Kosten und Sicherheit im Betrieb.

Manipulation von Training/Updates, um Modellverhalten zu beeinflussen

Zentrale Verwaltung von Modellen, Versionen und Metadaten

Framework zur Steuerung von Modellrisiken (Validierung, Kontrollen).

Leitet Requests je nach Kosten/Qualität an passende Modelle.

Wählt dynamisch das passende Modell nach Aufgabe/Kosten/Qualität.

Automatische Auswahl des besten Modells je Anfrage nach Kosten, Latenz oder Qualität.

Schutz von Modellen, Prompts, Tools und Daten vor Angriffen

Auswahl eines Modells nach Qualität, Kosten, Latenz, Risiken

Bereitstellung von KI-Modellen als skalierbarer Service (API).

Markierung von KI-Inhalten zur Erkennung/Provenienz

Betrieb mehrerer LLM-Anbieter zur Kosten-, Risiko- und Qualitätsoptimierung

Modelle, die Text, Bild, Audio oder Video kombinieren.

Cybersecurity-Pflichten (NIS2) im Kontext von KI-Systemen

Rechenbeschleuniger, die Training und Inferenz großer Modelle stark beschleunigen.

Fertige Inference-Services/Container für KI-Modelle von NVIDIA.

Open-Source-Framework für Sicherheits- und Verhaltensleitplanken

KI-Schreib-, Zusammenfassungs- und Wissensfunktionen in Notion.

Texterkennung in Scans/PDFs für Dokumenten-Automation

Runtime zur schnellen Ausführung von ML-Modellen (ONNX).

Ende-zu-Ende Nachverfolgung von KI-Requests über Systeme

Tool zum lokalen Ausführen und Verwalten von LLMs

KI-Inferenz lokal auf Gerät statt Cloud; mehr Datenschutz, weniger Latenz.

Betrieb von LLMs im eigenen Rechenzentrum für Kontrolle & Datenschutz

Self-hosted Web-Oberfläche für lokale/remote LLMs

Modelle mit offenen Gewichten/Lizenzen für eigene Nutzung

RAG-Architektur mit Open-Source-Komponenten statt Managed Services.

Modell, dessen Gewichte verfügbar sind, auch wenn Code/Training nicht komplett offen ist.

API-Zugriff auf OpenAI-Modelle für Chat, Tools, Vision und Embeddings.

API-Konzepte für Tools, Dateien, Threads und strukturierte Ausgaben

Asynchrone Batch-Verarbeitung für günstige LLM-Aufrufe.

Unternehmensversion mit Admin, Compliance, Datenschutz-Features.

Anpassbare ChatGPT-Apps (GPTs) für spezifische Aufgaben.

OpenAI-Modellgeneration für leistungsfähige Text-/Code-Aufgaben

Kompakteres GPT-4.1-Modell mit Fokus auf Kosten/Latenz bei guter Qualität.

Multimodales OpenAI-Modell für Text, Bild und Audio in Echtzeit

Kostengünstigeres multimodales OpenAI-Modell für Standardaufgaben.

Web-UI zum Testen von Modellen, Prompts, Tools und Ausgabeformaten.

Low-Latency Streaming/Voice-Interaktionen in Echtzeit

API/Workflow-Integration für Text-zu-Video-Generierung

Mechanismus für valide, schema-konforme JSON-Ausgaben aus LLMs.

Embedding-Modelle zur Vektorisierung von Text für Suche, RAG und Clustering.

Spracherkennung zur Transkription und Voice-Workflows

Reasoning-Modelle für komplexe Aufgaben mit höherer Denkfähigkeit

API-Standard, den viele Provider/Server nachbilden, um Tools kompatibel zu halten.

Routing-Plattform für Zugriff auf viele LLMs über eine API

Search-Engine mit Vektor- und Hybrid-Suche für Enterprise Use.

Standard für Traces/Metrics/Logs zur Observability von KI-Workflows

Fine-Tuning mit wenigen trainierbaren Parametern (z.B. LoRA)

Automatische Erkennung personenbezogener Daten in Texten

Erkennung/Entfernung personenbezogener Daten vor Verarbeitung.

Ersetzt PII durch Tokens, um Daten nutzbar aber geschützt zu halten

Sicherer Speicher für personenbezogene Daten/Secrets mit kontrolliertem Zugriff.

KI-Such/Antwortsystem mit Fokus auf Quellen und Recherche

Microsoft-Automation mit KI-Connectoren und Copilot-Funktionen.

Daten mit Paarvergleichen/Rankings für DPO/RLHF

Abgeschottetes LLM-Setup mit privaten Daten, Zugriffskontrolle und Audit

Zwischenspeichern von Prompts/Outputs zur Kosten- und Latenzreduktion.

Mehrstufige Prompts, die Zwischenergebnisse weiterreichen.

Techniken, um Kontext zu verdichten und Tokens zu sparen

Methoden, um Prompts für bessere KI-Ergebnisse zu optimieren.

Schutzschicht gegen Prompt Injection und Datenabfluss

Angriff, der Modelle via Eingaben zu unerwünschtem Verhalten bringt.

Unbeabsichtigte Offenlegung von Systemprompts oder vertraulichen Instruktionen.

Zentrale Sammlung getesteter Prompts inkl. Versionen und Beispiele

Systematisches Verbessern von Prompts für Qualität und Kosten.

Zentrale Ablage für Prompts inkl. Versionen, Freigaben und Wiederverwendung.

Wie stabil ein Prompt über Datenvarianten, Sprache und Angriffe hinweg funktioniert.

Automatische Auswahl von Prompt/Chain je Anfrage und Risiko

Filtert/normalisiert Eingaben, um Injection und Datenabfluss zu reduzieren.

Schutz vor Prompt-Angriffen, Datenabfluss und Manipulation

Techniken, um Systemprompt/Tools vor Angriffen zu schützen

Messung von Prompt-Performance: Kosten, Latenz, Qualität, Fehler.

Wiederverwendbare Struktur für Prompts mit Variablen/Slots.

Automatisierte Tests für Prompts gegen definierte Erwartungen

Versionierung und Freigabeprozess für Prompts

Protokollierung von Prompts/Antworten für Debugging, Evals und Audit

KI erstellt Automations-Workflows aus natürlicher Sprache (z.B. in n8n/Make).

Python-Framework für strukturierte Agenten und validierte Outputs

Reduziert Modellpräzision zur Beschleunigung und Speicherersparnis.

LLM antwortet mit externer Wissenssuche und Quellenkontext.

Messung von Retrieval-Qualität, Antworttreue und Quellenabdeckung in RAG-Systemen.

Feintuning mit menschlichem Feedback zur Verhaltenssteuerung.

Wirtschaftlichkeitsrechnung für KI-Projekte (Kosten vs. Nutzen)

Strategien bei API-Limits: Retries, Backoff, Queueing.

Erneutes Erstellen von Vektoren/Index nach Daten- oder Modelländerung

Zusätzlicher Schritt, der Suchtreffer nach Relevanz neu sortiert.

Agentenmuster: Denken und Tool-Nutzung in iterativen Schritten.

Modelle, optimiert für mehrstufiges Schlussfolgern und Planung.

Gezielte Angriffe/Tests zur Aufdeckung von KI-Schwachstellen

Automatisierte Tests, um Qualitätsabfälle nach Änderungen zu erkennen

API/Plattform zum Ausführen vieler Open-Source-Modelle.

Antworten werden auf bereitgestellte Quellen/Daten begrenzt

Abruf relevanter Informationen aus Quellen für KI-Antworten

Plattform für KI-Videoerstellung und Editing-Workflows

SAP-KI-Assistent für S/4HANA, SuccessFactors und Business-Prozesse

Überwachtes Fine-Tuning mit Input/Output-Beispielen

Zielwerte für Verfügbarkeit/Latenz von KI-Systemen

Kleines Sprachmodell für kostengünstige, schnelle und oft On-Device/On-Prem Nutzung.

Tests auf schädliche Inhalte, Policy-Verstöße und Missbrauch

Prüfung, ob KI-Ausgaben einem definierten Schema entsprechen

Sichere Verwaltung von API-Keys, Tokens und Zugangsdaten

Isolierter Ausführungsbereich für vertrauliche Daten/Modelle

Cache auf Basis semantischer Ähnlichkeit statt exakter Prompt-Gleichheit

Geschäftslogik-Schicht für konsistente Metriken und Begriffe

Streaming-Technik für Token-Ausgabe in Echtzeit über HTTP

Skalierende Inferenz ohne Serverbetrieb, nutzungsbasiert abgerechnet.

Unkontrollierte Nutzung von KI-Tools außerhalb der IT-Governance

KI-Funktionen in Slack für Suche, Zusammenfassungen, Assistenz.

Generierung von Videos aus Text/Prompts (Video AI)

Cloud-Betrieb mit EU-/DE-Datenhoheit, Kontrolle und Compliance

KI-Betrieb mit Kontrolle über Daten, Modelle und Infrastruktur in EU/DE.

Beschleunigung durch Vorhersage mit kleinem Modell und Verifikation

Open-Source-Modellfamilie zur Bildgenerierung

Ausgabe von Tokens während der Generierung statt am Ende

Extraktion strukturierter Felder aus unstrukturiertem Text

Erzwingt strukturierte Modellantworten nach Schema/Validierung.

Sicherheit von Abhängigkeiten: Modelle, Container, Libraries, Connectoren

Künstlich erzeugte Trainings-/Testdaten zur Skalierung von Datensätzen.

Übergeordnete Instruktionen, die Modellverhalten und Rollen steuern.

Parameter, die Kreativität/Zufälligkeit der Modellantwort steuern.

NVIDIA-Optimierungsstack für schnelle LLM-Inferenz.

Modelle kennen Benchmarks aus Trainingsdaten, Ergebnisse verzerren

Übersetzung natürlicher Sprache in SQL-Abfragen

KI erzeugt Sprache aus Text für Voicebots und Assistenz

Risikosteuerung bei KI-Anbietern, Tools und Lieferkette.

Systematische Modellierung von Bedrohungen in LLM-Anwendungen

Plattform für Open-Model-Inference/Training (Llama, Mistral etc.).

Zerlegung von Text in Einheiten; Basis für Kosten, Kontext und Limits.

Erfassen und Zuordnen von Tokenkosten pro Team/Use-Case.

Planung von Token-Verbrauch pro Anfrage zur Kosten- und Latenzsteuerung

Steuerung, Reihenfolge und Regeln für Tool-Aufrufe von Agents

Sampling-Strategien zur Begrenzung der Token-Auswahl beim Generieren.

Gesamtkosten: Tokens, Hosting, Betrieb, Sicherheit, Monitoring

Lückenlose Nachverfolgung von Daten, Prompts, Tools und Outputs

Neuralnetz-Architektur mit Attention; Basis moderner LLMs.

Texte, PDFs, E-Mails, Chats ohne festes Schema

Multimodales Modell, das Bilder und Text gemeinsam versteht und beantwortet.

Semantische Suche über Embeddings statt Keyword-Matching.

Speicher/Index für Embeddings zur schnellen Ähnlichkeitssuche.

Datenbank für schnelle Suche in Embeddings/Vektoren.

Abhängigkeit von einem KI-Anbieter durch APIs, Datenformate, Tools

HTTP-Callbacks zur Ereignissteuerung von Automationen und Agenten

Planung, Ausführung und Monitoring von Automations-Workflows

Automation-Plattform mit KI-Funktionen für Workflows.

Provider-Option, bei der Inhalte nicht dauerhaft gespeichert oder fürs Training genutzt werden.

Workflow-Automation-Tool mit Integrationen und KI-Nodes.

n8n-Bausteine für LLM-Aufrufe, Parser, RAG und Tool-Workflows

Postgres-Erweiterung für Embeddings und Vektorsuche.

KI-Tool zur schnellen Erstellung von UI/Frontend-Komponenten