Microsoft 365 Copilot – GrundlagenCopilot Agents

Was ist RAG? Retrieval-Augmented Generation erklärt

Retrieval-Augmented Generation, kurz RAG, bedeutet: Ein System sucht zuerst passende Informationen und lässt ein Sprachmodell daraus eine Antwort formulieren.

Von Daniel Rohregger, Microsoft MVP Stand: 31. Oktober 2026

Der Begriff

Mit RAG kann die Antwort stärker auf aktuelle oder organisationsspezifische Inhalte gestützt werden.

Wofür nutzt man RAG?

Für eine Frage zur Reisekostenregel sucht ein Agent in der freigegebenen Richtlinienseite und formuliert daraus eine Antwort mit einem Link zur Fundstelle.

Worauf solltest du bei RAG achten?

RAG liefert nur so gute Ergebnisse wie Suche, Quellen und Berechtigungen. Eine veraltete oder falsch ausgewählte Quelle kann weiterhin zu einer falschen Antwort führen.

Das Verankern von Antworten in passenden Informationen heißt auch Grounding. Eine Suchgrundlage in Microsoft 365 beschreibt der Semantic Index. Die Beschreibung bei Microsoft Learn bezieht sich auf Azure AI Search, einen Baustein für eigene Lösungen.

Quellen

Microsoft Learn: Retrieval-augmented generation (RAG) in Azure AI Search

Häufige Fragen zu Retrieval-Augmented Generation (RAG)

Was ist RAG, und warum braucht man es?

RAG steht für Retrieval-Augmented Generation. Ein System sucht zuerst passende Inhalte aus deinen eigenen Quellen und lässt das Sprachmodell daraus antworten. Laut Microsoft Learn erweitert RAG damit ein Sprachmodell, indem es die Antworten in deinen Inhalten verankert, statt sich nur auf das zu verlassen, was das Modell gelernt hat.

Was ist der Unterschied zwischen klassischem RAG und Agentic Retrieval?

Beim klassischen RAG schickt deine Anwendung eine einzelne Suchanfrage an die Suche und übergibt das Ergebnis getrennt an das Sprachmodell. Bei Agentic Retrieval zerlegt ein Sprachmodell eine komplexe Frage in mehrere Teilanfragen, führt sie parallel aus und liefert Treffer mit Quellenangaben. Microsoft beschreibt dies für Azure AI Search und nennt den Teil mit der Abfrageplanung eine Vorschau.

Wie bleiben bei RAG die Berechtigungen gewahrt?

Die Suche darf nur Inhalte liefern, die die fragende Person sehen darf; Microsoft Learn nennt Sicherheit und Governance ausdrücklich als Herausforderung bei RAG. Azure AI Search übernimmt dazu Berechtigungsinformationen aus Microsoft Entra ID oder SharePoint, filtert zur Abfragezeit und kann den Zugriff über private Endpunkte abschotten.