Podcast: RAG: Wie Ihre KI mit Ihren Dokumenten spricht
In Folge 3 erkläre ich, wie Sie mit RAG Ihre eigenen Dokumente für die KI zugänglich machen. Was dahintersteckt, worauf es bei der Qualität ankommt und warum lokale KI hier besonders passt.
Episode anhören
16:56 Minuten
Shownotes
In der dritten Folge von “KI im Unternehmen” geht es um den Baustein, mit dem KI aus unserer Erfahrung am meisten Wert für das Unternehmen schafft. RAG steht für Retrieval Augmented Generation, wörtlich übersetzt die abrufgestützte Texterzeugung. Damit machen Sie Verträge, Handbücher, interne Prozesse und andere Dokumente für die KI zugänglich, ohne dass die Daten Ihr Unternehmen verlassen müssen.
Themen in dieser Folge
- Warum ein Sprachmodell Ihr Firmenwissen nicht kennt
- Wie RAG funktioniert, vom Suchvorgang über die Fundstellen bis zur Antwort
- Praxisbeispiel Reparaturanfrage mit Fehlercode
- Warum das Sprachmodell nichts dazulernt und sich jederzeit austauschen lässt
- Qualität hängt an der Datenbasis, Aufräumen als Pflichtvorarbeit
- Dokumente in Schnipsel zerlegen und die passende Größe finden
- Mehrere RAGs pro Abteilung mit klaren Berechtigungen
- Embedding und Reranking kurz erklärt
- Werkzeuge vom Einstieg mit Open WebUI bis zu spezialisierten Systemen
- Fünf Empfehlungen aus unseren Projekten
- Warum lokale KI bei Firmendokumenten die passende Grundlage ist
Links
KI-Berater & Trainer | Gründer von gewusst:KI
Sie möchten wissen, ob KI in Ihrem Unternehmen Sinn ergibt? Schreiben Sie uns.
Weitere Episoden
KI im Handwerk: Wie ein Brunnenbaubetrieb mit KI arbeitet
Sebastian Ehlen führt einen Brunnenbaubetrieb, der seit 10 Jahren papierlos arbeitet. Im Gespräch erklärt er, warum ohne saubere Daten keine KI funktioniert und was ihm der Einsatz konkret gebracht hat.
Agentische KI und Wissensspeicher: Wie KI selbstständig für Sie arbeitet
In Folge 5 erkläre ich, was agentische KI ist und wie sie zusammen mit einem eigenen Wissensspeicher im Unternehmen wirklich nützlich wird. Wo der Unterschied zum Chatbot liegt, wie Sie Firmenwissen, Stilregeln und Prozesse einmal ablegen und immer wieder nutzen, welche Risiken Sie kennen sollten und wie ich damit diesen Podcast fast vollständig automatisch schneide.