Begriffe
(6 Einträge)
Abduktion ist die dritte klassische Schlussform (neben Induktion und Deduktion) und wird oft als "Inference to the Best Explanation" bezeichnet – von Charles Sanders Peirce im 19. Jahrhundert als eigenständige Schlussform etabliert. In der KI hat sie besondere Bedeutung für Diagnose-, Erklärungs- und Wahrnehmungssysteme.
Deduktion ist das Gegenstück zur Induktion: Statt aus Beispielen zu generalisieren, wird aus allgemeinen, als wahr angenommenen Regeln/Fakten durch logisch zwingende Schlussfolgerung neues, garantiert korrektes Wissen abgeleitet. Der aktuelle Trend – gerade bei LLMs kombiniert mit Tools, Retrieval und symbolischen Solvern – geht klar in Richtung hybrider Systeme, die induktives Mustererkennen mit deduktiver Präzision verbinden, um die jeweiligen Schwächen auszugleichen.
Fine-Tuning und RAG lösen unterschiedliche Probleme. Fine-Tuning verändert das Modell. RAG erweitert den Kontext des Modells. Fine-Tuning eignet sich deshalb vor allem für Verhalten, Stil und spezialisierte Aufgaben. RAG eignet sich für Wissen, Dokumente und Informationen, die sich ändern können.
Induktion ist ein fundamentales Konzept in der Künstlichen Intelligenz (KI), besonders in Bezug auf maschinelles Lernen und Datenanalyse. In der KI bedeutet Induktion den Prozess des Lernens von allgemeinen Regeln oder Mustern aus spezifischen Daten oder Beispielen. Das Gegenteil von Induktion ist Deduktion, wo man von allgemeinen Regeln zu spezifischen Fällen übergeht.
RAG ermöglicht es, LLMs mit externem Wissen zu verbinden. Dieses Wissen kann aktuell, privat oder hochspezialisiert sein. Dabei sind nicht nur das Sprachmodell und die Vektordatenbank entscheidend. Die Qualität der Daten, das Chunking, die Suchstrategie, das Ranking, die Zugriffsrechte und die Evaluation bestimmen maßgeblich die Qualität des Gesamtsystems.
RNNs und LSTMs verarbeiten Text Schritt für Schritt und tragen dabei ein komprimiertes Gedächtnis mit sich, was bei langen Texten an Grenzen stößt und sich schlecht parallelisieren lässt. CNNs erkennen zwar Muster unabhängig von der Position, tun sich aber schwer damit, weit entfernte Beziehungen im Text zu erfassen. Der Transformer löst beide Probleme, indem er jedem Wort erlaubt, direkt und gleichzeitig mit jedem anderen Wort in Beziehung zu treten, über den Self-Attention-Mechanismus.