Zeit die Dinge zu ändern
Durch die Verwendung von lokalen LLMs in Unternehmen entstehen neue Interessante Möglichkeiten für die Bereitstellung von Wissen.
Mitarbeiter haben jetzt die Möglichkeit sich über interne GPT Chatsysteme Informationen aus Betriebshandbüchern, Arbeitsanweisungen oder Prozessbeschreibungen zusammenzufassen oder Fragen zu stellen.
Wie funktioniert das erstellen von LLMs?
Die Erstellung erfolgt in mehreren Stufen und wird mit vielen mathematischen Berechnungen
in einem hochdimensionalen Koordinatensystem gespeichert!
GPT
Generative Pre-trained Transformer
GPT ist für den gesamten Trainingsprozess zuständig. Der Transformer erlaubt es, riesige Textmengen beim Training gleichzeitig (parallel) zu analysieren. Dadurch versteht er die Beziehungen zwischen Wörtern extrem gut. Bei der Ausgabe (Abfrage) baut er den Text Schritt für Schritt nacheinander auf.
Tokenisierung
Daten werden in Tokens (IDs) umgewandelt
Embedding
Aus den Tokens werden Vectoren. Jetzt haben wir ein pre-trained neuronales Netz
Attention
Die Tokens bekommen Gewichte. Das ist der Kern-Mechanismus um Sprache zu verarbeiten
Der Weg eines Tokens durch das LLM
