Tokens und Kontextfenster

KI verstehen · Länge 1:06

Wie eine KI Text in Häppchen (Tokens) liest und warum ihr Gedächtnis pro Anfrage begrenzt ist (Kontextfenster).

Was im Video gezeigt wird

Die Kapitel des Videos mit dem gesprochenen Text.

  1. KI liest anders

    Eine KI liest Text nicht Wort für Wort wie wir. Sie zerlegt ihn zuerst in kleine Häppchen.

  2. Tokens

    Diese Häppchen heißen Tokens. Ein Token ist mal ein ganzes Wort, mal nur ein Wortteil. Aus Tokens setzt die KI alles zusammen, was sie liest und schreibt.

  3. Das Kontextfenster

    Gleichzeitig im Blick behalten kann die KI aber nur eine begrenzte Menge davon. Diese Grenze nennt man das Kontextfenster. Ihre Frage und die Antwort müssen zusammen hineinpassen.

  4. Wenn es nicht passt

    Bei sehr langen Texten reicht das Fenster nicht. Was nicht hineinpasst, fällt heraus, und was herausfällt, kann die KI nicht berücksichtigen.

  5. Und in skai?

    Deshalb teilt skai lange Dokumente sinnvoll auf und holt zu Ihrer Frage gezielt die passenden Stellen, statt alles auf einmal hineinzuwerfen.

Alle Videos im Bereich: KI verstehen Nächstes Tutorial Halluzinationen