Zurück auf „Los": Was ist dieses KI-Ding überhaupt, das wir da regeln wollen?
In Teil 1 ging es um die Grundhaltung: KI ist ein Werkzeug. In Teil 2 um Shadow AI – KI, die im Betrieb läuft, ohne dass jemand davon weiß.
Bevor wir tiefer einsteigen – Datenschutz, AI Act, Anbieterprüfung –, ein Schritt zurück. Eine Frage, die kaum jemand stellt, weil sie zu einfach klingt.
Es denkt nicht. Es rät.
KI klingt nach Science-Fiction. Nach einer Maschine, die versteht, überlegt, entscheidet. Das tut sie nicht.
Ein LLM – Large Language Model, großes Sprachmodell – macht im Kern genau eine Sache: Es rät das nächste Wort.
Sie kennen das von der Wortvorschlag-Funktion Ihres Handys. Sie tippen „Ich melde mich" und das Telefon schlägt „später" vor. Ein LLM macht dasselbe. Nur tausendfach besser – über ganze Absätze, in jeder Sprache, zu fast jedem Thema.
Mehr Magie ist da nicht. Ein extrem guter Textautomat, der Wort für Wort das wahrscheinlichste nächste wählt.
Woher es das kann: die Trainingsdaten.
Diese Treffsicherheit kommt nicht aus dem Nichts. Das Modell wurde mit gewaltigen Mengen Text trainiert – Bücher, Webseiten, Artikel, Foren. Mehr, als ein Mensch in tausend Leben lesen könnte.
Dabei hat es keine Fakten auswendig gelernt wie ein Lexikon. Es hat Muster gelernt. Wie Sprache funktioniert. Welche Wörter zusammengehören. Wie eine Antwort auf eine Frage typischerweise aussieht.
Zwei Dinge folgen daraus. Beide sind wichtig.
Das Wissen ist eingebacken – und hat ein Verfallsdatum. Das Modell schlägt nichts nach. Es kennt nur, was bis zum Ende seines Trainings im Text stand. Fragen Sie nach etwas von gestern, kann es das schlicht nicht wissen – außer es ist zusätzlich mit einer Suche verbunden.
Es hat gelesen, was Menschen geschrieben haben. Inklusive deren Irrtümer, Lücken und Vorurteile. Was oft falsch im Netz steht, hält auch das Modell für wahrscheinlich richtig.
Warum das kein technisches Detail ist.
Wer versteht, dass die KI rät statt weiß, versteht ihr ganzes Verhalten.
Sie ist nie unsicher. Ein LLM sagt nicht „das weiß ich nicht". Es rät weiter – genauso flüssig, genauso selbstbewusst. Auch wenn es danebenliegt. Darum kann es überzeugend Unsinn erzählen. Ein eigenes Thema – dazu der nächste Teil.
Und sie hat keine Absicht. Kein Verständnis. Kein Gewissen. Sie spiegelt, was sie gelesen hat. Das macht sie nützlich – und genau deshalb müssen Sie den Kopf einschalten, nicht die KI.
Was das für die Praxis heißt.
Vier Dinge ergeben sich daraus:
Prüfen Sie Fakten. Immer. Die Maschine rät. Sie haftet nicht – Sie tun es.
Behandeln Sie es nicht als Nachschlagewerk. Für tagesaktuelle Zahlen, Gesetze oder Namen ist ein LLM die falsche Quelle – außer es zeigt Ihnen, woher die Information stammt.
Je besser Ihre Frage, desto besser die Antwort. Wer präzise fragt und Kontext mitgibt, bekommt Brauchbares. Wer „schreib mir was Gutes" tippt, bekommt Mittelmaß.
Erwarten Sie kein Verständnis. Erwarten Sie ein Werkzeug. Dann werden Sie selten enttäuscht.
Ein LLM ist kein Orakel. Kein Kollege, der mitdenkt. Es ist ein extrem guter Textautomat, der das nächste Wort rät.
Das klingt ernüchternd. Ist es nicht. Im Gegenteil: Wer die Maschine so sieht, wie sie ist, nutzt sie souverän. Ohne Angst – aber auch ohne blindes Vertrauen.
Genau die Haltung aus Teil 1. Werkzeug, nicht Autopilot.
Im nächsten Teil geht es um die Kehrseite dieses Ratens: Halluzinationen – warum KI überzeugend Dinge erfindet und wie Sie sich davor schützen. Danach folgen Datenschutz beim KI-Einsatz, der AI Act in der Praxis und die Anbieterprüfung.
Und wenn Sie KI in Ihrer Organisation einführen wollen, ohne in die typischen Fallen zu treten: Das erste Gespräch ist kostenlos.