Versteckte Risiken der KI: Wenn wir die Kontrolle über unser Denken verlieren

Der Mensch als kognitive Ebene

Ich habe in letzter Zeit viel über die gute alte Zeit nachgedacht und darüber, mit was für einem Staunen wir Menschen früher auf die Technologie blickten. Neulich habe ich mich mit einem Freund unterhalten, der sich leidenschaftlich für Mathe und Ingenieurwesen begeistert. Sein Enthusiasmus darüber, wie Technologie und menschlicher Erfindungsgeist bei der Mondlandung 1969 verschmolzen sind, hat mich echt inspiriert.

Die Entwicklung jeder einzelnen Komponente hat ihre eigene Geschichte, aber was besonders gut in mein Narrativ passt, ist der Umstand, dass der Mensch der entscheidende Erfolgsfaktor war. Astronauten und Ingenieure mussten zusammenarbeiten und komplexe mathematische Überlegungen in Echtzeit anstellen, um Position, Geschwindigkeit und Flugbahn zu bestimmen.

Da die Kapazitäten der damaligen Computersysteme begrenzt waren, mussten sich die Jungs eben hinsetzen und austüfteln, wie sie diese technologischen Limits kompensieren konnten. Der Schmidt-Kalman-Filter war eine Methode, die genau daraus hervorging. In diesem Moment im Jahr 1969 bildeten Menschen die kognitive Ebene der Mission. Heute verfügen wir in jedem Unternehmen über Rechenleistungen, die dieses Verhältnis still und heimlich umkehren.

Der Wandel – Maschinen werden zur kognitiven Ebene

Zwar müssen viele kleine und mittelständische Unternehmen keine komplexen mathematischen Berechnungen anstellen, doch erfordern sie durchaus komplexes Denken. Die KI beginnt nun, Aufgaben zu übernehmen, die einst menschliches Urteilsvermögen und Entscheidungsfindung erforderten: Schreiben, Analysieren, Zusammenfassen, Entscheiden.
Manchmal geschieht das über „offizielle“ Tools, doch viel öfter passiert es „im Schatten“, ohne Governance und ohne dass die Führungsebene davon weiss. Genau wie Nationalstaaten derzeit neu definieren, was Souveränität (insbesondere KI-Souveränität) bedeutet und was sie tun müssen, um die Kontrolle über kritische KI-Infrastrukturen und Entscheidungsprozesse zu behalten, müssen Unternehmen nun ihre eigene organisatorische „kognitive Souveränität“ überdenken.

Denn die KI beeinflusst bereits heute, wie Organisationen und Menschen denken. Wir können jetzt zu minimalen Kosten etliche Iterationen derselben Sache produzieren, um eine Aufgabe zu erledigen. Aber diese Fast-Food-Variante der Automatisierung erfordert nicht immer echte Tiefe oder kritisches Denken.
Doch ich schweife ab; worauf ich eigentlich hinaus will, ist die Tatsache, dass das Computing eine Schwelle überschritten hat, an der Maschinen beginnen, Dinge zu tun, die wir üblicherweise mit menschlicher kognitiver Arbeit assoziieren. Das ist per se nicht schlecht, aber wie wirkt sich das auf kleine und mittlere Unternehmen aus?

Aktuelle Realität – Schatten-KI in der Praxis

Hier sind einige der offensichtlichen Punkte: Mitarbeiter nutzen KI-Tools bereits, um E-Mails zu entwerfen, Meetings zusammenzufassen, Verträge zu prüfen und Verfahrensanweisungen oder Dokumentationen zu verfassen. Diese Aufgaben sind jetzt nicht besonders kreativ. Interessanter wird es jedoch dort, wo du menschliches Wissen, Kreativität und Führung mit KI kombinieren musst, um wirklich grossartige Ergebnisse zu erzielen:

• Schreib-Automatisierung: Manche Automatisierungen werden nur kurzfristig benötigt. Es ist fast so, als hättest du einen Mini-Entwickler auf der Schulter sitzen. Andere sind beständiger, wie zum Beispiel Workflows. Beides lässt sich extrem schnell implementieren.
• Projektplanung: Früher hat man sich (oftmals viele Male) mit Fachleuten zusammengesetzt, um Ziele und Aufgaben zu priorisieren. Heute kann ein Project Planner direkt einsteigen, einen soliden Entwurf erstellen und sofort zu dem Punkt springen, an dem das Projektteam mit der Feinabstimmung und Detailarbeit beginnt.
• Datensätze analysieren: Die Beherrschung von Daten- und Analysetools ist nicht mehr zwingend erforderlich. Das Wissen darüber, wie diese Tools im Kern funktionieren, ist jetzt das Werkzeugset, das du brauchst.
• Richtlinien und Verfahren verfassen: (Mein persönlicher Favorit). Keine Lust, sich durch Richtliniendokumente zu wälzen? Keine Sorge, die KI hilft dir dabei, die Sache ordentlich zu beschleunigen.

Die Rolle des Menschen bei der „Definition von Gut“

In den oben genannten Beispielen ist die menschliche „Definition von Gut“ (das gewünschte Ergebnis) nach wie vor absolut notwendig:

• Wie soll etwas verarbeitet und dargestellt werden?
• Wie kommen Entscheidungen zustande und wann sind sie abgeschlossen?
• Wie sollen Wissen oder grosse Datensätze interpretiert werden?

Das ist es, was ich als kognitive Souveränität betrachte. Die menschliche Kraft.
David Frum argumentierte kürzlich im The Atlantic, dass KI wie ein Spiegel wirken kann, der die menschliche Absicht verstärkt. Ich finde diesen Gedanken hier sehr passend…

Das ist alles wunderbar. Aber was passiert ohne Kontrolle? Während die KI gezielt Aufgaben qualifizierter Büroarbeit in allen Bereichen angreift, wird sie von den Mitarbeitern stillschweigend implementiert. In manchen Fällen nutzen sie private Abos oder private Geräte. Das kann zu Risiken wie Datenabfluss, Compliance-Verstössen und dem Verlust von institutionellem Wissen führen. Das ist Schatten-IT auf Steroiden und du wirst sie nicht stoppen, indem du KI einfach einschränkst.

Nutze die Kraft! (Channel the force!)

Organisationen können dieses kreative menschliche Denken nutzen, indem sie KI als Kernkompetenz integrieren und nicht bloss als Nebenbei-Tool. Die Aufdeckung von Schatten-KI hilft dir dabei, zu identifizieren, wo deine Prozesse langsam sind, wo Tools fehlen und wo Mitarbeiter Unterstützung brauchen.

• Verantwortlichkeit („Wer ist für das Ergebnis verantwortlich?“): Etabliere eine Governance, um die Übersicht und die Verantwortlichkeit darüber zu behalten, wie Arbeit ausgeführt wird, und um Risiken in der Lieferkette zu mindern, die durch eine zu starke Abhängigkeit von KI entstehen.
• Rückverfolgbarkeit („Wie sind wir hierhergekommen?“): Implementiere Strukturen, die volle Transparenz über die Entscheidungswege gewährleisten. Verfolge, welche Modelle verwendet wurden, warum sie ausgewählt wurden und welche Inputs das Ergebnis beeinflusst haben. Dokumentiere, wer die Ergebnisse geprüft oder geändert hat, damit sie erklärbar bleiben.
• Kontrollierte Einführung („Missionsziel“): Bette die KI in die Arbeitsabläufe ein und schule die Mitarbeiter darin, wie dies sicher geschehen kann. Modernisiere deine Tech-Stacks und lass die Menschen ihre Anforderungen sicher und nachvollziehbar definieren. Baue eine verantwortungsvolle Governance auf und gestalte die Zusammenarbeit zwischen Mensch und KI neu.
• Strukturen schaffen: Baue eine Governance auf, um nicht die Sichtweise darüber zu verlieren, wie Dinge tatsächlich erledigt werden, und um Abhängigkeiten (oder den kompletten Kontrollverlust an die KI) zu verhindern. Für kleine und mittlere Unternehmen stehen wir noch ganz am Anfang und doch ist die KI bereits ohne Struktur in ihren Arbeitsabläufen präsent. Genau wie Nationen ihre KI-Souveränität schützen, müssen KMU ihre „Denksouveränität“ schützen. Denn eine ungeprüfte KI-Einführung schafft nicht nur Risiken, sie kann auch schleichend Fähigkeiten erodieren lassen bis Organisationen nicht mehr in der Lage sind, die Systeme, von denen sie abhängen, zu erklären, zu hinterfragen oder ohne sie zu operieren.