Im Zeitalter von künstlicher Intelligenz

„Gibt es noch Fragen?“ Wer unterrichtet, kennt die Stille nach diesem Satz. Man kann sie für Zustimmung halten. Ich halte sie inzwischen für ein Warnsignal. Denn Antworten gibt es heute im Überfluss: Eine KI liefert sie in Sekunden, gut formuliert und zu jedem Thema. Die Fähigkeit zu erkennen, welche Frage überhaupt gestellt werden muss, ist schlechter geworden.
Über gutes Fragen im KI-Zeitalter ist viel geschrieben worden, und das meiste läuft auf Tipps für bessere Prompts hinaus. Mir geht es um etwas Grundsätzlicheres. Ich bin überzeugt, dass zwei Bedingungen darüber entscheiden, ob KI uns klüger oder bequemer macht: 1. ein breites, verknüpftes Wissen und 2. eine Neugier, die uns in der Kindheit nicht durch unsensible Erwachsene oder durch eine beängstigende, nicht motivierende Schule abgewöhnt wurde.
Mehr Informationen, schlechtere Entscheidungen
Unsere Welt ist komplex, und sie stellt uns ständig vor Entscheidungsprobleme: im Beruf, in Projekten, in der Technik, in der Gesellschaft. Naheliegend wäre die Annahme, dass mehr Daten, mehr Werkzeuge und mehr Alternativen diese Entscheidungen leichter machen. Mike Vaughan vertritt die Gegenthese: Je mehr Informationen zur Verfügung stehen, desto schlechter werden die Entscheidungen. Den Unterschied machen nach seiner Beobachtung Menschen, die gute Fragen stellen und ihr eigenes Urteil lange genug zurückhalten, um die Perspektive eines anderen zu verstehen. KI verschärft diese Lage. Sie vervielfacht die verfügbaren Antworten, die Entscheidung nimmt sie uns nicht ab. Wer nicht weiß, wonach er sucht, bekommt von ihr nur schneller mehr von dem, was er nicht einordnen kann.

Erste Bedingung: Wissen, das verbindet
Eine gute Frage setzt voraus, dass ich eine Lücke bemerke, und eine Lücke bemerke ich nur vor dem Hintergrund dessen, was ich schon weiß. Deshalb brauchen Menschen zuerst ein breites, horizontales Wissen, dessen Teile miteinander verknüpft sind und das tief genug reicht, um eine Problemstellung zu durchdringen. Breite allein bleibt an der Oberfläche. Tiefe allein übersieht, dass reale Probleme selten an Fachgrenzen haltmachen.
Zwei Beispiele aus meiner Lehre. Im Reinforcement Learning legt die Reward-Funktion fest, wofür ein Agent belohnt wird. Sie ist die Frage, die wir ihm stellen. Ist sie ungenau formuliert, findet der Agent Wege, die Belohnung zu maximieren, ohne das eigentliche Ziel zu erreichen. Man nennt das Reward Hacking. Der Agent hat dann nicht versagt. Er hat die gestellte Frage beantwortet, und es war die falsche. Wer eine gute Reward-Funktion schreiben will, muss das Problem verstanden haben, bevor er es übergibt. Bei Sprachmodellen ist das nicht anders.
Im Projektmanagement kennt man dasselbe Muster seit Langem. Viele Projekte scheitern nicht an einer schlechten Lösung, sondern daran, dass das falsche Problem gelöst wurde. Anforderungsklärung ist Fragekompetenz, und sie gelingt nur dem, der Technik, Geschäft und Menschen zugleich im Blick hat. Wissen brauche ich außerdem, um Antworten zu prüfen. Eine Studie von Microsoft Research und Carnegie Mellon mit 319 Wissensarbeitern weist in diese Richtung: Wer der KI mehr vertraute, dachte weniger kritisch, wer sich selbst mehr zutraute, kritischer. Die Studie beruht auf Selbstauskünften und zeigt einen Zusammenhang, keine Ursache. Sie passt aber zu meiner Erfahrung, dass Zutrauen in das eigene Urteil eigenes Wissen voraussetzt.

Zweite Bedingung: Neugier, die bleiben darf
Kleine Kinder fragen wissbegierig, offen und ohne Scheu. Diese Fähigkeit bringen wir alle mit. Hal Gregersen vom MIT beschreibt, was danach geschieht: Kleine Kinder stellen täglich Fragen, in der Schule bleibt davon nach seiner Darstellung nur noch eine substanzielle Frage im Monat. Ich glaube, wir gewöhnen Menschen das Fragen ab, weil in Schule, Studium und Beruf vor allem die richtige Antwort zählt.
Diese Fähigkeit darf nicht unterdrückt werden. Sie sollte ein Leben lang gefördert werden, und dafür reichen zunächst einfache Gewohnheiten. Gregersen nennt als Voraussetzung Menschen, die Vertrauen ausstrahlen, Sicherheit geben, zuhören und antworten. Im Hörsaal heißt das für mich: nach „Gibt es noch Fragen?“ wirklich warten und nicht eine Frage erwarten, sondern zwei oder drei. Die Question Formulation Technique des Right Question Institute macht daraus eine Übung mit vier Regeln: so viele Fragen wie möglich stellen, keine davon diskutieren oder bewerten, jede wörtlich notieren, jede Aussage in eine Frage umwandeln. In Teams hilft eine kleine Verschiebung, die Vaughan vorschlägt: statt „Was sollen wir tun?“ lieber „Was könnten wir tun?“. Gute Fragen entstehen dort, wo sie Neugier wecken und keine Angst. Bei einem meiner Versuche an der Hochschule war ich überrascht, wie schnell die Studierenden von dem üblichen Antwort-Modus auf Frage-Modus umschalten konnten. Schon während einer seminaristischen Vorlesung verbesserte sich die Fragentiefe deutlich.

KI als Begleiter
Die Forschung zeichnet ein zwiespältiges Bild. Die MIT-Studie „Your Brain on ChatGPT“ hat den Begriff „Cognitive Debt“ geprägt: Essays, die mit ChatGPT entstanden, fielen gleichförmiger aus. Die Stichprobe war mit 54 Studierenden allerdings klein, und die Methodik ist umstritten. Auf der anderen Seite gibt es Hinweise, dass Werkzeuge wie Ask.SMILE das Fragenstellen trainieren können. Gregersen berichtet, dass 79 % der Führungskräfte KI nutzen, um mehr Fragen zu stellen, und fügt hinzu, dass mehr nicht automatisch besser heißt.
Für mich löst sich dieser Widerspruch auf, wenn man auf die beiden Bedingungen schaut. KI ist ein Verstärker. Trifft sie auf jemanden ohne eigenes Wissen und ohne eigene Fragen, verstärkt sie die Bequemlichkeit. Trifft sie auf jemanden mit breitem Wissen und wacher Neugier, wird sie zum Sparringspartner: Sie liefert Gegenargumente, deckt Annahmen auf und öffnet Perspektiven, auf die man allein nicht gekommen wäre. Die Fragen nach dem Problem, den Werten und den Annahmen bleiben dabei beim Menschen. Gregersen nennt das „human-first“.
Das bedeutet wir brauchen eine völlig andere Form des Lernens, des Verstehens von Beginn des Lebens an, über Schule, Studium und später als permanentes Training im Beruf. Unternehmen sollten lernen zunächst die richtigen Fragen zu stellen, dann erst zu Werkzeugen zu greifen, um Lösungen zu finden.
Unter diesen Bedingungen entwickeln wir uns als Menschen weiter, und die KI wird zu einem nützlichen Begleiter. Niemand bräuchte sie mehr zu fürchten, und wir würden uns durch sie auch nicht zurückentwickeln. Gefährlich wird es erst, wenn wir aufhören zu fragen.

Zum Schluss eine Frage
Gregersen empfiehlt, sich jeden Tag vier Minuten für eine wesentliche Frage zu nehmen. Oft stellt sich dabei heraus, dass es die falsche war, und so lernt man, die richtige zu stellen. Ich gebe die Übung weiter: Welche Frage haben Sie heute gestellt, auf die Sie die Antwort noch nicht kannten?