In diesem Blogbeitrag möchten wir unser Wissen teilen: In rund 25 durchgeführten KI-Prompting-Werkstätten und Promptathons mit rund 400 Menschen hat das Fraunhofer IAO in den letzten 2,5 Jahren auf Basis von teilnehmender Beobachtung vielfältige Erkenntnisse sammeln können. Dabei fielen immer wieder gleiche und ähnliche Muster auf, wie Menschen sich verhalten bzw. wie sie ihre Zusammenarbeit mit der GenAI beschreiben und erklären.

Spoiler: In einem der nächsten Blogbeiträge werden wir Bericht erstatten, wie wir bei unserem Format KI-Prompting-Werkstätten und Promptathons grundsätzlich mit Menschen, Unternehmen und GenAI zusammenarbeiten. Es geht dann im Einzelnen um Ziele, Vorgehen, Rahmenbedingungen, Erfolgsfaktoren, Ergebnisse und weitere Aspekte.

Zur Darstellung der Insights haben wir nicht die übliche normative Form gewählt, in der Beraterinnen und Berater, Autorinnen und Autoren und andere Avantgarde-Gurus zuweilen postulieren, wie sie mit ihren zu vermarktenden Prompts und scheinbar überlegenen KI-Tools die Sterne vom Himmel prompten. Derlei Prompting-Schemata, Empfehlungslisten und Social-Media-Posts sind Legion, bei Interesse einfach googeln.

Vielmehr ist für uns der empirische sozialwissenschaftliche Blick wichtig: Was ist, wenn die Menschen mit ihren Prompteingaben und ihren Promptergebnissen unzufrieden sind und feststecken? Oder andersherum: Wie ist vorzugehen, wenn sie zu schnell abbrechen und Potenzial verschenken? Wie können sich Menschen selbst helfen bzw. wie kann ihnen die menschliche Gruppe weiterhelfen? Welche Bedeutung hat Empathie? Welche typischen Muster sind generalisierbar?

Negativ formuliert könnte man von »Sackgassen« sprechen, in die Menschen in der Interaktion mit der Maschine gelandet sind. Die Gründe sind vielfältig: Denkfehler, Irrtümer, falsche Annahmen, verzerrte Wahrnehmungen, Mythen, Flüchtigkeitsfehler, Missverständnisse, Patzer, Ausreden, Fehlschlüsse u. v. m.
Positiv formuliert sind diese Sackgassen und ihre Auflösung aber oftmals grotesk, witzig und kreativ. Mit anderen Worten: sie sind absolut menschlich.

Hier kommen jetzt die acht beliebtesten Sackgassen und ihre mögliche Auflösung.

Die Sackgassen werden aus der Ich-Perspektive formuliert, sinngemäß und pointiert. Die Auflösung ergibt sich durch gemeinsames Nachdenken, Besprechen und Bewerten aller Mitmachenden in den KI-Prompting-Werkstätten bzw. in den Promptathons. Eine entscheidende Rolle spielt dabei häufig die Person, die sich in einer vermeintlichen Sackgasse befindet, und ihre Selbsterkenntnis, die sich in der Situation weiterentwickelt (interessanterweise teilen Menschen anderen Menschen meist klar ihre Absichten mit, was sie Maschinen gegenüber oft nicht tun).

Sackgasse #1: Der Superprompt-Irrtum

»Ich bin auf der hehren Gralssuche nach dem einen universellen Superprompt, der alles löst.«

Auflösung – Besser ist es, fallweise vorzugehen und zu erklären, was man tatsächlich haben möchte. Denn: ChatGPT und Co. kann keine Gedanken lesen! Präzision und Relevanz entscheiden, »Context is King«. Unwichtiges weglassen. Aber das, was mir wichtig ist, am besten dreimal explizit reinschreiben, im Zweifelsfall am Anfang, in der Mitte und am Schluss.

Sackgasse #2: Die Google-Falle

»Ich gehe beim Prompten so vor wie bislang immer – also wie beim Recherchieren mit der Suchmaschine Google.«

Auflösung – Besser vergegenwärtigen: Google arbeitet mit Keywords und Google ist ein Retrieval-System, das im Internet bereits Existierendes findet. Prompten hingegen ist ein Dialog zwischen Mensch und Maschine, der neue Antworten synthetisiert. Außerdem: Vorsicht vor der Frische bzw. Mindesthaltbarkeit der Large Language Models. LLM haben ein Freeze-Datum, wann sie abgeschlossen und erstellt wurden.

Sackgasse #3: Die Copy-Paste-Hölle

»Ich feuere einen Sprachbefehl ab, Chatbot und LLM antworten und die Antwort wird von mir eins zu eins übernommen. Wie es ist, so isses.«

Auflösung – Besser nicht aufgeben. Iterativ weitermachen ist eine Tugend, abhängig von Zeit, Ressourcen und Erwartungen, die ich mitbringe. Wenn die Konversation im angefangenen Thread in Halluzinieren oder Konfabulieren abdriftet, einen neuen Thread beginnen.

Sackgasse #4: Die Naturtalent-Illusion

»Ich bin von Natur aus ein intuitives Prompt-Talent. Erprobte Prompting-Schemata brauche ich nicht zu beachten.«

Auflösung – Besser ist es, wenn man den sog. Dunning-Kruger-Effekt mit Sicherheitsabstand umschifft. Dieser zuweilen beobachtbare Effekt besagt, dass die Unwissenden sich besonders kompetent fühlen, während wirklich Kompetente ihre Fähigkeiten eher unterschätzen. Schuster bleib bei deinen Leisten: Nutze für dein Vorgehen einfache und erprobte Hilfsmittel und Eselsbrücken wie das im Leselink angegebene ROMANE-Prompting Schema. Never ever forget, zumindest das R, O und E. Diese sind beim systematischen Prompten absolut erfolgskritisch (R=Rolle, die der Chatbot einnehmen soll, O=Objective, was der Chatbot als Ziel für mich machen soll und E=Empfänger, für wen wir überhaupt prompten).

Sackgasse #5: Die Vermenschlichungs-Phantasie

»Ich denke, die KI ist ein Mensch: ein Freund/eine Freundin, ein Kollege/eine Kollegin usw.«

Auflösung – Besser beherzigen: KI-Systeme haben kein Bewusstsein, sie können nach allem was wir wissen nicht lernen, verstehen und fühlen. Das nie vergessen. Aber: Das pragmatische Zusammenarbeiten mit einer KI ist am einfachsten, wenn der Mensch die Maschine wie eine Person behandelt (Personifikation).

Sackgasse #6: Die Verantwortungs-Dichotomie

»Es gilt entweder: Die Schuld für schlechte Ergebnisse trage nur ich mit meinem inkompetenten Prompting. Oder das Gegenteil: Nur die KI war’s, wenn ein schlechtes Ergebnis herauskommt.«

Auflösung – Besser bedenken: ChatGPT und Co. ist und bleibt eine »Wortvorhersagemaschine« mit hohem unerklärbaren Anteil des Zufallsfaktors. Ich und die Maschine arbeiten zusammen (Input), das geschaffene und zu bewertende Ergebnis ist ein Werk von Maschine und Mensch zugleich (Output).

Sackgasse #7: Der Kardinalfehler des Abwartens und der Delegation

»Ja, die Zusammenarbeit mit GenAI ist das neue State-of-the-art und scheint viele Nutzenvorteile in Bezug auf produktiver – humaner – kreativer zu bieten, die es in meinem Unternehmen zu heben gilt. Aber ich warte besser ab bzw. delegiere an Führungskräfte, Mitarbeitende oder Geschäftspartnerinnen und -partner.«

Auflösung – Nicht machen. Abwarten führt dazu, dass der Kompetenz-Gap exponentiell anwächst. Und Selbsterfahrung ist nicht delegierbar und durch nichts zu ersetzen. Nicht selbst machen ist eine Sünde in der KI-Zeit.

Sackgasse #8: Prompting und LLM überschätzen, Use Cases unterschätzen

»Ich habe erkannt: Die entscheidenden Faktoren für die Zukunft sind, dass ich mich zu einem Prompting-Skills Professional weiterentwickle und dass ich stets die neueste und leistungsstärkste am Markt verfügbare GenAI nutze.«

Auflösung – Sehr gut, unbedingt beides machen. Es geht aber noch besser: »Anwendungsfälle werden die neuen Könige«. D. h. wir haben DIE Herausforderung, die eigenen privaten und geschäftlichen Anwendungsfälle zu suchen und zu finden. Dann gilt es, die Grenze im Zusammenspiel zwischen Mensch und Maschine zu verstehen und immer weiter in die von uns gewünschte Richtung zu verschieben. Ohne Use Case im Zentrum ist alles nichts. Für manche Fälle wünschten wir uns einen digitalen Zwilling, eine Kopie von mir selbst, für manche Fälle einen kongenialen »Tandempartner«, der das kann, was ich nicht so gut kann. Prompting und LLM mit konkreten Anwendungsfällen zusammenzudenken und umzusetzen, das ist die wahre menschliche AI-Literacy/KI-Kompetenz, die Deutschland individuell und kollektiv braucht.

Und welchen kleinen oder größeren Anwendungsfall möchten Sie als Nächstes mit GenAI zusammen angehen? Was ist Ihr Projekt?

Leselinks:

Norbert Fröschle

Autorenprofil



Kategorien: Arbeitswelten (New Work, Connected Work), Digitale Transformation, Künstliche Intelligenz, Zukunftstechnologien
Tags: , ,