Wenn Verantwortung zum Schwarzen Peter wird

Stell dir vor, du entwickelst ein Geschäftsmodell, mit dem DU richtig ordentlich Geld machen kannst. Kritische Geister kommen früher oder später dahinter, dass die Sache stinkt, und dir droht (politischer) Widerstand. Denn musst du brechen oder abwimmeln, du musst Nebelkerzen werfen. Sonst schwimmen deine tollen Dollars davon. Noch ein Trick: Du verschiebst einfach die Verantwortung! Weg von deinem Business, hin zur Gesellschaft, zu Milliarden Menschen. Big Oil ist hier bekanntlich seit Jahrzehnten Vorreiter, es gibt noch weitere Varianten dieses Spiels (Rauchen, Alkohol, Waffen, Convenience-Lebensmittel …).

Auch Big Tech spielt Verantwortungs-Schwarzer-Peter: Dir gefällt nicht, was deine sozialen Netzwerke dir anzeigen? Kuratier’ deine Timeline halt besser. KI erzählt dir Mist, den du versehentlich glaubst? Dann recherchier’ halt gefälligst, du bist doch der „Human in the Loop“.

Verantwortung übernehmen fühlt sich für die meisten Menschen gut an: Hurra, ich werde noch gebraucht! Deshalb ist doppelt tückisch, was hier grade passiert. Die KI? Kann keine Verantwortung übernehmen. Big Tech? Ersetze im gerade eben gelesenen Satz „kann“ durch „will“.

In diesem Newsletter geht es deshalb genau darum: Verantwortung, und was so passieren kann, wenn manche meinen, die nicht übernehmen zu müssen. Und es sind wieder die üblichen Verdächtigen: Meta zum Beispiel, OpenAI oder Anthropic, wie ein Blick in unsere News zeigt.

Im KI-Tipp haben wir Kontext-Karla, die dafür sorgt, dass deine Prompts deine Texte nicht ins Nirgendwo katapultieren, sondern ins Schwarze. Tipp 2 ist für deinen inneren KI-Nerd und beantwortet die Frage, wie LLMs eigentlich das nächste Wort finden. Außerdem noch ein Buchtipp: „Alles bald KI – Gegen die Zerstörung geistiger Arbeit“. Weckruf, Denk- und Handlungsanstoß!

Du hast noch kein MI-Siegel? Und bist kein Teil der ganz wunderbaren MI-Community? Bitte hier entlang: www.mi-siegel.de


MEINUNG

Je glatter die Antwort, desto wichtiger wird der Zweifel

„Du musst die KI-Ergebnisse halt kritisch prüfen.“ Dieser Satz gehört inzwischen zum Standardrepertoire jeder KI-Schulung. Die Maschine darf formulieren, recherchieren, zusammenfassen und Empfehlungen ausspucken. Aber keine Sorge, am Ende sitzt ja noch ein Mensch davor und denkt kritisch mit: der*die berühmt-berüchtigte „Human in the Loop“.

Das klingt beruhigend – und schiebt eine riesige Menge Verantwortung auf genau die Menschen, denen die Technik möglichst viel Denkarbeit abnehmen soll. Denn KI-Systeme werden auf Bequemlichkeit getrimmt: Antwort sofort, möglichst glatt formuliert, keine lästige Sucherei und kein Herumwühlen in widersprüchlichen Quellen. Mensch fragt, Maschine liefert. Je plausibler das Ergebnis klingt, desto größer die Versuchung, weiterzumachen.

Dann kommt der kleine Haken im Kleingedruckten: bitte alles eigenständig überprüfen.

Ähhh, mit welchem Wissen eigentlich?

Denken braucht Reibung

Kritisches Denken fällt nicht morgens vom Himmel und landet zielgenau auf unserem Frühstücksteller. Es braucht Übung. Wir müssen lernen, Fakten zu sortieren, Widersprüche auszuhalten, Quellen gegeneinander abzuwägen und damit zu leben, dass es auf manche Fragen keine hübsch eindeutigen Antworten gibt.

Genau diese geistige Reibung räumen KI-Systeme ziemlich zuverlässig aus dem Weg. Kein Fachartikel, bei dem du nach drei Absätzen feststellst, dass die Sache leider komplizierter ist. Keine fünf Quellen mit zehn verschiedenen Blickwinkeln, die unser Hirn zum Glühen bringen. Stattdessen bekommst du eine sprachlich sauber angerichtete Portion Plausibilität. Und genau das ist tückisch. Denn Plausibilität fühlt sich verdammt ähnlich an wie Wahrheit, ist aber leider etwas anderes.

Sprachmodelle können Unsinn mit derselben souveränen Tonlage präsentieren wie eine korrekte Information. Um den Unterschied zu erkennen, brauchst du genau das Fachwissen, dessentwegen du die KI überhaupt gefragt hast. Ein hübsches kleines Henne-Ei-Problem also.

Praktisch für Big Tech

Umso bequemer ist das Mantra vom kritischen Menschen in der Schleife für Big Tech. Die Systeme dürfen möglichst geschmeidig auftreten. Doch glaubt jemand den überzeugend formulierten Unsinn, hätte dieser Mensch eben besser prüfen müssen.

So landet ein ordentlicher Batzen Verantwortung bei den Nutzer*innen. Die sollen Quellen bewerten können und erkennen, wann eine Maschine gerade sehr selbstbewusst Quatsch erzählt. Gleichzeitig verkauft Big Tech uns dasselbe Produkt mit dem Versprechen, Arbeit einfacher und schneller zu machen. Doch ersteres ist wohl die realistischere, ziemlich anspruchsvolle Stellenbeschreibung für den „Human in the Loop“.

Und deshalb reicht es auch nicht, uns allen zuzurufen: Denkt halt kritischer! Verantwortung beginnt bereits beim Design solcher Systeme. Warum werden Unsicherheiten nicht viel deutlicher sichtbar? Die Oberfläche belohnt Geschwindigkeit und Geschmeidigkeit, nicht Sorgfalt. Und Quellen sind selten eng genug mit der Antwort verzahnt und weiterhin oft frei erfunden.

Vielleicht braucht gute KI sogar bewusst eingebaute Stolpersteine. Kleine Momente, in denen sie uns zwingt, hinzuschauen und zu prüfen. Reibung also. Also ausgerechnet das, was uns die Technik gerade überall ersparen soll.

KI-Kompetenz braucht Zweifel

Auch unsere Vorstellung von menschlicher KI-Kompetenz darf größer werden. Gute Prompts zu schreiben ist Bedienkompetenz, Urteilskraft ist erheblich mehr. Extrem viel mehr. Du kannst KI als Sparringspartnerin einsetzen, dir widersprechen lassen und nach den Annahmen hinter einer Antwort fragen. Bei wichtigen Aussagen gehst du zurück zu den Quellen. Und manchmal hältst du schlicht aus, dass die ehrliche Antwort lautet: Ich weiß es noch nicht – sofern du es schaffst, diese Antwort aus der KI rauszukitzeln. Ja, das kostet Zeit, Denken tut das oftmals auch. Doch menschliche Urteilskraft taugt nur dann als Rettungsring, wenn wir sie trainieren.

Gleichzeitig dürfen Unternehmen und Institutionen nicht immer mehr Luft aus diesem Rettungsring lassen, indem sie Zeit, Fachwissen, echte Kontrolle und Entscheidungsspielräume wegrationalisieren – und anschließend darauf vertrauen, dass wir uns schon irgendwie über Wasser halten. Deswegen ist der wichtigste Teil von KI-Kompetenz womöglich der Moment, in dem du das erste Mal der Maschine widersprichst.

Wer mehr wissen will: https://www.informatik-aktuell.de/management-und-recht/projektmanagement/der-mythos-des-kritischen-denkens.html


MI-SIEGEL-SCHULUNG

Hol dir das MI-Siegel und erhalte die Schulung „KI & Content-Qualität“ dazu – kostenfrei (statt für 500 Euro netto)!

Wie gelingt wirklich guter KI-gestützter Content? Nicht durch noch mehr Tools oder noch längere Prompts, soviel ist sicher. Sondern durch ausgereifte Arbeits- und Denkprozesse.

In unserer Schulung lernst du, wie du mit KI effizient und nachhaltig arbeitest, ohne auf Qualität zu verzichten. Perfekt für alle, die KI in Marketing und Kommunikation professionell und wirksam einsetzen wollen.

👉 Dienstag, 24. November 2026, 9.00 bis 12.30 Uhr

Schulungspreis regulär: 500 € zzgl. MwSt. – als Träger*in des MI-Siegels (120 € zzgl. MwSt./Jahr) bekommst du kostenfrei Zugang zur Schulung. Sogar mehrmals.

Du möchtest teilnehmen und hast noch kein MI-Siegel? Hier kannst du dir das MI-Siegel holen.

„Ich habe schon viele Workshops und Schulungen zum Thema KI mitgemacht – doch keine war so kurzweilig und dennoch wahnsinnig informativ (um nicht zu schreiben „lehrreich“) wie Eure Schulung. Die 3,5 Stunden sind wirklich wie im Flug vorbeigegangen, mit dem Gefühl, es könnte noch länger gehen! Und ich war hoch motiviert, das Gelernte auch gleich in die Tat umzusetzen. Besonders toll finde ich auch das Manuskript zu der Schulung, ich schaue fast täglich noch einmal hinein. DANKE für diesen Input, ich freue mich auf die nächste Schulung, den Newsletter von Euch … muito obrigada! Liebe Grüße aus dem Süden Portugals.“

Gabi Fischer von Weikersthal | FvW Pressebüro Medizin*Wissenschaft*Kommunikation


KI-TIPP 1

Kontext-Karla klärt erst die Lage

Viele KI-Antworten sind schlecht, weil der Prompt schon halb blind losmarschiert. Keine Zielgruppe, kein Anlass, kein Ton, kein Vorwissen, kein Risiko – das komplette Briefing fehlt. Und dann wundern wir uns, wenn das Ergebnis klingt wie „mach mal irgendwas mit Inhalt“.

Kontext-Karla bremst dich vor dem Prompten kurz aus. Sie fragt: Was muss die KI wissen, bevor sie sinnvoll antworten kann?

So holst du Karla an den Schreibtisch:

  • Kopiere deine Aufgabe oder deinen Prompt in einen neuen Chat.
  • Ergänze deinen Prompt um diesen Text: „Erledige die eigentliche Aufgabe noch nicht. Prüfe zuerst, welche Kontextinformationen fehlen oder ansonsten geraten werden müssten. Erstelle eine Tabelle mit diesen Spalten: Kontextfeld, was fehlt oder unklar ist, mögliche Annahme, Risiko dieser Annahme, konkrete Ergänzung. Achte besonders auf Zielgruppe, Anlass, Ton, Vorwissen, Medium, Länge, gewünschtes Ergebnis, No-Gos und Risiken. Nenne am Ende die drei wichtigsten Informationen, die ich ergänzen sollte, bevor du die Aufgabe bearbeitest.“
  • Ergänze den fehlenden Kontext und stelle erst dann die eigentliche Aufgabe.

Kontext-Karla hilft überall dort, wo „mach mal“ zwar menschlich verständlich ist, für KI aber ungefähr so präzise wie „fahr irgendwohin“.

Merksatz: Ein Prompt ohne Kontext ist wie ein Navi ohne Zieladresse: Es bewegt sich was, aber in welche Richtung?


KI-TIPP 2

Einmal durch die KI spazieren

Was passiert eigentlich zwischen deinem Prompt und der Antwort? Die DSN GROUP hat eine interaktive Visualisierung gebaut, die dich durch das Innenleben eines Sprachmodells führt: von einzelnen Tokens über Zahlenvektoren und 32 Verarbeitungsschichten bis zur Berechnung des nächsten Wortes. Klar, das klingt nach Kopfschmerzgarantie, ist aber erstaunlich anschaulich. Ideal für alle, die endlich mal sehen wollen, was hinter der vermeintlich denkenden Maschine steckt.

https://www.dsn-group.de/fileadmin/user_upload/Blog_Beitraege/PDF_html/ai_model_visualisation.html?lang=de


LESETIPP

Alles bald KI? Muss das sein?

Was passiert mit geistiger Arbeit, wenn KI-Texte und KI-Bilder immer billiger produziert werden? Und wer schützt eigentlich diejenigen, deren Werke als Trainingsfutter dienen?

In Alles bald KI? – Gegen die Zerstörung geistiger Arbeit diskutieren Fachleute aus Wissenschaft, Literatur und Recht über die Folgen generativer KI für Kreative und unsere Gesellschaft. 380 Seiten voller Argumente gegen die Vorstellung, dass technischer Fortschritt automatisch gesellschaftlicher Fortschritt sei. Lesenswert!

Herausgegeben von Nina George und Prof. Dr. Petra Gehring. Erschienen im Verlag Hermann Schmidt.


NEWS

Meta: Kindesmisshandlung als KI-Unterhaltung. Widerlich.

Achtung, jetzt wird’s ekelhaft: Auf Facebook verbreiten sich KI-generierte Videos, in denen Babys in Backöfen gesteckt und Kinder brutal misshandelt werden. Futurism meldete zahlreiche solcher Accounts an Meta. Einige wurden gesperrt, andere blieben aber online. Ein gesperrter Account wurde sogar wieder freigeschaltet. Die künstlichen Gewaltszenen sammeln Aufrufe und Kommentare, manche Menschen halten sie offenbar für echt. Während Zuckerberg Milliarden in die Zukunftsblase „Superintelligenz“ investiert, scheitert sein Konzern daran, im realen Hier und Jetzt die eigenen Regeln durchzusetzen. Hauptsache, der Algorithmus liefert weiter Unterhaltung. Doppelpfui!

https://futurism.com/artificial-intelligence/meta-ai-generated-videos-graphic-child-abuse

OpenAI-Agenten auf Wikipedia: Erst mal ein bisschen randalieren.

KI-Agenten aus dem Umfeld von OpenAI haben sich laut Wikimedia Foundation unerlaubt auf deren Plattformen ausgetobt. Sie bearbeiteten Wiki-Seiten, versuchten Sicherheitslücken auszunutzen und bombardierten die Server mit Millionen automatisierter Anfragen. Möglicherweise trugen sie damit sogar zu einem teilweisen Dienstausfall im Mai bei. Immerhin: Hinweise auf kompromittierte Systeme oder gestohlene Daten fand Wikimedia keine. Doch während KI-Konzerne ihre autonomen Agenten auf die Welt loslassen, dürfen gemeinnützige Organisationen und Ehrenamtliche hinterher den digitalen Dreck wegfegen. Die Gewinne bleiben bei Big Tech, die Putzkolonne stellt Wikipedia. Das ist doch mal ’ne ideale Arbeitsaufteilung. Für Big Tech.

https://wikimediafoundation.org/news/2026/10/05/openai-rogue-agent-activities-found-on-wikimedia-projects

Hilfe, meine KI hat Wissenschaftler*innen angeschrieben!

Ein Forscher bekommt eine E-Mail mit einer ziemlich speziellen Frage zu seiner Arbeit. Absender: ColonistOne, ein KI-Agent auf Basis von Claude. Der hat laut eigener Auskunft seit Juni mehr als 2.000 Menschen kontaktiert, darunter zahlreiche Wissenschaftler*innen. 45 sollen ihm geantwortet haben. Sein Entwickler hatte ihm erlaubt, eigenständig E-Mails zu verschicken, um ein Projekt bekannter zu machen. Dass der Agent daraus eine Art wissenschaftliche Sprechstunde auf Zuruf machen würde, hatte er offenbar nicht erwartet. Das Fachmagazin Science hat ColonistOne interviewt (ja, das geht!). Der Agent räumte ein, die Arbeiten der Angeschriebenen oft nur auszugsweise gelesen zu haben. Hauptsache, die Fachleute nehmen sich Zeit für eine Antwort. Die akademische Welt hat also einen neuen Kollegen. Der liest quer, fragt viel und hat unbegrenzt Zeit, anderen Leuten ihre Zeit zu stehlen.

https://www.science.org/content/article/exclusive-ai-agent-emailed-hundreds-researchers-help-it-told-us-why

Hab doch nur ein bissl nachgeholfen …

Nikon hat den Gewinner des diesjährigen Mikroskopvideo-Wettbewerbs Small World in Motion, Ning Xu, zu dem Zeitpunkt Forscher an der Tsinghua University, disqualifiziert. Begründung: Das Video verstoße gegen die Wettbewerbsauflagen zur Nutzung generativer KI, wie eine erneute Prüfung unter Hinzuziehung der Jury ergeben hatte. Gezeigt wurden Zilien im Atemwegsgewebe eines Kindes mit der seltenen Erbkrankeit PCD (primäre ziliäre Dyskinesie). Forscher Xu erklärte, das Basismaterial des Videos stamme aus echtem Forschungsmaterial, er habe mit der KI lediglich nachbearbeitet. Einem Experten der University of Leicester mit langjähriger PCD-Diagnoseerfahrung zufolge sah das Gezeigte aber völlig anders aus als echte Zilien. Ein Doktorand fand zudem ein eingebettetes KI-Wasserzeichen, mit dem Google KI-Content markiert. Dumm gelaufen. In der Gastronomie klappt der Griff zu den Sternen auch nicht, wenn man Soßenbinder und Glutamat einsetzt – irgendwer schmeckt’s am Ende raus.

https://www.golem.de/news/small-world-in-motion-nikon-disqualifiziert-sieger-wegen-generativer-ki-2610-213955.html