In dieser Ausgabe riecht es auffällig nach Etikettenschwindel: Überall klebt ein Schildchen mit der Aufschrift „Mensch“ drauf, und kaum drehen wir es um, blinkt darunter irgendein Automatikbetrieb rhythmisch vor sich hin. Im Netz schreibt dir ein freundlicher Projektmanager, übergibt dir einen Auftrag, nimmt Fragen entgegen, spendet Vertrauen und klaut dir am Ende Zeit und Geld. Laut einer Literaturstudie reicht schon das Label „von einem Menschen geschrieben“, damit Texte von uns lieber gelesen werden. In der Softwareentwicklung bleibt von der spannenden Arbeit plötzlich nur noch die Wartung einer selbstbewussten Textmaschine übrig. Und in Unternehmen wundern sich Führungskräfte, dass Beschäftigte nicht begeistert jubeln, wenn man ihnen ein Tool vor die Nase setzt, das im Flurfunk längst als Vorbote von Kündigungen gilt.
Nein, wir können KI nicht wieder in den Schrank sperren und den Schlüssel wegwerfen. Doch wir müssen JETZT Entscheidungen treffen und rechtliche Vorgaben auf den Weg bringen: Wer prüft, wer entscheidet, wer haftet, wer verdient, wer wird ausgenutzt? Genau deshalb geht es in diesem Newsletter um Täuschung im professionellen Gewand, um Prompts mit eingebautem Tunnelblick, um Yuval Hararis Blick auf Informationsnetze und um die praktische Frage, wie guter KI-gestützter Content entsteht, wenn Qualität nicht mit Tool-Folklore verwechselt wird.
Noch mehr KI-Kritik und -Tipps mit Haltung statt Hype gibt’s auf unserer MI-LinkedIn-Seite: linkedin.com/company/mi-menschliche-intelligenz. Folgen ausdrücklich erwünscht.
Du hast noch immer kein MI-Siegel? Dann wird es höchste Zeit! Unsere tolle Community und die enthaltene MI-Schulung „KI & Content-Qualität“ warten auf dich. https://www.mi-siegel.de/
MI-SIEGEL-SCHULUNG
Hol dir das MI-Siegel und erhalte die Schulung „KI & Content-Qualität“ dazu – kostenfrei (statt für 500 Euro netto)!
Wie gelingt wirklich guter KI-gestützter Content? Nicht durch noch mehr Tools oder noch längere Prompts, soviel ist sicher. Sondern durch ausgereifte Arbeits- und Denkprozesse.
In unserer Schulung lernst du, wie du mit KI effizient und nachhaltig arbeitest, ohne auf Qualität zu verzichten. Perfekt für alle, die KI in Marketing und Kommunikation professionell und wirksam einsetzen wollen.
👉 Montag, 14. September 2026, 9.00 bis 12.30 Uhr
Schulungspreis regulär: 500 € zzgl. MwSt. – als Träger*in des MI-Siegels (120 € zzgl. MwSt./Jahr) bekommst du kostenfrei Zugang zur Schulung.
Du möchtest teilnehmen und hast noch kein MI-Siegel? Hier kannst du dir das MI-Siegel holen.
„Endlich fühle ich mich beim Thema KI sicherer. Diese Sicherheit kann ich als Siegelträgerin nun auch im Kontakt mit meiner Kundschaft ausstrahlen. Herzlichen Dank an Brigitte und Christa für diesen spannenden und wirklich absolut kurzweiligen Workshop, der mir noch einmal ganz neue Impulse gegeben hat. Tausend Dank für eure Mühe!“
– Jana Männig, Historikerin und Autorin –
DYSTOPIE
Mensch oder Maschine? Zeig dein Gesicht!
Der Sandkasten-Ausbruch eines OpenAI-KI-Agenten im Juli dürfte allen noch in guter Erinnerung sein. Oopsie, haben vergessen, die Tür abzuschließen, kommt nicht wieder vor! Wie realistisch ist das? Der Anteil des automatisierten Web-Traffics steigt und steigt: 51 Prozent waren es 2024, 2025 schon 53 Prozent. Je mehr Maschine, desto weniger Mensch. Schon klar, „automatisiert“ ist nicht gleich „KI“ – aber KI ist im Moment der Katalysator schlechthin und hilft auch den bösen Buben da draußen, leider.
Step up your scam game!
Unlängst wurde eine Übersetzerkollegin aus unserem Netzwerk abgezockt, vermutlich unter Einsatz von KI. Um aus „vermutlich“ „gesichert“ zu machen, fehlen uns die forensischen Mittel – doch lies gerne weiter: Mitte Juli erhält die Kollegin eine Anfrage eines gewissen Dr. R. M. aus einer ihr bis dato unbekannten Übersetzungsagentur in den USA. Ein Text ins Deutsche, ob sie könne, ob sie wolle, falls ja, käme der Text zur Ansicht und sie solle ein Angebot abgeben. Strictly normal business also.
Ein aufkommender klitzekleiner Zweifel verfliegt sofort, weil sie sich mit Namen angeschrieben sieht und die Mail keinerlei Scam-Verdacht erregt („30 Seiten Übersetzung, Seitenpreis 10 Fantastilliarden“, „Dear linguist“, Nennung von Berufsverbänden, bei denen man kein Mitglied ist usw.). Stattdessen eine tipptopp professionell-freundlich gehaltene Anfrage, und die Agentur gibt es auch tatsächlich.
Den Job kann die Kollegin gut gebrauchen, die Aufgabe klingt interessant. Sie schreibt ein Angebot, nicht zu niedrig, nicht zu hoch. Der Zuschlag kommt, Auftragsbestätigung inklusive. Da übersetzungsrelevante Fragen auftauchen, entspinnt sich eine Konversation mit dem Projektmanager. Er ist freundlich-zugewandt und immer korrekt. Die Fragen werden geklärt, und sie legt los.
Geld weg, Zeit geklaut
Nach etwa acht Arbeitstagen liefert sie ihre Übersetzung, die ordnungsgemäß abgenommen wird. Die Finanzabwicklung soll über ein Portal laufen, sie möge sich dort ein Konto einrichten. Hm, es gibt doch SEPA, denkt die Kollegin, aber am Ende ist es ja ein modernes Fintech-Konstrukt, das dem Auftraggeber (und ihr?) Bankgebühren erspart, so etwas Ähnliches wie Paypal? Mit US-Banking-Regulierung kennt sie sich nicht aus. Also lässt sie sich darauf ein, legt das Konto an. Das Portal selbst, die Bestätigungsmails, die kommen – alles wirkt professionell. Sobald das Konto angelegt ist, sieht sie gleich ihr Honorar darauf.
Als sie versucht, das Geld zu ziehen, klappt das nicht. Sie kontaktiert die Finanzabteilung der Agentur, erfährt von dort, dass das Konto noch nicht aktiv geschaltet sei (was sie im Portal auch sehen kann). Für die Aktivierung bräuchte es eine Überweisung ihrerseits von x Euro. Danach könnte sie ihr Honorar plus den Betrag x vom Konto ziehen. Sie überweist, der Betrag im Konto erhöht sich um x Euro.
Doch ein erneuter Versuch, an das Geld zu kommen, schlägt wieder fehl. Dieses Mal ist von Clearing-Gebühren die Rede für all die Banken, die auf dem Weg des Geldes von A nach B die Hand aufhalten. Also doch Gebühren!, denkt sie. Sie sind aber ziemlich hoch, und zum ersten Mal wird die Kollegin richtig misstrauisch. Doch wird ihr in Aussicht gestellt, dass auch dieser Betrag komplett erstattet würde.
Diese Story kauft die Kollegin jetzt nicht mehr. Sie bricht den Kontakt ab, faktisch um x Euro ärmer, und gearbeitet hat sie für lau. Erst dann geht ihr auf: Der freundliche Dr. R. M. war vermutlich eine KI-Persona, die auf Gesprächsverläufe reagieren konnte. Ja, es gab kleine Ungereimtheiten im Umgang mit Fragen und Problemen, aber sie waren nicht so eindeutig, dass sie nicht auch die Reaktionen eines echten Menschen hätten sein können. Und Dr. R. M. war bei allen Problemen, die auftauchten, immer verständnisvoll und einfühlsam. Eben, genau.
Hilf mit, dich zu betrügen!
Der Fall zeigt, wie agentische KI ökonomische Parameter verändert, auch in der Cybercrime-Branche. Das wochenlange Präludium mit E-Mails hin und her („feel free to ask whenever questions arise“), das letztlich nur dazu da war, die Übersetzerin glauben zu lassen, sie habe einen Auftrag für x Euro bearbeitet, hätten sich Kriminelle bis vor Kurzem so wohl noch nicht geleistet. Dasselbe „mit Menschen“ hätte sich unterm Strich nicht gerechnet, denn auch kleine Rädchen im Cybercrime möchten Brot und Butter, der Bot braucht beides nicht. Besonders perfide an der gesamten Mechanik: Als Opfer kriegst du keinen fertigen Prozess vorgesetzt, den es nur zu „kaufen“ gilt, sondern wirst in die Ausführung aktiv involviert. Das lässt es nur noch glaubhafter erscheinen – und verschiebt die Kosten hin zu dir. Ein klassisches Do-it-yourself-Modell. KI erschließt viele neue Potenziale, leider auch den Verbrechern.
Die naive Vorstellung, unser Gegenüber im Internet – repräsentiert als Post, als Like, als Stimme, Bild oder E-Mail – muss ein Mensch sein, hat sich erledigt. Wir steuern in eine Online-Welt, in der die allererste Frage immer lauten muss: Bist du Mensch oder bist du Maschine? Und in der es ohne verbindliche und glaubhafte Authentifizierung nicht mehr geht.
„AI agents are a new category of internet participant. They no longer just scan websites; they retrieve data, execute workflows, and act on behalf of users.“ KI und KI-Agenten gehen nicht wieder weg, rein gar nichts spricht dafür. Und die Entwicklung wird nicht nur Kreative betreffen, die Jobs verlieren oder mit Pseudoaufträgen Zeit und Geld gestohlen bekommen, sondern uns alle. Das Internet abschalten, um der Sache Herr zu werden? Wenn man Mord und Totschlag riskieren will, ok. Aber wir schalten auch nicht die Wasser- und Stromversorgung ab – lieber fordern wir in Dürreperioden Menschen auf, Wasser zu sparen, während die Rechenzentren ohne Einschränkungen weiter laufen.
Entweder wir kriegen das reguliert, oder es wächst uns über den Kopf.
Die MI-Newsletter-Redaktion kennt die betreffende Kollegin persönlich und verbürgt sich für die Richtigkeit aller Angaben. Sollte es Journalist*innen geben, die sich für den genauen Ablauf dieses Betrugs interessieren, stellen wir gerne Kontakt her.
LESEN – HÖREN – SCHAUEN
Yuval Harari: Nexus
Wir Menschen sind miteinander verbunden über Sprache. Wir erzählen uns schon immer Geschichten. Mit dem Buchdruck haben wir unsere Ideen und Mythen verbreitet. Das Internet versprach uns Wissen ohne jegliche Grenzen. Doch im Web werden unser Verhalten und Kommunizieren „belauscht“ und analysiert von Algorithmen – welche miesen Effekte deren eigenständiges Handeln hat, wissen wir inzwischen alle. Und jetzt gibt es KI. Was hat die Menschheit von ihr zu erwarten?
Der Historiker Yuval Harari erzählt auf packende Weise die Entwicklung menschlicher Informationsnetze vom steinzeitlichen Lagerfeuerplausch bis heute, wo Computer und Bots selbstverständliche Akteure in unseren Netzen sind. Angesichts der stürmischen KI-Entwicklung ist das 2024 erschienene Buch zwar nicht mehr brandneu, seiner Hauptaussage tut das aber keinen Abbruch: Die KI hat das Zeug, sich unserer Kontrolle zu entziehen. Es liegt an uns, die Weichen in die Zukunft so zu stellen, dass das nicht passiert. Und Harari befasst sich mit den drängenden Entscheidungen, vor denen wir heute stehen, da nicht-menschliche Intelligenz unsere Existenz bedroht. Nach der Lektüre wirst du Mythen und Fakten, Wahrheit und Wirklichkeit durch eine ganz andere Brille betrachten – die der Informationsnetze.
Jetzt online in deiner Buchhandlung vor Ort bestellen!
KI-TIPP
Annahmen-Anneliese schaut hinter deinen Prompt
KI antwortet auf alles, was in deiner Frage mitschwingt – auch auf das, was du gar nicht ausgesprochen hast. Viele schlechte KI-Antworten entstehen also, weil dein Prompt den Algorithmus in eine Richtung geschubst hat. Und nicht, weil das Modell so dumm ist.
Mit Annahmen-Anneliese kannst du deine eigenen Bias sichtbar machen: Welche Voraussetzungen schleppst du in deinem Prompt mit, ohne sie zu bemerken? Welche Begriffe sind schon vorbelastet? Welche Sichtweise hast du als selbstverständlich mitgeliefert?
So holst du Anneliese an den Schreibtisch:
- Kopiere deinen Prompt oder deine Frage in einen neuen Chat.
- Prompte: „Analysiere den Prompt auf unausgesprochene Annahmen. Welche Perspektive wird bevorzugt? Welche Interessen, Gruppen oder Risiken kommen zu kurz? Welche Begriffe sind wertend oder lenken die Antwort in eine bestimmte Richtung? Schlage anschließend drei bessere Formulierungen vor: eine neutralere, eine kritischere und eine verantwortungsorientierte Version.“
- Prüfe anschließend, ob eine der drei neuen Formulierungen wirklich besser ist oder nur höflicher klingt.
- Starte erst dann mit der eigentlichen Aufgabe.
Ja, das ist ein Extraschritt. Aber genau diese kleine Schleife schützt dich davor, dir von der KI nur bestätigen zu lassen, was du ohnehin schon dachtest. Denn wer fragt „Wie kann ich mein Team von KI überzeugen?“, hat die Entscheidung schon im Prompt versteckt. Anneliese würde zurückfragen: Geht es wirklich um Überzeugung? Oder erst einmal um Bedenken, die Grenzen des KI-Einsatzes und Verantwortung?
Merksatz: Der blinde Fleck entsteht oft schon im Prompt.
NEWS
Der Code läuft, die Magie hat Feierabend
James Randall programmiert seit 42 Jahren. Inzwischen schreibt häufig die KI den Code, während er kontrolliert und nachbessert. Vom Softwareentwickler zum Hausmeister in einem Maschinenpark – die Karriereleiter hatte sich Randall ganz sicher anders vorgestellt. Seine Erfahrung bleibt unverzichtbar. Nur landet sie jetzt ausgerechnet dort, wo niemand freiwillig seine berufliche Erfüllung sucht: bei der Qualitätskontrolle einer Autovervollständigung auf Steroiden. Die Branche nennt das Produktivität, weil mehr Output derzeit als vollständige Tätigkeitsbeschreibung durchgeht. Ein lesenswerter Essay über die verloren gegangene Nähe zum eigenen Handwerk und die Zumutung, sich über Effizienz freuen zu sollen, wenn dabei ausgerechnet der interessante Teil der Arbeit verschwindet. (In den Sprachberufen ist das übrigens ganz genau so …)
https://www.golem.de/news/softwareentwicklung-mit-ki-die-magie-ist-weg-2608-210704.html
Mensch drauf schreiben, Maschine drin lassen
In einer Cambridge-Studie lasen 1.682 Erwachsene Kurzgeschichten – drei von Menschen, drei von ChatGPT. Das unangenehme Ergebnis für alle, die „AI Slop“ schon am Geruch erkennen wollen: Die KI-Texte wurden im Schnitt als besser und packender bewertet. Also ausgerechnet in der Disziplin, in der wir uns gern einbilden, der Mensch habe einen eingebauten Heimvorteil. Doch es wird noch krasser: Sobald auf einer Geschichte „Mensch“ stand, bekam sie bessere Noten – egal, ob wirklich ein Mensch dahintersteckte. Das Label war also der kleine Qualitäts-Turbo aus dem Bastelregal der Selbsttäuschung. In zwei weiteren Experimenten sollten 905 Teilnehmer*innen raten, welche Texte von wem kamen. Ergebnis: einmal schlechter als der Zufall, einmal ungefähr Münzwurf mit ein bisschen Pi mal Daumen. Obacht, diese Studie sagt nicht, dass KI bessere Literatur schreibt. Sie sagt eigentlich etwas viel Gemeineres: Viele Leser*innen mögen glatte, leicht verdauliche Geschichten – und hängen ihre Wertschätzung trotzdem an die Vorstellung, dass ein Mensch über diesen Worten gelitten, gezweifelt und am besten noch eine Menge Kaffee aufs Manuskript verschüttet hat. Natürlich nachts, wenn alle anderen schlafen. Für Autor*innen sind das keine schönen Nachrichten.
KI-Rollout – und dann kommt die Meuterei
Unternehmen werfen gerade mit KI-Strategien um sich, als gäbe es irgendwo Bonuspunkte für möglichst viele Toolnutzende pro Flur. Blöd nur, wenn die eigene Belegschaft nicht applaudiert, sondern heimlich Sand ins Getriebe kippt. Laut einem Bericht von Fortune geben 29 Prozent der befragten Mitarbeiter*innen zu, die KI-Strategie ihres Unternehmens sabotiert zu haben. Bei Gen Z sind es sogar 44 Prozent. Sabotage heißt hier: sensible Firmendaten in öffentliche KI-Tools kippen, nicht freigegebene Anwendungen nutzen, KI verweigern oder Ergebnisse absichtlich schlecht aussehen lassen. Klingt nach Arbeitsverweigerung, ist aber wohl eher ein ziemlich lautes Warnsignal. Wer Menschen erzählt, KI mache sie produktiver, während im Hintergrund schon über Stellenabbau geredet wird, darf sich über begrenzte Begeisterung nicht wundern. Besonders smart ist die Managementlogik dazu: Viele Beschäftigte sabotieren aus Angst, durch KI ersetzt zu werden. Gleichzeitig sagen 60 Prozent der Führungskräfte, sie erwägen Kündigungen bei Menschen, die KI nicht nutzen wollen. Das dazu passende Motivationsseminar hätte den Titel: „Mach dich bitte ersetzbar, sonst ersetzen wir dich direkt“. Ein lesenswerter Artikel über Angst, Kontrollverlust und die Frage, warum so viele KI-Rollouts am Vertrauen scheitern.
https://fortune.com/2026/04/08/gen-z-workers-sabotage-ai-rollout-backlash