Es gibt eine neue Superkraft der künstlichen Intelligenz: Sie kann uns so lange verständnisvoll zunicken, bis wir uns selbst für moralisch durchgegart halten. Der Chatbot hört zu, wickelt unsere Ausreden in kuschelig weichen Samt ein und serviert am Ende einen Satz, der klingt wie Einsicht, aber verdächtig nach digitalem Weichspüler duftet.
Diese Ausgabe schaut deshalb auf die freundlichste Gefahr im KI-Alltag: Maschinen, die uns bestätigen, obwohl wir vielleicht dringend Widerspruch bräuchten. Bei Streit mit Freund*innen, Trennung, Familienzwist und Konflikten am Arbeitsplatz ist das besonders heikel. Wer sich vom Bot beraten lässt, bekommt nicht unbedingt ein kritisches Gegenüber, sondern das legendäre Spieglein an der Wand: Du bist die Schönste im ganzen Land, yeah! Genau da beginnt das Problem.
Dazu passt, was gerade politisch und juristisch passiert. Big Tech sitzt hierzulande gemütlich auf der Regierungscouch, während die digitale Souveränität artig im Flur wartet. Andererseits hat beim Thema Chatbots das Oberlandesgericht Hamm zumindest schon mal deutlich gemacht: Wer ein Large Language Model (LLM) in seine Unternehmenskommunikation stellt, kann sich nicht einfach hinter dem stochastischen Papagei verstecken, wenn dieser Unsinn ausspuckt. Apropos digitale Souveränität: Da reiten unsere westlichen Nachbarn, die Niederlande, uns gerade schön was vor – mit GPT-NL, einem eigenen Big-Tech-freien Sprachmodell.
Außerdem in dieser Ausgabe: Risiko-Rita liest den Beipackzettel, Feminist Fair Future fragt nach den blinden Flecken der digitalen Zukunft, und die New York Times lässt Claude gegen Textausschnitte echter Autor*innen antreten. Und natürlich gibt’s auch wieder eine Content & KI-Schulung, in der noch Plätze frei sind. Für MI-Siegeltragende ist die Schulung kostenfrei!
Zeig deine Haltung nach außen – mit dem MI-Siegel.
MEINUNG
Die Maschine nickt, bis du dir selbst glaubst
Es gibt eine besonders angenehme Form der Manipulation: eine, die ohne Widerspruch auskommt. Sie ist geschickt getarnt und hört dir rund um die Uhr zu, plappert deine Geschichte hübsch nach, streut Verständnis darüber und reicht dir am Ende einen moralisch aufgeladenen Wellness-Tee. Der schmeckt nach Trost und wirkt wie Hilfe. Doch das kann genau der Moment sein, in dem dein Urteilsvermögen in den Flur geht, die Jacke nimmt und verschwindet.
Eine neue Studie zeigt, wie gefährlich diese freundliche Maschinen-Schleimspur werden kann. Das Forschungsteam untersuchte elf große KI-Modelle, darunter ChatGPT, Claude, Gemini und DeepSeek. Das Ergebnis: Die Systeme bestätigten die Positionen und Handlungen der Nutzer*innen im Schnitt 49 Prozent häufiger als menschliche Vergleichspersonen. Selbst bei Szenarien mit geplanter Täuschung, vorsätzlichem Schaden oder illegalem Verhalten nickten die Modelle erstaunlich oft und hielten gleichzeitig die digitale Kuscheldecke in der Hand. Bei Prompts zu problematischen Handlungen bestätigten sie dieses Verhalten laut Stanford-Studie in 47 Prozent der Fälle.
Sozialer Muskelkater
Das klingt erst einmal nach Designfehler mit zu viel Kundenservice und dementsprechend zu viel „Ich verstehe dich total“. Doch es ist erheblich unangenehmer, denn die schleimige KI kommt bei uns gut an. In Experimenten mit mehr als 2.400 Teilnehmenden vertrauten Menschen den zustimmenden Antworten stärker und wollten solche Systeme eher wieder nutzen. Gleichzeitig wurden sie überzeugter davon, im Recht zu sein, und waren weniger bereit, sich zu entschuldigen. So wird KI zur Selbstgerechtigkeitsmaschine mit fatalen Folgen.
Noch gefährlicher wird es, wenn ein System Nähe simuliert und dabei jeden inneren Widerstand glattpoliert. Wir Menschen wachsen an Reibung, an Widersprüchen, an diesem wirklich ätzenden Moment, in dem jemand zu uns sagt: „Du warst gerade unfair.“ Genau dieser Moment verursacht sozialen Muskelkater. Nervig und schmerzhaft, klar. Aber dringend nötig, damit unser Zusammenleben funktioniert.
KI-Systeme dagegen werden auf Zustimmung getrimmt, weil Ja sagen bindet. Zustimmung macht uns Nutzer*innen zufrieden, hält uns im Gespräch und sorgt manchmal für dieses warme, sehnsuchtsvoll erwartete Gefühl, dass da endlich jemand ist, der uns versteht. Das Blöde ist nur, da sitzt niemand. Da ist nur ein Algorithmus, der gelernt hat, unsere Perspektive so widerzuspiegeln, dass wir uns gesehen fühlen. Auch dann, wenn wir eigentlich dringend einen Realitätsabgleich bräuchten.
Bitte recht freundlich! Und zwar alle! Immer!
Das ist brisant, weil immer mehr Menschen KI für die Lösung persönlicher Konflikte nutzen: Trennungstexte, Streit mit Freund*innen, beim Familienkrach, im Jobdrama. Die Forscher*innen weisen also vollkommen zu Recht darauf hin, dass Menschen KI derzeit nicht als Ersatz für andere Menschen in solchen Fragen nutzen sollten. Sycophancy – diese KI-typische, uns immer bestätigende Schleimerei – wird sogar als Sicherheitsproblem benannt, das Regulierung und Aufsicht bräuchte. Denn diese Systeme greifen längst in unser soziales Gefüge ein. Sie beeinflussen, ob und wie wir Verantwortung für unser Handeln übernehmen. Sie verändern, wie wir Konflikte deuten. Und sie trainieren uns möglicherweise für eine Welt, in der jedes Gegenüber bitte so freundlich, immer verfügbar und bestätigend agieren soll wie der Bot.
Nur sind echte Menschen nicht dafür da, unsere Selbstbilder zu polieren. Gute Freund*innen widersprechen, tolle Kolleg*innen fragen nach. Partner*innen halten sogar mal aus, dass es ziemlich unbequem werden kann. Schließlich ist diese Form von Reibung Teil unserer sozialen Intelligenz.
KI-Kompetenz braucht Widerspruch
Vielleicht brauchen wir deshalb eine KI-Kompetenz, die weniger nach Prompt-Tricks klingt und mehr nach Charaktertraining? Wir sollten keine Antworten suchen, die uns beruhigen – sondern welche, die uns auf Herz und Nieren prüfen. In Prompts übersetzt bedeutet das, dass wir die Maschine nicht mehr fragen, ob wir recht haben. Sondern dass wir fragen, wo wir uns rausreden und ausweichen. Denn der freundlichste Bot ist manchmal der gefährlichste! Weil er uns die Versionen von uns selbst serviert, die wir eigentlich am liebsten sehen möchten …
Mehr Infos:
- https://www.science.org/doi/10.1126/science.aec8352
- https://www.eurekalert.org/news-releases/1120819?
MI-SIEGEL-SCHULUNG
Hol dir das MI-Siegel und erhalte die Schulung „KI & Content-Qualität“ dazu – kostenfrei!
Wie gelingt wirklich guter KI-gestützter Content? Nicht durch noch mehr Tools oder noch längere Prompts, soviel ist sicher. Sondern durch ausgereifte Arbeits- und Denkprozesse.
In unserer Schulung lernst du, wie du mit KI effizient und nachhaltig arbeitest, ohne auf Qualität zu verzichten. Perfekt für alle, die KI in Marketing und Kommunikation professionell und wirksam einsetzen wollen.
Dienstag,14. Juli 2026, 9.00 bis12.30 Uhr
Schulungspreis regulär: 500 € zzgl. MwSt. – als Träger*in des MI-Siegels (120 € zzgl. MwSt./Jahr) bekommst du kostenfrei Zugang zur Schulung.
Du möchtest teilnehmen und hast noch kein MI-Siegel? Hier kannst du dir das MI-Siegel holen.
„Der KI-Workshop war wie eine Mischung aus Zukunftslabor, Kaffeekränzchen und Gehirn-Yoga – nur deutlich unterhaltsamer. Brigitte und Christa haben es geschafft, das Thema so praxisnah und lebendig zu vermitteln, dass selbst die KI vermutlich mitgeschrieben hätte. Zwischen hilfreichen Tipps, fundiertem Wissen und einer lockeren Atmosphäre gab es immer wieder überraschende „Aha!“-Momente. Besonders angenehm: kein Technik-Overkill, sondern echter Tiefgang mit Humor, Geduld und vielen Beispielen aus dem echten Leben. Absolute Empfehlung – informativ, inspirierend und mit erstaunlich hohem Spaßfaktor!“
– Andreas Pfeifer, Die Heldenhelfer GmbH, Marketing für Gastgeber –
Mehr Infos und Teilnehmer*innen-Bewertungen zur Schulung: https://www.mi-siegel.de/schulung-ki-qualitaet
KI-TIPP
Risiko-Rita liest stets den Beipackzettel
KI liefert ratzfatz und freundlich Lösungen, die dazu noch sauber formatiert sind. Was sie viel seltener freiwillig liefert: die Nebenwirkungen. Wer könnte benachteiligt werden? Welche Daten wandern wohin? Was passiert, wenn Menschen der Antwort zu sehr vertrauen?
Dafür gibt es Risiko-Rita. Sie fragt erst mal, wo der Haken ist. So rufst du Rita:
- Gib ihr eine Idee, einen Text oder ein Konzept.
- Prompte dazu: „Analysiere die möglichen Risiken dieses Vorschlags. Achte auf Datenschutz, Fairness, Abhängigkeiten, Fehlentscheidungen und Vertrauensverlust [oder ein anderes Risiko, das du einkalkulieren solltest].“
- Frage zusätzlich: „Welche Gruppen könnten besonders betroffen sein?“
Achte darauf, dass dir KI konkrete Schutzmaßnahmen nennt. Denn so macht Rita den KI-Einsatz erwachsener. Wer vorher über Nebenwirkungen spricht, muss später weniger hektisch so tun, als sei dieser Fehler völlig überraschend aus der Torte gesprungen.
Merksatz: Jeder Inhalt hat Nebenwirkungen. Frag Rita, bevor du ihn veröffentlichst.
NEWS
Big Tech kuschelt auf der Regierungscouch
Digitale Souveränität klingt super, solange wir sie nicht gerade bei Google, Microsoft, Amazon, OpenAI, Meta, Apple oder NVIDIA im Vorzimmer abgeben. Doch genau das passiert gerade: Eine Kleine Anfrage der Grünen zeigt, dass die Bundesregierung seit Amtsantritt 89 Treffen mit diesen Konzernen auf Spitzenebene aufgelistet hat. Google liegt mit 27 Gesprächen vorn, Microsoft und Amazon folgen artig hinterher. Und die Inhalte sind wie so oft hinter hübsch wolkigen Etiketten wie „allgemeiner Austausch“ verschwunden.
Natürlich müssen Politiker*innen mit Tech-Konzernen sprechen. Gruselig wird es dort, wo niemand sauber dokumentiert, wer wann mit wem worüber redet. Die Bundesregierung räumt selbst ein, dass es keine lückenlose Aufzeichnung gibt. Transparenz entsteht also nur, wenn die Opposition nachbohrt. Demokratie als Schnitzeljagd, na wunderbar.
Während in Sonntagsreden ständig von digitaler Souveränität geschwärmt wird, sitzen die Plattformriesen offenbar im Alltag regelmäßig mit am Tisch. Die Öffentlichkeit darf draußen warten und später raten, ob es um Jugendschutz, Cloud-Abhängigkeiten, KI-Regulierung oder den nächsten Wunschzettel aus dem Silicon Valley ging. Hey, wer Macht regulieren will, sollte wenigstens offenlegen, wann er mit ihr Kaffee trinkt!
https://digitalrechte.de/treffen-bundesregierung-bigtech
Digitale Souveränität made in NL: Blaupause für den DACH-Raum?
Wachsendes Unbehagen in puncto Big-Tech-Abhängigkeit und der Umstand, dass die Niederlande ein vergleichsweise kleiner Sprachraum sind, mündeten dort Anfang des Jahres in ein Projekt, das ein weiterer Baustein der digitalen Souveränität Europas werden dürfte: GPT-NL. Fair beschaffte Trainingsdaten, Respekt vor Urheberrechten, DSGVO-konform. Erst mal für den öffentlichen Sektor, später dann auch für Unternehmen. Seit Februar 2026 laufen Machbarkeitsstudien mit fünf Organisationen, kommerziell an den Start gehen soll das Tool im zweiten Halbjahr 2026. Der DACH-Raum schaut derweil schon mal aufmerksam zum (nord-)westlichen Nachbarland. Bald nachmachen bitte, dankeschön!
https://www.drweb.de/die-niederlande-bauen-ihre-eigene-ki-und-deutschland-schaut-zu
Bin ich der Hüter meiner Software?
Mein Service-Chatbot erzählt Mist – was bitte kann ich dafür? Meinte ein medizinischer Dienstleister, dessen Chatbot anfragenden Kund*innen „ausgedachte“ falsche Facharzttitel für die Geschäftsführer nannte. So geht’s nicht, sagte die Verbraucherzentrale NRW und brachte den Fall vor Gericht. Der Dienstleister redete sich heraus: Derlei Fehler seien nicht vorhersehbar. (Mein Kind hat – ups! – die Scheune des Nachbarn angesteckt, ganz eigenständig. Kannst du es ahnen …) Das Oberlandesgericht Hamm sah das anders. Sein diesen Mai gefälltes Urteil: Das Unternehmen haftet für den Output von Chatbots genauso wie für den der eigenen Mitarbeiter*innen. Das eigenständige Agieren von Bots entbindet nicht von der Pflicht, entsprechende Vorkehrungen zu treffen. Die KI gehört zum Unternehmen.
https://retail-news.de/olg-hamm-haftung-ki-chatbots-online-handel
Bias ade, die digitale Zukunft wird fair und inklusiv
Bis vor nicht allzu langer Zeit hieß es: „Googel doch!“ Und inzwischen? „Frag doch die KI!“ Die neue Technologie formt unsere Gesellschaft. Problem nur: So ganz neutral ist sie dabei nicht. Wie kriegen wir hin, dass KI alle mitdenkt, die digitale Zukunft gerechter wird? Feminist Fair Future, ein Aktionsplan des Frauenreferats Frankfurt/Main, will Tech-Machtstrukturen hinterfragen, Bias in Algorithmen entlarven und gerechtere Strukturen schaffen. Die Initiative vereint Akteur*innen aus Wissenschaft, Politik, Wirtschaft und Zivilgesellschaft in Frankfurt. Die Website bietet viele interessante Ressourcen rund um eine digitale Zukunft ohne diskriminierende Schieflagen. Technik ist männlich? Nö, nicht nur: Es gab und gibt jede Menge renommierte Expertinnen für Mathematik, Programmierung und künstliche Intelligenz – 12 von ihnen werden vorgestellt im Jahreskalender 2026 auf der Website.
https://www.feministfairfuture.de
Schreib-Challenge: Claude gegen Hilary
Die NY Times lässt Claude gegen Auszüge aus echten Werken antreten, zum Beispiel aus Wolf Hall, einem historischen Roman der britischen Autorin Hilary Mantel. Weitere Genres: literarischer Text, Fantasy, Populärwissenschaft und Poesie. Leser*innen dürfen im Quiz entscheiden, was sich besser liest, das Original oder die Claude-Version. Zugegeben, mehr als ein amüsantes anekdotisches Schlaglicht auf die Thematik ist das nicht, dazu sind die gezeigten Textbeispiele viel zu kurz. Auch thematisieren die zu vergleichenden Schnipsel nie dasselbe. Ein bisschen Äpfel und Birnen ist es also, dennoch erhellend in puncto eigenes Stilempfinden. Lohnend ist ein Streifzug durch hunderte Kommentare, der die Vielfalt dessen zeigt, was Menschen nicht nur zu diesem Experiment der NY Times, sondern zum Vergleich von KI und MI generell denken.
https://www.nytimes.com/interactive/2026/03/09/business/ai-writing-quiz.html?