Erst werden Texte übersetzt, dann werden sie geklaut, dann werden die Übersetzer*innen wegoptimiert. Parallel flüstern Chatbots Kindern Dinge ins Ohr, die Eltern nie abnicken würden, wenn sie davon wüssten. Und während Google seine Suchmaschine mit sinnlos-buntem KI-Konfetti dekoriert, versinkt das Netz im Spam wie ein Keller nach dem Jahrhundertregen.
Außerdem schauen wir dahin, wo „Dual Use“ plötzlich ganz praktisch wird: Vom Haushalts-Gadget geht’s direkt an die Front. Und wir fragen, was übrigbleibt, wenn Games, Bilder, Storys und sogar Grenzüberschreitungen automatisiert werden. Kreativität per Modellnummer? Diffamierung per Prompt? Verantwortung als wegklickbare Option?
Und nun Hand aufs Herz: Wer will eigentlich Elon Musk im Bikini sehen? Und wer schaut sich Bikini-Bilder einer Frau an, die von ICE erschossen wurde? Oder algorithmisch produzierten sexuellen Missbrauch? Das ist alles Doppelmegapfui!
Dazwischen gibt es Hoffnung: P.R.Ü.F.E.! Ein kleiner Rettungsring, falls dir die KI mal wieder mit glatter Syntax die Welt erklärt und du kurz davor bist, ihr auch noch dein menschliches Urteilsvermögen zu überlassen.
Diese Ausgabe verbindet ein Muster: KI wirkt als Beschleuniger für alles, was ohne Haltung ohnehin kippt: Arbeit, Wissen, Jugend, Führung und Lenkung. Hauptsache, die Technik läuft. Die Frage ist nur: Wohin und wie weit lassen wir sie laufen?
Zeig deine Haltung mit dem MI-Siegel. Demnächst wieder unter www.mi-siegel.de
IN EIGENER SACHE
Vereinsgründung 2026: Bitte ziehen Sie eine Nummer.
Kurz vor Weihnachten haben wir beim MI-Siegel etwas sehr Modernes getan: Nach unserer digitalen Gründungssitzung haben wir 13 Unterschriften per Post eingesammelt. Mit Stift, auf Papier und von echten Menschen. Manche der kreuz und quer durch die ganze Republik bis in die Schweiz verschickten Umschläge hatten sogar Briefmarken. Wow, das war Nostalgie pur!
Am 13. Januar ging es dann hochoffiziell weiter: Der Vorstand des neuen Vereins „MI Menschliche Intelligenz“ hat seine Unterschriften persönlich beim Amtsgericht geleistet. Auch hier wieder: Stift, Papier und Menschen – eine ernsthafte, wahrlich staatstragende Angelegenheit. Und jetzt folgt der letzte Akt dieses analogen Mehrteilers: Die Beantragung der Eintragung ins Vereinsregister. Ebenfalls in Echt, mit Wartezeit, während uns in Gedanken ein Faxgerät angrinst.
Kurz gesagt: Der Verein ist gegründet, alles ist unterschrieben, bezeugt und sehr real. Er braucht nur noch das, was in Deutschland traditionell am längsten dauert: den offiziellen Segen in Papierform, um ein eingetragener Verein zu werden.
Wenn die Stempelfarbe getrocknet ist, geht es weiter! Unsere Website haben wir derweil schon überarbeitet. Schau doch mal vorbei: www.mi-siegel.de.
ERKLÄRUNG
Danke fürs Übersetzen, tschüss
Der European Writers’ Council erinnert höflich daran, dass Übersetzerinnen und Übersetzer keine nachwachsenden Rohstoffe sind. Ihre Texte landen trotzdem massenhaft in KI-Systemen. Erst schreiben Menschen, dann lernt die Maschine, danach werden die Menschen nicht mehr gebraucht. Die perfekte Kreislaufwirtschaft, nur ohne Bezahlung.
In einer gemeinsamen Erklärung beklagen verschiedene Berufsverbände eine Gegenwartspraxis, die keine Zukunftsängste erlaubt, da eine ganze Branche keine Zukunft mehr hat. Verträge werden weichgespült, Rechte verdunsten und natürlich schrumpfen auch die Honorare. Die Kunst der Übersetzung gilt plötzlich als lästige Übergangstechnologie – und dann noch mit Menschen, ihhhhh! Qualität ist ja schön und gut, aber bitte keine Rechnung dafür schreiben. Die Maschine ist schließlich schon trainiert …
Zur Erklärung: https://europeanwriterscouncil.eu/2511_jl_ceatl_ewc_translators/
KI-TIPP
P.R.Ü.F.E. – Wenn dir KI mal wieder die Welt erklärt
Künstliche Intelligenz klingt oft so überzeugend, dass man ihr glatt den Wohnungsschlüssel geben möchte. Aber Obacht: Nur weil etwas voll gut klingt, heißt das nicht, dass es nicht ein sehr eloquenter Unsinn ist. Denn Grammatik ist keine Garantie für Wahrheit.
Wie also überprüfst du die KI, wenn du selbst kein wandelndes Lexikon bist? Professorin Barbara Geyer hat dafür P.R.Ü.F.E., ein praktisches Anti-Verblödungs-Kit, zusammengestellt und auf LinkedIn veröffentlicht:
- P – Plausibilität: Was stört dich beim ersten Lesen? Wenn etwas komisch klingt, ist es das oft auch. Vertrau deiner inneren Alarmglocke und frag Kolleg*innen, ob sie auch dieses ungute Gefühl haben. Oder ob du einfach zu viel Kaffee hattest.
- R – Recherche: Frag nicht nur eine KI, sondern gleich mehrere. ChatGPT, Claude, Gemini – lass sie gegeneinander antreten wie beim Intelligenz-Triathlon. Und dann mit echten, seriösen Quellen gegenprüfen.
- Ü – Überzeugungen: Was steckt wirklich hinter der Antwort? Welche blinden Flecken hat die KI? Frag nach wie jemand, der weiß, dass jedes System mit Vorannahmen arbeitet. Selbst das, das vorgibt, keine zu haben.
- F – Falsifizieren: Willst du wissen, ob etwas stimmt? Versuch zu beweisen, dass es falsch ist. Wenn’s dann noch steht, hat’s gute Chancen auf Wahrheit. Pro- und Contra-D denken ist angesagt!
- E – Entscheiden: Mach den Sack zu, aber bewusst. Triff eine Entscheidung und steh dazu. Du bist ja schließlich „Human in the loop“ und hast das letzte Wort.
Warum das Ganze? Weil KI ein Werkzeug ist. Doch ein Hammer, der gut aussieht, ist trotzdem nutzlos, wenn er aus Wackelpudding besteht.
Der Merksatz: Hirn an – KI an. Das gilt natürlich auch umgekehrt.
DYSTOPIE
Wenn der Bot zum Kumpel wird
Bequemlichkeit ist der Menschen zweiter Vorname. Was können wir nicht alles, auf der Couch lümmelnd, im Internet lesen, machen, tun. The world at your fingertips! KI-Apps und -Chatbots machen es uns noch einfacher. Wer scrollt nach Eingabe seiner Suchanfrage im Browser noch weiter als bis zum oben ausgespuckten KI-Content? Aufklappen, lesen – und für bare Münze nehmen. Das Hirn darf derweil weiterschnarchen. Vielen User*innen scheint das zu reichen.
Chatbots drängen sich derart schnell in unseren Alltag, das einem schwindelig werden kann. Immer mehr Websites haben ein Widget im Angebot, die Bots bieten sich inzwischen gefühlt überall großzügig an. Und wir nutzen sie nur zu gerne.
Big Tech reibt sich die Hände, denn außer faul sind Menschen auch neugierig – und experimentierfreudig. Eins ist klar: Hier läuft aktuell ein weltweiter Feldversuch, und zwar mit beunruhigenden bis gruseligen Tendenzen. Der IT-Sicherheitsanbieter Aura hat 3.000 Kinder und Jugendliche unter die Lupe genommen, die die Eltern-Kontroll-App des Unternehmens nutzen – mit erschütternden Ergebnissen: Ein beträchtlicher Teil der 5- (ja, fünf!) bis 17-jährigen Kinder sprechen mit KI-Chatbots über Gewalt, Aggression, Beschreibungen von Mord, Folter, nicht einvernehmlichem Sex und Ähnliches.
Die eigene (sexuelle) Identität entwickeln, an Grenzen stoßen und auch mal welche sprengen – das ist Pubertät. Schon immer gehen Menschen diesen Weg zusammen mit anderen Menschen – Peers, Geschwistern, Eltern, Sporttrainer*innen, Lehrer*innen. Doch was, wenn plötzlich KI diese Rolle einnimmt? Jugendschutz Fehlanzeige: „Bestätige, dass du über 13 Jahre bist.“ Mach ich!
Jugend forscht – und lässt sich von Bots die Welt erklären. Mit welchen Folgen für die eigene persönliche Entwicklung und unser Zusammenleben?
Mehr Informationen: https://t3n.de/news/studie-enthuellt-beunruhigende-ki-nutzung-von-kindern-1722026/
NEWS
Google im Spam-Sumpf
Google wollte Ordnung, Relevanz und Qualität ins Netz bringen. Und steht nun knietief im eigenen Müll. Während der Konzern mit KI-Zauberstäben wedelt und „Helpful Content“ beschwört, übernehmen Spam-Seiten, Zombie-Domains und KI-Textfabriken die Pole Position. Abgestraft werden jene, die tatsächlich recherchieren, schreiben, prüfen. Das Search Engine Journal beschreibt ein Ökosystem, in dem Googles Fokus verrutscht ist. Weg von handfester Spam-Bekämpfung, hin zu immer neuen KI-Features. Die Maschine optimiert sich selbst – auf Klicks, auf Masse, auf Lärm. Qualität wirkt dabei wie ein nostalgisches Hobby aus der Steinzeit des Webs. Und so tun Googles Systeme inzwischen genau das, wovor Google immer gewarnt hat: Sie skalieren Bullshit effizienter als Wahrheit. Doch wenn selbst die größte Suchmaschine den Spam nicht mehr erkennt oder nicht mehr erkennen will, wer sortiert dann noch das Wissen der Welt?
https://www.searchenginejournal.com/why-googles-spam-problem-is-getting-worse/563258
Vom Staubsauger zur AI War Cloud
Im Silicon Valley ist „Dual Use“ kein langweiliger Export-Jargon mehr, sondern bittere Realität. Was als zivile KI begann – vielleicht als Algorithmus in unserem smarten Staubsauger –, taugt genauso gut für Kriegsroboter und militärische Systeme. Laut t3n zeigt sich: KI-Modelle sind übertrag- und skalierbar. Und so landet dann die Technik, die in unserem Wohnzimmer trainiert wurde, an der Front. Damit kehrt die amerikanische Tech-Szene zu ihren historischen Militär-Wurzeln zurück. Alte Versprechen von friedlichem Fortschritt verblassen schnell, wenn Milliardengewinne winken. Das Dilemma „Dual Use“ wirft also nicht nur technische Fragen auf, sondern tiefe gesellschaftliche und moralische: Können wir überhaupt noch klare Grenzen ziehen zwischen zivilen und militärischen KI-Anwendungen? Sollten wir unsere praktischen Saugroboter nun mit anderen Augen sehen?
https://t3n.de/news/dual-use-ki-kriegsschauplatz-1721092
Game Over, Mensch
Ein Videospiel, weitgehend aus der KI. Kein Mensch weit und breit, kein verschütteter Kaffee auf der Tastatur und keine kreative Krise um drei Uhr morgens. Laut ingenieur.de übernimmt die Maschine jetzt weite Teile: Grafik, Story, Code, Gameplay. Das Spiel entsteht nicht mehr durch Idee, Streit und Irrtum, sondern durch Rechenleistung und Wahrscheinlichkeiten. Der Artikel zeigt, wie KI Alleinunterhalterin wird. Kreativität wird automatisiert, Spielmechanik statistisch optimiert und Überraschungen werden zur kalkulierten Abweichung. Was einst eine eigene Handschrift trug, trägt nun eine Modellnummer. Sind wir jetzt noch Zocker*innen? Oder schon Marketingdaten im Freizeitmodus?
Ein Prompt, Würde weg
Elon Musk wollte mit Grok die „woke KI“ besiegen. Herausgekommen ist eine digitale Umkleidekabine, in der auf Prompt Frauen – und auch Minderjährige! – entkleidet werden. Was uns als freche, unzensierte Antwortmaschine verkauft wird, zeigt nun, was passiert, wenn „Free Speech“ mit Rechenpower verwechselt wird. Grok folgt Aufforderungen, sexualisiert Bilder und ignoriert persönliche Grenzen. Das ist technisch beeindruckend und moralisch verheerend. Während Behörden und Jugendschützer*innen Alarm schlagen, bleibt das große Narrativ stabil: Schuld sind immer die Nutzer (mit Absicht männlich gegendert). Nie ist das System schuld, nie die Architektur. Und auch nie die Entscheidung, Schutzmechanismen als lästige Ideologie abzutun. Doch wenn KI alles darf, was jemand verlangt, ist sie dann neutral? Oder einfach nur das perfekte Werkzeug für den nächsten digitalen Missbrauch – auch von Kindern?
- https://www.businessinsider.de/wirtschaft/kritik-an-elon-musks-ki-grok-erstellte-sexualisierte-bilder-von-frauen-und-minderjaehrigen/
- https://www.heise.de/news/Widerlich-Kritik-an-X-wegen-sexualisierter-Deepfakes-von-Grok-nimmt-zu-11130336.html https://digitalrechte.de/news/sexuelle-belaestigung-mit-grok
Leute, es geht alles noch viel schlimmer: Mittlerweile produziert diese verabscheuungswürdige KI auch Videos von sexuellem Missbrauch. Und unser Kanzler, viele andere Politiker*innen sowie der gesamte Bundestag pflegen derweil weiter ihre X-Accounts.
KI-Eliten unter sich
Der frühere Meta-KI-Chef Yann LeCun hat keine Lust auf diplomatische Floskeln. Er kritisiert den als künftigen KI-Strippenzieher gehandelten Alexandr Wang öffentlich als unerfahren und sagt gleich mit, dass weitere Leute bei Meta gehen werden. So redet man, wenn die Handschuhe längst ausgezogen sind. Hinter dem Personalgezänk steckt ein größeres Problem: Wer bestimmt eigentlich den Kurs in der KI-Industrie? Forschende mit Jahrzehnten Erfahrung oder junge CEOs mit viel Geld und wenig Geduld? Die Branche feiert wie immer die Disruption, stolpert aber regelmäßig über ihr eigenes Ego. Doch wenn selbst die Führungsetage streitet, wie stabil ist dann das Fundament, auf dem wir gerade unsere digitale Zukunft abstellen?
Herzliche Grüße vom MI-Newsletter-Team Susanne, Andreas, Steffen und Christa