Lobo: Wie TikToks Algorithmus die Debatte radikalisiert und Populismus fördert

Während Führungskräfte wie Amazons Beth Galetti (die 14.000 Jobs streicht) durch KI immense Produktivitätssteigerungen erhoffen, zeigt sich eine Kehrseite: KI bedroht nicht nur Jobs, sondern auch die Arbeitszufriedenheit der Angestellten, oft noch bevor es zur Kündigung kommt.

Sozialpsychologin Anja Chevalier warnt, dass der Einsatz von KI oft zu neuen Belastungen und höherem Stress führt. Eine Upwork-Studie (2.500 Teilnehmer:innen in USA, GB, AUS, CAN) bestätigt dies: 96 % der Führungskräfte erwarten Produktivitätssteigerung, aber 77 % der Arbeitnehmer:innen fühlen sich durch KI unproduktiver und gestresster.

Gründe dafür sind:

1. Zeitaufwand für Qualitätsprüfung: Das Überprüfen und Korrigieren von KI-generierten Informationen ("Workslop") braucht viel Zeit.

2. Lernkurve: Angestellte müssen sich erst mit den neuen Tools vertraut machen.

3. Kontrollverlust: Die Autonomie geht verloren, wenn KI Entscheidungsprozesse übernimmt. Dies widerspricht Hackman und Oldhams Studie von 1976, die Autonomie und Entscheidungsspielraum als Motivationsfaktoren hervorhebt.

4. Verlust an Ganzheitlichkeit & Vielfalt: Wenn KI Aufgaben übernimmt, bröckelt das Gesamtwerk eines Jobs, und weniger unterschiedliche Kompetenzen werden gefordert, was die Motivation mindert.

Die optimale Produktivität sei die, die lange anhält, so Chevalier. Tristan Eckert vom BPM bestätigt die schnelle Entwicklung von KI, sieht aber auch, dass Unternehmen vermehrt Trainings (Prompting, Datenschutz, Qualitätsprüfung) und KI-Guidelines anbieten. Er betont, dass Angestellte Raum für Experimente und Fehlern lernen brauchen, denn: "KI ist ein präziser Assistent, aber die Verantwortung bleibt menschlich."

Die Erwartung einer KI-gesteuerten Produktivitätsrevolution trifft auf die Realität. Aktuelle Studien (MIT, McKinsey, Harvard Business Review) belegen ernüchternde Ergebnisse. Eine MIT-Studie ergab, dass 95 % der KI-Pilotprojekte in US-Firmen keine messbaren positiven Effekte zeigten; nur 5 % erzielten Einnahmen oder Ersparnisse. Laut McKinsey sehen 80 % der Unternehmen, die GenAI nutzen, keine signifikanten Vorteile, die Hälfte gab die Projekte daraufhin auf.

Ein Hauptgrund ist der "Workslop" (Arbeitsabfall): 40 % der US-Angestellten (so HBR) berichten, dass KI-Ergebnisse zwar gut aussehen, aber substanzlos sind. Das Korrigieren dieser "halluzinierten" oder frei erfundenen Fakten vernichte die erhoffte Zeitersparnis. Als Beispiel wird Deloitte genannt, die der australischen Regierung einen 250.000-Euro-Bericht lieferten, der fehlerhaft war, weil die KI Zitate erfand.

Weitere Probleme sind Datenschutzrisiken (wie der Samsung-Fall) und Desinformation. Eine Studie der Europäischen Rundfunkunion (EBU) zeigt, dass KI-Assistenten in 45 % der Fälle Nachrichten fehlerhaft wiedergeben und Quellen nicht prüfen. Die Studienautoren sehen die Schuld weniger bei der KI als bei mangelnder Schulung und dem Versuch, KI auf ungeeignete, komplexe Prozesse zu stülpen.

1. LLMs in Klinik und Ausbildung (Dr. Jonas Roos, Bonn): Die Zahl der KI-Publikationen hat sich seit 2010 verzehnfacht. In O & U werden LLMs wie ChatGPT für die Ausbildung (z.B. Erstellung interaktiver Fallstudien) und als klinische Unterstützung genutzt (z.B. Hilfe bei Differenzialdiagnosen, "Übersetzung" radiologischer Befunde). Auch ChatGPT-Vision (Bildanalyse) wird erforscht. Dr. Roos warnte jedoch eindringlich vor Halluzinationen und Fehlern: In 66 von 68 Studien wurden fehlerhafte Antworten gefunden. Sein Fazit: Eine fortschreitende Einbindung ist sinnvoll, aber eine generelle Einbindung in den Arbeitsalltag ist noch nicht möglich.

2. KI in der Sprechstundendokumentation (Dr. Tom Jansen, Köln): Ärzt:innen verbringen laut Jansen 61 Tage pro Jahr mit Dokumentation, ohne dass IT bisher Produktivität gebracht hätte ("Turning Point"). Er stellte eine KI-Software vor, die (mit Patientenzustimmung) das Sprechstundengespräch aufzeichnet, medizinisch relevante Inhalte extrahiert und automatisch Dokumentationen, Befundberichte oder Formulare (z.B. Rezepte, Überweisungen) erstellt. Eine Studie belegte eine Zeitersparnis von rund 30 %.

3. Der Patienten-Chatbot "OrthoChat" (Dr. Baur & Dr. Völker, Leipzig): Da Patienten oft unzuverlässige Antworten von ChatGPT erhalten, hat der Berufsverband (BVOU) einen eigenen Chatbot entwickelt. Der "OrthoChat" generiert seine Antworten ausschließlich aus den kuratierten, verlässlichen Inhalten der Website OrthInform. Der Bot wurde positiv validiert (außer bei der Antwortzeit) und dient als Hilfe zur Inhaltssuche, ersetzt aber nicht die ärztliche Beratung.

Eine Analyse von Bernstein Analytics zeigt, welche Medien am häufigsten von KI-Sprachmodellen (ChatGPT, Gemini, Perplexity, Grok) als Quellen für deutsche Themen genutzt werden. Die Top 3 der Nachrichtenmedien sind tagesschau.de, spiegel.de und fr.de.

Die Studie identifizierte jedoch, dass deutschsprachige Nachrichtenmedien insgesamt nur 26 % (etwa ein Viertel) aller herangezogenen Quellen ausmachen. Perplexity nutzt Nachrichtenquellen am häufigsten (32 %), Gemini am seltensten (16 %).

Die Untersuchung (basierend auf 3.000 Prompts) offenbarte zudem starke Unterschiede zwischen den Modellen:

• tagesschau.de: Wird von Grok (in 98 % der Prompts) und Perplexity stark bevorzugt.
• Gemini (Google): Nutzt tagesschau.de gar nicht, zitiert stattdessen ZDF und Deutschlandfunk.
• Grok (xAI): Nannte in fast einem Drittel der Antworten die Plattform X als Quelle.
• Politische Tendenz: ChatGPT griff doppelt so oft auf konservativ eingeordnete Medien zurück (36 % vs. 18 % linksliberal). Gemini und Perplexity zeigten eine linksliberale Tendenz. Grok war am ausgeglichensten.

Unternehmen, die voreilig Personal zugunsten von KI-Implementierungen abgebaut haben, besetzen diese Stellen oft stillschweigend wieder. Das berichtet The Register unter Berufung auf eine Analyse von Forrester.

Dies betrifft etwa die Hälfte der zuvor eingesparten Stellen. Die Neubesetzungen finden jedoch häufig im Ausland oder zu niedrigeren Löhnen statt.

Der Grund für die Kehrtwende:

• Viele KI-Einsätze führen zu "spektakulären Fehlern" und scheitern.
• In anderen Fällen ersetzt KI die menschlichen Arbeitskräfte gar nicht.
• Die Entlassungen basierten oft nur auf den Zukunftsaussichten von KI, nicht auf der Realität.

Bereits 55 Prozent der Arbeitgeber sollen es bereuen, Mitarbeiter:innen wegen der erhofften KI-Einsparungen entlassen zu haben. Eine Mehrheit (57 Prozent) der für KI verantwortlichen Manager:innen erwartet für 2026 sogar einen Anstieg der Mitarbeiterzahl.

Eine Ausnahme wird im Personalwesen (HR) gesehen, wo KI-Systeme (z.B. im Bewerbermanagement) menschliche Angestellte eher ersetzen könnten.

Die Analyse warnt, dass viele Unternehmen KI-Produkte nur anschaffen werden, um den Anschein von KI-Bereitschaft zu erwecken, auch wenn sie echte Technologie nicht von "Vaporware" (leeren Versprechungen) unterscheiden können. Ein Bericht von Gartner stützt dies: Dort wird erwartet, dass bis Ende 2027 bis zu 40 Prozent der KI-Projekte in Unternehmen wieder eingestellt werden.

Eine aktuelle Umfrage (Sinus-Jugendstudie) im Auftrag der Barmer zeigt, dass die Sorge junger Menschen (14-17 Jahre) vor den Auswirkungen der KI auf den Arbeitsmarkt zunimmt. Die Befragung fand im Herbst 2024 statt.

Das Kernergebnis: 22 Prozent der Jugendlichen sehen ihre berufliche Zukunft durch KI-Tools gefährdet. Das ist ein deutlicher Anstieg im Vergleich zum Vorjahr (17 Prozent).

Diese Sorge ist in technischen Branchen teils höher:

• Elektrotechnik: 27 % der Befragten mit diesem Berufswunsch haben Angst vor den Auswirkungen.
• Produktion: 24 %
• IT: 23 %

Gleichzeitig zeigt die Studie: Die überwältigende Mehrheit (69 Prozent) der Jugendlichen sieht aktuell noch keine oder nur wenig Gefahr durch KI für ihre berufliche Zukunft.

Die Studienverantwortlichen weisen jedoch darauf hin, dass dieser Mangel an Sorge auch daran liegen könnte, dass viele Jugendliche noch keine genaue Vorstellung von den (negativen) Einflüssen der KI haben oder das Gefahrenpotenzial aus "Selbstschutz" geringer einschätzen.

Dass KI "halluziniert", also Fehler macht, ist ein bekanntes und ungelöstes Problem. Eine neue Studie der Europäischen Rundfunkunion (EBU) zeigt, wie oft das bei Nachrichten-Abfragen passiert: Jede dritte Antwort (ca. 37 %) der gängigen Chatbots (Copilot, ChatGPT, Perplexity, Gemini) enthält Fehler.

Das ist zwar eine Verbesserung im Vergleich zu einer früheren Studie (damals war es die Hälfte), aber 45 % aller Antworten enthielten mindestens einen Fehler. Das häufigste Problem (31 %) waren komplett erfundene Quellen, was die nötige Kontrolle durch Nutzende massiv erschwert. Besonders schlecht schnitt überraschenderweise Googles Gemini ab.

Der Grund für die Fehler liegt in der Funktionsweise der Modelle:

1. Fehlendes Verständnis: Die KI versteht Konzepte nicht. Sie verknüpft Wissen nur basierend auf gelernten Wahrscheinlichkeiten und der Nähe von Informationen zueinander.

2. Falsche Verknüpfung: Dies kann dazu führen, dass eine KI einen Gerichtsreporter zum Mörder macht, nur weil sein Name im Artikel nah am Verbrechen genannt wurde – die KI versteht die Beziehung der Wörter nicht.

3. Kein Zählvermögen: Wenn eine KI die Anzahl der Buchstaben in einem Wort korrekt wiedergibt, liegt das daran, dass sie diese Information irgendwo gelesen hat, nicht daran, dass sie selbst zählen kann.

Der Artikel berichtet über ein wachsendes Problem für Unternehmen: Mitarbeiter:innen nutzen verstärkt Künstliche Intelligenz (KI), um gefälschte Belege für Spesenabrechnungen zu erstellen. Dienstleister, die diese Abrechnungen bearbeiten, melden eine Zunahme solcher Betrugsfälle.

Ausmaß des Problems:

• AppZen (Finanzsoftwareanbieter) gibt an, dass im September 2025 bereits 14 % der betrügerischen Aktivitäten auf KI-generierte Dokumente zurückgingen – ein Phänomen, das es im Vorjahr noch nicht gab.
• Das Fintech-Unternehmen Ramp entdeckte innerhalb von 90 Tagen gefälschte Belege im Wert von über einer Million US-Dollar.
• Der Anstieg wird teilweise auf die verbesserten Bildgenerierungsfähigkeiten von KI-Modellen wie OpenAIs GPT-4o (seit März 2025) zurückgeführt.

Warum es einfacher wird:

• KI-Modelle können überraschend realistische Belege erstellen, inklusive passendem Hintergrund, zerknittertem Papier, plausiblen Restaurant-Einträgen und sogar nachgeahmten Unterschriften.
• Mitarbeiter:innen benötigen dafür keine Kenntnisse in Bildbearbeitungsprogrammen wie Photoshop mehr, sondern nur Zugang zu den KI-Tools.
• Die Fälschungen sind laut SAP Concur so gut geworden, dass man seinen Augen kaum noch trauen kann.

Die Lösung: KI gegen KI:

• Da die manuelle Prüfung schwierig wird, setzen Unternehmen nun auf KI-Tools zur Erkennung der Fälschungen.
• Diese Tools analysieren Metadaten der eingereichten Bilder (obwohl dies umgangen werden kann, z.B. durch Abfotografieren).
• Fortgeschrittenere KI-Systeme analysieren Inhalte auf Muster (z.B. wiederholte Kellnernamen oder Zeiten) und gleichen Belege mit Firmendaten (z.B. Reisedaten) ab.
• Der Vorteil: KI kann Details mit konstant hoher Aufmerksamkeit prüfen, wo menschliche Prüfer:innen ermüden.

Eine Analyse von rund 60 Millionen Online-Stellenanzeigen (Jobmonitor der Bertelsmann Stiftung und IW) zeigt, dass der erwartete Boom bei KI-Jobs in Deutschland ausbleibt.

Wichtigste Ergebnisse:

• Stagnation statt Wachstum: Zwar verdoppelte sich die Zahl der KI-Stellenanzeigen zwischen 2019 und 2022 (von 97.000 auf 180.000), ihr Anteil am Gesamtmarkt betrug aber nur 1,5 %. Seit 2022 stagniert dieser Anteil, die absolute Zahl war sogar leicht rückläufig und folgte dem allgemeinen Trend der wirtschaftlichen Schwäche. Zum Vergleich: Stellen im Bereich Energiewende stiegen auf 3,8 %.
• Wettbewerbsfähigkeit gefährdet: Hannes Ametsreiter (Vorstandsvorsitzender der Bertelsmann Stiftung) warnt, dass die wirtschaftlichen Chancen von KI nicht genutzt werden und Deutschland an internationaler Wettbewerbsfähigkeit verliert.
• Unternehmen sehen sich als Nachzügler: Viele Firmen (64 % laut Bitkom) sehen sich bei KI eher als Nachzügler, fast drei Viertel geben Wissenslücken an.
• Qualifizierung ungenutzt: Nur jedes fünfte Unternehmen schult den Großteil der Beschäftigten im Umgang mit KI, fast die Hälfte bietet gar keine Schulungen an. Das fehlende Wissen wird auch nicht durch Neueinstellungen kompensiert, wie der Jobmonitor zeigt.
• Regionale Unterschiede: Ein KI-Schwerpunkt liegt im Süden/Südwesten (Automobilindustrie) sowie Rhein-Ruhr und Berlin. München ist KI-Hauptstadt (4,5 % KI-Stellen). Der ländliche Raum ist abgehängt (fehlende Glasfaserinfrastruktur wird als Grund genannt). In der Hälfte aller Kreise findet KI am Jobmarkt kaum statt.
• Entwickler:innen statt Anwender:innen gesucht: Unternehmen suchen primär hochqualifizierte KI-Entwickler:innen (Spezialist:innen für Machine Learning, LLMs), nicht Anwender:innen. Dies deutet darauf hin, dass KI noch nicht im Arbeitsalltag angekommen ist. Top-Berufe sind Informatiker:innen und Software-Entwickler:innen.

Der Online-Händler Amazon baut rund 14.000 Arbeitsplätze in der Verwaltung ab. Als Grund nennt das Unternehmen organisatorische Änderungen, um sich angesichts des schnellen Wandels, insbesondere durch Künstliche Intelligenz (KI), "möglichst schlank aufzustellen". KI erlaube schnellere Innovationen.

Das Wall Street Journal berichtet unter Berufung auf Insider, dass sogar bis zu 30.000 Jobs in mehreren Wellen betroffen sein könnten.

Amazon betont, dass gleichzeitig neue Stellen in anderen Bereichen geschaffen würden. Die meisten betroffenen Beschäftigten sollen 90 Tage Zeit erhalten, um sich intern nach neuen Positionen umzusehen.

Der Schritt befeuert die Diskussion, inwieweit KI-Software wie ChatGPT oder Claude (von Anthropic, unterstützt von Amazon) Büro- und Verwaltungsaufgaben automatisieren und somit Jobs überflüssig machen könnte.