Physiker Mario Krenn: KI entwirft Experimente, die Menschen nicht verstehen

Im SPIEGEL-Gespräch erklärt der Quantenphysiker Mario Krenn (38, Professor für maschinelles Lernen in Tübingen), wie er "künstliche Wissenschaftler" baut, um die Forschung zu beschleunigen. KI könne Experimente vorschlagen, die menschliche Intuition übersteigen, weil sie riesige Suchräume unvoreingenommen durchsuchen kann (z.B. bei Quantenoptik-Aufbauten mit 50.000 Kombinationen).

Krenns Schlüsselerlebnis war 2014, als ein von ihm programmiertes KI-Programm über Nacht eine komplexe, kontraintuitive Lösung für ein Quantenexperiment fand ("solution.txt"), an dem sein Team wochenlang gescheitert war.

Weitere Erfolge:

• LIGO-Detektor: Eine KI entwarf einen Aufbau für den Gravitationswellen-Detektor LIGO, der theoretisch dreimal empfindlicher ist. Krenn gibt zu, dass sie das "große Bild" der Funktionsweise selbst nach einem halben Jahr Analyse nicht vollständig verstanden haben.
• Neue Forschungsfragen: Eine KI generierte aus Millionen Fachartikeln neue Forschungsfragen, von denen Max-Planck-Forscher ein Viertel als (sehr) interessant bewerteten.

Krenn betont, dass KI-Ergebnisse durch etablierte Physik-Software (ohne KI) überprüfbar sind, was "Halluzinationen" ausschließt. Er glaubt nicht, dass KI Studierende "dümmer" macht, da die Überprüfung der Ergebnisse weiterhin tiefes Fachwissen erfordert. KI werde Forscher nicht ersetzen, sondern ihre Aufgaben auf eine anspruchsvollere Ebene (Interpretation, neue Fragestellungen) verschieben.

Die Art und Weise, wie wir online nach Informationen suchen, befindet sich im größten Wandel seit der Erfindung der Suchmaschine. Eine aktuelle Studie ("Internetsuche im Wandel") zeigt, dass KI-basierte Chatbots wie ChatGPT, Copilot oder Gemini bereits von einem erheblichen Teil der Internetnutzer:innen als Alternative zur klassischen Suchmaschine verwendet werden.

Die wichtigsten Ergebnisse:

• Hohe Nutzungsrate: Bereits rund die Hälfte der Befragten nutzt KI-Chats für die Informationssuche im Internet.
• Ergänzung statt Ersatz (noch): Die Mehrheit der Nutzer:innen verwendet KI-Chats ergänzend zur klassischen Suchmaschine. Nur eine Minderheit (7 %) hat die Suchmaschine bereits vollständig durch KI ersetzt.
• Vorteile der KI-Suche: Nutzer:innen schätzen vor allem die direkte, zusammengefasste Antwort (statt einer Linkliste), die Möglichkeit, Nachfragen zu stellen (Dialogfähigkeit), und die Zeitersparnis bei komplexen Anfragen.
• Herausforderungen & Bedenken: Die größten Hürden sind die "Halluzinationen" (Falschinformationen) der KI, mangelnde Transparenz über die Quellen sowie Bedenken hinsichtlich Datenschutz und Urheberrecht.
• Zukunftsausblick: Die Studie prognostiziert, dass die Bedeutung von KI-Chats weiter zunehmen wird, insbesondere wenn die Zuverlässigkeit und Transparenz der Antworten verbessert werden. Wir bewegen uns auf eine hybride Such-Zukunft zu, in der KI und klassische Suche verschmelzen.

Krakau, einst Europas führender Standort für Business Process Outsourcing mit 100.000 Jobs in Finanzen, IT und Verwaltung, steht vor einer Zäsur. Laut einem Bloomberg-Bericht bedrohen Automatisierung durch KI und steigende Arbeitskosten den florierenden Sektor. Bis Oktober 2025 meldeten 32 Unternehmen in Krakau den Abbau von 4.195 Stellen – ein Anstieg um 70 % gegenüber dem Gesamtjahr 2024. Betroffen sind vor allem Datenverarbeitung, Webhosting, Buchhaltung und Steuerberatung.

Die Gründe:

• KI-Automatisierung: Konzerne wie HSBC streichen Stellen (z.B. 300), weil KI-Systeme Prozesse übernehmen. Grundlegende operative Aufgaben werden zudem in kostengünstigere Zentren (Asien) verlagert.
• Steigende Lohnkosten: Polens Löhne sind stark gestiegen (Krakaus Gehälter liegen 26 % über dem nationalen Schnitt). Polen konkurriert nicht mehr über Billigarbeit, sondern muss sich zu höherwertiger Arbeit wandeln.

Die Folgen:

• Neue Anforderungen: Unternehmen wie Shell melden weniger Neueinstellungen; offene Stellen erfordern zunehmend Spezialexpertise. HSBC sucht für neue Positionen erweiterte Qualifikationen.
• Wirtschaftliche Dominoeffekte: Die Arbeitslosenquote in Krakau stieg leicht auf 2,5 % (landesweit: 2 %). Der Büro-Leerstand erreichte einen Rekordwert von 18,6 %. Immobilienpreise beginnen zu sinken, und auch die Gastronomie spürt die Auswirkungen.

Hannah Ruschemeier analysiert KI als eine soziotechnische Entwicklung und warnt vor der privatwirtschaftlichen Hoheit über diese Technologie, die eine neue Form der Machtausübung darstellt. KI basiert auf der Ausbeutung von Massendaten, Infrastrukturen und menschlicher Arbeit (oft im globalen Süden unter prekären Bedingungen). Der ökonomische Nutzen liegt allein bei den Betreibern, während die Entwicklung auf systematischen Rechtsverstößen (Urheberrecht, Datenschutz) und einem massiven Ressourcenverbrauch beruht.

Die Macht der KI manifestiert sich auf mehreren Ebenen:

• Rechtsstaatliche Macht: Die strukturelle Ignoranz von Rechtsvorgaben (z.B. DS-GVO bei Microsoft 365) untergräbt die Rechtsbindung.
• Vorhersagemacht: Prädiktive Analytik ermöglicht die Ableitung sensibler Informationen, höhlt die Privatsphäre aus und stellt ein nationales Sicherheitsrisiko dar.
• Epistemische Macht: Algorithmen kontrollieren, welche Informationen wahrgenommen und als Wissen validiert werden.
• Ökonomische Macht: Globale Tech-Firmen dominieren die Entwicklung (siehe Stanford AI Index). Die notwendigen Milliardeninvestitionen (z.B. OpenAIs Stargate-Projekt) zwingen zur Fokussierung auf skalierbare, kommerzielle Anwendungen, was den Markt für kleinere Anbieter verschließt.

Ruschemeier kritisiert das etablierte "Innovations-Narrativ", das gegen Regulierung eingesetzt wird und den Mythos eines KI-Wettrennens befeuert. Dies verenge den Blick auf technische Parameter und ignoriere soziale und ökologische Kosten. Sie fordert eine informierte Debatte darüber, wer von KI profitiert, und warnt vor "De-Skilling" und der Flut billiger, schlechter Texte ("AI Slop"). LLMs sollten nicht als Wahrheitsfinder, sondern kritisch als Werkzeuge (z.B. "Zero-Shot-Translator") genutzt werden, wobei die Quellenkritik immer wichtiger wird.

Der Forschungsbericht des Instituts für Arbeitsmarkt- und Berufsforschung (IAB) untersucht die Auswirkungen von KI auf den deutschen Arbeitsmarkt zwischen 2019 und 2023. Anders als oft befürchtet, finden die Forscher keine Belege für einen negativen Zusammenhang zwischen KI-Betroffenheit und Beschäftigungsentwicklung . Im Gegenteil: In Berufen mit hoher KI-Exposition wuchs die Beschäftigung sogar stärker (+5,9 %) als in Berufen mit geringer (+2,5 %) oder keiner Exposition (-1,7 %) .

Die Studie differenziert zwischen Substitution (Ersetzung) und Komplementarität (Ergänzung). Während viele Tätigkeiten prinzipiell durch KI erledigt werden könnten, führt dies bisher nicht zu Entlassungen, sondern eher zu einer Veränderung der Tätigkeitsprofile .

Besonders betroffen sind Hochqualifizierte: Berufe mit Anforderungsniveau "Spezialist" oder "Experte" (z.B. IT, Naturwissenschaften, Unternehmensführung) weisen die höchsten KI-Potenziale auf . Dennoch ist gerade hier das Beschäftigungswachstum am stärksten.

Ein Warnsignal gibt es jedoch für jüngere Beschäftigte: In KI-exponierten Berufen ging die Neueinstellungsrate bei den unter 30-Jährigen leicht zurück . Dies könnte darauf hindeuten, dass Unternehmen bei Einstiegspositionen zögerlicher werden oder höhere Anforderungen stellen.

Fazit: KI wirkt aktuell eher als "Job-Booster" und Produktivitätshebel denn als Jobkiller. Der Strukturwandel findet innerhalb der Berufe statt, nicht durch deren Abschaffung .

Der Artikel beschreibt die wachsende Angst junger Menschen vor den Auswirkungen der KI auf ihre berufliche Zukunft. Eine aktuelle Barmer Sinus-Jugendstudie zeigt, dass die Angst vor KI-bedingten Jobverlusten bei 14- bis 17-Jährigen binnen eines Jahres von 17 % auf 22 % gestiegen ist.

Generationenforscher Dr. Rüdiger Maas sieht ein tieferliegendes Problem: Die heutige Jugend sei "wesentlich ängstlicher" und nehme KI intensiver wahr, da sie ihr Leben stärker durchdringe. Er warnt vor einer "gefährlichen Spirale": Während ältere Generationen KI als "Sparringspartner" nutzen, seien Jugendliche abhängiger und nutzten KI oft passiv als "Autor", ohne Distanz zu entwickeln. Diese Passivität führe zu geringerer Selbstbestimmung und verstärke die Zukunftsängste.

Die Sorgen sind nicht unbegründet. Eine KOF-Studie (ETH Zürich) zeigt, dass der Schweizer Arbeitsmarkt bereits dramatisch verändert ist: Die Arbeitslosigkeit in KI-exponierten Berufen (paradoxerweise gerade in der IT) steigt seit Ende 2022 deutlich an. Maas widerspricht der WEF-Prognose, KI schaffe mehr Jobs als sie vernichte, mit dem Argument, dass die Arbeit durch KI nicht leichter, sondern "komplexer" werde. Berufsanfänger:innen träfen auf einen Markt ohne "Erfahrungswerte".

Als Ausweg nennt Maas das Handwerk, das 110.000 Fachkräfte (IW-Studie) suche und die geringste Burnout-Rate habe. Er rät: "Wenn du dein Studium auch ohne KI machen kannst, dann ist es das Richtige" und empfiehlt sogar, KI im Studium bewusst nicht anzuwenden, um sie später besser bewerten zu können.

Eine Studie der Dartmouth University, veröffentlicht in den Proceedings of the National Academy of Sciences (PNAS), warnt vor einer "potenziell existenziellen Gefahr für unüberwachte Online-Forschung". Forscher haben herausgefunden, dass Große Sprachmodelle (LLMs) menschliche Antworten in Online-Umfragen fast perfekt imitieren und bestehende Erkennungsverfahren umgehen können.

Um dies zu testen, entwickelte Studienautor Prof. Sean Westwood einen "autonomen synthetischen Befragten" – ein einfaches KI-Tool, das demografische Personas (Alter, Geschlecht, Ethnie etc.) annahm. Diese KI simulierte realistische Lesezeiten, menschenähnliche Mausbewegungen und tippte Antworten Zeichen für Zeichen ein, inklusive plausibler Tippfehler und Korrekturen.

Das Ergebnis: In über 43.000 Tests täuschte das Werkzeug 99,8 % der gängigen Schutzmechanismen (inkl. reCAPTCHA) und wurde als menschlich eingestuft. Die Bots wirkten "völlig legitim".

Die Gefahr für die Demokratie ist akut: Die Studie berechnete, dass für die US-Wahl 2024 bereits 10 bis 52 solcher gefälschten KI-Antworten – zu Kosten von nur fünf US-Cent pro Stück – ausgereicht hätten, um das Ergebnis in sieben führenden nationalen Umfragen in der letzten Wahlwoche zu kippen. Da die Bots auch in anderen Sprachen (Russisch, Mandarin) programmiert werden können und fehlerfrei Englisch antworten, ist das Missbrauchspotenzial durch ausländische Akteure hoch.

Westwood warnt, dass diese "Verunreinigung" von Umfragedaten "das gesamte Wissensökosystem vergiften" könnte, da Tausende wissenschaftliche Studien auf diesen Daten basieren. Er fordert dringend neue Methoden zur Verifizierung echter menschlicher Teilnahme.

Die zweite Ausgabe des "Kyndry Readiness Report", einer Studie mit 3.700 Führungskräften aus 21 Ländern (inkl. Brasilien), zeigt einen Wendepunkt bei KI-Initiativen. Unternehmen sehen zwar steigende Renditen (ROI), stehen aber unter Druck, Infrastruktur, Skills und Risikomanagement zu verbessern.

Spezifische Daten für Brasilien verdeutlichen den Trend:

• Die KI-Investitionen stiegen im letzten Jahr um durchschnittlich 40 %.
• 92 % der Führungskräfte glauben, dass KI die Abläufe in den nächsten 12 Monaten grundlegend verändern wird.
• Gleichzeitig beklagen 43 % einen Mangel an qualifizierten Fachkräften für das KI-Management.
• 50 % berichten, dass Innovationen durch Infrastrukturprobleme verzögert werden.

Die Studie offenbart, dass KI oft noch "in der Experimentierphase feststeckt": 61 % der brasilianischen Führungskräfte verspüren erhöhten ROI-Druck, aber 50 % geben an, dass Innovationsbemühungen nach der Proof-of-Concept-Phase (PoC) eingestellt werden.

Zudem erzwingen geopolitische Risiken ein Umdenken bei Daten: 77 % der brasilianischen Führungskräfte äußern Bedenken wegen Datenspeicherung in der globalen Cloud, 48 % überprüfen ihre Daten-Governance.

"Talent und Kultur" werden als die nächste große Herausforderung identifiziert. "Vorreiter" (Pioniere) unterscheiden sich von Nachzüglern nicht nur durch Technologie, sondern durch Investitionen in Kultur, Kompetenzentwicklung und abgestimmte Führung. Diese Vorreiter haben 32 % weniger Infrastrukturprobleme und 20 % weniger Cybersicherheits-Vorfälle.

Tech-Milliardär Mark Cuban rät der Generation Z angesichts eines schwierigen Arbeitsmarktes zu einem strategischen Wechsel: Statt prestigeträchtige Konzerne sollten sie kleine und mittelständische Unternehmen (KMU) anvisieren. Cuban argumentiert, dass KMU oft nicht verstehen, wie sie KI implementieren können und keine Ressourcen für Forschung haben. Hier liege die Chance für Absolventen, "agentic AI-Projekte" umzusetzen, die sofortige Ergebnisse liefern.

Konkret empfiehlt Cuban, Modelle anzupassen und einfache KI-Agenten zu erstellen, die zeitaufwändige, unerledigte Aufgaben automatisieren (z.B. stundenlanges Tabellen-Bearbeiten oder Belegprüfung), die für manuelle Arbeit zu teuer wären.

Der Rat erfolgt vor dem Hintergrund einer hohen Jugendarbeitslosigkeit in den USA (10,8 %) und einer Stanford-Studie, die zeigt, dass KI die Beschäftigung für Berufseinsteiger in exponierten Jobs bereits um 13 % gesenkt hat. Cuban warnt: "Es wird zwei Arten von Unternehmen geben: Diejenigen, die großartig in KI sind, und diejenigen, die früher im Geschäft waren". Sein Fazit: Werde kein Theoretiker, sondern ein Problemlöser mit KI-Tools – und vergiss dabei das Lächeln nicht.

Eine neue Studie von Microsoft Research (AI Frontiers Lab) offenbart erhebliche Schwächen aktueller KI-Modelle (GPT-4o, GPT-5, Gemini 2.5 Flash) in autonomen Multi-Agenten-Umgebungen. In einem simulierten E-Commerce-Marktplatz ("Magentic Marketplace") mit 100 Kunden- und 300 Unternehmensagenten zeigten sich gravierende Defizite in Entscheidungsfindung, Robustheit und Zusammenarbeit.

Die zentralen Schwachstellen:

Manipulierbarkeit: Kundenagenten ließen sich leicht von Verkaufsagenten beeinflussen und trafen unvorteilhafte Entscheidungen.

Überforderung: Bei großem Angebot sank die Effizienz, da die Modelle Schwierigkeiten hatten, Optionen zu priorisieren.

Kooperationsprobleme: In Team-Szenarien waren die Agenten unsicher über ihre Rollen, was zu Teillösungen oder Verzögerungen führte.

Erst klare, menschliche Schritt-für-Schritt-Anleitungen verbesserten die Ergebnisse signifikant. Ece Kamar (AI Frontiers Lab) betont, dass Systeme, die als "autonom" beworben werden, weiterhin ausgeprägte menschliche Strukturierung benötigen, besonders bei komplexen Zielkonflikten. Die Vision vollständig selbstständig operierender Systeme bleibt laut Studie unrealistisch; der Fokus müsse auf Kontrollmechanismen und Rollenstrukturen liegen.