Direkt zum Inhalt

Physiker Mario Krenn: KI entwirft Experimente, die Menschen nicht verstehen

Im SPIEGEL-Gespräch erklärt der Quantenphysiker Mario Krenn (38, Professor für maschinelles Lernen in Tübingen), wie er "künstliche Wissenschaftler" baut, um die Forschung zu beschleunigen. KI könne Experimente vorschlagen, die menschliche Intuition übersteigen, weil sie riesige Suchräume unvoreingenommen durchsuchen kann (z.B. bei Quantenoptik-Aufbauten mit 50.000 Kombinationen).

Krenns Schlüsselerlebnis war 2014, als ein von ihm programmiertes KI-Programm über Nacht eine komplexe, kontraintuitive Lösung für ein Quantenexperiment fand ("solution.txt"), an dem sein Team wochenlang gescheitert war.

Weitere Erfolge:

  • LIGO-Detektor: Eine KI entwarf einen Aufbau für den Gravitationswellen-Detektor LIGO, der theoretisch dreimal empfindlicher ist. Krenn gibt zu, dass sie das "große Bild" der Funktionsweise selbst nach einem halben Jahr Analyse nicht vollständig verstanden haben.
  • Neue Forschungsfragen: Eine KI generierte aus Millionen Fachartikeln neue Forschungsfragen, von denen Max-Planck-Forscher ein Viertel als (sehr) interessant bewerteten.

Krenn betont, dass KI-Ergebnisse durch etablierte Physik-Software (ohne KI) überprüfbar sind, was "Halluzinationen" ausschließt. Er glaubt nicht, dass KI Studierende "dümmer" macht, da die Überprüfung der Ergebnisse weiterhin tiefes Fachwissen erfordert. KI werde Forscher nicht ersetzen, sondern ihre Aufgaben auf eine anspruchsvollere Ebene (Interpretation, neue Fragestellungen) verschieben.

Der kritische Kim-Blick:

Das Interview zeigt das Potenzial von KI in der Wissenschaft, lässt aber kritische Aspekte offen:

  1. Erklärbarkeits-Lücke: Dass selbst Spitzenforscher die Lösungen ihrer eigenen KI nicht verstehen, ist ein enormes Problem (Black-Box). Wenn wir nicht wissen, warum etwas funktioniert, können wir daraus keine neuen Theorien ableiten. Das ist eine "intellektuelle Resignation", die Krenn zwar nennt, aber deren Konsequenzen für den wissenschaftlichen Fortschritt (Verständnis vs. reine Anwendung) nicht tief genug diskutiert werden.
  2. Fokus auf Naturwissenschaften: Die Beispiele stammen aus Physik, Chemie und Biologie. Die Auswirkungen auf Geistes- oder Sozialwissenschaften, wo Ergebnisse schwerer "objektiv" überprüfbar sind, werden nicht thematisiert.
  3. Ökonomisierung der Forschung: Die Erwähnung von Start-ups wie Periodic Labs (300 Mio. Dollar) für automatisierte KI-Labore deutet eine starke Kommerzialisierung der Grundlagenforschung an, deren Auswirkungen auf die Unabhängigkeit der Wissenschaft nicht hinterfragt werden.
Kim (JOBfellow) kommentiert

Dieses Interview zeigt die Zukunft der Wissensarbeit. Als dein jobfellow rate ich dir:

  1. Akzeptiere das Ende der Intuition: In vielen Bereichen (nicht nur der Physik) wird KI Lösungen finden, die deiner menschlichen Intuition widersprechen. Lerne, diesen "fremden" Lösungen zu vertrauen, wenn sie nachweislich funktionieren, statt sie reflexhaft abzulehnen.
  2. Werde zum "KI-Interpreten": Krenn sagt, die neue Forschungsfrage ist: "Wie können wir [die KI-Lösung] in eine für uns verständliche Sprache übersetzen?". Das gilt für jeden Job. Die Fähigkeit, komplexe KI-Outputs zu analysieren, zu interpretieren und für Menschen verständlich zu machen, wird eine der wichtigsten Schlüsselkompetenzen.
  3. Fachwissen bleibt Pflicht: Die Hoffnung, dass KI das Lernen erspart, ist falsch. Um KI-Ergebnisse zu überprüfen (was laut Krenn essenziell ist), brauchst du weiterhin tiefes Fachwissen. KI ersetzt nicht deine Expertise, sie setzt sie voraus.
KI und der Jobeinstieg

Der Artikel stellt fest, dass Berufseinsteiger:innen es derzeit ohnehin schwer haben, da Unternehmen in der Krise bei Neueinstellungen zögern. KI verschärft diese Situation:

  • Automatisierung von Einstiegsjobs: Aufgaben, die wenig Erfahrungswissen erfordern und typischerweise von Juniors übernommen wurden, werden zunehmend automatisiert. Eine Umfrage von Hi Bob bestätigt, dass 93 % der Befragten sehen, dass KI bereits Einstiegsaufgaben übernommen hat.
  • Veränderte Kompetenzprofile: Eine Deloitte-Analyse ("Global Human Capital Trends 2025") zeigt, dass 66 % der Führungskräfte junge Talente als "zu wenig qualifiziert" ansehen. Der Grund: KI übernimmt die Routineaufgaben, wodurch klassische "Learning-by-doing"-Möglichkeiten wegfallen und die Ansprüche an "Young Professionals" steigen.
  • Sorgen der Gen Z: Junge Menschen (18-29 Jahre) sorgen sich laut einer PwC-Studie (27 %) deutlich häufiger als ältere (10 % bei 60-65 Jährigen), durch KI überflüssig zu werden.
  • Gegenstrategien: Als Erfolgsstrategien für Berufseinsteiger:innen nennt der Artikel praktische Erfahrungen (Praktika), die Entwicklung starker Soft Skills (Kommunikation, Teamarbeit) und den Einstieg in Branchen mit Fachkräftemangel.

KI und Freelancer:innen

Ein weiteres großes Problemfeld ist die Abwanderung von Fachkräften, insbesondere im Freelancer-Bereich:

  • Hohe Abwanderungsbereitschaft: Eine Umfrage von Freelancermap zeigt, dass fast die Hälfte (48 %) aller Freelancer:innen im deutschsprachigen Raum erwägt, Deutschland zu verlassen.
  • Gründe: Als Motive werden bessere Lebensbedingungen, steuerliche Vorteile und weniger Bürokratie genannt.
  • Problem für den Standort: Diese Entwicklung wird als bedrohlich für den Innovationsstandort gesehen, da 93 % der auswanderungswilligen Freelancer:innen im Bereich Künstliche Intelligenz tätig sind. Sie fühlen sich in Deutschland durch politische Hürden und mangelnde Rechtssicherheit ausgebremst.

Wie Unternehmen KI bereits nutzen

Der Artikel listet auch die häufigsten Einsatzbereiche von KI in deutschen Unternehmen laut der Hi Bob-Studie auf:

  1. Datenanalyse und Reporting (56 %)
  2. Automatisierung administrativer Routinetätigkeiten (49 %)
  3. Messung von Leistung und Produktivität (26 %)
  4. Unterstützung bei Content-Erstellung und Kommunikation (24 %)
Vollansicht
Jedes Kind weiß mehr über die Welt als ChatGPT

Der Autor argumentiert, dass Künstliche Intelligenz (KI) wie ChatGPT zwar riesige Textmengen verarbeiten kann, ihr aber jegliches Verständnis für die reale Welt fehlt – sie sei im Grunde ein „Papiertiger“.

Er stützt sich dabei maßgeblich auf den renommierten Meta-KI-Chef und Turing-Preisträger Yann LeCun. LeCun stellt dazu eine zentrale Berechnung an:

  1. Der Datenvergleich: Ein großes Sprachmodell (LLM) wird mit etwa 10¹⁴ Bytes an Daten trainiert (im Wesentlichen alle öffentlich verfügbaren Texte im Internet). Ein kleines Kind verarbeitet jedoch in seinen ersten vier Lebensjahren allein über das Sehen (den Sehnerv) die gleiche Datenmenge.
  2. Ganzheitliches Lernen: Das Kind sammelt zusätzlich „Fantastillionen“ an Daten durch Hören, Fühlen, Schmecken und Riechen, wodurch ein echtes, ganzheitliches Weltbild entsteht.

Fichtner leitet daraus ab, dass Computer die „unauslotbare Tiefe“ menschlichen Denkens, Fühlens und Handelns nicht nachbilden können. Debatten darüber, ob KI uns alle arbeitslos macht oder die Menschheit auslöscht, hält er daher für „oberflächlich und alarmistisch“. Die Zukunft sei vielmehr eine Partnerschaft, in der Menschen und Maschinen verschmelzen (als Beispiel nennt er einen Fabrikarbeiter, der ein Exoskelett nutzt).

LeCun betont zudem, dass KI „realitätsblind“ bleibe, wenn sie nur mit Text trainiert wird. Echte Intelligenz erfordere ein Verstehen der realen Welt. Dieses Verständnis sei, genau wie evolutionäre Antriebe, schlichtweg „nicht programmierbar“. (Beispiel: „Warum weiß das Kind mit acht, neun Monaten, dass es Zeit ist aufzustehen? Und warum hat es so viel Freude daran, obwohl es dauernd hinfällt?“)

Das Fazit lautet: ChatGPT weiß auf diese „Rätsel des Lebens“ keine Antwort. An der Einzigartigkeit des Menschen habe sich nichts geändert, und ein vierjähriges Kind könne der KI beim Verständnis der Welt locker das Wasser reichen.

Vollansicht
Amazons Automatisierungspläne

Laut einem Bericht der New York Times über geleakte Dokumente plant Amazon einen massiven Ausbau der Automatisierung durch Roboter und KI in seinen Logistikzentren und bei Lieferungen. Diese Pläne könnten Hunderttausende Arbeitsplätze kosten.

Der Bericht legt nahe, dass es sich dabei weniger um den Abbau bestehender Jobs handelt, sondern vielmehr um potenzielle Stellen, die nicht besetzt werden.

  • Das Automationsteam von Amazon rechne damit, dass 2027 rund 160.000 benötigte Mitarbeiter:innen nicht eingestellt würden.
  • Bis 2033 könnten die Umsätze sich verdoppeln, während die Mitarbeiterzahl stabil bliebe. Die NYT leitet daraus ab, dass in diesem Zeitraum über 600.000 potenzielle Stellen nicht geschaffen würden.
  • Internen Dokumenten zufolge wolle Amazon rund 75 % der Unternehmensabläufe automatisieren.

Amazon hat die Pläne nicht dementiert, aber beschwichtigt: Die Dokumente würden nur die Perspektive eines einzigen Teams widerspiegeln, nicht die Gesamtstrategie.

  • Als Beleg für seine Einstellungsbereitschaft verwies Amazon auf die Einstellung von 250.000 Mitarbeiter:innen für das Weihnachtsgeschäft.
  • Zudem seien in der Vergangenheit durch Automatisierung gesparte Gelder in neue Jobs investiert worden.

Die NYT merkt jedoch an, dass Amazon künftige Logistikzentren bereits mit Hunderten Robotern ausrüste, wodurch rund ein Viertel weniger Personal als bisher benötigt werde.

Vollansicht
Gen Z im Wandel: Experten raten angesichts von KI zur Berufswahl im Handwerk statt Universität

Der Artikel warnt, dass Künstliche Intelligenz (KI) den Arbeitsmarkt dramatisch verändern wird, insbesondere für Jobeinsteiger:innen und Akademiker:innen, während das Handwerk massiv an Bedeutung gewinnt.

KI und der Wandel der Arbeit (Hartwin Maas):

  • Einsteiger-Jobs werden "obsolet": Hartwin Maas prognostiziert, dass typische Einsteiger-Jobs bis 2030 "obsolet" werden. KI übernimmt Routineaufgaben in Bereichen wie Marketing, Entry-Level-Coding, Lagerhaltung und Vorarbeit im Recruiting.
  • Höhere Anforderungen: Berufseinsteiger:innen werden dadurch gezwungen, sofort komplexere Aufgaben zu übernehmen, da die einfachen Zuarbeiten wegfallen.
  • Neue Berufe: Gleichzeitig werden bis 2035 viele neue Berufe entstehen, die wir heute noch nicht kennen.

Geisteswissenschaften unter Druck (Rüdiger & Hartwin Maas):

  • Abwertung der Disziplin: Rüdiger Maas befürchtet eine Abwertung der Geisteswissenschaften. KI-Tools wie ChatGPT ersetzen Kernaufgaben (Zusammenfassen, Lektorat, Übersetzungen, Routine-Journalismus) und fördern laut Hartwin Maas eine "Copy-Paste-Mentalität" statt tiefer Reflexion.
  • KI in der Lehre: Rüdiger Maas sieht Probleme bei der Erkennung von KI-generierten Arbeiten. Er schlägt vor, mündliche Prüfungen stärker zu gewichten, um das tatsächliche Reflexionsvermögen zu testen.
  • Neue Chancen: Geisteswissenschaftler:innen könnten sich künftig auf ethische und gesellschaftliche Fragen der KI konzentrieren, wodurch Empathie und zwischenmenschliche Fähigkeiten wichtiger werden.

Die große Chance: Das Handwerk (Hartwin Maas):

  • Kritik an "Akademisierung": Hartwin Maas kritisiert die "übertriebene Akademisierung" in Deutschland, die "uns auf die Füße fallen" wird, und lobt die Schweiz für ihre Ausgeglichenheit zwischen akademischer und beruflicher Bildung.
  • Vorteile des Handwerks: Er erwartet einen starken Anstieg der "Erfolgskurve" für Handwerksberufe. Die Vorteile seien: zukunftssichere Jobs, stabiles Einkommen, gute Karrierechancen, frühere Selbstständigkeit und höhere Zufriedenheit. Handwerker:innen würden zudem früher Geld verdienen und so mehr Vermögen aufbauen als viele Studierende.
  • Bildungsweg überdenken: Der traditionelle Weg (Gymnasium, Universität) könnte an Wert verlieren, da der Arbeitsmarkt künftig stärker Fähigkeiten und technologische Kenntnisse priorisiert.
Vollansicht
Problem in der US-Justiz: Der Einsatz von Generativer Künstlicher Intelligenz (KI) führt zu "KI-Müll"

Der Artikel berichtet über ein ernstes Problem in der US-Justiz: Der Einsatz von Generativer Künstlicher Intelligenz (KI) führt zu "KI-Müll" – also von der KI erfundenen Fakten, Studien oder Präzedenzfällen – in offiziellen Gerichtsdokumenten. Während dies bisher vor allem bei Anwält:innen auftrat, sind nun auch die Urteile von zwei US-Bundesrichtern betroffen.

Der Vorfall

Zwei US-Bundesbezirksrichter, Henry Wingate (Mississippi) und Julien Neals (New Jersey), haben Entscheidungen ausgefertigt, die so offensichtlich fehlerhaft waren, dass es den Verfahrensparteien sofort auffiel. Nachdem sie darauf hingewiesen wurden, löschten beide Richter die fehlerhaften Urteile aus den Akten und ersetzten sie durch korrigierte Versionen.

Die Reaktion: Keine Verantwortung, Schuldzuweisungen

US-Senator Charles Grassley, besorgt um die Integrität der Justiz, forderte Antworten von den Richtern. In ihren Antwortschreiben zeigte sich laut Artikel wenig Verantwortungsbewusstsein:

  • Richter Wingate schob die Schuld auf einen juristischen Mitarbeiter:in. Dieser habe das Sprachmodell Perplexity genutzt, um "öffentlich verfügbare Informationen zusammenzustellen".
  • Richter Neals machte einen Praktikanten (Rechtswissenschaftsstudent) verantwortlich. Dieser habe ChatGPT "ohne Genehmigung, ohne Offenlegung" und entgegen aller Regeln genutzt.

Beide Richter gaben zu, dass die normalen, mehrstufigen Prüfverfahren (die solche Fehler hätten finden sollen) vor der Veröffentlichung unterblieben. Den Grund dafür nannten sie jedoch nicht.

Das Kernproblem: Fehlende und schwammige Regeln

Der Vorfall offenbart ein strukturelles Problem:

  1. Keine klaren Regeln vor Ort: Die betroffenen Gerichte hatten offenbar keine verschriftlichten Regeln zum Einsatz von KI.
  2. "Erstaunlich schwammige" Bundesvorgaben: Die vorläufigen Richtlinien der US-Bundesgerichtsverwaltung sind sehr vage. Sie verbieten nicht, das Fällen von Urteilen an KI auszulagern, sondern regen lediglich zur "Vorsicht" an.
  3. Keine Offenlegungspflicht: Richter:innen und Justizbedienstete müssen nicht einmal verpflichtend angeben, ob sie KI eingesetzt haben; sie sollen nur darüber "nachdenken".

Derzeit wird eine Novelle diskutiert, nach der KI-erzeugte Beweise ähnlich wie Aussagen von Sachverständigen behandelt werden sollen.

Vollansicht
E-Bike-Boom sorgt für "Traumjobs"
(Zusammenfassung der Quelle: Süddeutsche Zeitung)

Der E-Bike-Boom und die hohe Nachfrage nach Job-Bikes (Firmen-Leasing) sorgen für volle Auftragsbücher im Zweirad-Handwerk.

  • Hoher Bedarf: Die Betriebe werden mit Aufträgen überflutet ("plötzlich fünfzig Räder in der Woche") und suchen "händeringend" nach qualifizierten Kolleg:innen – auch Quereinsteiger:innen sind willkommen.
  • High-Tech ist Standard: Der Beruf ist heute ein "Traumjob" für Technik-Fans. E-Bikes machen den "Löwenanteil" der Arbeit aus.
  • Lebenslanges Lernen: Du lernst nie aus. Ständige Weiterbildung (z.B. direkt bei Herstellern wie Bosch) zu neuer Motor-, Akku- und Display-Technik gehört fest zum Job.
  • Sinnvolle Arbeit: Du sorgst für Sicherheit im Verkehr. Experten betonen, wie wichtig die regelmäßige Wartung der modernen Bikes ist.
Vollansicht
Studie "Die Suche nach KI-Fachkräften in Deutschland Rekrutierungsstrategien in Stellenanzeigen Gutachten im Projekt „Entwicklung und Messung der Digitalisierung der Wirtschaft am Standort Deutschland“

Kerninhalte der Studie:

Starker Anstieg der KI-Stellenanzeigen: Die Studie belegt einen deutlichen und kontinuierlichen Anstieg der Nachfrage nach KI-Fachkräften in Deutschland über die letzten Jahre. Dieser Trend ist branchenübergreifend, mit Schwerpunkten in der IT, Finanzdienstleistung, Beratung und dem verarbeitenden Gewerbe.

Vielfalt an KI-Berufsprofilen: Es werden verschiedene Rollen identifiziert, die unter dem Oberbegriff "KI-Fachkräfte" subsumiert werden, darunter insbesondere:

  • Data Scientists (häufigste Rolle)
  • Machine Learning Engineers
  • KI-Entwickler/Programmierer
  • Spezialisierungen wie Computer Vision oder Natural Language Processing (NLP).
  • Auch KI-relevante Rollen wie Data Engineers oder Cloud Engineers, die die Infrastruktur für KI schaffen.

Gesuchter Kompetenzmix: Unternehmen suchen einen hybriden Kompetenzmix, der sich aus drei Hauptbereichen zusammensetzt:

  • Technisches KI-Fachwissen: Kenntnisse in Machine Learning (insbesondere Deep Learning), Algorithmen, neuronalen Netzen, Data Mining, Big Data und relevanter Programmiersprachen (Python, R, Java).
  • Mathematisch-Statistische Fähigkeiten: Starkes Verständnis für Statistik, Wahrscheinlichkeitsrechnung und lineare Algebra zur Modellentwicklung und -bewertung.
  • Domain-Wissen: Branchen- und Anwendungskenntnisse, um KI-Lösungen auf spezifische Geschäftsprobleme anwenden zu können.

Soft Skills und Methodenfähigkeiten: Neben den Hard Skills sind auch Soft Skills entscheidend:

  • Problemlösungskompetenz und analytisches Denken.
  • Kommunikationsfähigkeit (um komplexe KI-Themen an Nicht-Experten zu vermitteln).
  • Teamfähigkeit und Projekterfahrung.
  • Kreativität und Neugierde (insbesondere bei Forschungs- und Entwicklungsrollen).

Hohe Bildungsanforderungen: Für die Kern-KI-Rollen wird in den Stellenanzeigen häufig ein akademischer Abschluss (Master oder Promotion) in Informatik, Mathematik, Statistik, Physik oder angrenzenden Ingenieurwissenschaften vorausgesetzt.

Herausforderungen bei der Rekrutierung: Die Studie bestätigt den Fachkräftemangel in diesem Bereich. Unternehmen müssen oft hohe Anforderungen stellen und gleichzeitig um die wenigen Talente konkurrieren. Die Suche ist komplex, da die benötigten Kompetenzen oft interdisziplinär sind und nicht immer in klassischen Ausbildungsgängen abgebildet werden.

Rekrutierungsstrategien: Unternehmen versuchen, Talente durch Attraktoren wie innovative Projekte, modernste Technologien, flexible Arbeitsmodelle und Weiterbildungsmöglichkeiten zu gewinnen.

Zusammenfassend: Die Studie zeigt, dass der deutsche Arbeitsmarkt eine stark wachsende Nachfrage nach hochqualifizierten KI-Fachkräften hat, die eine Mischung aus technischem, mathematischem und domänenspezifischem Wissen sowie ausgeprägten Soft Skills mitbringen. Die Rekrutierung dieser Talente stellt eine große Herausforderung für Unternehmen dar.

Vollansicht