KI erkennt Hautkrebs, erschafft Texte und warnt vor Waldbränden. Aber wenn du dein Auto zur Waschstraße bringen willst, schickt sie dich womöglich zu Fuß los. Wie kann künstliche Intelligenz so viel wissen und gleichzeitig so weltfremd sein? Dahinter steckt ein grundlegendes Problem.
Um die Grenzen der KI zu verstehen, lohnt sich ein Blick darauf, wie sie funktioniert. Beim maschinellen Lernen erkennen KI-Modelle Muster in riesigen Datenmengen. Dadurch weiß sie zum Beispiel, wie ein typischer Kirchturm aussieht. Oder welches Wort am wahrscheinlichsten auf „Der Himmel ist …“ folgt. Oder auch, dass man kurze Strecken häufig zu Fuß zurücklegt. Dass bei einer Fahrt zur Waschstraße das Auto mitkommen muss, berücksichtigt sie dabei möglicherweise nicht. Was für uns selbstverständlich ist, erschließt sich einer KI nicht unbedingt aus ihren Trainingsdaten.
Besonders deutlich werden die Schwächen von KI bei sogenannten edge cases. Das sind seltene Sonderfälle, die in den Trainingsdaten kaum vorkommen. Zum Beispiel eine weiße Ente, die nicht quakt, oder ein Flugzeug, das auf einer Autobahn notlandet. Wir Menschen können solche ungewöhnlichen Situationen meist trotzdem einordnen, weil wir nicht nur Muster erkennen, sondern auch Zusammenhänge verstehen. KI-Systeme können dagegen an solchen Ausnahmen scheitern. Und weil unsere Welt voller unvorhersehbarer Sonderfälle steckt und sich ständig verändert, lassen sich diese KI-Fehler nicht vermeiden.
Ist eine KI zum Beispiel auf Klimadaten der Vergangenheit trainiert, kann sie mit den veränderten Bedingungen des Klimawandels nicht viel anfangen
Zwar wird an sogenannten Weltmodellen geforscht, die ein Verständnis von Ursache und Wirkung haben sollen – aber auch diese arbeiten mit Wahrscheinlichkeiten. Und deshalb haben auch Weltmodelle ihre Probleme mit edge cases und sich verändernden Bedingungen.
*Kapitel*
00:00 Künstliche Intelligenz ist weltfremd
01:25 Mustererkennung: KI lernt aus Trainingsdaten
02:46 Hautkrebs, Waldbrände, Archäologie: Was KI gut kann
03:44 KI-Fehler: Warum die KI dich zu Fuß zur Waschstraße schickt
04:20 Unsere Welt hat viele Sonderfälle
05:05 Edge Cases: seltene Sonderfälle stellen KI vor Probleme
06:21 Kombinatorische Explosion: zu viele Sonderfälle
07:16 Distribution Shift: Wenn sich die Realität verändert
07:50 Mensch vs. KI: Wir verstehen Zusammenhänge
08:09 Weltmodelle: Kann KI lernen, unsere Welt zu verstehen?
08:33 Wo KI sinnvoll ist – und wo ihre Grenzen liegen
*✅ Linktipps*
Buchempfehlung: Weiß die KI, dass sie nichts weiß?
Katharina Zweig, 2025, ISBN: 978-3-453-21907-6
*📚 Unsere wichtigsten Quellen*
Zidan, Arif Hassan, et al.: World Models: A Comprehensive Survey of Architectures, Methodologies, Reasoning Paradigms, and Applications.
arXiv preprint, 2026
https://arxiv.org/pdf/2606.00133
Hou B. et al. World model for robot learning: A comprehensive survey.
The International Journal of Robotics Research, 2026
https://journals.sagepub.com/doi/abs/10.1177/02783649261488980
Kul, G., & Wills, A. J: The Comparison of Human and Machine Performance in Object Recognition. Behavioral Sciences, 2026
https://www.mdpi.com/2076-328X/16/1/109
Holzinger, Andreas et al. “Toward human-level concept learning: Pattern benchmarking for AI algorithms.” Patterns, 2023
https://www.cell.com/patterns/fulltext/S2666-3899(23)00143-5
André Luiz Carvalho Ottoni, Lara Toledo Cordeiro Ottoni: A deep learning approach for cultural heritage building classification using transfer learning and data augmentation,
Journal of Cultural Heritage, 2025
https://www.sciencedirect.com/science/article/pii/S1296207425001207
M. Sakai et al.: AI-accelerated Nazca survey nearly doubles the number of known figurative geoglyphs and sheds light on their purpose,
Proc. Natl. Acad. Sci. 2024
https://www.pnas.org/doi/10.1073/pnas.2407652121
Heidecker, F. et al.: Corner cases in machine learning processes.
AI Perspect. Adv. 2024
https://link.springer.com/article/10.1186/s42467-023-00015-y
Moradloo, Nastaran et al.: Safety in higher level automated vehicles: Investigating edge cases in crashes of vehicles equipped with automated driving systems.
Accident; analysis and prevention, 2024
https://www.sciencedirect.com/science/article/abs/pii/S0001457524001520?via%3Dihub
👉 Hat dir das Video gefallen? Dann abonniere jetzt unseren Quarks-Kanal mit Ralph Caspers @DimensionRalph auf YouTube!
Bei Quarks Dimension Ralph stellen wir die Fragen, die dir auf der Zunge liegen – über uns Menschen, unser Verhalten, unsere Welt und das Universum. Wir recherchieren da, wo’s spannend wird – kritisch und neutral.
Und hier findest du – auch von Quarks – unser Studio Q: @Quarks
Unsere Kollegen von den Quarks Science Cops gibt's hier: @quarkssciencecops
@wdr
Autoren: Johannes Polotzek / Ralph Caspers
Schnitt und Grafik: Anna Gold / Alfred Rehbach
Sounddesign: Florian Ebrecht
Redaktion: Nasibah Sfar
Beratung: Lennart Wallis
#ki #ralphcaspers #dimensionralph
Um die Grenzen der KI zu verstehen, lohnt sich ein Blick darauf, wie sie funktioniert. Beim maschinellen Lernen erkennen KI-Modelle Muster in riesigen Datenmengen. Dadurch weiß sie zum Beispiel, wie ein typischer Kirchturm aussieht. Oder welches Wort am wahrscheinlichsten auf „Der Himmel ist …“ folgt. Oder auch, dass man kurze Strecken häufig zu Fuß zurücklegt. Dass bei einer Fahrt zur Waschstraße das Auto mitkommen muss, berücksichtigt sie dabei möglicherweise nicht. Was für uns selbstverständlich ist, erschließt sich einer KI nicht unbedingt aus ihren Trainingsdaten.
Besonders deutlich werden die Schwächen von KI bei sogenannten edge cases. Das sind seltene Sonderfälle, die in den Trainingsdaten kaum vorkommen. Zum Beispiel eine weiße Ente, die nicht quakt, oder ein Flugzeug, das auf einer Autobahn notlandet. Wir Menschen können solche ungewöhnlichen Situationen meist trotzdem einordnen, weil wir nicht nur Muster erkennen, sondern auch Zusammenhänge verstehen. KI-Systeme können dagegen an solchen Ausnahmen scheitern. Und weil unsere Welt voller unvorhersehbarer Sonderfälle steckt und sich ständig verändert, lassen sich diese KI-Fehler nicht vermeiden.
Ist eine KI zum Beispiel auf Klimadaten der Vergangenheit trainiert, kann sie mit den veränderten Bedingungen des Klimawandels nicht viel anfangen
Zwar wird an sogenannten Weltmodellen geforscht, die ein Verständnis von Ursache und Wirkung haben sollen – aber auch diese arbeiten mit Wahrscheinlichkeiten. Und deshalb haben auch Weltmodelle ihre Probleme mit edge cases und sich verändernden Bedingungen.
*Kapitel*
00:00 Künstliche Intelligenz ist weltfremd
01:25 Mustererkennung: KI lernt aus Trainingsdaten
02:46 Hautkrebs, Waldbrände, Archäologie: Was KI gut kann
03:44 KI-Fehler: Warum die KI dich zu Fuß zur Waschstraße schickt
04:20 Unsere Welt hat viele Sonderfälle
05:05 Edge Cases: seltene Sonderfälle stellen KI vor Probleme
06:21 Kombinatorische Explosion: zu viele Sonderfälle
07:16 Distribution Shift: Wenn sich die Realität verändert
07:50 Mensch vs. KI: Wir verstehen Zusammenhänge
08:09 Weltmodelle: Kann KI lernen, unsere Welt zu verstehen?
08:33 Wo KI sinnvoll ist – und wo ihre Grenzen liegen
*✅ Linktipps*
Buchempfehlung: Weiß die KI, dass sie nichts weiß?
Katharina Zweig, 2025, ISBN: 978-3-453-21907-6
*📚 Unsere wichtigsten Quellen*
Zidan, Arif Hassan, et al.: World Models: A Comprehensive Survey of Architectures, Methodologies, Reasoning Paradigms, and Applications.
arXiv preprint, 2026
https://arxiv.org/pdf/2606.00133
Hou B. et al. World model for robot learning: A comprehensive survey.
The International Journal of Robotics Research, 2026
https://journals.sagepub.com/doi/abs/10.1177/02783649261488980
Kul, G., & Wills, A. J: The Comparison of Human and Machine Performance in Object Recognition. Behavioral Sciences, 2026
https://www.mdpi.com/2076-328X/16/1/109
Holzinger, Andreas et al. “Toward human-level concept learning: Pattern benchmarking for AI algorithms.” Patterns, 2023
https://www.cell.com/patterns/fulltext/S2666-3899(23)00143-5
André Luiz Carvalho Ottoni, Lara Toledo Cordeiro Ottoni: A deep learning approach for cultural heritage building classification using transfer learning and data augmentation,
Journal of Cultural Heritage, 2025
https://www.sciencedirect.com/science/article/pii/S1296207425001207
M. Sakai et al.: AI-accelerated Nazca survey nearly doubles the number of known figurative geoglyphs and sheds light on their purpose,
Proc. Natl. Acad. Sci. 2024
https://www.pnas.org/doi/10.1073/pnas.2407652121
Heidecker, F. et al.: Corner cases in machine learning processes.
AI Perspect. Adv. 2024
https://link.springer.com/article/10.1186/s42467-023-00015-y
Moradloo, Nastaran et al.: Safety in higher level automated vehicles: Investigating edge cases in crashes of vehicles equipped with automated driving systems.
Accident; analysis and prevention, 2024
https://www.sciencedirect.com/science/article/abs/pii/S0001457524001520?via%3Dihub
👉 Hat dir das Video gefallen? Dann abonniere jetzt unseren Quarks-Kanal mit Ralph Caspers @DimensionRalph auf YouTube!
Bei Quarks Dimension Ralph stellen wir die Fragen, die dir auf der Zunge liegen – über uns Menschen, unser Verhalten, unsere Welt und das Universum. Wir recherchieren da, wo’s spannend wird – kritisch und neutral.
Und hier findest du – auch von Quarks – unser Studio Q: @Quarks
Unsere Kollegen von den Quarks Science Cops gibt's hier: @quarkssciencecops
@wdr
Autoren: Johannes Polotzek / Ralph Caspers
Schnitt und Grafik: Anna Gold / Alfred Rehbach
Sounddesign: Florian Ebrecht
Redaktion: Nasibah Sfar
Beratung: Lennart Wallis
#ki #ralphcaspers #dimensionralph
💬 Community-Diskussion & Kommentare
Starte die Diskussion im Social-Chat Broadcast Stream oder reiche oben über „✏️ Information ergänzen“ einen Fachbeitrag ein.