KI nutzen, ohne das Können zu verlieren

In dieser Ausgabe

Die meisten Studien zu KI bei der Arbeit messen, was Menschen mit dem Werkzeug tun. Weniger messen, was sie ohne es noch können. Diese zweite Frage entscheidet, was an dem Tag geschieht, an dem das Werkzeug ausfällt, irrt oder ersetzt wird, und sie ist das Thema dieser Ausgabe.

In vier polnischen Kliniken fanden erfahrene Endoskopiker vor Einführung der KI bei 28,4 % der Koloskopien ohne KI Adenome, drei Monate danach bei 22,4 %. In einer türkischen Schule fragten die meisten Schüler mit einem freien Chatbot nach der Antwort und hatten nicht das Gefühl, weniger gelernt zu haben. Ein Aufsatz von 2024 benennt zwei Wege, Können zu verlieren; ein Aufsatz zur Automatisierung von 1983 und ein Luftfahrthinweis von 2013 kannten es schon früher. Fünf Merkmale eines Teams, das sein Können hält, und eine Karte schließen die Ausgabe.

Stiven Janaqi, Herausgeber

Titelthema

Drei Monate mit dem Assistenten

Ende 2021 begannen vier Endoskopiezentren in Polen, ein KI-System zu nutzen, das mögliche Polypen auf dem Bildschirm markiert. Ob es lief, hing vom Datum der Untersuchung ab. Krzysztof Budzyń und Kollegen betrachteten die Tage, an denen es aus war.

Koloskopien mit mindestens einem gefundenen Adenom, vier polnische Zentren, 2021–2022: Ohne KI, vorher 28,4 %, Ohne KI, nachher 22,4 %, Mit KI, nachher 25,3 %.

Die 19 Endoskopiker hatten jeweils über 2.000 Koloskopien gemacht, im Schnitt mit 27,6 Jahren Erfahrung. Nach der Umstellung waren unter ihren Patienten mehr Männer und mehr Sedierte, beides hebt die Erkennung meist. Die Autoren vermuten zu großes Vertrauen: weniger Motivation, weniger Fokus und weniger Verantwortung, wenn die KI fehlt.

Unsere Lesart

Gegen dieselben Wochen ohne KI sah die KI besser aus. Gegen das Team drei Monate zuvor nicht. Der Maßstab hatte sich verschoben.

Beobachtungsstudie mit 1.443 Koloskopien ohne KI und 734 mit KI. Polen setzte 2022 sein Vorsorgeprogramm aus, die späteren Patienten kamen daher von einer anderen Warteliste. Die Autoren fordern randomisierte Studien.

Quelle: Krzysztof Budzyń et al., The Lancet Gastroenterology & Hepatology 10, 2025

Die Zahlen

Nach der Antwort fragen

Nr. 51 brachte das Hauptergebnis eines Feldexperiments mit fast 1.000 Schülern in der Türkei: Ein freies GPT-4 half beim Üben und schadete in der Prüfung ohne es. Die ganze Studie zeigt auch, wie die Schüler den Chatbot nutzten und was er ihrer Meinung nach für sie getan hatte.

Schüler, deren erste Nachricht nach der Antwort fragte oder die Frage wiederholte: Freier Chatbot (GPT Base): Erste Aufgabe 56 %, Alle Aufgaben, Sitzung 1 67 %; Tutor mit Hinweisen (GPT Tutor): Erste Aufgabe 42 %, Alle Aufgaben, Sitzung 1 37 %.

• 51 % der Antworten des freien Chatbots auf die Übungsaufgaben waren richtig, je zehnmal gefragt

Schüler mit der freien Version schnitten in der Prüfung schlechter ab, glaubten aber nicht, weniger gelernt zu haben; die mit dem Tutor glaubten, besser abgeschnitten zu haben, was nicht stimmte. Die Deutung der Autoren: Die freie Version diente als Krücke.

Unsere Lesart

Wie Menschen ein Werkzeug empfinden, misst nicht, was sie ohne es können.

Schüler, keine Beschäftigten: eine Schule, Mathematik, Herbst 2023, GPT-4. Die Balken sind Anteile der ersten Nachrichten, wie die Autoren sie einordneten. Die 48 %, 127 % und 17 % stehen in Nr. 51.

Quelle: Hamsa Bastani, Osbert Bastani, Alp Sungu, Haosen Ge, Özge Kabakcı & Rei Mariman, PNAS 122(26), 2025

Das Modell

Zwei Wege, Können zu verlieren

Brooke Macnamara und Kollegen an der Case Western Reserve University unterscheiden zwei Risiken von KI-Assistenten und ein drittes, das beide verschärft: Die Person bemerkt womöglich keines davon.

Fachleute: Das Können verblasst

• Weniger genutztes Können lässt nach, geistiges schneller als körperliches
• Die Arbeit wird weiter erledigt, also bleibt der Verlust verborgen
• Er zeigt sich, wenn das Werkzeug irrt, ausfällt oder überfordert ist

Lernende: Das Können entsteht nicht

• Die Leistung steigt mit dem Werkzeug schnell
• Das Können dahinter entwickelt sich womöglich nicht
• Es zeigt sich erst, wenn das Werkzeug wegfällt

Automation Bias, zu großes Vertrauen in ein Werkzeug, vergeht, wenn das Werkzeug aus ist. Verlorenes Können nicht: Es bleibt bei der Person. Als die Autoren 2024 schrieben, kannten sie keine Forschung dazu, wie KI-Assistenten das Können der Nutzer beeinflussen.

Unsere Lesart

Die Fehler eines Werkzeugs gehen mit dem Werkzeug. Verlorenes Können bleibt beim Team.

Ein theoretischer Aufsatz mit Beispielen aus Radiologie und robotischer Chirurgie; die Spalten kürzen seine beiden Abschnitte. Automation Bias und der menschliche Eingriff stehen in Band 3 des operativen Traktats.

Quelle: Brooke N. Macnamara et al., Cognitive Research: Principles and Implications 9, 2024

Was die Forschung sagt

Von Hand fliegen

Industrie und Luftfahrt stießen zuerst auf das Problem. 1983 schrieb Lisanne Bainbridge vom University College London, dass körperliche Fertigkeiten verkümmern, wenn sie nicht genutzt werden: Ein einst erfahrener Operator, der nur überwacht hat, ist womöglich nun ein unerfahrener.

• 1983 Bainbridge: Operatoren in jeder Schicht kurz von Hand steuern lassen, sonst am Simulator.
• 2013 FAA-Hinweis: mehr Fehler beim Handfliegen; Airlines sollen Piloten bei geringer Last von Hand fliegen lassen.
• 2024 Macnamara et al.: noch keine Studie zur Wirkung von KI-Assistenten auf das Können.
• 2025 Budzyń et al.: das erste solche Ergebnis in der Medizin, bei der Koloskopie.

Die erfolgreichsten automatisierten Systeme, die selten manuelles Eingreifen brauchen, … benötigen womöglich die größte Investition in die Ausbildung des menschlichen Operators.

Unsere Lesart

Je besser das Werkzeug, desto seltener die Übung und desto mehr muss sie geplant werden.

Bainbridge schrieb über Prozessanlagen und Cockpits, nicht über KI; das Zitat ist ihres, gekürzt, die Übersetzung unsere. Der FAA-Hinweis ist eine Empfehlung an Airlines, keine Vorschrift. Ihre Ironien des Überwachens stehen in Band 3 des Traktats.

Quellen: Lisanne Bainbridge, Automatica 19(6), 1983; Federal Aviation Administration, 2013; Brooke N. Macnamara et al., Cognitive Research: Principles and Implications 9, 2024; Krzysztof Budzyń et al., The Lancet Gastroenterology & Hepatology 10, 2025

Wie es gemessen wird

Messen, wenn das Werkzeug aus ist

Die polnische Studie sah den Verlust, weil die KI an manchen Tagen aus war. Die meisten Teams haben keine solchen Tage und merken erst beim Systemausfall, was sie nicht mehr können. Fünf Merkmale eines Teams, das sein Können hält:

• Geplante Zeit ohne Werkzeug. Bei geringer Last, wie die FAA es von Airlines verlangt; nicht erst beim Ausfall.
• Dieselbe Kennzahl, beide Wege. Übersehenes, Fehler oder Zeit mit und ohne Werkzeug, getrennt erfasst.
• Lernende versuchen zuerst. Neue lösen den Fall selbst; das Werkzeug gibt Hinweise oder prüft, wie der Tutor in der Schulstudie.
• Können geprüft, nicht gefühlt. Eine kurze Aufgabe allein, keine Umfrage zum Selbstvertrauen.
• Ein Name für den Ausfall. Wer die Arbeit ohne Werkzeug kann, und wann zuletzt.

Unsere Lesart

Ein Team, das nie ohne Werkzeug arbeitet, kann nicht wissen, was es täte, wenn es müsste.

Die Merkmale stammen von der Redaktion, gestützt auf Budzyń et al. (2025), Bastani et al. (2025), den FAA-Hinweis (2013) und Macnamara et al. (2024). Als Ganzes wurden sie nicht erprobt.

Quellen: Krzysztof Budzyń et al., The Lancet Gastroenterology & Hepatology 10, 2025; Hamsa Bastani, Osbert Bastani, Alp Sungu, Haosen Ge, Özge Kabakcı & Rei Mariman, PNAS 122(26), 2025; Federal Aviation Administration, 2013; Brooke N. Macnamara et al., Cognitive Research: Principles and Implications 9, 2024

Mehr im Essay: Die Nacht, in der das System ausfiel

Werkzeug der Ausgabe

Die Karte ohne Werkzeug

Eine Karte für jede Aufgabe, bei der das Werkzeug jetzt hilft, ausgefüllt mit dem Team. Die Skills Matrix zeigt, wer welche Aufgabe ohne Hilfe kann, wo die Abdeckung dünn ist und wen man als Nächstes schult.

1. Die Aufgabe was das Werkzeug dabei tut: vorschlagen, prüfen, entscheiden oder schreiben
2. Ohne Werkzeug wer es noch allein kann; wann jeder es zuletzt tat
3. Die Kennzahl eine Zahl zum Vergleich mit und ohne Werkzeug, getrennt erfasst
4. Die Übung wann, wie oft, bei welcher Last; wer hilft
5. Lernende was Neue allein tun, bevor das Werkzeug hilft
6. Rückblick was die letzte Zeit ohne Werkzeug zeigte; was sich ändert; nächster Termin

Die Karte ist ein Vorschlag der Redaktion, gestützt auf den FAA-Hinweis (2013), Bainbridge (1983) und den Aufbau der Studien von Budzyń et al. und Bastani et al. (2025).

Quellen: Federal Aviation Administration, 2013; Lisanne Bainbridge, Automatica 19(6), 1983; Krzysztof Budzyń et al., The Lancet Gastroenterology & Hepatology 10, 2025; Hamsa Bastani, Osbert Bastani, Alp Sungu, Haosen Ge, Özge Kabakcı & Rei Mariman, PNAS 122(26), 2025

Tool öffnen: Qualifikationsmatrix

Quellen und Methode

Jede Zahl hat eine Quelle.

Die Zahlen dieser Ausgabe stammen aus den folgenden Quellen. Das Jahr zeigt, wie aktuell jede ist.

• Krzysztof Budzyń et al., The Lancet Gastroenterology & Hepatology 10, „Endoscopist deskilling risk after exposure to artificial intelligence in colonoscopy: a multicentre, observational study“, 2025. https://doi.org/10.1016/S2468-1253(25)00133-5
• Hamsa Bastani, Osbert Bastani, Alp Sungu, Haosen Ge, Özge Kabakcı & Rei Mariman, PNAS 122(26), „Generative AI without guardrails can harm learning: Evidence from high school mathematics“, 2025. https://doi.org/10.1073/pnas.2422633122
• Brooke N. Macnamara et al., Cognitive Research: Principles and Implications 9, „Does using artificial intelligence assistance accelerate skill decay and hinder skill development without performers' awareness?“, 2024. https://doi.org/10.1186/s41235-024-00572-8
• Lisanne Bainbridge, Automatica 19(6), „Ironies of Automation“, 1983. https://doi.org/10.1016/0005-1098(83)90046-8
• Federal Aviation Administration, „Safety Alert for Operators 13002: Manual Flight Operations“, 2013. https://www.faa.gov/sites/faa.gov/files/other_visit/aviation_industry/airline_operators/airline_safety/SAFO13002.pdf

Redaktionelle Methode

Jede Zahl wurde auf Jahr, Herausgeber und Bedeutung geprüft, am Volltext, wo er sich öffnen ließ. Eine nur in einer Zusammenfassung, einem Abstract oder Auszügen gelesene Quelle ist mit „über“ markiert. Eine Zahl, die sich im Gelesenen nicht bestätigen ließ, ist auf ihrer Seite so markiert oder fehlt. Die Deutung des Herausgebers ist als „Unsere Lesart“ markiert.

Herausgegeben von Stiven Janaqi, der sie verantwortet; „die Redaktion“ ist in dieser Publikation er. Texte, Übersetzungen, Layout und die Prüfung der Zahlen an ihren Quellen entstehen in Arbeitssitzungen mit Claude, einem KI-Modell von Anthropic. Wie diese Seite entsteht