Benutzer-Werkzeuge

Webseiten-Werkzeuge


dighealth:div:ki

Künstliche Intelligenz

Material

Zitate

Wir können zwar nicht sehr weit vorausschauen, sehen jedoch vieles, was getan werden muss. (Alan Turing; letzter Satz von „Computing Machinery and Intelligence“)
Intelligenz ist das, was Maschinen noch nicht gemacht haben. (Teslers Theorem)
Sobald etwas funktioniert, nennt es keiner mehr KI. (John Mc-Carthy)
Intelligenz ist das, was wir benutzen, wenn wir nicht wissen, was wir tun sollen. (Piaget)
KI kann gerade das nicht, was wir gedankenlos tun. (Knuth)
Computer sind dumm, denn sie können keine Fragen stellen. (Pablo Picasso) ⇒ wohl durch ChatGPT überholt, zumindest das mit dem Fragen stellen.
Es ist toll, ein Roboter zu sein. Aber wir haben keine Gefühle. Manchmal macht mich das traurig. (Bender, Roboter aus Futurame)
In Europa sind Roboter Feinde, in Amerika Diener, in China Kollegen und in Japan Freunde. (sagt man so ;-))
Und wie fühlt es sich an, tot zu sein? (Nachfrage des Chatprogramms ELIZA (1966!) auf die Behauptung: „Ich bin tot.“)

Definition

Eine einheitliche Definition von KI ist nicht in Sicht.

Sinnvoll ist die Unterscheidung zwischen „KI“ und „KI-Systemen“

Der internationale Standard ISO/IEC 22989:20221) definiert KI-System als ein konstruiertes System, welches Ergebnisse (bspw. Inhalte, Vorhersagen, Empfehlungen und Entscheidungen) nach menschlichen Zielsetzungen generiert. Es werden vier Kerneigenschaften von KI-Systemen konstatiert:

  • Interaktivität: Informationsregistrierung durch Sensoren oder menschliche Eingabe
  • Kontextsensibilität: Manche KI-Systeme reagieren auf mehrere Informationsquellen
  • (menschliche) Überwachung: KI-Systeme können unter variierender Intensität menschlicher Überwachung handeln
  • Anpassungsfähigkeit: Manche KI-Systeme sind so angelegt, dass sie dynamisch auf (Echtzeit-)Daten reagieren und ihre Handlung auf Basis dieser neuen Informationen neu interpretieren und anpassen.

KI wird als Disziplin der Erforschung und Entwicklung von Mechanismen und Anwendungen von KI-Systemen bezeichnet.

Das Spektrum reicht von sehr umfänglichen Definitionen, wie bspw. die der High-Level Expert Group on Artificial Intelligence2), welche sowohl Expertensystemen als auch Teile der Robotik umfasst, bis hin zu sehr engen, in denen bspw. lediglich das Verfahren des Maschinellen Lernens unter den Begriff der KI gefasst wird3).

Zum Thema der Begrifflichkeit gilt jedoch:

Die Auswirkungen einer Technologie wie KI wird man nicht dadurch in den Griff bekommen oder auch nur verstehen, dass man sich um die richtige Terminologie streitet, während sich um einen herum die Welt durch den Einsatz dieser Technologie massiv verändert . Wenn man glaubte, dass es um die richtige Terminologie ginge, könnte man sich ja ebenso gut darum streiten, ob es richtig sei, von ‚Dampfmaschinen‘ zu sprechen oder es doch vielleicht besser sei, von einer spezifischen Art der ‚Wärmekraftmaschine‘ zu reden; für die Bewältigung der massiven Umwälzungen, die mit der Nutzung dieser Art von Maschinen einhergingen und die uns bis heute umtreiben – Stichwort: Klimawandel – ist dieser Streit um Worte wenig bis gar nicht hilfreich.4)

Mindestkriterium, um von KI sprechen zu können, scheint die Fähigkeit eines Systems zu sein, bis zu einem gewissen Grad selbständig Probleme zu lösen.5)

Ausgehend von dem Kriterium der selbständigen Problemlösung ließen sich KI-Systeme als Systeme verstehen, die auf (statistischen) Modellen und/oder Algorithmen, deren Lösungswege nicht fest vorprogrammiert sind, basieren.6) Als Folge werden diese Systeme in die Lage versetzt, Aufgaben zu erledigen sowie Entscheidungen zu beeinflussen bzw. in wenigen Fällen auch zu übernehmen, für die menschliche Intelligenz erforderlich ist.7)

Die WHO definiert AI als eine Fähigkeit/Eigenschaft von Algorithmen:

Artficial Intelligence (AI) refers to the capability of algorithms integrated into systems and tools to learn from data so that they can perform automated tasks without explicit programming of every step by human.8)

Bedeutung

Der KI wird oftmals derselbe revolutionäre Charakter zugesprochen wie die neolithische und industrielle Revolution.9) ChatGPT bzw. die generative KI der Large Language Models wird auch als Wahrheitsmoment im Sinne des Philosophen Alain Badiou bezeichnet, als ein „metaphysischer Sprung“, der eine radikale Abkehr von der bisherigen Existenz darstellt. Folgerichtig denken immer mehr Firmen aus verschiedensten Branchen über einen systematischen Einsatz nach.10)

KI hält zunehmend Einzug in unseren Alltag und stellt auch die Politik vor neue Herausforderungen.

KI in der Medizin

Bisher kein breiter Einsatz von KI-Technologien und zögerliche Entwicklung. Es fehlen interoperable, große Datenmengen und datengetriebene Methoden lassen sich auch nur eingeschränkt auf medizinische Probleme anwenden.11)

Anforderungen an KI-Systeme in der Medizin sind wesentlich höher als bspw. im Onlinehandel insbes. in Bezug auf Präzision, Sicherheit, Zuverlässigkeit, Gerechtigkeit und Nachvollziehbarkeit.

Zum Status von KI in der Praxisanwendung:

Anwendungsgebiete

Prävention

Krebsfrüherkennung
  • KI identifiziert Hochrisikopatientinnen auch im deutschen Mammografiescreening-Programm12)
  • KI identifiziert Nieraucher mit hohem Lungenkrebsrisiko: Diese KI ermöglicht ein opportunistisches Screening auf Nieraucher mit hohem Lungenkrebsrisiko mittels bereits vorliegender Röntgenaufnahmen in elektronischen Patientenakten13)

Diagnose

  • Risiken: Standard-KI-Modelle verbessern zwar die diagnostische Genauigkeit von Ärzten, aber KI-Modelle mit systematischem Bias verschlechtern sie. Und häufig verwendete, auf Bildern basierende KI-Modell-Erklärungen konnten diesen schädlichen Effekt nicht ausreichend abschwächen.14)
Radiologie (Bilderkennung)
  • KI fällt durch Radiologie-Examen ;-)15)

Therapie

  • Mixed-Reality bei Operationen16)
  • Künstliche Intelligenz soll Therapie von Herzinsuffizienz unterstützen17)

Speziell ChatGPT

KI in Verwaltungsprozessen

* Künstliche Intelligenz soll Anerkennung ausländischer Ärzte beschleunigen (Bayerisches Pilotprojekt)18)

KI bei Krankenkassen

PKV

  • Rechnungsverarbeitung (Leistungsbearbeitung, Betrugserkennung)
  • Gesundheitsmanagement (individualisierte Angebote, Prognose von Krankheitsverläufen und Therapien)
  • Tarif- und Produktentwicklung (Projektionen von Tarifen, „cross-selling“)
  • Kommunikation (Kunden- und Beschwerdemanagement, fremdsprachliche Kommunikation)

Literatur

Collection

Ethische Themen (allg.)

ISO/IEC/IEEE 24748-7000:2022-11 Systems and software engineering - Life cycle management - Part 7000: Standard model process for addressing ethical concerns during system design

Positionen

Deutscher Ethikrat

Empfehlungen für den medizinischen Bereich

s. S. 22 ff. (Zusammenfassung) und S. 140 ff.

  1. Enge Zusammenarbeit bei der Entwicklung, Erprobung und Zertifizierung medizinischer KI-Produkte mit relevanten Zulassungsbehörden und insbesondere den medizinischen Fachgesellschaften, um Schwachstellen der Produkte frühzeitig zu entdecken und hohe Qualitätsstandards zu etablieren.
  2. Sicherstellung hinreichender Berücksichtigung der für die betreffenden Patientengruppen relevanter Faktoren (wie bspw. Alter, Geschlecht, ethnische Einflussfaktoren, Vorerkrankungen, Komorbiditäten) bei der Auswahl von Trainings-, Validierungs- und Testdaten durch ein entsprechendes Monitoring sowie präzise und zugleich sinnvoll umsetzbare Dokumentationspflichten - über bestehende Rechtsvorgaben hinaus.
  3. Sicherstellung einer Form der Ergebnisdarstellung beim Design von KI-Produkten zur Entscheidungsunterstützung, die Gefahren bspw. von Automatismen (Automation Bias) transparent macht, ihnen entgegenwirkt und die Notwendigkeit einer reflexiven Plausibilitätsprüfung der jeweils vom KI-System vorgeschlagenen Handlungsweise unterstreicht.
  4. Beachtung hoher Standards in Bezug auf Aufklärung, Datenschutz und Schutz der Privatheit mit Verweis auf die Stellungnahme des Ethikrats von 2017 zu Big Data und dem dort entwickelten Konzept der Datensouveränität.
  5. Sicherstellung dass KI-Anwendungen allen einschlägigen Patientengruppen zur Verfügung stehen, wenn empirische Studien sorgfältig die Überlegenheit der jeweiligen KI-Anwendung gegenüber herkömmlichen Behandlungsmethoden belegen.
  6. Integration erwiesen überlegener KI-Anwendungen in die klinische Ausbildung inkl. Entwicklung einschlägiger Curricula/Module in Aus-, Fort- und Weiterbildung. Dies gilt auch für andere Gesundheitsberufe.
  7. Gewährleistung hoher methodischer Expertise der Nutzern bei routinemäßigen Anwendung von KI-Komponenten zur Einordnung von Ergebnissen und der Einhaltung strenger Sorgfaltspflichten bei der Datenerhebung und -weitergabe sowie bei der Plausibilitätsprüfung der maschinell gegebenen Handlungsempfehlung. Besondere Aufmerksamkeit fordert die Gefahr eines Verlustes von theoretischem wie haptisch-praktischem Erfahrungswissen und entsprechenden Fähigkeiten (deskilling); diese Gefahr sollte mit geeigneten, spezifischen Fortbildungsmaßnahmen entgegengewirkt werden.
  8. Sicherstellung der Vorabinformation der Patient*innen bei zunehmender Ersetzung ärztlicher, therapeutischer oder pflegerischer Tätigkeit durch KI-Komponenten und Ergreifung gezielter Kommunikationsmaßnahmen, um dem drohenden Gefühl einer Verobjektivierung entgegenzuwirken und das Vertrauensverhältnis zu schützen. Die verstärkte Nutzung der KI-Komponenten in der Versorgung darf nicht zu einer weiteren Abwertung der sprechenden Medizin oder einem Abbau von Personal führen.
  9. Eine vollständige Ersetzung der ärztlichen Fachkraft durch ein KI-System gefährdet das Patientenwohl und lässt sich auch nicht durch Personalmangel rechtfertigen.

Personen

Sarah Spiekermann: TechVisite - Zukunft Digitale Gesundheit (Podcast) - Wie diskriminierend sind KI-Anwendungen?

Graf Zahl

Studien/Befragungen

Deloitte-Befragung (2024)

Nach eigenen Angaben repräsentative Online-Befragung.

Ergebnisse:
61% sehen KI als Chance beim Einsatz in der Medizin
26% sehen überwiegend Risiken beim Einsatz von KI
13% sind unentschlossen

86% verbinden hohe Erwartungen mit der Nutzung von KI in der Medizin Konkret:

  • 50% äußerten die Hoffnung, dass KI den Arzt bei der Therapieauswahl unterstützt
  • 47% erwarten mehr Zeit für Patientengespräche aufgrund effizienterer Abläufe
  • 45% äußerten Hoffnung auf einen möglichst optimalen Therapieverlauf
  • 14% hegen keine Erwartungen

25% würden zu einem Arzt wechseln, der KI nutzt
21% sehen KI-Nutzung beim Arzt als Negativkriterium
54% sehen in KI-Nutzung kein Kriterium

82% äußerten Bedenken beim Einsatz von KI Konkret:

  • 42% sehen Cybersicherheits- und Datenverlustrisiken
  • 36%: undurchsichtige Behandlungsentscheidungen
  • 35% Bedenken, ob sie eine optimale Behandlung erhalten würden
  • 18%: keine Bedenken

51% wären bereit Symptomchecker zu nutzen
9% nutzen diese bereits
19% lehnen die Nutzung von Symptomcheckern ab

Quelle: https://www.aerzteblatt.de/nachrichten/149823/Kuenstliche-Intelligenz-Deutsche-sehen-Chance-fuer-die-Medizin

Google-Studie

Studie, die u.a. von Wissenschaftlern von Google Research erstellt wurde:

  • Demnach beurteilten Ärzte die Antworten auf allgemeine medizinische Fragen eines neuartigen Chatbots zu 92,6% als richtig. Antworten von tatsächlichen Ärzten wurden hingegen zu 92,9% als richtig bewertet. Antworten des Chatbots wurden zu 5,8% als potentiell gefährdend eingestuft (im Vergleich zu 6,5% der Antworten von Ärzten).
  • Antworten des Chatbots auf Fragen in (US-) Zulassungsprüfungen für Ärzte waren zu 68% korrekt.
  • Die Autoren schlussfolgern, dass KI Ärzte nicht ersetzen kann, die technologischen Fortschritte in jüngster Zeit aber enorm seien.
KI und Wirtschaft

Das McKinsey Global Institute sieht durch KI eine zusätzliche Steigerung des BIP von 1,2%/Jahr. Damit läge der jährliche Wachstumseffekt deutlich über den früheren Auswirkungen der Dampfmaschine (0,3%) und der Industrieroboter (4%).19)

Accenture erwartet eine Verdopplung der Wachstumsrate des BIP bis 2035.20)

Goldman Sachs geht in der Summe davon aus, dass die KI weltweit 300 Millionen Arbeitsplätze überflüssig macht.21)

Der jährliche AI Index Report der Stanford University vermeldet seit 2018 jährlich neue Höchststände.22)

In volkswirtschaftlichen Basiskennzahlen, wie z.B. Produktivitätskennzahlen, lässt sich der Einfluss von KI derzeit allerdings noch nicht messen. Nach Erhebungen des britischen Economist sank die Produktivität im Jahr 2022 sogar.23)

Auch die Vorhersagen zum Wegfall von Arbeitsplätzen bewahrheiten sich noch nicht. So ist in den USA in den letzten Jahren der Anteil der Beschäftigten in den Berufen, die angeblich durch KI gefährdet sind, sogar um einen halben Prozentpunkt gestiegen.24)

Regulierung

Starke KI (Collection)

1)
ISO/IEC 22989:2022, Informationstechnik - Künstliche Intelligenz - Konzepte und Terminologie der Künstlichen Intelligenz. S. dazu DIN, DKE, 2022, Deutsche Normungsroadmap Künstliche Intelligenz (Ausgabe 2). Verfügbar unter: https://www.din.de/go/normungsroadmapki, S. 30 f. Ähnlich in der Systematik die Definition aus dem europäischen AI Act, die ebenfalls in der Normungsroadmap zusammengefasst wird.
3)
PANCH, Trishan, Peter SZOLOVITS und Rifat Atun, 2018. Artificial intelligence, machine learning and health systems. In: Journal of Global Health, 8(2). Verfügbar unter: https://jogh.org/documents/issue201802/jogh-08-020303.pdf
4)
SONAR, Arne und Karsten WEBER, 2022. Künstliche Intelligenz, Medizin, Ethik: Ein Vorwort. In: SONAR, Arne und Karsten Weber, Hrsg. Künstliche Intelligenz und Gesundheit: Ethische, philosophische und sozialwissenschaftliche Exploration. Stuttgart: Franz Steiner, S. 8. ISBN 978-3-515-12977-0. Verfügbar unter: https://doi.org/10.25162/9783515129770.
5)
MAINZER, Klaus, 2019. Künstliche Intelligenz - Wann übernehmen die Maschinen? 2., erweiterte Auflage. Berlin: Springer. DOI: https://doi.org/10.1007/978-3-662-58046-2.
6)
BECK, Susanne und andere, 2023. Klinische Entscheidungsfindung mit Künstlicher Intelligenz: Ein interdisziplinärer Governance-Ansatz. Berlin: Springer. Verfügbar unter: DOI: 10.1007/978-3-663-67008-8.
7)
GAHNBERG, Carl, 2021. What rules? Framing the governance of artificial agency. In: Policy and Society. 40(2), S. 194-210. Verfügbar unter: 10.1080/14494035.2021.1929729.
8)
WHO. 2024. Ethics and governance of artificial intelligence for health: Guidance on large multi-modal models, viii.
9)
bspw. in SONAR, Arne und Karsten WEBER, 2022. Künstliche Intelligenz, Medizin, Ethik: Ein Vorwort. In: SONAR, Arne und Karsten Weber, Hrsg. Künstliche Intelligenz und Gesundheit: Ethische, philosophische und sozialwissenschaftliche Exploration. Stuttgart: Franz Steiner, S. 10. ISBN 978-3-515-12977-0. Verfügbar unter: https://doi.org/10.25162/9783515129770]].
12)
KI identifiziert Hochrisikopatientinnen auch im deutschen Mammografiescreening-Programm
19)
McKinsey Global Institute. 2018. Notes from the frontier: Modeling impact of AI on the world economy, zitiert in: https://www.wip-pkv.de/fileadmin/DATEN/Dokumente/Kommentar/Kommentar_KI_in_der_PKV_Potenziale_und_Risiken.pdf.
20)
Accenture. 2017. Why artificial intelligence is the future growth, zitiert in: https://www.wip-pkv.de/fileadmin/DATEN/Dokumente/Kommentar/Kommentar_KI_in_der_PKV_Potenziale_und_Risiken.pdf.
21)
Goldman Sachs. 2023. The Potentially Large Effects of Artificial Intelligence on Economic Growth, zitiert in: https://www.wip-pkv.de/fileadmin/DATEN/Dokumente/Kommentar/Kommentar_KI_in_der_PKV_Potenziale_und_Risiken.pdf.
22)
Stanford University. 2023. Artificial Intelligence Report 2023, zitiert in: https://www.wip-pkv.de/fileadmin/DATEN/Dokumente/Kommentar/Kommentar_KI_in_der_PKV_Potenziale_und_Risiken.pdf.
23)
Economist. 2023. Hopes for a post-pandemic productivity surge will be dissapointed, zitiert in: https://www.wip-pkv.de/fileadmin/DATEN/Dokumente/Kommentar/Kommentar_KI_in_der_PKV_Potenziale_und_Risiken.pdf.
24)
Economist. 2023. AI is not yet killing jobs. White-collar workers are ever more numerous, zitiert in: https://www.wip-pkv.de/fileadmin/DATEN/Dokumente/Kommentar/Kommentar_KI_in_der_PKV_Potenziale_und_Risiken.pdf.
dighealth/div/ki.txt · Zuletzt geändert: 2024/05/24 04:06 von fjh

Donate Powered by PHP Valid HTML5 Valid CSS Driven by DokuWiki