Forschende der Universitätsmedizin Mainz und der Technischen Universität Dresden haben eine potenzielle Schwachstelle in beliebten KI-Modellen identifiziert, die in der medizinischen Bildverarbeitung eingesetzt werden. Die Studie mit dem Titel „Incidental Prompt Injections on Vision–Language Models in Real-Life Histopathology“ untersucht den Einfluss von Textinformationen auf die Analyse medizinischer Bilddaten. Veröffentlicht wurde die Arbeit im NEJM AI, 2(6), AIcs2500078, und sie wird von einer Gruppe um die Autoren Clusmann, J., Schulz, S. J. K. und weiteren Forschern getragen. Diese Ergebnisse könnten erhebliche Auswirkungen auf die Nutzung von KI in der histopathologischen Diagnostik haben.
Die einzigartige Methodik der Studie beschreibt, wie textuelle Eingaben in Bildanalysesysteme eingepflanzt werden können, um deren Ergebnisse zu beeinflussen. Dies könnte potenziell die Entscheidungsfindung in der Medizin gefährden. Der Kontakt für weitere Informationen führt zu PD Dr. Sebastian Försch von der Universitätsmedizin Mainz und Prof. Dr. Jakob Nikolas Kather von der TU Dresden, die beide als führende Experten in diesem Bereich gelten.
Klinische Relevanz von KI in der Pathologie
Im Rahmen der KI-Forschung wurden verschiedene Ansätze zur Anwendung in der medizinischen Bildverarbeitung vorgestellt. So untersuchen Huang et al. (2023), wie AI Merkmale in Histopathologie-Bildern identifiziert, die mit den Reaktionen auf neoadjuvante Chemotherapie bei Brustkrebs verbunden sind. Dies ergänzt die Erkenntnisse von Campanella et al. (2019), die computergestützte Pathologie mithilfe schwach überwachter Deep Learning-Methoden demonstriert haben.
Diese Entwicklungen verdeutlichen, dass KI in der digitalen Pathologie zunehmend an Bedeutung gewinnt. Das System ALBRT zur Vorhersage der Zellzusammensetzung in Histologie-Bildern zeigt, wie KI-Dienste zur Verbesserung der Diagnostik genutzt werden können. Solche Technologien könnten die Effizienz der Diagnostik und die Patientensicherheit erheblich erhöhen, ein Thema, das Singh und Graber (2015) behandelt haben.
Der Einfluss von Datenvernetzung auf die Medizin
Die Digitalisierung führt zu enormen Mengen an Daten, deren effektive Nutzung in der sogenannten Industrie 4.0 bereits sichtbar ist. In der Medizin kann die Berücksichtigung medizinischer und nicht-medizinischer Daten die Entscheidungsprozesse optimieren und Therapien individualisieren. Big Data und Künstliche Intelligenz sind hierbei Schlüsselbegriffe. Diese Technologien erleichtern nicht nur die klinische Entscheidungsfindung, sondern auch die Überwachung chronischer Krankheiten und die Verwaltung von Krankenhausdaten.
In der Medizin eröffnet die schnelle Analyse von großen Datenmengen durch KI neue Perspektiven. Anwendungen erstrecken sich von der medizinischen Bildverarbeitung und Diagnostik bis hin zur roboterassistierten Chirurgie. Hierbei wird klar, dass innovative Ansätze in der Vertrauenswürdigkeit und Validierung von KI-Methoden unerlässlich sind, insbesondere in der sensiblen Domäne der medizinischen Diagnostik.
Zusammenfassend lässt sich feststellen, dass die Forschung der Universitätsmedizin Mainz und der TU Dresden nicht nur die grundlegenden Herausforderungen von KI in der Pathologie aufzeigt, sondern auch deren immense Potenziale für die Zukunft der medizinischen Diagnostik skizziert. In diesem Kontext ist die kontinuierliche Diskussion und Weiterentwicklung der Technologien unerlässlich, um die Sicherheit und Effektivität der Gesundheitsversorgung zu gewährleisten. Für weitere Informationen stehen die Pressekontakte Barbara Reinke von der Universitätsmedizin Mainz und Anja Stübner von der TU Dresden zur Verfügung.
