Wir möchten den Ethikrat dazu anregen, folgende drei Aspekte in seiner Schrift zu KI in der Psychotherapie zu berücksichtigen:
- Kritisch zu reflektieren, ob derzeit verfügbare Apps und digitale Gesundheitsanwendungen (DIGAs), überhaupt Merkmale von KI erfüllen und nicht mehrheitlich komplett determinierten Entscheidungsbäumen aufgrund von vorab festgelegten Wenn-dann-Regeln folgen, ergo nicht unter die Stellungnahme fallen;
- eine begriffliche Schärfung des Terminus Psychotherapie und eine Abgrenzung vom weitestgehend unregulierten Markt der Apps für Selbsthilfe und Selbstoptimierung vorzunehmen;
- zu prüfen, ob DIGAs und andere auf maschinellem Lernen beruhende Anwendungen nicht eher der Einordnung als enge Ersetzung (im Sinne von Assistenzsystemen, bei denen die klinische Verantwortung beim Fachpersonal verbleibt) anstelle der „weitreichenden Ersetzung“ (Deutscher Ethikrat, 2023, S. 155) entsprechen.
Die ausführliche Stellungnahme kann hier abgerufen werden (pdf-Datei zum Download).