Behandlung per Smartphone – Transparenz über Diagnoseentscheidungen bei KI‑gestützten Mental-Health-Apps

Technische Anwendungen, die künstliche Intelligenz beinhalten, sind in unserem Alltag zunehmend anzutreffen und machen auch vor der Medizin keinen Halt.¹ Im Bereich Gesundheit zeigt sich dies in der steigenden Nutzung von Medizin-Apps, insbesondere solcher, die therapeutische Interventionen für psychische Gesundheitsprobleme bieten. Angesichts dieser Entwicklung ist es virulent, sich mit den datenschutzrechtlichen Aspekten solcher Anwendungen auseinander zu setzen. Hierzu zählt auch die Transparenz in Bezug auf die Entscheidungsfindung innerhalb solcher KI‑gestützten Apps, insbesondere, wie Diagnosen zustande kommen und welche Kriterien dabei herangezogen werden.

¹⁾ Der Beitrag geht auf einen Vortrag der Verfasserin auf der DSRI-Herbstakademie der Deutschen Stiftung für Recht und Informatik e. V. zur Erfüllbarkeit der Transparenz bei KI‑gestützten Mental-Health-Apps zurück, welcher in DSRITB 2024, S. 625 ff. veröffentlicht und von der Verfasserin für diesen Beitrag fortentwickelt worden ist.