Masterand:in - Design of Explanation Interfaces in AI in Healthcare(m/w/x)

## Masterand (all genders) - Design of Explanation Interfaces in AI in Healthcare ###### Intern / Student, Full or part-time ·Augsburg,Krumbach, Berlin, Ingolstadt, Erlangen, Leipzig, Münster, München, Karlsruhe, Ulm --- ##### Das ist die Herausforderung Die Integration von **auf künstlicher Intelligenz (KI) basierenden Entscheidungsunterstützungssystemen (DSS)** in das klinische Umfeld birgt ein erhebliches Potenzial für die Unterstützung komplexer Entscheidungsprozesse und die Verbesserung der Versorgung von Patient\*innen. Trotz ihres Potenzials ist die praktische Umsetzung solcher KI-Systeme aufgrund der Zurückhaltung der Kliniker, die oft auf einen Mangel an Akzeptanz und Vertrauen zurückzuführen ist, begrenzt. Der **Einsatz von Methoden der erklärbaren KI (Explainable AI, XAI)** kann ein großartiges Werkzeug sein, um die „Blackbox“ zu öffnen und für den Menschen verständliche Erklärungen zu liefern. Geeignete **Visualisierungen von Erklärungen** sind entscheidend, um die Verständlichkeit zu verbessern und so das Vertrauen, die Transparenz und die menschliche Kontrolle in KI-basierten DSS zu fördern. Insbesondere für komplexe Datenformate wie multivariate Zeitreihen, sind die Erklärungen meist anspruchsvoll in der Visualisierung. ##### Diese Aufgaben interessieren Dich * Du **recherchierst** verschiedene aktuelle **Konzepte zur Visualisierung von Erklärungen von KI-Prognosen** (XUI - Explanation User Interface). * Du führst die **unterschiedlichen Anforderungen** des klinischen Personals, der Endanwender\*innen sowie der Softwareentwickler\*innen **in innovativen funktionalen Konzepten** zusammen. * Du wirst in der Literatur **etablierte Design-Konzepte evaluieren** und neue **Design-Konzepte erstellen**, um Erklärungen für KI-Vorhersagen zu visualisieren. * Du wirst **User Testings** an klinischem Personal **durchführen** und gemeinsam mit KI-Forscher\*innen **menschenzentrierte KI im Krankenhaus etablieren**. * Du erkundest gerne **neue gestalterische, technologische und gesellschaftliche Themenwelten**, hast Freude an technisch gelagerten Fragestellungen und gestaltest die Prozesse in Deinem Umfeld aktiv mit. * Abhängig von deinen Interessen und Fähigkeiten nimmst du die Ausrichtung deiner Arbeit selbst in die Hand. ##### Das zeichnet Dich aus * Du studierst **Kommunikationsdesign, Interaktive Medien** oder einen ähnlichen Studiengang. * Du interessierst Dich für die **Bereiche Informationsdesign, Visualisierung von Daten** und **Usability Design**. * Du scheust nicht vor **technischen Diskussionen** in den Bereichen **Data Science und KI**. * Du **arbeitest selbstständig und selbstorganisiert** und bringst dich proaktiv im Team ein. ##### Das bieten wir Dir **Vertrauensvolle Arbeitsatmosphäre** * Offene, partnerschaftlich geprägte Unternehmenskultur * Flache Hierarchien * Großer Gestaltungsspielraum **Spannende und vielseitige Projekte** * Hochkomplexe Aufgabenstellungen * Unterschiedliche und hochtechnisierte Branchen * Anspruchsvolle und namhafte Kunden **Inspirierende Expertenkultur** * Interdisziplinäre Teams auf Augenhöhe * Wissensaustausch zwischen individuellen Expert\*innen * Entscheidungen werden im Team gefällt **Persönliche Weiterentwicklung** * Arbeit mit neuesten Technologien * Interne Tech Talks, externe Fortbildungen und Konferenzen * Mentoring-Programm mit regelmäßigem Feedback **Familien­freundlichkeit** * Verschiedene Modelle zur Vereinbarung von Familie und Beruf * Flexibilität bei Arbeitszeiten * Beteiligung an Kosten für Kinderbetreuung **Diversität** * Wir heißen Vielfalt willkommen * Wir setzen uns ein für Lebensgeschichten-, Generationen- und Geschlechter­gerechtigkeit ##### That is your challenge The **integration of Artificial Intelligence (AI) based decision support systems (DSS)** into **clinical settings** holds considerable promise for aiding complex decision-making and enhancing patient care. Despite their potential, the practical implementation of such AI systems has been limited due to clinicians’ caution, often attributed to a lack of acceptance and trust. **Utilizing Explainable AI (XAI) methods** can be a great tool to open the “black-box” and provide human-understandable explanations. Finding **appropriate visualizations of explanations** will be pivotal to enhance the understandability and thus fostering trust, transparency and human-oversight in AI-based DSS. ##### These tasks interest you * You will **research** various current **concepts for visualizing explanations of AI predictions** (XUI - Explanation User Interface). * You will bring together the different **requirements** of clinical staff, end users and software developers **in innovative functional concepts**. * You will **evaluate established design concepts** in literature and **create new design concepts** to visualize explanations for AI predictions. * You will **conduct user testing** on clinical staff and work with AI researchers to **establish human-centered AI in hospitals**. * You like to **explore new creative, technological and social topics**, enjoy technical issues and actively shape the processes in your environment. * Depending on your interests and abilities, you choose the direction of your work. ##### That makes you stand out * You are **studying communication design, interactive media** or a similar course. * You are **interested in the fields of information design, data visualization** and **usability design**. * You don't shy away from **technical discussions about data science and AI**. * You work **independently** and in a **self-organized manner**, and you proactively contribute to the team.