Vertrauen schaffen, wenn Scheitern keine Option ist: Robotik, KI und die Zukunft des medizinischen Designs

Da KI und Robotik immer autonomer werden, rückt eine neue Herausforderung für das Design in den Fokus: Wie schafft man Vertrauen, wenn Nutzer nicht mehr das Gefühl haben, die volle Kontrolle zu haben? Da sich Produkte von statischen Objekten zu autonomen, KI-gesteuerten Systemen entwickeln, übernimmt das Design eine neue Verantwortung. Es prägt nicht mehr nur das Nutzererlebnis – es prägt auch die Sicherheit, die Wahrnehmung und die Entscheidungen, die Menschen treffen. In diesem neuen Umfeld entwickelt sich Vertrauen zu einer der entscheidenden Herausforderungen für das Design.

Diese Frage stand im Mittelpunkt einer kürzlich in San Francisco stattgefundenen Diskussion, die von iF Design USA und dem mehrfachen iF DESIGN AWARD-Gewinner Whipsaw veranstaltet wurde.

Dan Harden von Whipsaw und Ryan Williams (Intuitive, dreifacher Preisträger des iF DESIGN AWARD) untersuchten, was es wirklich braucht, um Vertrauen aufzubauen – insbesondere in Umgebungen, in denen ein Scheitern keine Option ist.

Vertrauen ist kein abstraktes Konzept – es muss in jedes Detail einfließen. Es nimmt durch Form, Verhalten und Interaktion Gestalt an. Proportionen, Bewegung, Materialien und Reaktionsfähigkeit werden zu subtilen Signalen, die Nutzer instinktiv wahrnehmen. In dem Moment, in dem ein System zu handeln beginnt – insbesondere autonom –, fangen Menschen an, Absichten und sogar Persönlichkeit zu interpretieren. Jede Designentscheidung gewinnt plötzlich an Bedeutung.

Bei Intuitive Surgical, wo Ryan Williams Product Interaction Design leitet, ist dieses Prinzip auf tiefster Ebene verankert. Die Operationsroboter des Unternehmens basieren auf einer einfachen, aber wirkungsvollen Prämisse: Der Patient könntest du sein – oder jemand, den du liebst. Diese Denkweise verändert alles. Sie schafft eine Designkultur, die durch lange Entwicklungszyklen, ständige Simulationen, strenge Vorschriften und einen unermüdlichen Fokus auf Vereinfachung geprägt ist.

Das Maß an Sorgfalt ist beeindruckend: Die Entwicklung des da Vinci 5-Chirurgiesystems von Intuitive Surgical dauerte beispielsweise über ein Jahrzehnt. In diesem Zusammenhang entsteht Vertrauen nicht durch ausdrucksstarke Ästhetik oder einen starken visuellen Charakter. Es erwächst aus etwas Unauffälligerem – und weitaus Anspruchsvollerem: Präzision, Zuverlässigkeit, Beständigkeit und nahtlose Leistung im Einsatz.Wie Ryan Williams es ausdrückt: „Wir versuchen, uns zurückzuhalten, damit sich der Chirurg voll und ganz auf den Eingriff konzentrieren kann.“ Im besten Fall tritt das Design fast in den Hintergrund. Das System fühlt sich so natürlich und so vorhersehbar an, dass es zu einer Erweiterung der menschlichen Fähigkeiten wird – nicht zu etwas, das gesteuert werden muss, sondern zu etwas, das einfach funktioniert.

Design über das Produkt hinaus: Vertrauen als Systemerlebnis

Vertrauen entsteht nicht in einem einzigen Moment – es baut sich im Laufe der Zeit über ein gesamtes Ökosystem hinweg auf. Vom Onboarding über den Service bis hin zur Fehlerbehebung zählt jeder Berührungspunkt. Wie Ryan Williams feststellt, können sogar Fehler das Vertrauen bewahren, wenn die Reaktionen transparent, kompetent und beruhigend sind – insbesondere in Bereichen wie der autonomen Mobilität.

Dies spiegelt einen umfassenderen Wandel wider: Produkte sind keine isolierten Objekte mehr, sondern vernetzte Systeme, die sich im Laufe der Zeit weiterentwickeln. Für Designer im Medizin- und Wellnessbereich reicht die Verantwortung weit über das Gerät hinaus und umfasst die Einweisung, die Nutzung in Echtzeit, das Feedback und die Fehlerbehebung. In Umgebungen mit hohem Risiko ist Einfachheit mehr als nur ein Ziel der Benutzerfreundlichkeit – sie ist eine Sicherheitsanforderung. Die Diskussion kehrt immer wieder zu demselben Grundsatz zurück: Komplexe Systeme müssen sich einfach anfühlen, auch wenn sie technologisch fortschrittlich sind.

Vertrauen, Skepsis und der Wert von Reibung

Die Referenten stellen die Idee der Maximierung von Vertrauen in Frage und schlagen stattdessen „produktives Misstrauen“ vor. Für Dan Harden führt Zweifel zu besseren Ergebnissen – insbesondere bei sicherheitskritischen Systemen. Zu viel Vertrauen führt zu Selbstzufriedenheit; sorgfältig gestaltete Reibung hält die Nutzer wachsam und unterstützt bessere Entscheidungen. Bei Vertrauen geht es also nicht darum, Zweifel zu beseitigen, sondern sie zu dosieren. Ryan Williams weist sogar darauf hin: „Wenn Markenimage, Erwartungen und tatsächliche Systemfähigkeiten nicht mehr im Einklang stehen, versagt das Vertrauen nicht nur – es kann sogar zu einem Risiko werden.“

Die Herausforderung der Zukunft: Vertrauen in autonome Systeme

Ein Gedanke zog sich wie ein roter Faden durch die Diskussion: Vertrauen entsteht nicht einfach durch gutes Design – es muss bewusst geschaffen werden. Für Dan Harden bedeutet dies einen grundlegenden Wandel: „Vertrauen entsteht nicht allein durch Technologie. Es entsteht dadurch, wie sich ein System verhält – wie beruhigend es wirkt, wie vorhersehbar es ist und ob die Menschen spüren, dass es unter Berücksichtigung menschlicher Bedürfnisse entwickelt wurde.“

Zukünftige „Systeme“ erfordern möglicherweise neue Wege der Steuerung – nicht über Schalter und Menüs, sondern durch intuitivere, verhaltensbasierte Interaktionen wie Gesten oder kontextsensitive Befehle.

Intelligente Systeme müssen zu reaktionsfähigen Akteuren im gemeinsamen Raum werden, nicht nur zu Werkzeugen, die bedient werden. Dies weist auf eine neue Dimension des Designs hin – eine, in der Vertrauen nicht mehr allein durch Objekte aufgebaut wird, sondern durch fortlaufende Beziehungen zwischen Menschen und intelligenten Systemen.