Cómo generar confianza cuando el fracaso no es una opción: la robótica, la inteligencia artificial y el futuro del diseño médico

A medida que la inteligencia artificial y la robótica ganan en autonomía, surge un nuevo reto de diseño: ¿cómo generar confianza cuando los usuarios ya no sienten que tienen el control total? A medida que los productos pasan de ser objetos estáticos a sistemas autónomos impulsados por la inteligencia artificial, el diseño asume una nueva responsabilidad. Ya no se limita a dar forma a la experiencia, sino que influye en la seguridad, la percepción y las decisiones que toman las personas. En este nuevo panorama, la confianza se perfila como uno de los retos más importantes del diseño.

Esta cuestión fue el tema central de una conversación reciente celebrada en San Francisco, organizada por iF Design USA y Whipsaw, ganador en múltiples ocasiones del iF DESIGN AWARD.

Dan Harden, de Whipsaw, y Ryan Williams, de Intuitive —ganadora en tres ocasiones del iF DESIGN AWARD —, analizaron qué se necesita realmente para generar confianza, especialmente en entornos en los que el fracaso no es una opción. ¡Lee a continuación un breve resumen de las ideas que se debatieron en el evento!

La confianza no es una idea abstracta, sino que debe integrarse en cada detalle. Se materializa a través de la forma, el comportamiento y la interacción. Las proporciones, el movimiento, los materiales y la capacidad de respuesta se convierten en señales sutiles que los usuarios interpretan instintivamente. En el momento en que un sistema empieza a actuar —especialmente de forma autónoma—, las personas comienzan a interpretar sus intenciones, e incluso su personalidad. De repente, cada decisión de diseño cobra mayor importancia.

En Intuitive Surgical, donde Ryan Williams dirige el departamento de Diseño de Interacción con el Producto, este principio está arraigado en lo más profundo. Los robots quirúrgicos de la empresa se basan en una premisa sencilla pero poderosa: el paciente podrías ser tú… o alguien a quien quieres. Esta mentalidad lo cambia todo. Crea una cultura de diseño caracterizada por largos ciclos de desarrollo, simulaciones constantes, una normativa estricta y un enfoque implacable en la simplificación.

El nivel de rigor es impresionante: el sistema quirúrgico da Vinci 5 de Intuitive Surgical, por ejemplo, tardó más de una década en desarrollarse. En este contexto, la confianza no proviene de una estética expresiva ni de un carácter visual marcado. Surge de algo más discreto y mucho más exigente: precisión, fiabilidad, coherencia y un funcionamiento impecable durante su uso. Como dice Ryan Williams: «Intentamos no entrometernos, para que el cirujano pueda centrarse por completo en la intervención». En el mejor de los casos, el diseño casi desaparece. El sistema resulta tan natural, tan predecible, que se convierte en una extensión de la capacidad humana y no en algo que haya que manejar, sino en algo que simplemente funciona.

Diseñar más allá del producto: la confianza como experiencia sistémica

La confianza no surge en un solo instante, sino que se construye con el tiempo en todo un ecosistema. Desde la incorporación hasta el servicio e incluso la recuperación tras un fallo, cada punto de contacto es importante. Como señala Ryan Williams, incluso los errores pueden preservar la confianza si las respuestas son transparentes, competentes y tranquilizadoras, especialmente en ámbitos como la movilidad autónoma.

Esto refleja un cambio más amplio: los productos ya no son objetos aislados, sino sistemas conectados que evolucionan con el tiempo. Para los diseñadores en los ámbitos médico y del bienestar, la responsabilidad va mucho más allá del dispositivo e incluye la incorporación, el uso en tiempo real, la retroalimentación y la recuperación. En entornos de alto riesgo, la simplicidad es más que un objetivo de usabilidad: es un requisito de seguridad. El debate vuelve una y otra vez al mismo principio: los sistemas complejos deben parecer sencillos, incluso cuando son tecnológicamente avanzados.

Confianza, escepticismo y el valor de la fricción

Los ponentes cuestionan la idea de maximizar la confianza y proponen, en su lugar, una «desconfianza productiva». Para Dan Harden, la duda conduce a mejores resultados, especialmente en sistemas críticos para la seguridad. Un exceso de confianza genera complacencia; una fricción cuidadosamente diseñada mantiene a los usuarios alerta y favorece la toma de mejores decisiones. La confianza, por tanto, no consiste en eliminar la duda, sino en calibrarla. Ryan Williams señala incluso: «Cuando la imagen de marca, las expectativas y las capacidades reales del sistema dejan de estar sincronizadas, la confianza no solo se desvanece, sino que puede convertirse en un riesgo».

El reto del futuro: la confianza en los sistemas autónomos

Una idea resonó a lo largo de todo el debate: la confianza no surge simplemente de un buen diseño, sino que debe crearse de forma intencionada. Para Dan Harden, esto supone un cambio fundamental: «La confianza no proviene únicamente de la tecnología. Proviene de cómo se comporta un sistema: de la sensación de tranquilidad que transmite, de lo predecible que es y de si las personas perciben que se ha diseñado teniendo en cuenta las necesidades humanas».

Los «sistemas» del futuro pueden requerir nuevas formas de ejercer el control —no a través de interruptores y menús, sino mediante interacciones más intuitivas y basadas en el comportamiento, como gestos o comandos sensibles al contexto—.

Los sistemas inteligentes deben convertirse en participantes receptivos en el espacio compartido, no solo en herramientas que hay que manejar. Esto apunta a una nueva frontera para el diseño: una en la que la confianza ya no se construye únicamente a través de los objetos, sino a través de relaciones continuas entre los seres humanos y los sistemas inteligentes.