실패가 허용되지 않는 시대의 신뢰 설계: 로보틱스, AI 그리고 의료 디자인의 미래

AI와 로보틱스가 더욱 자율적으로 진화하면서 새로운 디자인 과제가 부상하고 있습니다. 사용자가 더 이상 완전한 통제권을 갖고 있다고 느끼지 않을 때, 어떻게 신뢰를 설계할 수 있을까요? 제품이 정적인 사물에서 AI 기반 자율 시스템으로 변화함에 따라, 디자인은 새로운 책임을 맡게 되었습니다. 이제 디자인은 단순히 경험을 형성하는 데 그치지 않고 안전, 인식, 그리고 인간의 의사결정까지 영향을 미칩니다. 이러한 새로운 환경에서 신뢰는 디자인이 해결해야 할 가장 중요한 과제 중 하나로 떠오르고 있습니다.

이 질문은 최근 샌프란시스코에서 열린 iF 디자인 USA와 다수의 iF 디자인 어워드 수상 기업인 Whipsaw의 대화에서도 핵심 주제였습니다.

WHIPSAW의 Dan Harden과 iF 디자인 어워드를 세 차례 수상한 Intuitive의 Ryan Williams는 특히 실패가 용납되지 않는 환경에서 신뢰를 구축하기 위해 무엇이 필요한지에 대해 논의했습니다. 행사에서 다뤄진 주요 내용을 아래에서 확인해 보세요!

신뢰는 추상적인 개념이 아닙니다. 신뢰는 모든 세부 요소에 설계되어야 합니다. 형태, 작동 방식, 상호작용을 통해 구체적으로 드러나며 비율, 움직임, 소재, 반응성은 사용자가 본능적으로 읽어내는 신호가 됩니다. 특히 시스템이 자율적으로 작동하기 시작하면, 사람들은 그 안에서 의도와 심지어 개성까지 해석하기 시작합니다. 그만큼 모든 디자인 결정의 중요성이 커집니다.

Ryan Williams가 제품 인터랙션 디자인을 총괄하는 Intuitive Surgical에서는 이러한 원칙이 제품 개발 전반에 깊이 뿌리내려 있습니다. 이 회사의 수술용 로봇은 하나의 단순하지만 강력한 전제를 기반으로 합니다. “환자는 바로 여러분 자신일 수도 있고, 여러분이 사랑하는 사람일 수도 있다.” 이러한 사고방식은 모든 것을 바꿉니다. 긴 개발 주기, 끊임없는 시뮬레이션, 엄격한 규제 대응, 그리고 복잡성을 줄이기 위한 집요한 노력으로 이어집니다.

그 엄격함의 수준은 놀라울 정도입니다. 대표적으로 Intuitive Surgical의 da Vinci 5 수술 시스템은 개발에만 10년 이상의 시간이 소요되었습니다. 이처럼 신뢰가 중요한 환경에서는 강렬한 미적 표현이나 독창적인 시각적 개성이 아닌, 정밀성·신뢰성·일관성·매끄러운 성능이 신뢰의 기반이 됩니다. Ryan Williams는 “우리는 외과의사가 수술 자체에만 집중할 수 있도록 시스템이 전면에 드러나지 않도록 노력합니다”라고 설명합니다. 최상의 디자인은 거의 존재감을 드러내지 않습니다. 시스템은 너무도 자연스럽고 예측 가능해서 사용자가 관리해야 하는 대상이 아니라 인간 능력의 연장선처럼 느껴집니다.

제품을 넘어선 설계: 시스템 경험으로서의 신뢰

신뢰는 단 한 순간에 형성되지 않습니다. 전체 생태계에 걸쳐 시간이 지남에 따라 쌓여가는 것입니다. 온보딩부터 서비스, 심지어 장애 복구 과정에 이르기까지 모든 접점이 중요합니다. Ryan Williams는 자율주행과 같은 분야를 예로 들며, 오류가 발생하더라도 대응이 투명하고 전문적이며 신뢰감을 준다면 오히려 신뢰를 유지할 수 있다고 설명합니다.

이는 더 큰 변화의 흐름을 보여줍니다. 오늘날 제품은 더 이상 독립적인 사물이 아니라 시간에 따라 진화하는 연결된 시스템입니다. 의료 및 웰니스 분야의 디자이너에게 책임은 기기 자체에만 머물지 않습니다. 온보딩, 실시간 사용 경험, 피드백, 그리고 복구 과정까지 모두 포함됩니다.
이러한 고위험 환경에서는 단순함이 단순한 사용성 목표가 아니라 안전을 위한 필수 조건입니다. 논의는 끊임없이 같은 원칙으로 돌아갑니다. 복잡한 시스템일수록 사용 경험은 단순해야 한다는 것입니다.

신뢰, 회의적 시각, 그리고 적절한 마찰의 가치

두 연사는 신뢰를 무조건 극대화해야 한다는 생각에 의문을 제기하며, 대신 '생산적인 불신(Productive Distrust)'이라는 개념을 제안합니다. Dan Harden은 특히 안전이 중요한 시스템에서 적절한 의심이 더 나은 결과를 만들어낸다고 말합니다. 지나친 신뢰는 방심을 낳지만, 의도적으로 설계된 적절한 마찰은 사용자의 경각심을 유지하고 더 나은 판단을 돕습니다. 결국 신뢰란 의심을 완전히 제거하는 것이 아니라 적절히 조정하는 과정입니다. Ryan Williams 역시 다음과 같이 강조합니다. "브랜드가 전달하는 메시지, 사용자의 기대, 실제 시스템의 역량이 서로 일치하지 않을 경우 신뢰는 단순히 실패하는 것이 아니라 위험으로 이어질 수 있습니다."

미래의 과제: 자율 시스템에 대한 신뢰

이번 논의에서 반복적으로 등장한 메시지는 하나였습니다. 신뢰는 좋은 디자인의 결과로 자연스럽게 생겨나는 것이 아니라 의도적으로 만들어져야 한다는 점입니다. Dan Harden은 이를 디자인의 근본적인 변화로 바라봅니다. "신뢰는 기술 자체에서 비롯되는 것이 아닙니다. 시스템이 어떻게 행동하는지, 얼마나 차분하게 느껴지는지, 얼마나 예측 가능한지, 그리고 인간 중심으로 설계되었다고 느껴지는지에 달려 있습니다."

미래의 '시스템'은 스위치나 메뉴가 아닌, 제스처나 상황 인식 명령과 같은 더 직관적이고 행동 중심의 상호작용을 통해 통제권을 행사하는 새로운 방식을 필요로 할지도 모릅니다.

지능형 시스템은 단순히 조작하는 도구가 아니라, '같은 공간을 공유하며 상호작용하는 반응형 참여자'가 되어야 합니다. 이는 디자인의 새로운 영역을 예고합니다. 앞으로의 신뢰는 더 이상 제품이라는 물리적 객체만을 통해 구축되지 않습니다. 인간과 지능형 시스템 사이에 형성되는 지속적인 관계 속에서 만들어질 것입니다.