Il Co-Design nell’Innovazione Sanitaria: Progettare l’Intelligenza Artificiale Insieme a Pazienti e Famiglie (Italian/English)

Intervista con l’esperto di co-design

Mi chiamo Tommaso Turchi e sono Ricercatore presso l’Università di Pisa, dove mi occupo di Interazione Umano-Macchina e Intelligenza Artificiale “Human-centered”, spiegherò meglio che cosa significa. Ho conseguito un dottorato in Human-Machine Interaction alla Brunel University di Londra, e ho lavorato come UX Lead presso Thinking Additive e 19.Studio. Attualmente sono coinvolto in vari progetti di ricerca con particolare attenzione al settore sanitario.

La mia ricerca si concentra sulla domanda: come possiamo progettare sistemi di Intelligenza Artificiale che siano davvero al servizio delle persone? In tutti i miei progetti applico un approccio di “co-design”.

1.    Che cos’è il co-design e come si differenzia dal design tradizionale?

Il co-design è un modo diverso di pensare all’innovazione, dove coloro che usano la soluzione non sono semplici “utenti finali”, ma prendono parte anche alla creazione di quella soluzione, dalla prima idea fino all’implementazione. In inglese vengono chiamati “stakeholder” (letteralmente “portatori d’interesse”) perché hanno un ruolo decisionale importante.

La distinzione tra “stakeholder” e “utenti” rappresenta un cambio di prospettiva fondamentale. Prendiamo l’esempio di un sistema di gestione clinica usato solo dai medici: chi sono gli stakeholder? Certo, i medici che lo useranno direttamente, ma anche i pazienti e le loro famiglie, perché quel sistema avrà un impatto sulla gestione delle cure che riceveranno, sui tempi di attesa, sulla comunicazione con i clinici.

Il co-design si basa su quattro principi:

-       uguaglianza (tutte le parti contano allo stesso modo),

-       collaborazione (non solo raccogliere feedback),

-       ownership condivisa (tutti si sentono proprietari della soluzione),

-       processo iterativo (miglioramento continuo attraverso cicli di feedback).

Per capire cosa rende il co-design diverso, confrontiamolo con altri approcci. Nel design tradizionale, gli esperti progettano per gli utenti. Nel design “user-centered”, gli esperti progettano sulla base di input dagli utenti, ma mantengono il controllo. Nel “participatory design”, utenti e designer collaborano, ma i designer guidano ancora la direzione.

Il co-design va oltre: tutti gli stakeholder contribuiscono a disegnare la soluzione con uguale importanza decisionale.

Facciamo un esempio di co-design vicino ad AINCP: se vogliamo progettare un’app per il monitoraggio della riabilitazione domiciliare, clinici, famiglie e bambini con paralisi cerebrale lavorano insieme fin dall’inizio per definire cosa monitorare, come raccogliere i dati, come visualizzarli, come integrarli nelle routine quotidiane. Nel design tradizionale, le famiglie e i bambini verrebbero coinvolti soltanto nella fase finale di test, dopo che un team di ingegneri ha creato l’app, basandosi su linee guida fornite dai clinici e buone pratiche.

2.    Quali metodologie sono più adatte al mondo sanitario?

Nel corso degli ultimi 15 anni sono state sviluppate diverse metodologie per guidare processi di co-design.

1)    Il Double Diamond, proposto dal UK Design Council, struttura il processo in quattro fasi (Discover, Define, Develop, Deliver) alternando momenti di divergenza, quando si esplorano possibilità, e convergenza, quando si sceglie una direzione. È molto visuale e intuitivo.

2)    Il Design Thinking, reso popolare da IDEO e Stanford, enfatizza l’empatia come punto di partenza: prima di progettare qualsiasi cosa, bisogna davvero capire le persone per cui si sta progettando. Poi si passa alla definizione del problema, all’ideazione, alla prototipazione rapida e al testing iterativo.

3)    Nel contesto sanitario britannico è stato sviluppato l’Experience-Based Co-Design, che pone al centro le esperienze vissute di pazienti e staff attraverso “journey mapping” e “video-narrative”. È particolarmente efficace per ottimizzare servizi esistenti, ma meno adatto per tecnologie completamente nuove.

Per il settore sanitario, e in particolare per tecnologie emergenti come l’IA, ritengo cruciale un approccio che aiuti le persone a immaginare qualcosa che non esiste ancora. È qui che metodologie come “MiniCoDe”, che combinano co-design e “Design Fiction”, diventano particolarmente utili.

3.    Ci spieghi l’approccio usato per il progetto AInCP? “MiniCoDe” e “Design Fiction”?

Per il lavoro con AInCP stiamo utilizzando MiniCoDe (sta per “Minimise Algorithmic Bias in Collaborative Decision Making with Design Fiction”), una metodologia che abbiamo sviluppato nel gruppo di ricerca Data Driven Design Laboratory dell’Università di Pisa. Questo approccio combina il co-design con la Design Fiction, ed è stato pensato specificamente per tecnologie emergenti come l’IA.

Il problema con le tecnologie emergenti è che le persone fanno fatica a immaginarle. Se chiedo a delle famiglie di bambini con paralisi cerebrale di co-progettare un sistema di IA per la riabilitazione domiciliare, da dove iniziamo? Come possiamo immaginare qualcosa che non esiste ancora? È qui che entra in gioco la cosiddetta “Design Fiction”: creiamo delle storie che rendono tangibile qualcosa di astratto (come abbiamo fatto con questo video).

MiniCoDe consiste in quattro fasi:

-       Preparazione: creiamo una storia che permetta di immaginare la nuova tecnologia in modo concreto, secondo un disegno inventato (la tecnologia non è stata ancora progettata, perciò “Fiction”).

-       Ideazione: attraverso il “journey mapping”, i partecipanti identificano sfide e bisogni nelle loro esperienze quotidiane.

-       Raffinamento: esploriamo come la tecnologia potrebbe aiutare, analizzando benefici e preoccupazioni, spesso usando carte di principi etici per guidare la riflessione.

-       Riflessione: le famiglie presentano i concetti sviluppati e li esaminano criticamente insieme.

Abbiamo condotto due workshop di co-design con due gruppi di stakeholder molto diversi: clinici da un lato, famiglie di bambini con paralisi cerebrale dall’altro. È stato interessante vedere come le loro prospettive fossero diverse, ma complementari.

I clinici si sono concentrati molto sui flussi di lavoro clinici e sul supporto decisionale. Una frase che mi è rimasta impressa: “L’IA dovrebbe integrare i dati clinici per aumentare il tempo di interazione paziente-medico”. Non per sostituire quell’interazione, ma per liberare tempo da compiti amministrativi e favorire minori attese per i pazienti.

Le famiglie, d’altra parte, hanno posto l’accento sull’integrazione nella vita quotidiana e sulla flessibilità: un sistema di IA può adattarsi alle routine familiari diverse, che cambiano giorno per giorno? Può rispettare i ritmi di un bambino se qualche giorno è più stanco? C’era anche una tensione interessante tra il desiderio di potenziare l’autonomia del bambino e la necessità di mantenere una supervisione genitoriale.

Ma al di là delle differenze, emerge un terreno comune forte: l’IA deve aumentare le relazioni umane, non sostituirle. Deve essere flessibile e adattarsi ai contesti, non imporre un modo standard di fare le cose. E le questioni etiche – come privacy, trasparenza, possibilità di bias algoritmici - sono preoccupazioni condivise da tutti.

Per il progetto AINCP abbiamo così concluso solo la prima fase di analisi dei requisiti attraverso i workshop MiniCoDe. Ora stiamo procedendo a individuare le soluzioni concrete, sempre insieme a famiglie e clinici, soluzioni che verranno testate e raffinate con regolarità (attraverso cicli iterativi).

4.    Che cosa vuol dire progettare verso un’IA “Human-Centered”?

Con IA “Human-Centered” si intende un’intelligenza artificiale che sia al servizio delle persone. Rimanendo nel contesto sanitario, l’Intelligenza Artificiale ha un potenziale enorme per migliorare diagnosi e trattamento della paralisi cerebrale. L’IA può aiutare nella diagnosi precoce, nella personalizzazione dei programmi riabilitativi, nel monitorare i progressi e supportare le decisioni cliniche. Per realizzare questo potenziale, progettare l’IA insieme alle persone che la useranno è cruciale.

Come già accennato, il co-design non è una fase che si completa e poi si archivia, ma è un processo iterativo, un impegno continuo verso la collaborazione, l’ascolto, il miglioramento della soluzione durante l’intera progettazione. Il co-design riconosce che l’expertise non risiede solo nei laboratori di ricerca, ma anche nelle corsie degli ospedali, nelle case delle famiglie, nelle esperienze vissute di chi ogni giorno si confronta con la paralisi cerebrale.

Il co-design è un processo impegnativo con enormi vantaggi per creare tecnologie validate da tutte le parti interessate e perciò davvero al servizio delle persone.

Grazie Tommaso, per il tempo che ci hai dedicato e a presto!

L’elenco aggiornato delle pubblicazioni scientifiche AINCP si può consultare alla pagina Project.

——— 

English Translation

Co-Design in Healthcare Innovation: Designing Artificial Intelligence Together with Patients and Families

Interview with the co-design expert

My name is Tommaso Turchi and I am a Researcher at the University of Pisa, where I work on Human-Machine Interaction and Human-Centered Artificial Intelligence. I will explain what this means. I earned a PhD in Human-Machine Interaction from Brunel University London and worked as a UX Lead at Thinking Additive and 19.Studio. I am currently involved in various research projects with a focus on the healthcare sector.

My research focuses on the question: how can we design Artificial Intelligence systems that truly serve people? I apply a co-design approach to all my projects.

1.    What is co-design and how does it differ from traditional design?

Co-design is a different way of thinking about innovation, where those who use the solution aren't simply "end users" but also participate in its creation, from the initial idea to implementation. They are the "stakeholders" and they have a significant decision-making role.

The distinction between "stakeholders" and "users" represents a fundamental shift in perspective. Let's take the example of a clinical management system used only by doctors: who are the stakeholders? Of course, the doctors who will use it directly, but also patients and their families, because that system will impact the management of their care, waiting times, and communication with clinicians.

Co-design is based on four principles:

- equality (all parties count equally),

- collaboration (not just collecting feedback),

- shared ownership (everyone feels ownership of the solution),

- iterative process (continuous improvement through feedback loops).

To understand what makes co-design different, let's compare it with other approaches. In traditional design, experts design for users. In user-centered design, experts design based on user input but they retain the control. In participatory design, users and designers collaborate, but the designers still lead the way.

Co-design goes further: all stakeholders contribute to designing the solution with equal decision-making power.

Let's take an example of co-design close to AINCP: if we want to design one app for monitoring home based rehabilitation: clinicians, families, and children with cerebral palsy work together from the beginning to define what to monitor, how to collect data, how to display it, and how to integrate it into daily routines. In traditional design, families and children would only be involved in the final testing phase, after a team of engineers has created the app based on clinician-provided guidelines and best practices.

2.    What methodologies are best suited to the healthcare world?

Over the past 15 years, several methodologies have been developed to guide co-design processes.

1) The Double Diamond, proposed by the UK Design Council, structures the process into four phases (Discover, Define, Develop, Deliver), alternating moments of divergence, when possibilities are explored, and convergence, when a direction is chosen. It is highly visual and intuitive.

2) Design Thinking, popularized by IDEO and Stanford, emphasizes empathy as a starting point: before designing anything, you must truly understand the people you are designing for. Then you move on to problem definition, ideation, rapid prototyping, and iterative testing.

3) Experience-Based Co-Design has been developed in the British healthcare context: it focuses on the lived experiences of patients and staff through journey mapping and video narratives. It is particularly effective for optimizing existing services, but less suitable for entirely new technologies.

For the healthcare sector, and especially for emerging technologies like AI, I believe an approach that helps people imagine something that doesn't yet exist is crucial. This is where methodologies like "MiniCoDe," which combine co-design and "Design Fiction," become particularly useful.

3.    Can you explain the approach used for the AInCP project? "MiniCoDe" and "Design Fiction"?

For our work with AInCP, we are using MiniCoDe (short for "Minimise Algorithmic Bias in Collaborative Decision Making with Design Fiction"), a methodology we developed in the Data Driven Design Laboratory research group from the University of Pisa. This approach combines co-design with Design Fiction and was specifically designed for emerging technologies like AI.

The problem with emerging technologies is that people struggle to imagine them. If I ask families of children with cerebral palsy, to co-design an AI system for home based rehabilitation, where do we start from? How can we imagine something that doesn't exist yet? This is where "Design Fiction" comes in: we create stories that make something abstract tangible (as we did with this video).

MiniCoDe consists of four phases:

- Preparation: We create a story that allows us to imagine the new technology in a concrete way, according to an invented design (the technology hasn't been designed yet, hence "Fiction").

- Ideation: Through "journey mapping," participants identify challenges and needs in their daily experiences.

- Refinement: We explore how the technology could help, analyzing benefits and concerns, often using ethical principles cards to guide reflection.

- Reflection: Families present the concepts developed and critically examine them together.

We conducted two co-design workshops with two very different stakeholder groups: clinicians on one side, and families of children with cerebral palsy on the other. It was interesting to see how their perspectives were different, yet complementary.

Clinicians focused heavily on clinical workflows and decision support. One phrase that stuck with me: "AI should integrate clinical data to increase patient-doctor interaction time." Not to replace that interaction, but to free up time from administrative tasks and promote shorter waits for patients.

Families, on the other hand, emphasized integration into daily life and flexibility: can an AI system adapt to different family routines, which change day by day? Can it respect a child's rhythms if he or she is more tired on certain days? There was also an interesting tension between the desire to enhance the child's autonomy and the need to maintain parental supervision.

But beyond the differences, a strong common ground emerges: AI must augment human relationships, not replace them. It must be flexible and adapt to contexts, not impose a standard way of doing things. And ethical issues—such as privacy, transparency, the possibility of algorithmic bias—are concerns shared by all.

For the AINCP project, we have only completed the first phase of requirements analysis through the MiniCoDe workshops. We are now moving forward to identify concrete solutions, always working with families and clinicians. These solutions will be tested and refined regularly (through iterative cycles).

4.    What does it mean to design toward "Human-Centered" AI?

"Human-Centered" AI refers to artificial intelligence that serves people. Remaining in the healthcare context, Artificial Intelligence has enormous potential to improve the diagnosis and treatment of cerebral palsy. AI can aid in early diagnosis, personalize rehabilitation programs, monitor progress, and support clinical decisions. To realize this potential, designing AI together with the people who will use it is crucial.

As already mentioned, co-design is not a phase that is completed and then archived, but rather an iterative process, a continuous commitment to collaboration, listening, and improving the solution throughout the entire design process. Co-design recognizes that expertise lies not only in research laboratories, but also in hospital wards, in families' homes, and in the lived experiences of those who deal with cerebral palsy every day.

Co-design is a challenging process with enormous benefits for creating technologies validated by all stakeholders and therefore truly serving people.

Thank you, Tommaso, for your time, and see you soon!

The updated list of AINCP scientific publications can be found at Project.