Laboratoire d'innovation responsable de Cognitai
Manifeste pour une innovation responsable en santé mentale
Une déclaration publique de principes de Cognitai
La santé mentale est profondément humaine.
Elle repose sur la confiance, le jugement clinique, le lien humain et une compréhension qui se construit dans le temps.
L'intelligence artificielle et les technologies émergentes façonnent de plus en plus la santé mentale. La question n'est plus simplement de savoir si la technologie influencera le soin. La question est de savoir si nous la façonnerons de façon responsable, avant que des normes faibles et des pratiques néfastes ne deviennent difficiles à renverser.
Chez Cognitai, notre direction est claire :
Maximiser la continuité, la précision et la personnalisation en santé mentale tout en minimisant la charge de travail des cliniciens.
La technologie peut aider à organiser de l'information significative dans le temps, à soutenir des processus thérapeutiques mieux informés et à préserver une plus grande part de l'attention du clinicien pour le client.
Mais ces mêmes technologies comportent des risques sérieux lorsqu'elles sont conçues ou déployées sans garde-fous véritables.
La santé mentale ne peut devenir un espace de suralgorithmisation, de systèmes opaques, de manipulation comportementale, de pseudo-thérapie ou de technologies qui érodent discrètement le raisonnement clinique, la vie privée, l'autonomie, l'équité et la confiance humaine.
Le clinicien doit demeurer au centre du soin.
La technologie doit renforcer la réflexion clinique, jamais la remplacer.
La technologie doit soutenir le processus thérapeutique, jamais s'y substituer.
Parce que la façon dont la technologie est conçue façonne les comportements. Elle façonne la confiance. Elle façonne les décisions.
La santé mentale ne peut être réduite à des transcriptions, à des scores, à des résultats automatisés ou à des mesures d'engagement détachées du contexte humain.
Ce que les cliniciens observent compte. Ce que les clients vivent compte. L'explicabilité compte. La traçabilité compte. Le jugement humain compte.
Le Canada se trouve à un moment charnière. Sans action délibérée et coordonnée, nous risquons d'adopter des systèmes et des normes qui ne reflètent pas les attentes canadiennes en matière de vie privée, d'équité, de gouvernance, de responsabilité professionnelle et de soin.
L'innovation responsable exige plus que des listes de conformité et des avis juridiques.
La vie privée doit être fondamentale. Le consentement doit être véritable. La transparence doit être la norme par défaut.
Les technologies qui influencent le soin doivent être soumises à une gouvernance, à une supervision et à une reddition de comptes véritables.
Chez Cognitai, ces principes guident la façon dont nous concevons, évaluons et communiquons notre travail.
Nous nous y engageons et invitons les autres à les examiner, à les remettre en question et à les renforcer.
1. Un soin centré sur l'humain
La santé mentale doit demeurer profondément humaine, ancrée dans la confiance, le lien, la dignité, l'expérience vécue et le respect de la personne qui reçoit le soin.
La technologie devrait soutenir la compréhension humaine, et non réduire une personne à des données, à des étiquettes, à des scores ou à des moments isolés.
2. Un soin sous contrôle clinicien
Le clinicien doit demeurer le décideur à chaque étape du soin.
La technologie devrait renforcer le jugement clinique, le raisonnement clinique, la continuité du soin et la relation thérapeutique. Elle ne doit pas poser de diagnostic de façon autonome, prendre des décisions de traitement ni se substituer à la responsabilité professionnelle.
3. Une utilisation responsable de la technologie
L'innovation devrait soutenir un soin mieux informé tout en protégeant contre le préjudice, la manipulation, la suralgorithmisation et l'érosion de la confiance.
L'existence d'une capacité technique ne justifie pas, à elle seule, son utilisation en santé mentale.
4. Transparence, explicabilité et traçabilité
Les systèmes qui influencent le soin ne doivent pas être opaques.
Leurs résultats devraient être compréhensibles, révisables et traçables jusqu'à l'information qui les a façonnés. L'incertitude, les limites et la distinction entre information et interprétation devraient rester visibles.
5. Vie privée et consentement véritable
La vie privée est fondamentale.
Le consentement doit être éclairé, continu et véritablement volontaire, en particulier lorsque de l'information sensible en santé mentale peut être analysée, partagée ou utilisée à des fins de recherche ou de développement technologique.
Les personnes devraient comprendre quelle information est utilisée, pourquoi elle l'est, et quels choix demeurent sous leur contrôle.
6. Retenue responsable
Ce n'est pas parce qu'une chose peut être automatisée qu'elle devrait l'être.
La retenue responsable est une force, non une limite. Certaines décisions, certaines conversations et certaines responsabilités doivent rester humaines.
7. Innovation fondée sur les données probantes et jugement humain
Les innovations devraient être évaluées quant à leur sécurité réelle, leur utilité et leurs effets sur le bien-être humain.
Les affirmations publiques devraient refléter les données probantes disponibles. Les limites devraient être reconnues plutôt que dissimulées.
La technologie doit demeurer subordonnée au jugement clinique humain et à la responsabilité professionnelle.
8. Une gouvernance collaborative
L'innovation responsable doit être façonnée en collaboration par les cliniciens, les clients, les personnes ayant une expérience vécue, les chercheurs, les innovateurs, les décideurs publics, les éthiciens, les experts juridiques, les organisations professionnelles et les autres communautés concernées.
Aucune profession, entreprise, institution ou technologie ne devrait définir seule l'avenir de la santé mentale.
Notre engagement
L'innovation et la responsabilité ne sont pas opposées.
L'avenir de la santé mentale est trop important pour être bâti sans soin ou laissé entièrement à d'autres.
Ce manifeste exprime l'engagement de Cognitai envers une innovation responsable en santé mentale. C'est une déclaration de principes, non un programme de certification, un cadre réglementaire ou un substitut aux obligations professionnelles, éthiques ou juridiques.
Nous invitons les cliniciens, les clients, les personnes ayant une expérience vécue, les chercheurs, les ordres professionnels, les décideurs publics, les experts juridiques, les éthiciens et les leaders technologiques à s'engager avec ces principes, à les remettre en question et à contribuer au renforcement de l'innovation responsable au Canada.
Le moment d'agir est maintenant.
Joignez-vous à la conversation
- Que devrait protéger l'innovation responsable en santé mentale ?
- Que devrait-elle exiger ?
- Que devrait-elle refuser ?
Partagez votre perspective et contribuez à renforcer ces principes.
Écrire à trust@cognitai.org