Dans sa déclaration, l'EMA indique très clairement que le développement et la mise en œuvre de l'intelligence artificielle dans le domaine de la recherche en médecine nouvelle doivent être guidés par une approche centrée sur l'humain. Même si la Silicon Valley fonctionne selon la philosophie « agir vite, même au prix d’erreurs », une telle approche n’est pas acceptable.que les sociétés de biotechnologie et pharmaceutiques peuvent se permettre – dit Juliusz Krzyżanowski, chef de l'équipe de soins de santé du bureau de Varsovie de Baker McKenzie.
Un problème clé dont tout chercheur et entrepreneur utilisant des outils basés sur l’IA devrait être conscient est que la responsabilité pour d’éventuelles violations des droits de tiers, de la confidentialité ou des conséquences d’erreurs de modèle d’IA peut dans de nombreux cas incomber à l’utilisateur. Par conséquent, la diligence raisonnable avant d’utiliser un outil d’IA doit inclure une évaluation des sources et de la qualité des données utilisées pour entraîner le modèle. Des résultats incomplets, peu fiables, biaisés ou portant atteinte aux droits de tiers peuvent conduire à des résultats peu fiables et générer des risques juridiques.
La recommandation générale concernant l'utilisation des outils d'IA dans la création de nouvelles technologies et thérapies médicales est la participation des chercheurs et le contrôle à chaque étape de la création du modèle – depuis sa formation, en passant par l'assurance de la qualité des données, jusqu'à la vérification du résultat.
L'entrepreneur doit garantir des dispositions appropriées dans le contrat – garanties et assurances de la part du fournisseur concernant les droits d'utilisation des données utilisées au stade de la formation à l'outil, ainsi que la responsabilité de son fonctionnement. Si des informations sensibles sur les patients sont fournies à un système basé sur l’IA, il existe un risque d’utilisation ou de divulgation non autorisée d’informations confidentielles, et parfois également de données personnelles. Il est nécessaire de décider si le fournisseur de l’outil aura le droit de traiter ces données et de les intégrer dans son algorithme, ainsi que si leur transfert en dehors de l’entreprise est nécessaire et légal.
