Les critères d’évaluation du mémoire de maitrise, de l’essai doctoral et de la thèse de doctorat comprennent l’aptitude et l’autonomie à la recherche, la capacité à produire des synthèses critiques, la contribution à l’avancement des connaissances. Ces exigences peuvent ne pas être satisfaites par les travaux produits à l'aide d'outils d'IA générative.

Les étudiantes et les étudiants sont responsables du contenu de leurs travaux et doivent connaitre les risques et limites de l’IA générative. Les personnes étudiantes aux cycles supérieurs qui utilisent des outils d’IA et incluent les résultats générés dans leurs recherches et leurs travaux écrits sont en fin de compte responsables du contenu présenté. Cela s'applique aux travaux soumis dans le cadre des exigences du diplôme, ainsi qu'à l'édition scientifique ou à l'utilisation de serveurs de préimpression. La communauté étudiante aux cycles supérieurs doit comprendre les termes et conditions de toute soumission de ses travaux et de tous les outils qu'elle utilise, car elle est responsable du contenu. Il est important de préciser que les étudiants et les étudiantes aux cycles supérieurs pourraient se retrouver dans une position où ils font face à des allégations de perpétuation d'informations fausses ou trompeuses, de violation des droits de propriété intellectuelle, de violation des conditions d'approbation de l'éthique de la recherche, d'autres fautes de conduite en recherche, de violation du droit à la vie privée 4 ou d'autres situations qui ont des conséquences académiques, des sanctions civiles ou pénales.

Les étudiantes et les étudiants qui veulent utiliser l'IA générative dans la rédaction de leurs travaux devraient également considérer que l'apprentissage des pratiques de rédaction scientifique disciplinaire est aussi un apprentissage clé des études supérieures. Le recours à l’IA générative pourrait freiner le développement de ces compétences rédactionnelles essentielles car celles-ci dépendent fortement de la pratique.

Des problèmes de confidentialité ont été soulevés en ce qui concerne le traitement des données fournies aux algorithmes pour former des outils d’IA générative. Pour les étudiantes et étudiants aux cycles supérieurs travaillant avec certains types de données, l’utilisation d’outils d’IA générative pour traiter les données peut entraîner des risques supplémentaires en matière de confidentialité et de sécurité. Par exemple, la personne étudiante travaillant avec des données provenant de participants humains à une recherche ne doit soumettre aucune information personnelle ou d'identification sur les participantes et participants, ni aucune information qui pourrait être utilisée pour identifier un individu ou un groupe à des outils d'IA générative. Ces données pourraient alors devenir accessibles à d’autres, ce qui constitue une atteinte majeure à la vie privée des participantes et participants à la recherche. De même, ceux et celles travaillant avec d'autres types d'informations confidentielles, telles que des informations divulguées dans le cadre d'un partenariat industriel ou autre, ne doivent pas soumettre ces données à des outils d'IA générative sans l’approbation du partenaire, car cela pourrait enfreindre les conditions de non-divulgation d'un accord. Les étudiantes et les étudiants souhaitant utiliser des outils d'IA générative pour traiter de telles données doivent disposer des autorisations appropriées documentées pour le faire, par exemple l'approbation explicite du comité d'éthique de la recherche et des partenaires impliqués. Il est conseillé aux étudiantes et étudiants de demander de l’aide pour évaluer le risque avant de s’engager dans tout traitement de données ou d’informations avec des outils d’IA. De plus, le sort des données fournies aux outils d’IA générative n’est pas toujours connu.

L’IA générative peut produire du contenu totalement inexact (fictif) ou biaisé. Lorsque les sources accessibles à l’IA générative sont incomplètes ou manquantes, les outils d’IA ont tendance à inventer un contenu (hallucination). Les outils d’IA peuvent reproduire des préjugés ou des biais qui existent déjà dans les données, inclure des informations obsolètes et présenter de fausses déclarations comme des faits. Il a également été démontré que les outils d'IA générative peuvent faire référence à des travaux scientifiques qui n’existent pas et générer du contenu offensant. Par conséquent, le contenu généré par l’IA peut ne pas répondre aux normes d’intégrité académique ou de recherche attendues à l’Université de Montréal.

Le paysage juridique en matière de propriété intellectuelle et de droit d’auteur dans le contexte de l’IA générative est inégal selon les juridictions et évolue rapidement, et toutes les implications ne sont pas encore claires. La communauté étudiante aux cycles supérieurs doit faire preuve de prudence lorsqu’elle utilise des outils d’IA générative, car certains contenus générés peuvent enfreindre les droits d’auteur ou d’autres protections de la propriété intellectuelle. De même, fournir des données à un outil d’IA peut compliquer les tentatives visant à faire respecter les protections de la propriété intellectuelle. L’IA générative peut également produire du contenu qui plagie le travail d’autrui, sans citer les sources ou sans procéder à une attribution appropriée. Les étudiantes et étudiants aux cycles supérieurs qui incluent du contenu généré par l’IA dans leurs propres écrits académiques risquent d’inclure du matériel plagié ou la propriété intellectuelle de quelqu’un d’autre. Étant donné que les étudiantes et étudiants sont responsables de leurs travaux académiques, l'inclusion du contenu généré par l'IA peut entraîner une violation de la politique sur la conduite responsable et l’intégrité scientifique de l’Université de Montréal.