Depuis de nombreuses années, Alloprof s’intéresse à l’intelligence artificielle pour voir comment cette innovation pourrait permettre de soutenir la réussite scolaire d’encore plus de jeunes au Québec. Afin de déployer ses projets technologiques de façon responsable et bienveillante, Alloprof s’est doté d’une charte éthique sur l’intelligence artificielle, grandement inspirée par la Déclaration de Montréal pour un développement responsable de l'intelligence artificielle ainsi que par la Grille de réflexivité portant sur les enjeux éthiques des systèmes d’intelligence artificielle (SIA) créée par l’Observatoire international sur les impacts sociétaux de l’IA et du numérique (OBVIA). Cette charte guide l’équipe d’Alloprof dans ses développements, mais aussi dans ses actions au quotidien pour une utilisation responsable et éthique de l’intelligence artificielle.
Principes de base
1. Engagement envers la transparence
Nous nous engageons à une transparence totale dans l'utilisation de l'intelligence artificielle (IA) dans nos services. Nous accordons une importance primordiale à l'avis de nos utilisateurs. Nous nous efforçons de fournir des informations claires et accessibles sur la manière dont l'IA est utilisée, tout en sollicitant des retours d'information pour améliorer continuellement nos services. Le consentement des utilisateurs est essentiel, et nous veillons à ce qu'ils puissent retirer leur consentement à tout moment. Les produits ou services générés par l'IA générative sont clairement étiquetés comme tels, et nous nous engageons à améliorer la culture numérique de tous nos utilisateurs pour les aider à comprendre et à naviguer les systèmes d'IA générative.
2. Responsabilité et supervision humaine
Nos systèmes d'IA ne prennent jamais de décisions sans supervision humaine. Nous conservons des journaux détaillés du processus de l’IA pour permettre les audits et garantir la responsabilité en cas d’erreur ou de préjudice. Nous offrons des explications claires et compréhensibles des décisions prises par l’IA à toutes les parties concernées. Nous instaurons des procédures claires et efficaces pour résoudre les problèmes ou erreurs potentiels liés à l'utilisation de l'IA.
3. Respect de la vie privée et gouvernance des données
La protection de la vie privée de nos utilisateurs demeure notre priorité absolue. Nous nous engageons à une collecte de données éthique et à une utilisation de l’IA respectueuse de votre vie privée. Vos données restent en tout temps sous votre contrôle. Nous nous tenons constamment informés des législations et des réglementations en cours afin de pouvoir ajuster notre cadre d’utilisation de l’IA pour rester en conformité.
4. Équité et élimination des biais
Nous identifions activement et combattons les biais dans l’IA, que ce soit dans les données utilisées pour former l’IA ou par d’autres moyens. Nous mettons en place des processus stricts pour garantir la qualité et l’exactitude des ensembles de données sur lesquels nos systèmes d’IA sont formés.
5. Accessibilité et inclusion
Nous nous engageons à déployer des solutions d'IA qui visent à être accessibles et inclusives pour tous nos utilisateurs, quelles que soient leurs capacités, compétences ou connaissances. Nous tenons compte du contexte dans lequel l’IA est déployée et nous nous adaptons aux besoins des utilisateurs ayant des incapacités ou des limites.
6. Sécurité
Nous prenons toutes les mesures nécessaires pour protéger nos systèmes d’IA et vos données contre toute attaque ou violation malveillante.
7. Tests, validation et apprentissage continu
Nous faisons un suivi régulier pour nous assurer que nos systèmes d'IA fonctionnent comme prévu et de manière fiable. Nous surveillons constamment les entrées et sorties dans nos systèmes d’IA et mettons à jour régulièrement les données d'entraînement et les commandes données à l’IA.
8. Recherche et partage des connaissances
Nous collaborons avec la communauté au sens large sur des recherches continues concernant les questions éthiques liées à l'IA et anticipons les problèmes potentiels pour les prévenir avant qu'ils ne surviennent. Nous nous engageons à travailler en étroite collaboration avec la communauté scientifique, les chercheurs universitaires et d'autres institutions éducatives pour promouvoir la solidarité dans le domaine de l'éducation. Notre objectif est de partager les connaissances, les ressources et les innovations pour garantir que les avantages de l'IA dans l'éducation profitent à tous. Nous valorisons la diversité des opinions et des expertises, et nous nous efforçons de créer un écosystème d'apprentissage collaboratif et inclusif.
Pour en savoir plus, consultez la liste de nos partenaires Éclaireurs (R&D et innovations).
9. Utilisation de l'IA générative dans nos contenus multimédia
Alloprof tient à informer ses usagers que dans certains cas, les images peuvent avoir été générées à l'aide de l'IA générative par l'utilisation des logiciels comme Adobe Firefly ou Midjourney. Lorsque possible, ces requêtes sont alimentées principalement par des images et créations numériques faites par Alloprof afin d'en créer des variations. Les requêtes (prompts) sont originales et ne comprennent aucun nom d'auteurs, d'artistes, de professionnels, de célébrités ou de termes associés à des propriétés intellectuelles protégées par des droits d’auteurs. L'objectif est de générer des images plus rapidement afin d'être en mesure d'offrir un maximum d'outils et de ressources pédagogiques aux élèves.
Dernière mise à jour le 25 novembre 2024