Citoyenneté numérique (IA)

FRITIC a fait examiner par le service juridique de la DFAC les directives actuellement en vigueur sur l'utilisation d'Internet et des plateformes en ligne dans les écoles. E Après une analyse approfondie, il apparaît que les directives et lois en vigueur encadrent de manière adéquate l'utilisation de l'intelligence artificielle dans les écoles fribourgeoises.

Les lois et directives du canton de Fribourg sont formulées de manière technologiquement neutre et comprennent des dispositions spécifiques qui garantissent que la protection des données et le respect des exigences légales sont assurés.

L'IA et la loi

RSF 411.0.1 - Loi sur la scolarité obligatoire (loi scolaire, LS)

Art. 43 Banques de données ou fichiers d'élèves

1 La création de banques de données ou de fichiers concernant les élèves n'est autorisée que pour assurer le suivi de leur parcours scolaire, faciliter le pilotage du système scolaire et sa gestion administrative, établir des statistiques ou servir à des fins de recherches scientifiques.

2 Le Conseil d'Etat détermine le contenu des banques de données ou des fichiers, les modalités d'accès et de transmission des données ainsi que les conditions de leur archivage ou destruction.

Implications pour les écoles

Les prompts que nous saisissons dans une IA sont stockées par le fournisseur de l'IA. Nous n'avons aucun contrôle sur le lieu, la manière et la durée de stockage de ces données, ni sur les personnes qui y ont accès. Lorsqu'une IA est utilisée, aucune donnée personnelle ne peut être utilisée et le prompt ne doit pas permettre d'identifier la personne concernée.

RSF 17.1 - Loi sur la protection des données (LPrD)

Art. 7 Finalité

1 Les données personnelles ne peuvent être collectées que pour un usage déterminé et reconnaissable. Elles ne peuvent être traitées ultérieurement que dans ce but ou dans un but qui, selon les règles de la bonne foi, est compatible avec lui.

Art. 8 Proportionnalité

1 Les données et les modes de traitement doivent être nécessaires, appropriés et non excessifs par rapport au but du traitement.

Implications pour les écoles

Les écoles ne peuvent utiliser les données personnelles que si cela est nécessaire à l'accomplissement de leur mission. De plus, l'utilisation doit être nécessaire et adaptée à l’objectif visé. L’IA n'est pas un moyen approprié pour traiter les données personnelles. Si une IA est utilisée pour générer un retour, une lettre aux parents, une fiche de travail, etc., aucune donnée personnelle ne doit être employée, et le prompt ne doit pas permettre d'identifier la personne concernée.

RSF 17.1 - Loi sur la protection des données (LPrD)

Art. 18 Externalisation – Principes

2 Les lieux de traitement doivent être situés en tout temps sur le territoire suisse ou sur le territoire d'un Etat garantissant un niveau de protection des données adéquat.

Implications pour les écoles

Lorsque nous saisissons des informations dans ChatGPT ou dans un autre site d'IA, ces données sont enregistrées sur des serveurs. Ces serveurs se trouvent souvent dans des pays dont le niveau de protection ne correspond pas à celui exigé par la loi sur la protection des données. Avant qu'une IA puisse être utilisée dans l'enseignement, elle doit donc être contrôlée à cet égard.

Directives relatives à l'utilisation d'internet et des plateformes numériques dans les écoles des Directions de la formation et des affaires culturelles, de l'économie, de I'emploi et de la formation professionnelle et des institutions, de l'agriculture et des forêts

Art. 6 Politique d'usage

2 Seules les plateformes fournies par l'État peuvent être utilisées pour traiter les données des élèves et du personnel des écoles.

Implications pour les écoles

Si une IA autre que celle fournie par l'État est utilisée, aucune donnée personnelle telle que l'adresse, le nom, la date de naissance, ... ne doit être utilisée. Avant d'utiliser des photos, des vidéos ou des fichiers audio comme prompteur, il convient de les débarrasser des métadonnées (données relatives aux appareils, données de localisation, ...).

Art. 8 Comptes - utilisation

3 Pour les plateformes tierces reconnues par la DFAC (art. 16), il est possible d'utiliser I'adresse du compte pour s'identifier et se loguer dans le respect des restrictions d'utilisation. Dans le cas où I'identification ne nécessite pas d'adresse de courriel, I'anonymisation du profil est exigée.

Implications pour les écoles

Seules les plateformes figurant sur la liste des plateformes tierces peuvent être utilisées avec le compte d'utilisateur de l'État (...@studentfr.ch / ...@edufr.ch).

Directives relatives à l’utilisation des solutions de gestion administrative et pédagogique des écoles du canton de Fribourg

Art. 9 Secret de fonction et respect de la confidentialité

1 L’utilisateur-trice a, dans l’exercice de ses fonctions et activités, accès à des données et des informations personnelles, sensibles ou confidentielles, au sens de l’art. 4 LPrD, qui ne sont pas accessibles au public. Il lui est interdit d’utiliser ou de révéler ces données à des tiers non autorisés. Ces obligations demeurent après la cessation des rapports de service.

Implications pour les écoles

La transmission d'informations non publiques à des tiers indéterminés est interdite.

Droits d'auteur

Dans le cadre des droits d'auteur des contenus générés avec l'aide de l'IA, il convient de faire une distinction entre :

Les œuvres entièrement générés par un système d'intelligence artificielle et sans intervention humaine.

Dans le premier cas, les œuvres ne bénéficient pas de la protection du droit d'auteur. Ces œuvres peuvent donc être librement copiées et utilisées, sans que le créateur – ici l'IA ou son exploitant – ne puisse revendiquer de droits sur elles. Cependant, une œuvre générée par une IA peut être protégée par le droit d'auteur si elle incorpore de manière reconnaissable des éléments protégés issus d'autres œuvres. Il est également essentiel de prendre en compte les conditions d'utilisation ou les termes du service de l'IA utilisée, car ceux-ci peuvent restreindre l'exploitation commerciale du contenu produit.

Les œuvres créées par des humains qui ont recours à des outils d'intelligence artificielle pendant le processus créatif.

Dans ce cas, les créateurs interviennent dans le processus de fabrication et confèrent ainsi un caractère individuel au résultat. Il s'agit donc d'œuvres créées par des humains à l'aide de systèmes, d'outils ou de techniques d'IA. Dans ce cas, l'IA est considérée comme un outil, à l'instar d'un pinceau dans les mains d'un artiste, et l'œuvre est protégée par le droit d'auteur.

Recommandations d'utilisation

Lors de l'utilisation de l'IA générative, il est important de respecter quelques recommandations avant, pendant et après son utilisation.

Avant l’utilisation, penser à :

respecter les directives d’utilisations fribourgeoises Directives relatives à l'utilisation d'internet et des plateformes numériques
garantir la protection des données personnelles de mes collègues, étudiants, du personnel des écoles, ...
choisir des outils reconnus et mise en avant par l’état de Fribourg (Liste des plateformes tierces DFAC et Critères d'analyse des plateformes)
vérifier si l’outil IA respecte les lois suisses ou RGPD
définir les objectifs d’utilisation
définir le degré de délégation souhaité pour l’outil
se questionner sur la plus-value de l’IA (amélioration, transformation)
évaluer si l’IA facilite la compréhension et l’engagement dans l’enseignement

Pendant l’utilisation, penser à :

remettre en question de manière critique le contenu généré par l’IA
se méfier des hallucinations possibles de l’IA
comparer les résultats avec d’autres sources d’informations
faire prendre conscience que les outils d'IA générative ont été entraînés avec des données qui contiennent et peuvent refléter des préjugés (âge, sexe, origine,...)

Après l’utilisation, penser à :

vérifier la notion de plagiat et de droits d’auteurs
créditer correctement les résultats obtenus
pouvoir justifier l’utilisation de l’IA (quels critères ?)
être responsable du contenu de l’IA

Cas concrets d'utilisation

La numérisation croissante et l'utilisation de technologies modernes influencent de plus en plus le domaine de l'éducation. Dans ce contexte, l'intelligence artificielle prend de plus en plus d'importance.

Depuis que les outils d'IA générative, initialement principalement connus sous le nom de ChatGPT, ont fait leur apparition sur Internet fin 2022, des questions cruciales se posent pour l'éducation. L'utilisation de l'IA en tant qu'outil va probablement modifier l'enseignement, comme cela a été le cas pour d'autres outils. De ce fait, le rôle de l'enseignant va également évoluer.

Voici quelques scénarios illustrant l'utilisation de l'IA dans l'enseignement et les changements qui en découlent.

Cas 1 - préparation de supports de cours, d’évaluations et de communications

Comment les outils d’IAG peuvent intervenir dans la préparation de supports de cours, d’évaluations et de communications.

Contextualisation

Les tâches de création de supports de cours et autres communications sont souvent gourmandes en énergie et chronophage. Les IA peuvent aider à leur création, mais à condition d’avoir à l’esprit quelques points importants que l’on retrouve ci-dessous.

Opportunité - Positif

Personnalisation des contenus

Grâce à l’IA, il est possible de créer des supports de cours et des évaluations personnalisés en fonction des besoins individuels des élèves qui permettent d’adapter l’enseignement au niveau et au style d’apprentissage de chaque élève.

Gain de temps

Les outils d’IAG peuvent automatiser des tâches répétitives et chronophages comme la création de supports de cours ou la génération de questions pour les évaluations, libérant ainsi du temps pour les enseignants qui peuvent le consacrer à l’enseignement et à l’accompagnement des élèves.

Potentiellement Négatif - points d’attention

Coût et accessibilité des IAG

Les outils d’IAG avancés peuvent être coûteux et ne sont pas toujours accessibles pour toutes les écoles ou tous les enseignants, ce qui peut créer des inégalités dans l’accès aux ressources éducatives.

Biais dans les algorithmes

Les outils d'IAG peuvent reproduire ou amplifier des biais présents dans les données sur lesquelles ils ont été entraînés, ce qui peut mener à des supports de cours ou des évaluations qui ne sont pas équitables ou qui reflètent des stéréotypes.

Exemple d’utilisation pour préparation de supports de cours, d’évaluations et de communications

Création de supports de cours :

Les enseignants peuvent utiliser des outils d'IAG pour générer des présentations, des feuilles de travail, et des notes de cours basées sur des sujets spécifiques.

Génération de questions d’évaluation :

Les outils d'IAG peuvent générer automatiquement des questions de quiz, des examens, et des exercices de révision adaptés à différents niveaux de difficulté. Des plateformes utilisent l'IA pour générer des questions basées sur le contenu que les enseignants fournissent.

En vrac, voici d’autres exemples d’utilisation :

- Évaluer et approfondir les tâches et les productions écrites et formuler un feedback approprié.

- Aider à la recherche d'activités d'apprentissage ou d'idées appropriées, générer des idées de cours

- Développer des méthodes d'apprentissage et de matériel pédagogique personnalisées

- Rédiger des lettres et des courriels aux parents

- Brainstorming pour des manifestations, excursions

- Etablir une grille de critères

- Formuler des objectifs d'apprentissage

- Etablir des liens avec le PER

- Se faire proposer une leçon

Recommandation d’utilisation

L’utilisation de diverses plateformes est soumise à des directives. Dans la mesure possible, il est vivement conseiller d’utiliser des plateformes qui sont accessibles sans login et ne comportent aucune publicité. Dans la liste des plateformes, il y a plusieurs plateformes IA analysées. En cas de doutes, vous pouvez contacter l’équipe Fritic qui se fera un plaisir de vous aider.

- Évaluer les tâches et les produits écrits et formuler un feedback approprié.

- Aide à la recherche d'activités d'apprentissage ou d'idées appropriées.

- Développement de méthodes d'apprentissage et de matériel pédagogique personnalisés.

Rédiger des lettres et des e-mails aux parents, brainstorming pour des manifestations/excursions, établir une grille de critères, formuler des objectifs d'apprentissage, établir des liens avec le programme scolaire, générer des idées de cours, se faire proposer une leçon...

Cas 2 - expression écrite

Comment les outils d’IAG interviennent dans le travail d’expression écrite ?

Contextualisation

Beaucoup de monde a testé CHATGPT, mais quelle peut être l’utilité de cet outil dans un travail d’expression écrite ? Bien que beaucoup de gens l’aient déjà testé pour des tâches variées, son utilité spécifique dans le cadre de l’expression écrite mérite d’être explorée plus en profondeur.

Opportunité - Positif

Feedback immédiat

Les outils d'IA peuvent fournir des commentaires instantanés sur la grammaire, l'orthographe, la syntaxe et le style, aidant les élèves à corriger leurs erreurs en temps réel et à apprendre des notions de langue plus rapidement. Pour augmenter encore un peu plus l'effet d'apprentissage, on peut aussi demander à l’IAG de dénoncer les erreurs mais pas de les corriger.

Réduction de l’anxiété liée à l’écriture (crainte)

Pour certains élèves, l'écriture peut être intimidante. Les outils d'IA peuvent réduire cette anxiété en fournissant une aide discrète et non-jugeante. Par exemple l’élève peut recevoir une aide sur l’orthographe ou la structure d’une phrase. Cela l’encourage a expérimenter d’avantage dans un environnement sans risque.

Pour certains élèves, l'écriture peut être intimidante en raison de la peur de faire des erreurs ou du manque de confiance en leurs compétences. Les outils d'IA, comme les correcteurs orthographiques ou les générateurs de suggestions de phrases, peuvent réduire cette anxiété en fournissant des recommandations discrètes. Par exemple, un élève qui hésite sur l'orthographe d'un mot ou la structure d'une phrase peut recevoir une correction sans jugement immédiat de la part d'un enseignant, ce qui l'encourage à expérimenter davantage, à écrire plus librement et à corriger ses erreurs au fur et à mesure dans un environnement bienveillant.

Risques – défi à relever

Ecrit impersonnel – uniformisation

L'écriture est souvent un moyen d'expression personnelle et créative qui bénéficie de la compréhension et de l'interprétation humaine. Les outils d'IAG peuvent manquer de la sensibilité nécessaire pour comprendre le contexte émotionnel ou le ton souhaité, limitant ainsi la richesse de l'expérience d'apprentissage.

Dépendance

L'utilisation fréquente d'outils d'IAG pour corriger les erreurs peut conduire à une dépendance excessive, où les élèves comptent trop sur la technologie et ne développent pas leurs propres compétences en rédaction et en révision.

Exemple d’utilisation pour l’expression écrite :

Trouver des thèmes : donner des idées et des suggestions de sujets possibles ou à préciser e de sujets existants à cibler.

Recherche et collecte des informations : fournir des informations pertinentes, des études, des statistiques et de la littérature qu'on pourra utiliser dans l'essai.
Structuration et plan : aider à créer un plan clair et logique.

Formulation de l'introduction et de la conclusion : aider à formuler des paragraphes d'introduction et de conclusion solides qui suscitent l'intérêt de l'auditoire et résument tes principaux arguments.

Révision et amélioration : donner un feedback sur le projet, suggérer des améliorations linguistiques et stylistiques et aider à éliminer les ambiguïtés ou les faiblesses de l'écrit.

Relecture et correction : mettre en évidence les erreurs de grammaire, d’orthographe et de ponctuation.

Citation : aider à choisir le bon style de citation et à l'appliquer correctement.
Recommandation d’utilisations

L’utilisation de diverses plateformes est soumise à des directives. Dans la mesure possible, il est vivement conseiller d’utiliser des plateformes qui sont accessibles sans login et ne comportent aucune publicité. Dans la liste des plateformes, il y a plusieurs plateformes IA analysées. En cas de doutes, vous pouvez contacter l’équipe Fritic qui se fera un plaisir de vous aider.

Cas 3 - corrections d’évaluations, textes et devoirs

Comment utiliser les outils d’IAG dans les corrections d’évaluations, textes et devoirs.

Contextualisation

Les tâches correctives et administratives sont toujours plus conséquentes pour le personnel enseignant. Voici un décryptage des avantages et désavantages d’utiliser les outils d’IAG dans ces domaines.

Opportunité - Positif

Gain de temps

En automatisant la correction, l’enseignant peut obtenir un gain de temps considérable. Cela permet de concentrer davantage d’énergie sur le temps d’enseignement et d’accompagnement des élèves.

Objectivité

Les IA peuvent corriger les travaux sans biais émotionnels ou préjugés personnels. Les évaluations sont plus justes et uniformes.

Analyse des données

Les systèmes d'IA peuvent analyser les performances des élèves au fil du temps, aidant les enseignants à identifier les tendances et à adapter leur enseignement en conséquence.

Risques – défi à relever

Déshumanisation de l’enseignement

L'utilisation excessive de l'IA pour l'évaluation peut réduire l'interaction humaine dans le processus éducatif, ce qui est crucial pour le développement social et émotionnel des élèves. Il est donc impératif que l'IA soit utilisée comme support et ne remplace pas la relation personnelle pour les évaluations, les feedbacks, les corrections, etc.

Manque de compréhension

Les IAG, bien que performantes, peuvent manquer de compréhension contextuelle et nuancer les réponses des élèves, surtout dans des matières nécessitant une interprétation humaine complexe, comme la littérature ou la philosophie.

Dépendance technologique

Une dépendance aux outils d'IA pourrait entraîner une diminution des compétences d'évaluation des enseignants eux-mêmes, qui sont essentielles pour une évaluation humaine nuancée.

Exemple d’utilisation :

Identification des erreurs : aider à identifier les erreurs de contenu, grammaire, d'orthographe et de ponctuation dans les travaux des élèves et faire des suggestions de correction.

Analyse de l'argumentation : vérifier la clarté et la logique des arguments et de la structure des textes des élèves et donner un feedback pour améliorer l'argumentation.

Formulation de feedback : proposer des modèles de formulation de feedback constructifs qui aident les élèves à identifier leurs points forts et leurs points à améliorer et à travailler de manière ciblée sur leurs compétences.

Recommandations de ressources : recommander des ressources ou du matériel supplémentaires qui peuvent aider les élèves à surmonter leurs faiblesses dans certains domaines.

Vérification du plagiat : aider à identifier les signes de plagiat.

Recommandation d’utilisation