Une organisation caritative américaine prévoit de surveiller par IA ses salles de classe à Gaza pour détecter les propos haineux, selon des médias

Une organisation caritative basée aux États-Unis prévoit d'utiliser un logiciel d'intelligence artificielle (IA) pour surveiller des salles de classe à Gaza. L'Associated Press (AP) et Al Jazeera font toutes deux état de ce projet.

Selon les deux médias, l'objectif affiché est de détecter les propos haineux, ou discours de haine, dans ces salles de classe.

Ce qui est rapporté

Selon l'AP, l'organisation caritative gère ses propres écoles à Gaza. L'AP indique que la surveillance s'appliquerait à ces écoles.

Selon Al Jazeera, l'organisation a annoncé le projet publiquement. Al Jazeera indique également que la surveillance viserait des propos que l'organisation qualifie d'antisémites.

Les informations examinées par Vocemundi ne nomment pas l'organisation.

Ce que dit chaque partie

Selon l'AP, l'organisation craint que les enseignants de ses écoles ne s'écartent de son programme. Selon l'organisation, ce programme promeut la paix et la tolérance.

Les informations ne comportent pas de réactions d'enseignants, d'élèves, de parents ou des autorités éducatives locales. Elles ne comportent pas non plus de commentaires d'experts en protection de la vie privée ou en éducation.

Ce qui n'est pas connu

Les informations examinées par Vocemundi sont des extraits de titres et de résumés. Les articles complets n'étaient pas disponibles pour examen.

Les informations n'identifient pas le logiciel d'IA ni qui l'a développé ou le vend. Elles n'expliquent pas son fonctionnement. Par exemple, elles ne précisent pas s'il enregistre le son ou l'image, s'il transcrit les propos ou s'il implique une vérification humaine.

Les informations ne décrivent pas comment seraient définis les « propos haineux », le « discours de haine » ou l'« antisémitisme ». Elles ne précisent pas qui déciderait de ce qui en relève.

Les informations ne décrivent aucune conséquence pour les enseignants qui seraient signalés. Elles ne précisent pas combien d'écoles, d'enseignants ou d'élèves seraient concernés. Elles ne précisent pas quand la surveillance commencerait.

Les informations ne décrivent pas le financement de l'organisation. Elles ne décrivent pas ses relations avec une quelconque autorité gouvernementale ou éducative à Gaza. Elles ne décrivent pas non plus comment les données seraient stockées, qui pourrait y accéder ni quelles garanties en matière de vie privée s'appliqueraient.

À propos des sources

L'AP et Al Jazeera sont des organes de presse distincts, et aucun des deux extraits ne cite l'autre. Toutefois, l'article d'Al Jazeera a été publié environ 10 heures après celui de l'AP. Il pourrait donc s'appuyer sur les informations de l'AP. Dans ce cas, le récit reposerait sur une seule source indépendante. Le titre d'Al Jazeera fait référence au « Jerusalem Daily ». Les informations n'expliquent pas cette référence.

Analyse

Le projet touche à plusieurs questions débattues : la surveillance par IA dans les écoles, le contenu de l'enseignement à Gaza et la question de savoir qui définit les propos haineux ou antisémites. Les partisans d'un contrôle des programmes scolaires peuvent voir dans la surveillance un moyen de maintenir l'enseignement conforme aux objectifs affichés. Les détracteurs de la surveillance en classe peuvent soulever des inquiétudes concernant la vie privée, le consentement, la fiabilité de la détection automatisée et les effets sur les enseignants. L'accueil réservé au projet pourrait dépendre de détails que les informations ne comportent pas, tels que les définitions, la vérification humaine, les garanties relatives aux données et les conséquences pour les enseignants. Des informations plus complètes, notamment l'identité de l'organisation et les réactions locales, permettraient une évaluation plus claire.

Produit par la rédaction de Vocemundi avec l'assistance de l'IA. Traduit automatiquement de l'anglais ; la version originale fait foi.