Una organización benéfica de EE. UU. prevé vigilar con IA sus aulas en Gaza para detectar lenguaje de odio, según informes

Una organización benéfica con sede en Estados Unidos prevé usar software de inteligencia artificial (IA) para vigilar aulas en Gaza. Associated Press (AP) y Al Jazeera informan ambas sobre el plan.

Ambos medios afirman que el propósito declarado es detectar lenguaje de odio, o discurso de odio, en esas aulas.

Lo que se informa

Según AP, la organización benéfica gestiona sus propias escuelas en Gaza. AP informa de que la vigilancia se aplicaría a esas escuelas.

Según Al Jazeera, la organización benéfica ha anunciado el plan públicamente. Al Jazeera también informa de que la vigilancia se dirigiría a un lenguaje que la organización describe como antisemita.

Los informes revisados por Vocemundi no mencionan el nombre de la organización benéfica.

Lo que dice cada parte

Según AP, a la organización benéfica le preocupa que los docentes de sus escuelas puedan apartarse de su plan de estudios. La organización afirma que este plan de estudios promueve la paz y la tolerancia.

Los informes no incluyen respuestas de docentes, estudiantes, padres ni autoridades educativas locales. Tampoco incluyen comentarios de expertos en privacidad o en educación.

Lo que no se sabe

Los informes revisados por Vocemundi son titulares y extractos resumidos. Los artículos completos no estaban disponibles para su revisión.

Los informes no identifican el software de IA ni quién lo desarrolló o lo vende. No explican cómo funciona. Por ejemplo, no dicen si graba audio o video, si transcribe lo que se dice o si incluye revisión humana.

Los informes no describen cómo se definirían el «lenguaje de odio», el «discurso de odio» o el «antisemitismo». No dicen quién decidiría qué entra en esas categorías.

Los informes no describen ninguna consecuencia para los docentes señalados. No dicen cuántas escuelas, docentes o estudiantes se verían afectados. No dicen cuándo comenzaría la vigilancia.

Los informes no describen la financiación de la organización benéfica. No describen su relación con ninguna autoridad gubernamental o educativa en Gaza. Tampoco describen cómo se almacenarían los datos, quién podría acceder a ellos ni qué salvaguardas de privacidad se aplicarían.

Sobre las fuentes

AP y Al Jazeera son organizaciones de noticias independientes entre sí, y ninguno de los dos extractos cita al otro medio. Sin embargo, la nota de Al Jazeera apareció unas 10 horas después de la de AP. Por lo tanto, podría basarse en la información de AP. De ser así, el relato descansaría en una sola fuente independiente. El titular de Al Jazeera hace referencia a «Jerusalem Daily». Los informes no explican esta referencia.

Análisis

El plan toca varios temas debatidos: la vigilancia con IA en las escuelas, el contenido de la educación en Gaza y quién define el lenguaje de odio o antisemita. Quienes apoyan la supervisión de los planes de estudio pueden ver la vigilancia como una forma de mantener la enseñanza coherente con los objetivos declarados. Quienes critican la vigilancia en las aulas pueden plantear inquietudes sobre la privacidad, el consentimiento, la precisión de la detección automatizada y los efectos sobre los docentes. La acogida del plan podría depender de detalles que los informes no incluyen, como las definiciones, la revisión humana, las salvaguardas de los datos y las consecuencias para los docentes. Una información más completa, que incluya la identidad de la organización benéfica y las reacciones locales, permitiría una evaluación más clara.

Producido por la redacción de Vocemundi con asistencia de IA. Traducido automáticamente del inglés; la versión original prevalece.