US-Wohltätigkeitsorganisation plant KI-Überwachung ihrer Klassenzimmer in Gaza auf hasserfüllte Äußerungen, wie Berichte melden

Eine in den USA ansässige Wohltätigkeitsorganisation plant, Klassenzimmer in Gaza mithilfe von Software mit künstlicher Intelligenz (KI) zu überwachen. Sowohl die Associated Press (AP) als auch Al Jazeera berichten über den Plan.

Beide Medien geben an, der erklärte Zweck sei es, hasserfüllte Äußerungen beziehungsweise Hassrede in diesen Klassenzimmern zu erkennen.

Was berichtet wird

Nach Angaben von AP betreibt die Wohltätigkeitsorganisation eigene Schulen in Gaza. AP berichtet, dass die Überwachung diese Schulen betreffen würde.

Nach Angaben von Al Jazeera hat die Wohltätigkeitsorganisation den Plan öffentlich angekündigt. Al Jazeera berichtet zudem, dass sich die Überwachung gegen Äußerungen richten würde, die die Wohltätigkeitsorganisation als antisemitisch bezeichnet.

Die von Vocemundi geprüften Berichte nennen den Namen der Wohltätigkeitsorganisation nicht.

Was die Seiten sagen

Nach Angaben von AP befürchtet die Wohltätigkeitsorganisation, dass Lehrkräfte an ihren Schulen von ihrem Lehrplan abweichen könnten. Die Wohltätigkeitsorganisation sagt, dieser Lehrplan fördere Frieden und Toleranz.

Die Berichte enthalten keine Stellungnahmen von Lehrkräften, Schülerinnen und Schülern, Eltern oder örtlichen Bildungsbehörden. Sie enthalten auch keine Einschätzungen von Fachleuten für Datenschutz oder Bildung.

Was nicht bekannt ist

Bei den von Vocemundi geprüften Berichten handelt es sich um Auszüge aus Schlagzeilen und Zusammenfassungen. Die vollständigen Artikel lagen zur Prüfung nicht vor.

Die Berichte nennen weder die KI-Software noch, wer sie entwickelt hat oder vertreibt. Sie erklären nicht, wie sie funktioniert. Sie geben zum Beispiel nicht an, ob sie Audio- oder Videoaufnahmen macht, Gesprochenes transkribiert oder eine Prüfung durch Menschen vorsieht.

Die Berichte beschreiben nicht, wie „hasserfüllte Äußerungen“, „Hassrede“ oder „Antisemitismus“ definiert würden. Sie geben nicht an, wer entscheiden würde, was darunter fällt.

Die Berichte beschreiben keine Folgen für Lehrkräfte, die markiert werden. Sie geben nicht an, wie viele Schulen, Lehrkräfte oder Schülerinnen und Schüler betroffen wären. Sie geben nicht an, wann die Überwachung beginnen würde.

Die Berichte beschreiben nicht die Finanzierung der Wohltätigkeitsorganisation. Sie beschreiben nicht ihr Verhältnis zu staatlichen oder Bildungsbehörden in Gaza. Sie beschreiben auch nicht, wie Daten gespeichert würden, wer darauf zugreifen könnte oder welche Datenschutzvorkehrungen gelten würden.

Zu den Quellen

AP und Al Jazeera sind voneinander unabhängige Nachrichtenorganisationen, und keiner der beiden Auszüge nennt die jeweils andere als Quelle. Der Beitrag von Al Jazeera erschien jedoch etwa 10 Stunden nach dem von AP. Er könnte sich daher auf die Berichterstattung von AP stützen. In diesem Fall würde die Darstellung auf einer einzigen unabhängigen Quelle beruhen. Die Schlagzeile von Al Jazeera verweist auf „Jerusalem Daily“. Die Berichte erklären diesen Verweis nicht.

Analyse

Der Plan berührt mehrere umstrittene Fragen: KI-Überwachung in Schulen, die Bildungsinhalte in Gaza und wer definiert, was hasserfüllte oder antisemitische Äußerungen sind. Befürworter einer Aufsicht über Lehrpläne könnten die Überwachung als Mittel sehen, den Unterricht im Einklang mit den erklärten Zielen zu halten. Kritiker der Überwachung von Klassenzimmern könnten Bedenken hinsichtlich Datenschutz, Einwilligung, Genauigkeit automatisierter Erkennung und der Auswirkungen auf Lehrkräfte äußern. Wie der Plan aufgenommen wird, könnte von Einzelheiten abhängen, die die Berichte nicht enthalten, etwa Definitionen, Prüfung durch Menschen, Datenschutzvorkehrungen und Folgen für Lehrkräfte. Eine umfassendere Berichterstattung, einschließlich der Identität der Wohltätigkeitsorganisation und der Reaktionen vor Ort, würde eine klarere Einschätzung ermöglichen.

Erstellt von der Vocemundi-Redaktion mit KI-Unterstützung. Automatisch aus dem Englischen übersetzt; maßgeblich ist die Originalfassung.