Die israelische Armee erstellt ein KI-Sprachmodell, das Millionen abgefangener Gespräche zwischen Palästinensern verwendet und den Prozess der Anklage und Verhaftung beschleunigen könnte, wie eine gemeinsame Untersuchung zeigt.
Die israelische Armee entwickelt ein neues, ChatGPT-ähnliches KI-Tool und trainiert es mit Millionen arabischer Gespräche, die durch die Überwachung von Palästinensern in den besetzten Gebieten gewonnen wurden, wie eine Untersuchung des +972 Magazine, Local Call und des Guardian aufdecken konnte.
Das KI-Tool, das unter der Schirmherrschaft von Unit 8200, einer Eliteeinheit für Cyberkriegsführung innerhalb des israelischen Militärgeheimdienstes, entwickelt wird, ist ein sogenanntes Large Language Model (LLM): ein maschinelles Lernprogramm, das in der Lage ist, Informationen zu analysieren und Texte zu generieren, zu übersetzen, vorherzusagen und zusammenzufassen. Während öffentlich zugängliche LLMs, wie die Engine hinter ChatGPT, mit Informationen aus dem Internet trainiert werden, wird das neue Modell, das von der israelischen Armee entwickelt wird, mit riesigen Mengen an Informationen gefüttert, die über das Alltagsleben der unter Besatzung lebenden Palästinenser gesammelt wurden.
Die Existenz des LLM der Einheit 8200 wurde gegenüber +972, Local Call, und dem Guardian von drei israelischen Sicherheitsquellen bestätigt, die über die Entwicklung des Modells informiert sind. Das Modell wurde in der zweiten Hälfte des vergangenen Jahres noch trainiert, und es ist unklar, ob es bereits eingesetzt wurde oder wie genau die Armee es einsetzen wird. Quellen erklärten jedoch, dass ein entscheidender Vorteil für die Armee in der Fähigkeit des Tools bestehen wird, große Mengen an Überwachungsmaterial schnell zu verarbeiten, um „Fragen zu bestimmten Personen zu beantworten“. Wenn man bedenkt, wie die Armee bereits kleinere Sprachmodelle einsetzt, ist es wahrscheinlich, dass das LLM die Beschuldigung und Verhaftung von Palästinensern durch Israel weiter ausweiten könnte.
„KI verstärkt die Macht“, erklärte eine Geheimdienstquelle, die die Entwicklung von Sprachmodellen durch die israelische Armee in den letzten Jahren genau verfolgt hat. “Sie ermöglicht Operationen, bei denen die Daten von weitaus mehr Menschen genutzt werden, und ermöglicht so die Kontrolle der Bevölkerung. Dabei geht es nicht nur darum, Schussangriffe zu verhindern. Ich kann Menschenrechtsaktivisten aufspüren. Ich kann den palästinensischen Bau in der
Zone C [im Westjordanland] überwachen. Ich habe mehr Möglichkeiten, um zu wissen, was jede Person im Westjordanland tut. Wenn man so viele Daten hat, kann man sie für jeden beliebigen Zweck einsetzen.“
Die Entwicklung des Tools fand zwar vor dem aktuellen Krieg statt, aber unsere Untersuchung ergab, dass die Einheit 8200 nach dem 7. Oktober israelische Staatsbürger mit Fachkenntnissen in der Entwicklung von Sprachmodellen um Hilfe bat, die bei Technologiegiganten wie Google, Meta und Microsoft arbeiteten. Mit der Massenmobilisierung von Reservisten zu Beginn des israelischen Angriffs auf Gaza begannen Branchenexperten aus dem Privatsektor, sich der Einheit anzuschließen – und brachten Wissen ein, das zuvor „nur einer sehr exklusiven Gruppe von Unternehmen weltweit zugänglich war“, wie eine Sicherheitsquelle angab. (Als Antwort auf unsere Anfragen gab Google an, dass es „Mitarbeiter hat, die in verschiedenen Ländern Reservedienst leisten“, und betonte, dass die Arbeit, die sie in diesem Zusammenhang leisten, „nicht mit Google in Verbindung steht“. Meta und Microsoft lehnten eine Stellungnahme ab.)
Laut einer Quelle wurde der Chatbot der Unit 8200 mit 100 Milliarden Wörtern Arabisch trainiert, die zum Teil durch die groß angelegte Überwachung von Palästinensern durch das israelische Militär gewonnen wurden – was Experten zufolge eine schwere Verletzung der palästinensischen Rechte darstellt. „Wir sprechen hier von hochpersönlichen Informationen, die von Menschen stammen, die keiner Straftat verdächtigt werden, um ein Tool zu trainieren, das später dazu beitragen könnte, einen Verdacht zu begründen“, sagte Zach Campbell, leitender Technologieforscher bei Human Rights Watch, gegenüber +972, Local Call und dem Guardian.
Nadim Nashif, Direktor und Gründer der palästinensischen Gruppe für digitale Rechte und Interessenvertretung 7amleh, schloss sich diesen Bedenken an. „Palästinenser sind zu Versuchsobjekten in Israels Labor geworden, um diese Techniken zu entwickeln und KI zu bewaffnen, alles mit dem Ziel, ein Apartheid- und Besatzungsregime aufrechtzuerhalten, in dem diese Technologien eingesetzt werden, um ein Volk zu beherrschen und sein Leben zu kontrollieren. Dies ist eine schwerwiegende und anhaltende Verletzung der digitalen Rechte der Palästinenser, die Menschenrechte sind.“
„Wir werden alle Geheimdienstmitarbeiter durch KI-Agenten ersetzen“
Die Bemühungen der israelischen Armee, ein eigenes LLM zu entwickeln, wurden erstmals öffentlich von Chaked Roger Joseph Sayedoff, einem Geheimdienstmitarbeiter, der sich als Projektleiter vorstellte, in einem
kaum beachteten Vortrag im vergangenen Jahr bestätigt. „Wir haben versucht, den größtmöglichen Datensatz zu erstellen, indem wir alle Daten gesammelt haben, die der Staat Israel jemals auf Arabisch hatte“, erklärte er während seines Vortrags auf der
DefenseML-Konferenz in Tel Aviv. Er fügte hinzu, dass das Programm mit „psychotischen Mengen“ an nachrichtendienstlichen Informationen trainiert werde.
Laut Sayedoff hat die israelische Armee, als ChatGPTs LLM im November 2022 erstmals der Öffentlichkeit zugänglich gemacht wurde, ein spezielles Nachrichtendienstteam eingerichtet, um zu untersuchen, wie generative KI für militärische Zwecke angepasst werden könnte. „Wir sagten: ‚Wow, jetzt werden wir alle Geheimdienstmitarbeiter durch [KI-]Agenten ersetzen. Alle fünf Minuten werden sie den gesamten israelischen Geheimdienst lesen und vorhersagen, wer der nächste Terrorist sein wird‘“, sagte Sayedoff.
Doch das Team konnte zunächst keine großen Fortschritte erzielen. OpenAI, das Unternehmen hinter ChatGPT, lehnte den Antrag von Unit 8200 auf direkten Zugriff auf seinen LLM ab und verweigerte die Integration in das interne Offline-System der Einheit. (Die israelische Armee hat inzwischen das Sprachmodell von OpenAI genutzt, das über Microsoft Azure erworben wurde, wie +972 und Local Call in einer
anderen aktuellen Untersuchung aufdeckten. OpenAI lehnte eine Stellungnahme zu diesem Bericht ab.)
Und es gab noch ein weiteres Problem, erklärte Sayedoff: Bestehende Sprachmodelle konnten nur Standardarabisch verarbeiten – das in der formellen Kommunikation, Literatur und den Medien verwendet wird – nicht aber gesprochene Dialekte. Die israelische Militärgeheimdienstbehörde erkannte, dass sie ein eigenes Programm entwickeln musste, das, wie Sayedoff in seinem Vortrag sagte, „auf den Dialekten basiert, die uns hassen“.
Der Wendepunkt kam mit dem Beginn des Gaza-Krieges im Oktober 2023, als die Einheit 8200 begann, Experten für Sprachmodelle von privaten Technologieunternehmen als Reservisten zu rekrutieren. Ori Goshen, Co-CEO und Mitbegründer des israelischen Unternehmens AI21 Labs, das auf Sprachmodelle spezialisiert ist, bestätigte, dass Mitarbeiter seines Unternehmens während ihres Reservedienstes an dem Projekt teilnahmen. „Eine Sicherheitsbehörde kann nicht mit einem Dienst wie ChatGPT arbeiten, also muss sie herausfinden, wie sie KI innerhalb eines [internen] Systems betreiben kann, das nicht mit anderen Netzwerken verbunden ist“, erklärte er.
Laut Goshen könnten die Vorteile, die LLMs für Geheimdienste bieten, darin bestehen, dass sie Informationen schnell verarbeiten und Listen von ‚Verdächtigen‘ für Verhaftungen erstellen können. Für ihn liegt der Schlüssel jedoch in ihrer Fähigkeit, Daten abzurufen, die über mehrere Quellen verstreut sind. Anstatt „primitive Suchwerkzeuge“ zu verwenden, könnten Beamte einfach „Fragen stellen und Antworten erhalten“ von einem Chatbot – der beispielsweise in der Lage wäre, zu sagen, ob sich zwei Personen jemals getroffen haben, oder sofort festzustellen, ob eine Person jemals eine bestimmte Handlung begangen hat.
Goshen räumte jedoch ein, dass ein blindes Vertrauen in diese Tools zu Fehlern führen könnte. „Es handelt sich um Wahrscheinlichkeitsmodelle – man gibt ihnen eine Eingabeaufforderung oder eine Frage und sie erzeugen etwas, das wie Magie aussieht“, erklärte er. „Aber oft ergibt die Antwort keinen Sinn. Wir nennen das eine ‚Halluzination‘.
Campbell von Human Rights Watch äußerte ähnliche Bedenken. LLM, so sagte er, funktionierten wie „Rätselraten“, und ihre Fehler seien systemimmanent. Darüber hinaus seien die Menschen, die diese Tools verwenden, oft nicht diejenigen, die sie entwickelt haben, und Untersuchungen zeigen, dass sie ihnen tendenziell mehr vertrauen. „Letztendlich könnten diese Vermutungen dazu verwendet werden, Menschen zu belasten“, sagte er.
Frühere Untersuchungen von +972 und Local Call über den Einsatz von KI-basierten Zielsystemen durch die israelische Armee zur Erleichterung ihrer Bombardierung des Gazastreifens haben die mit solchen Instrumenten verbundenen operativen Mängel aufgezeigt. So hat die Armee beispielsweise ein Programm namens Lavender eingesetzt, um eine „Tötungsliste“ von Zehntausenden Palästinensern zu erstellen, die von der KI belastet wurden, weil sie Merkmale aufwiesen, die sie mit der Zugehörigkeit zu einer militanten Gruppe in Verbindung bringen sollte.
Die Armee bombardierte dann viele dieser Personen – in der Regel während sie zu Hause bei ihren Familien waren –, obwohl bekannt war, dass das Programm eine Fehlerquote von 10 Prozent aufwies. Quellen zufolge diente die menschliche Aufsicht über den Tötungsprozess lediglich als „Absegnung“, und die Soldaten behandelten die Ergebnisse von Lavender „so, als wäre es eine menschliche Entscheidung“.
„Manchmal ist es nur ein Divisionskommandeur, der 100 Verhaftungen pro Monat will.“
Die Entwicklung eines Tools im Stil von ChatGPT, das auf gesprochenes Arabisch trainiert ist, stellt eine weitere Ausweitung des israelischen Überwachungsapparats in den besetzten Gebieten dar, der seit langem sehr aufdringlich ist. Vor mehr als einem Jahrzehnt
gaben Soldaten, die in der Einheit 8200 dienten, zu Protokoll, dass sie Zivilisten ohne Verbindung zu militanten Gruppen überwacht hatten, um Informationen zu erhalten, mit denen sie erpresst werden konnten – zum Beispiel über finanzielle Notlagen, ihre sexuelle Orientierung oder eine schwere Krankheit, von der sie selbst oder ein Familienmitglied betroffen waren. Die ehemaligen Soldaten gaben auch zu, politische Aktivisten verfolgt zu haben.
Neben der Entwicklung ihres eigenen LLM verwendet die Einheit 8200 bereits kleinere Sprachmodelle, die die Klassifizierung von Informationen, die Transkription und Übersetzung von Gesprächen vom gesprochenen Arabisch ins Hebräische sowie eine effiziente Stichwortsuche ermöglichen. Diese Tools machen nachrichtendienstliches Material insbesondere für die Armeeabteilung in Judäa und Samaria (Westjordanland) sofort zugänglicher. Laut zwei Quellen ermöglichen die kleineren Modelle der Armee, Überwachungsmaterial zu sichten und Palästinenser zu identifizieren, die ihrer Wut über die Besatzung oder ihrem Wunsch, israelische Soldaten oder Siedler anzugreifen, Ausdruck verleihen.
Eine Quelle beschrieb ein derzeit verwendetes Sprachmodell, das Daten scannt und Palästinenser anhand von Wörtern identifiziert, die auf „Unruhestiftung“ hinweisen. Die Quelle fügte hinzu, dass die Armee Sprachmodelle verwendet hat, um vorherzusagen, wer während Operationen Steine auf Soldaten werfen könnte, um „Präsenz zu zeigen“ – wenn Soldaten eine Stadt oder ein Dorf im Westjordanland überfallen und von Tür zu Tür gehen und in jedes Haus einer bestimmten Straße stürmen, um Verhaftungen durchzuführen und die Bewohner einzuschüchtern.
Geheimdienstquellen gaben an, dass der Einsatz dieser Sprachmodelle in Kombination mit großflächiger Überwachung in den besetzten Gebieten die Kontrolle Israels über die palästinensische Bevölkerung vertieft und die Häufigkeit von Verhaftungen erheblich erhöht hat. Kommandeure können auf Rohdaten zugreifen, die ins Hebräische übersetzt wurden – ohne sich auf die Sprachzentren der Einheit 8200 verlassen zu müssen, um das Material bereitzustellen, oder selbst Arabisch zu sprechen – und „Verdächtige“ für Verhaftungen aus einer ständig wachsenden Liste in jedem palästinensischen Ort auswählen. „Manchmal ist es nur ein Divisionskommandeur, der 100 Verhaftungen pro Monat in seinem Gebiet will“, sagte eine Quelle.
Im Gegensatz zu den kleineren Modellen, die bereits im Einsatz sind, wird das derzeit in der Entwicklung befindliche große Modell jedoch mit dem Datensatz der Einheit 8200 von Millionen von Gesprächen zwischen Palästinensern trainiert. „Gesprochenes Arabisch sind Daten, die [kaum] im Internet verfügbar sind“, erklärte die Quelle. „Es gibt keine Transkripte von Gesprächen oder WhatsApp-Chats im Internet. Es gibt sie nicht in der Menge, die für das Training eines solchen Modells benötigt wird.“
Für das Training des LLM erfüllen alltägliche Gespräche zwischen Palästinensern, die keinen unmittelbaren nachrichtendienstlichen Wert haben, dennoch einen wesentlichen Zweck. „Wenn jemand eine andere Person [am Telefon] anruft und ihr sagt, sie solle nach draußen kommen, weil sie vor der Schule auf sie wartet – das ist nur ein beiläufiges Gespräch, das nicht interessant ist“, erklärte eine Sicherheitsquelle. „Aber für ein Modell wie dieses ist es Gold wert, weil es immer mehr Daten für das Training liefert.“
Die Unit 8200 ist nicht der einzige nationale Geheimdienst, der versucht, generative KI-Tools zu entwickeln. Die CIA hat
ein Tool entwickelt, das ChatGPT ähnelt, um Open-Source-Informationen zu analysieren, und auch Geheimdienste im Vereinigten Königreich
entwickeln ihre eigenen LLMs. Ehemalige britische und amerikanische Sicherheitsbeamte berichteten jedoch gegenüber +972, Local Call und dem Guardian, dass die israelische Geheimdienstgemeinschaft bei der Integration von KI-Systemen in die Geheimdienstanalyse größere Risiken eingeht als ihre amerikanischen oder britischen Kollegen.
Brianna Rosen, eine ehemalige Sicherheitsbeamtin des Weißen Hauses und derzeitige Forscherin für Militär- und Sicherheitsstudien an der Universität Oxford, erklärte, dass ein Geheimdienstanalyst, der ein Tool wie ChatGPT verwendet, potenziell in der Lage wäre, „Bedrohungen zu erkennen, die Menschen übersehen könnten, noch bevor sie entstehen“. Es besteht jedoch auch die Gefahr, dass „falsche Zusammenhänge hergestellt und fehlerhafte Schlussfolgerungen gezogen werden. Fehler werden gemacht werden, und einige dieser Fehler können sehr schwerwiegende Folgen haben.“
Israelische Geheimdienstquellen betonten, dass im Westjordanland nicht unbedingt die Genauigkeit dieser Modelle das dringendste Problem sei, sondern vielmehr das enorme Ausmaß der Verhaftungen, die sie ermöglichen. Die Liste der „Verdächtigen“ wird ständig länger, da mithilfe von KI kontinuierlich riesige Mengen an Informationen gesammelt und schnell verarbeitet werden.
Mehrere Quellen gaben an, dass ein vager oder allgemeiner „Verdacht“ oft ausreicht, um die Inhaftierung von Palästinensern in Verwaltungshaft zu rechtfertigen – eine verlängerbare Gefängnisstrafe von sechs Monaten ohne Anklage oder Gerichtsverfahren auf der Grundlage nicht offengelegter „Beweise“. In einem Umfeld, in dem die Überwachung von Palästinensern so umfassend und die Schwelle für eine Verhaftung so niedrig ist, so die Quellen, werde die Einführung neuer KI-basierter Instrumente die Fähigkeit Israels verbessern, belastende Informationen über viel mehr Menschen zu finden.
Der Sprecher der israelischen Streitkräfte ging auf die spezifischen Fragen von +972, Local Call und dem Guardian „wegen der sensiblen Natur der Informationen“ nicht ein und behauptete lediglich, dass „jegliche Nutzung technologischer Hilfsmittel durch einen strengen Prozess unter der Leitung von Fachleuten erfolgt, um die größtmögliche Genauigkeit der nachrichtendienstlichen Informationen zu gewährleisten“.
Harry Davies vom Guardian und Sebastian Ben Daniel (John Brown) haben zu dieser Untersuchung beigetragen.
Quelle:
"Israel developing ChatGPT-like tool that weaponizes surveillance of Palestinians" von
Yuval Abraham 6. März 2025
Yuval Abraham ist ein in Jerusalem ansässiger Journalist und Filmemacher.
Übersetzung [Nicht authorisiert]: Thomas Trueten
