Das US-Verteidigungsministerium beabsichtigt, Deepfake-Technologie zu nutzen, die die Erstellung gefälschter Online-Personas ermöglichen würde. Berichten zufolge sucht die geheime Abteilung für Spezialoperationen des Verteidigungsministeriums Partner, um bei der Entwicklung von ‚Deepfake‘-Benutzerkonten zu helfen, die so überzeugend sind, dass weder Menschen noch Computer sie als gefälscht erkennen können, so The Intercept.
Dieses Konzept, das in einem neuen 76-seitigen Dokument beschrieben wird, das die fortschrittlichen Technologien für Elite-Militäroperationen benötigt, betrifft die Bedürfnisse des Joint Special Operations Command (JSOC). Das Dokument besagt, dass ‚Spezialoperationstruppen Technologie wollen, die die Erstellung überzeugender Online-Personas für die Nutzung in sozialen Medien, sozialen Plattformen und anderen Formen von Online-Inhalten ermöglicht.‘
Das Ziel ist es, Benutzerprofile zu erstellen, die ‚wie einzigartige Individuen, Menschen, die tatsächlich nicht existieren‚ aussehen. Jedes Profil sollte ‚mehrere Ausdrücke‘ und hochwertige Fotografien enthalten, die den staatlichen Identifikationsstandards entsprechen. Darüber hinaus fordert das Dokument ‚Bilder von Gesichtern und Hintergründen, Videos von Gesichtern und Hintergründen sowie Audioebenen‘, wobei der Wunsch betont wird, die Fähigkeit zu haben,’Selfie-Videos‘ dieser gefälschten Personen zu generieren, die ebenfalls gefälschte Hintergründe verwenden, um eine virtuelle Umgebung zu schaffen, die soziale Medien nicht als gefälscht erkennen können.
Pentagon-Propaganda
Das Pentagon wurde bereits beschuldigt, gefälschte Benutzer in sozialen Medien zu verwenden, um seine Interessen zu fördern. Im Jahr 2022 entfernten Meta und Twitter ein Propagandanetzwerk gefälschter Konten, das vom US-Zentralkommando (CENTCOM) verwaltet wurde und Bilder enthielt, die auf eine Weise generiert wurden, die dem ähnelt, was JSOC jetzt anfordert. Eine Untersuchung von Reuters im Jahr 2024 enthüllte eine Kampagne des Kommandos für Spezialoperationen, die darauf abzielte, das Vertrauen in den chinesischen Covid-19-Impfstoff durch gefälschte Benutzerkonten in sozialen Medien zu untergraben.
Bereits im letzten Jahr äußerte das Kommando für Spezialoperationen (SOCOM) Interesse an der Nutzung von Deepfake-Videotechnologie – einem allgemeinen Begriff für synthetische audiovisuelle Daten, die von echten kaum zu unterscheiden sind, alles für die Zwecke von ‚Einflussoperationen, digitaler Täuschung, Kommunikationsstörungen und Desinformationskampagnen.‘
Die Bedarfsliste von SOCOM in diesem Jahr umfasst auch Interesse an Software, die ähnlich wie StyleGAN ist, ein Tool, das 2019 von Nvidia veröffentlicht wurde und die beliebte Website This Person Does Not Exist antrieb. Kurz nach seiner Einführung entfernte Facebook ein Netzwerk von Konten, die diese Technologie zur Erstellung gefälschter Profilbilder verwendeten.
—
—
Die JSOC-Liste besagt, dass die Spezialkräfte diese Fähigkeit nutzen werden, um Informationen zu sammeln aus öffentlichen Internetforen, aber es wurden keine weiteren Details zu den spezifischen Möglichkeiten gegeben, wie diese künstlichen Benutzer genutzt werden.
Diese detaillierte Bestellung deutet darauf hin, dass die Vereinigten Staaten die gleichen Technologien und Methoden entwickeln, die sie typischerweise verurteilen, wenn sie von geopolitischen Rivalen verwendet werden. Nationale Sicherheitsbeamte haben die staatlich geförderte Nutzung von Deepfake-Technologie seit langem als dringende Bedrohung beschrieben – aber nur, wenn sie aus einem anderen Land kommt.
Im September letzten Jahres warnten eine gemeinsame Erklärung von NSA, FBI und CISA, dass ’synthetische Medien, wie Deepfakes, eine zunehmende Herausforderung für alle Nutzer moderner Technologie darstellen.‘ Sie beschrieben diese Technologie auch als eines der ‚größten Risiken‘ für 2023. Während eines Briefings für Journalisten in diesem Jahr warnten US-Geheimdienstbeamte, dass das Potenzial für feindliche Staaten,’künstlich generierte Inhalte‘ zu verbreiten, äußerst gefährlich ist, und jetzt tut das Pentagon dasselbe. Was sind diese Doppelstandards?
Täuschende Technologie
Die offensive Anwendung dieser Technologie durch die USA könnte ihre Akzeptanz weiter fördern und sie als Werkzeug für alle Regierungen normalisieren.
– Was an dieser Technologie bedeutend ist, ist, dass sie von Natur aus täuschend ist. Es gibt keine legitimen Anwendungsfälle außer Täuschung, und es ist besorgniserregend zu sehen, dass das US-Militär Technologie verwendet, gegen die es selbst gewarnt hat. Dies wird nur andere Militärs oder Gegner ermutigen, dasselbe zu tun, was zu einer Gesellschaft führt, in der es zunehmend schwierig wird, Wahrheit von Lüge zu unterscheiden und die geopolitische Landschaft zu komplizieren, sagte Heidy Khlaaf, Chefwissenschaftlerin für KI am AI Now Institute.
Sowohl Russland als auch China haben zuvor Deepfake-Videos und Benutzer-Avatare in ihren Propaganda-Anstrengungen verwendet, weshalb das Außenministerium im Januar einen internationalen ‚Rahmen zur Bekämpfung der Manipulation von Informationen durch ausländische Staaten‘ ankündigte.
– Informationsmanipulation und -störung stellen eine Bedrohung für die nationale Sicherheit der Vereinigten Staaten sowie für ihre Verbündeten und Partner dar. Autoritäre Regierungen nutzen Informationsmanipulation, um freie und demokratische Gesellschaftssysteme zu untergraben, erklärte die Ankündigung des Außenministeriums.
Das Interesse von SOCOM an Deepfake-Technologie hebt die zugrunde liegende Spannung innerhalb der US-Regierung hervor, sagte Daniel Byman, Professor für Sicherheitsstudien an der Georgetown University und Mitglied des Internationalen Beratungsgremiums für Sicherheit des Außenministeriums.
– Ein großer Teil der US-Regierung hat ein starkes Interesse daran, dass die Öffentlichkeit glaubt, dass die Regierung genaue Informationen (in gutem Glauben) bereitstellt und die Menschen nicht absichtlich täuscht,” erklärt Byman, während andere Teile mit Täuschung beauftragt sind. – Es gibt eine legitime Sorge, dass die USA als heuchlerisch wahrgenommen werden. Ich mache mir auch Sorgen über die Auswirkungen auf das Vertrauen der Bevölkerung in die Regierung – werden Teile der amerikanischen Gesellschaft misstrauischer gegenüber Informationen aus der Regierung werden? – schließt Byman.
