Die Regierung Biden ist bereit, eine neue Front in ihren Bemühungen zu eröffnen, die USA vor China und Russland zu schützen. Sie plant, die fortschrittlichsten KI-Modelle mit Leitplanken zu versehen, wie Reuters am Mittwoch berichtete.

Forscher der Regierung und des privaten Sektors befürchten, dass US-Gegner die Modelle, die riesige Mengen an Text und Bildern auswerten, um Informationen zusammenzufassen und Inhalte zu generieren, dazu nutzen könnten, aggressive Cyberangriffe durchzuführen oder sogar wirksame biologische Waffen zu entwickeln.

Hier sind einige Bedrohungen durch KI:

FÄLSCHUNGEN UND FEHLINFORMATIONEN

Deepfakes - realistische, aber gefälschte Videos, die von KI-Algorithmen erstellt werden, die auf umfangreichem Online-Material trainiert wurden - tauchen in den sozialen Medien auf und lassen in der polarisierten Welt der US-Politik Fakten und Fiktion verschwimmen.

Solche synthetischen Medien gibt es zwar schon seit einigen Jahren, aber im letzten Jahr wurde die Entwicklung durch eine Reihe neuer "generativer KI"-Tools wie Midjourney beschleunigt, mit denen es billig und einfach ist, überzeugende Deepfakes zu erstellen.

Mit Hilfe von Tools zur Bilderzeugung, die auf künstlicher Intelligenz beruhen und von Unternehmen wie OpenAI und Microsoft stammen, können Fotos erstellt werden, die zur Desinformation bei Wahlen oder Abstimmungen beitragen könnten, obwohl beide Unternehmen Richtlinien gegen die Erstellung irreführender Inhalte haben, so Forscher in einem Bericht vom März.

Einige Desinformationskampagnen machen sich einfach die Fähigkeit der KI zunutze, echte Nachrichtenartikel nachzuahmen, um falsche Informationen zu verbreiten. Die großen Social-Media-Plattformen wie Facebook, Twitter und YouTube haben zwar Anstrengungen unternommen, um Deepfakes zu verbieten und zu entfernen, aber ihre Wirksamkeit bei der Überwachung solcher Inhalte ist unterschiedlich. So verbreitete beispielsweise im vergangenen Jahr eine von der chinesischen Regierung kontrollierte Nachrichtenseite, die eine generative KI-Plattform nutzte, eine zuvor verbreitete falsche Behauptung, dass die Vereinigten Staaten ein Labor in Kasachstan betreiben, um biologische Waffen für den Einsatz gegen China zu entwickeln, so das Department of Homeland Security (DHS) in seiner Einschätzung der Bedrohungslage im Jahr 2024.

Der nationale Sicherheitsberater Jake Sullivan sagte am Mittwoch auf einer KI-Veranstaltung in Washington, dass es für das Problem keine einfachen Lösungen gebe, da es die Fähigkeit der KI mit der Absicht staatlicher und nichtstaatlicher Akteure verbinde, "Desinformationen in großem Umfang zu nutzen, um Demokratien zu stören, Propaganda zu betreiben und die Wahrnehmung in der Welt zu beeinflussen".

"Im Moment schlägt die Offensive die Defensive um Längen", sagte er.

BIOWEAPONS

Die amerikanischen Nachrichtendienste, Think Tanks und Wissenschaftler sind zunehmend besorgt über die Risiken, die sich aus dem Zugang ausländischer böser Akteure zu fortgeschrittenen KI-Fähigkeiten ergeben. Forscher von Gryphon Scientific und der Rand Corporation haben festgestellt, dass fortgeschrittene KI-Modelle Informationen liefern können, die bei der Entwicklung biologischer Waffen helfen könnten.

Gryphon untersuchte, wie große Sprachmodelle (LLM) - Computerprogramme, die aus riesigen Textmengen Antworten auf Abfragen generieren - von feindlichen Akteuren genutzt werden könnten, um im Bereich der Biowissenschaften Schaden anzurichten, und stellte fest, dass sie "Informationen liefern können, die einem böswilligen Akteur bei der Herstellung einer biologischen Waffe helfen könnten, indem sie nützliche, genaue und detaillierte Informationen über jeden Schritt auf diesem Weg liefern."

Sie fanden zum Beispiel heraus, dass ein LLM Wissen auf Post-Doc-Niveau liefern könnte, um Probleme bei der Arbeit mit einem pandemiefähigen Virus zu lösen.

Die Rand-Forschung zeigte, dass LLMs bei der Planung und Durchführung eines biologischen Angriffs helfen könnten. Sie fanden heraus, dass ein LLM zum Beispiel Aerosolverteilungsmethoden für Botulinumtoxin vorschlagen könnte.

CYBERWEAPONS

Das DHS erklärte in seiner Einschätzung der Bedrohungslage für die Heimat 2024, dass Cyber-Akteure wahrscheinlich KI nutzen werden, um "neue Werkzeuge zu entwickeln", die "größere, schnellere, effizientere und ausweichendere Cyber-Angriffe" gegen kritische Infrastrukturen wie Pipelines und Eisenbahnen ermöglichen.

China und andere Gegner entwickeln KI-Technologien, die die Cyberabwehr der USA untergraben könnten, so das DHS, einschließlich generativer KI-Programme, die Malware-Angriffe unterstützen.

Microsoft sagte in einem Bericht vom Februar, dass es Hackergruppen aufgespürt hat, die mit der chinesischen und nordkoreanischen Regierung sowie dem russischen Militärgeheimdienst und der iranischen Revolutionsgarde verbunden sind und versuchen, ihre Hacking-Kampagnen mit Hilfe großer Sprachmodelle zu perfektionieren. (Berichterstattung von Alexandra Alper; Bearbeitung durch Chris Sanders und Anna Driver)