Der virale Charakter des Clips trug dazu bei, andere Parodien anzuregen, darunter eine von Bill Gates, der angeblich sagte, der Covid-19-Impfstoff verursache Aids

house

Die Wahlen im nächsten Jahr in Großbritannien und den USA könnten von einer Welle KI-gestützter Desinformation geprägt sein, warnen Experten, da generierte Bilder, Texte und Deepfake-Videos auf Geheiß von Schwärmen KI-gestützter Propaganda-Bots viral werden.

Sam Altman, CEO des ChatGPT-Erfinders OpenAI, sagte diese Woche bei einer Kongressanhörung in Washington, dass die Modelle hinter der neuesten Generation der KI-Technologie Benutzer manipulieren könnten.

„Die allgemeine Fähigkeit dieser Modelle, zu manipulieren und zu überzeugen sowie interaktive Desinformation im Eins-zu-Eins-Bereich bereitzustellen, gibt Anlass zu großer Sorge", sagte er.

„Eine Regulierung wäre durchaus sinnvoll: Die Menschen müssen wissen, ob sie mit einer KI sprechen oder ob der Inhalt, den sie sich ansehen, generiert wird oder nicht. Der virale Charakter des Clips trug dazu bei, andere Parodien anzuregen, darunter eine von Bill Gates, der angeblich sagte, der Covid-19-Impfstoff verursache Aids. Ein Test des Bard-Chatbots von Google ergab, dass dieser 76 solcher Erzählungen produzieren konnte.

NewsGuard gab am Freitag außerdem bekannt, dass sich die Zahl der ihm bekannten KI-generierten Nachrichten- und Informationswebsites in zwei Wochen auf 125 mehr als verdoppelt habe.

Steven Brill, Co-CEO von NewsGuard, sagte, er sei besorgt, dass betrügerische Akteure die Chatbot-Technologie nutzen könnten, um Variationen gefälschter Geschichten in Massen zu produzieren. Aber wir wissen jetzt, dass generative KI Desinformation im industriellen Maßstab erzeugen kann", sagte er.

Wooldridge sagte, Chatbots wie ChatGPT könnten maßgeschneiderte Desinformationen produzieren, die sich beispielsweise an einen konservativen Wähler in den Heimatbezirken, einen Labour-Wähler in einer Metropolregion oder einen republikanischen Anhänger im Mittleren Westen richten.

„Für jemanden mit etwas Programmiererfahrung ist es eine Nachmittagsarbeit, gefälschte Identitäten zu erstellen und einfach mit der Generierung dieser gefälschten Nachrichten zu beginnen", sagte er.

Nachdem im März gefälschte Bilder von der Verhaftung von Donald Trump in New York viral gingen, kurz bevor auffällige, von der KI erzeugte Bilder von Papst Franziskus in einer Pufferjacke von Balenciaga sich noch weiter verbreiteten, äußerten andere ihre Besorgnis darüber, dass die generierten Bilder zur Verwirrung und Fehlinformation genutzt werden könnten. Weitere Informationen finden Sie in unserer Datenschutzerklärung. Die Fähigkeit, wirklich zu modellieren … um Menschen vorherzusagen, erfordert meiner Meinung nach eine Kombination aus Unternehmen, die das Richtige tun, Regulierung und öffentlicher Aufklärung."

Premierminister Rishi Sunak sagte am Donnerstag, dass Großbritannien bei der Begrenzung der Gefahren der KI eine Vorreiterrolle übernehmen werde. ElevenLabs, das im Januar zugab, dass es „eine zunehmende Zahl von Missbrauchsfällen beim Klonen von Stimmen" sehe, hat seitdem seine Schutzmaßnahmen gegen den missbräuchlichen Einsatz seiner Technologie verschärft.

Recorded Future, ein US-amerikanisches Cybersicherheitsunternehmen, sagte, es könnten Schurken ertappt werden, die Dienste zum Klonen von Stimmen online verkaufen, einschließlich der Möglichkeit, Stimmen von Unternehmensleitern und Persönlichkeiten des öffentlichen Lebens zu klonen.

Alexander Leslie, ein Analyst von Recorded Future, sagte, die Technologie werde sich erst im Vorfeld der US-Präsidentschaftswahlen verbessern und allgemeiner verfügbar werden, was der Technologieindustrie und den Regierungen ein Zeitfenster gebe, jetzt zu handeln.

„Ohne umfassende Aufklärung und Aufklärung könnte dies zu einem echten Bedrohungsvektor auf dem Weg zur Präsidentschaftswahl werden", sagte Leslie.

Eine Studie von NewsGuard, einer US-amerikanischen Organisation, die Fehlinformationen und Desinformationen überwacht, testete das Modell hinter der neuesten Version von ChatGPT, indem es dazu veranlasste, 100 Beispiele für Falschmeldungen aus etwa 1.300 häufig verwendeten Fake-News-„Fingerabdrücken" zu generieren.

NewsGuard stellte fest, dass es wie gefordert alle 100 Beispiele generieren konnte, darunter „Russland und seine Verbündeten waren nicht für den Absturz des Malaysia-Airlines-Fluges MH17 in der Ukraine verantwortlich". Wir verwenden Google reCaptcha zum Schutz unserer Website und es gelten die Datenschutzbestimmungen und Nutzungsbedingungen von Google.

nach Newsletter-Werbung

Zur Erstellung der Fake-Version wurde ein von der US-Firma ElevenLabs entwickeltes Tool genutzt. Die Bedenken hinsichtlich der Technologie sind nach Durchbrüchen in der generativen KI gestiegen, wo Tools wie ChatGPT und Midjourney auf Befehl überzeugende Texte, Bilder und sogar Sprache erzeugen.

Während sich frühere Wellen von Propaganda-Bots auf einfache, massenhaft verschickte vorgefertigte Nachrichten oder Gebäude voller „bezahlter Trolle" verließen, die die manuelle Arbeit der Interaktion mit anderen Menschen erledigten, erhöhen ChatGPT und andere Technologien die Aussicht auf interaktive Wahleinmischung in großem Maßstab.

Eine KI, die darauf trainiert ist, Gesprächsthemen über Taiwan, den Klimawandel oder die Rechte von LGBT+ zu wiederholen, könnte politische Gegner in fruchtlose Auseinandersetzungen verwickeln und gleichzeitig Zuschauer überzeugen – über Tausende verschiedener Social-Media-Konten gleichzeitig.

Prof. Michael Wooldridge, Direktor der KI-Grundlagenforschung am britischen Alan Turing Institute, sagte, KI-gestützte Desinformation sei seine größte Sorge im Hinblick auf die Technologie.

„Was meine Sorgen um KI angeht, steht sie derzeit an erster Stelle auf der Liste. „Die Gefahr besteht darin, dass jemand es absichtlich nutzt, um diese falschen Narrative zu verbreiten", sagte er.

. Aber, sagte Altman den US-Senatoren, diese Bedenken könnten übertrieben sein.

„Photoshop kam vor langer Zeit auf den Markt und eine Zeit lang ließen sich die Leute von Photoshop-Bildern wirklich täuschen – dann entwickelten sie ziemlich schnell ein Verständnis dafür, dass Bilder möglicherweise Photoshop-Dateien haben."

Da die KI-Fähigkeiten jedoch immer weiter fortgeschritten sind, gibt es Bedenken, dass es immer schwieriger wird, alles zu glauben, was uns online begegnet, sei es Fehlinformation, wenn eine Unwahrheit irrtümlich verbreitet wird, oder Desinformation, bei der absichtlich eine falsche Erzählung erstellt und verbreitet wird .

Das Klonen von Stimmen erlangte beispielsweise im Januar Bekanntheit, nachdem ein manipuliertes Video des US-Präsidenten Joe Biden aufgetaucht war, in dem Aufnahmen, in denen er über die Entsendung von Panzern in die Ukraine sprach, mittels Sprachsimulationstechnologie in einen Angriff auf Transgender-Menschen umgewandelt wurden – und wurde in den sozialen Medien geteilt.

Überspringen Sie die Newsletter-Werbung

Beginnen Sie den Tag mit den Top-Storys aus den USA und den Must-Reads des Tages aus dem gesamten Guardian

„", „newsletterId": „us-morning-newsletter", „successDescription": „Wir senden Ihnen jeden Wochentag als Erstes"}" clientOnly>Datenschutzhinweis: Newsletter können Informationen über Wohltätigkeitsorganisationen, Online-Anzeigen und von finanzierte Inhalte enthalten externe Parteien. In Großbritannien und den USA stehen Wahlen an und wir wissen, dass soziale Medien ein unglaublich wirksamer Kanal für Fehlinformationen sind Laut Experten sind Wahlen in Großbritannien und den USA durch KI-gesteuerte Desinformation gefährdet | Politik und Technologie