OpenAI bringt ein Tool auf den Markt, das Bilder erkennen kann, die von seinem Text-zu-Bild-Generator DALL-E 3 erstellt wurden. Dies teilte das von Microsoft unterstützte Startup am Dienstag in Anbetracht der wachsenden Besorgnis über den Einfluss von KI-generierten Inhalten bei den weltweiten Wahlen in diesem Jahr mit.

Das Unternehmen erklärte, dass das Tool bei internen Tests in etwa 98% der Fälle die von DALL-E 3 erstellten Bilder korrekt identifiziert hat und gängige Modifikationen wie Komprimierung, Beschneidung und Sättigungsänderungen mit minimaler Auswirkung verarbeiten kann.

Der Entwickler von ChatGPT plant außerdem, ein fälschungssicheres Wasserzeichen hinzuzufügen, um digitale Inhalte wie Fotos oder Audiodateien mit einem Signal zu markieren, das nur schwer zu entfernen sein dürfte.

Im Rahmen dieser Bemühungen ist OpenAI auch einer Industriegruppe beigetreten, zu der auch Google, Microsoft und Adobe gehören, und plant, einen Standard bereitzustellen, der die Rückverfolgung der Herkunft verschiedener Medien erleichtern würde.

Im April, während der laufenden Parlamentswahlen in Indien, gingen gefälschte Videos von zwei Bollywood-Schauspielern, die Premierminister Narendra Modi kritisieren, im Internet viral.

Die Verbreitung von KI-generierten Inhalten und Deepfakes wird in Indien und bei Wahlen in anderen Teilen der Welt, darunter in den USA, Pakistan und Indonesien, zunehmend genutzt.

OpenAI kündigte an, gemeinsam mit Microsoft einen 2-Millionen-Dollar-Fonds für "gesellschaftliche Resilienz" zur Unterstützung der KI-Ausbildung aufzulegen.