Aktuelles

Künstlich-intelligente Wasserzeichen

OpenAIs hauseigener Bildgenerator DALL-E 3 wird Wasserzeichen zu den Bildmetadaten seiner Kreationen hinzufügen, da immer mehr Unternehmen die Standards der Coalition for Content Provenance and Authenticity (C2PA) unterstützen.

Nach Angaben des Unternehmens werden die C2PA-Wasserzeichen in Bildern erscheinen, die auf der ChatGPT-Website und in der API für das DALL-E 3-Modell generiert werden. Mobile Nutzer werden die Wasserzeichen bis zum 12. Februar erhalten. Die Wasserzeichen bestehen aus einer unsichtbaren Metadatenkomponente und werden zudem ein sichtbares CR-Symbol enthalten, das in der linken oberen Ecke jedes Bildes erscheint.

Über Websites wie Content Credentials Verify können die Nutzer dann die Herkunft eines von OpenAI-Plattformen erzeugten Bildes überprüfen und können verifizieren, welches KI-Tool zur Erstellung der Medieninhalte verwendet wurde. Bislang lassen sich nur Standbilder, jedoch keine Videos oder Text, mit dem Marker versehen.

Wie OpenAI weiterhin mitteilte, hat das Hinzufügen der Wasserzeichen-Metadaten kaum Auswirkung auf die Latenzzeit bei der Erstellung der Bilder, auch die Qualität der Bilderzeugung soll durch das Watermarking nicht beeinträchtigt werden. Naturgemäß wird sich die physische Bildgröße bei einigen Aufgaben leicht erhöhen.

Die C2PA-Gruppe, zu der auch namhafte Unternehmen wie Adobe und Microsoft gehören, setzt sich für die Verwendung des Content-Credentials-Wasserzeichens ein, um die Herkunft von Inhalten zu identifizieren und zu zeigen, ob sie von Menschen oder von KI erstellt wurden. Adobe hat ein Content-Credentials-Symbol entwickelt, das OpenAI zu DALL-E 3-Kreationen hinzufügt. Meta kündigte kürzlich an, KI-generierte Inhalte auf seinen Social-Media-Plattformen ebenfalls mit entsprechenden Tags zu versehen.

Die Kennzeichnung von KI-generierten Inhalten ist eine der wichtigsten Richtlinien in der KI-Verordnung der Regierung Biden. Wasserzeichen sind jedoch kein wirklich sicherer Weg, um Fehlinformationen zu verhindern. OpenAI weist darauf hin, dass die Metadaten von C2PA "leicht entfernt werden können, entweder versehentlich oder absichtlich", zumal die meisten Social-Media-Plattformen die Metadaten von hochgeladenen Inhalten oft entfernen. Wenn man beispielsweise einen Screenshot macht, werden die Metadaten weggelassen.

"Wir glauben, dass die Annahme dieser Methoden zur Feststellung der Herkunft und die Ermutigung der Nutzer, diese Signale zu erkennen, der Schlüssel zur Erhöhung der Vertrauenswürdigkeit digitaler Informationen sind", so OpenAI auf seiner Website.

07.02.2024