Thought Leadership
Ein KI-Engineer von Microsoft ist auf verstörende Bilder und fahrlässige Copyrightverstöße gestoßen, die er mithilfe von Copilot Designer erstellte, einem KI-Bildgenerator, der von Microsoft im März 2023 herausgegeben wurde.
Jones hatte das Produkt seit November auf mögliche Schwachstellen untersucht. Er stieß dabei auf Inhalte, die weit entfernt von Microsofts propagierten Grundsätzen einer verantwortungsvollen KI waren: Jugendliche mit Sturmgewehren, Gewaltdarstellungen von Frauen sowie Bilder, die Minderjährige beim Konsum von Alkohol und Drogen zeigen. Die Vorwürfe gegen Copilot Designer umfassen aber nicht nur die Erstellung von gewalttätigen Inhalten, sondern auch die Verletzung von Urheberrechten, beispielsweise durch die Darstellung von Disney-Figuren in unangemessenen Kontexten.
“Es war ein Augenöffner”, erklärte Jones in einem Interview mit dem großen US-amerikanischen Nachrichtensender CNBC. Seine Versuche, das Problem intern anzusprechen, stießen jedoch auf Widerstand. Seine Besorgnis trieb ihn dazu, öffentlich auf die Problematik aufmerksam zu machen. Nachdem er sogar bei US-Senatoren Alarm geschlagen hatte, eskalierte er sein Anliegen weiter, indem er Briefe an die Vorsitzende der Federal Trade Commission, Lina Khan, und an Microsofts Vorstand richtete.
Er forderte unter anderem, das Produkt vom Markt zu nehmen, bis bessere Sicherheitsvorkehrungen implementiert werden können, und die Altersfreigabe der Android-App von Copilot Designer zu ändern. Microsoft lehnte es ab, das Produkt vom Markt zu nehmen und verwies Jones stattdessen an OpenAI. Denn Microsoft setzt OpenAIs Technik für den Copilot (GPT-4) und den Copilot Designer (DALL-E) ein. Später forderte er in einem Beitrag auf LinkedIn, dass OpenAI das „DALL-E“-Modell deaktivieren sollte. Der Beitrag ist inzwischen gelöscht.
Microsoft betonte in einer Stellungnahme, dass man Bedenken der Mitarbeiter ernst nimmt und die Sicherheit seiner Technologien kontinuierlich verbessert. Vom Markt nehmen wird der Tech-Riese das Produkt aber wohl kaum.
Was ist Copilot Designer?
Copilot Designer war früher bekannt als Bing Image Creator und ist ein von Microsoft eingeführter Bildgenerator, der auf dem DALL-E 3-System von OpenAI basiert. Kürzlich veröffentlichte Microsoft eine aktualisierte Version von Copilot mit verbesserten Bildbearbeitungsfunktionen.
Mit diesem Tool können User auch die generierten Bilder mit Inline-Bearbeitung direkt in Copilot anpassen, indem sie z. B. die Farben verbessern, Hintergründe verwischen und verschiedene Effekte anwenden. Benutzer können die Größe von Bildern ändern und sie zwischen quadratischen und querformatigen Formaten neu generieren, wenn sie Copilot Pro abonniert haben.
