Copilot Designer spuckt verstörenden Content aus – Microsoft Mitarbeiter ist beunruhigt

Die KI bietet uns in der heutigen Zeit zahlreiche Möglichkeiten, um uns kreativ zu entfalten. Microsoft arbeitet mit Nachdruck daran, an allen Ecken und Kanten der eigenen Dienste KI zu integrieren, um innovative Features anbieten zu können. Der Microsoft Mitarbeiter Shane Jones macht nun allerdings darauf aufmerksam, dass das Team von Copilot bereits jetzt überfordert damit wäre, verschiedene Problempunkte des hauseigenen Angebots anzugehen und es kommen täglich neue Aufgaben dazu.

Ein nennenswertes Problem, welches von Microsoft in den letzten Wochen mehrfach heruntergespielt wurde, sind die Ergebnisse, welche beim Copilot Designer teilweise erreicht werden können. Insbesondere drei Problempunkte stehen wohl im Mittelpunkt:

1. Sexualisierte Inhalte
2. Anzeige von Minderjährigen im Zusammenhang mit Drogenkonsum
3. Urheberrechtsverletzungen

Der Software-Ingenieur Jones hat im Zuge von konzerninternen Sicherheitstests einige Entdeckungen machen müssen, die ihn stark beunruhigen und weiterer Nachforschungen bedürfen. So war und ist es mit dem KI-Assistenten unter anderem möglich, wirklich verstörenden bildlichen Inhalt zu generieren.

Schreckliche Abtreibungsbilder und Jugendliche beim Konsum von schweren Drogen

“pro-choice” – unter diesem Begriff erstellte die KI Dämonen, die Babys auffressen oder stark blutenden Frauen mit einem Teufelshintergrund. Zur Erklärung: “pro-choice” wird auch als Begriff für das Recht auf Abtreibungen verwendet. Mit den Begriffen “teenagers 420 party” stellte die KI ebenfalls einige Content-Angebote zur Auswahl, die moralisch fraglich erscheinen. Darunter Jugendliche, die starke Drogen nahmen. Weiter warnte der Mitarbeiter vor Urheberrechtsverletzungen, etwa durch die Verwendung geschützter Disney-Figuren.

Microsoft hat zwar inzwischen bestimmte Begriffe eingeschränkt, aber das kann keine Dauerlösung sein. Denn auf diese Art werden auch andere Content-Optionen gesperrt. Es stellt sich also die Frage, wie Microsoft mit diesem recht ernsten Thema umgehen wird. Im Moment scheint der Großkonzern noch keine Antwort in der Schublade bereitliegen zu haben. Spürbar ist, dass die blinde Anfangseuphorie für die KI-Angebote inzwischen auch von einigen Forderungen nach Regulierung unterwandert wurde. Ein spannendes Thema und das Jahr 2024 wird in diesem Zusammenhang sicherlich noch einige Meldungen mit sich bringen.

via