Vor kurzem hat Microsoft beschlossen, einen Teil der Redakteure von MSN.com durch eine künstliche Intelligenz zu ersetzten. Diese soll im Internet nach Artikeln von Zeitungen und Co. suchen und diese aufbereiten und auf MSN online stellen. Genau diese KI hat sich jetzt jedoch einen groben Fehler erlaubt und auch der Umgang seitens Microsoft wirft kein gutes Licht auf die Sache.
Siehe auch: [Exklusiv] Kommt eine Surface Watch mit Blutdruckmessung und mehr?
Was war passiert? Jade Thirwall von der Band Little Mix gab ein sehr persönliches Interview über ihre eigenen Erfahrungen mit Rassismus. Der Artikel wurde nun von der künstlichen Intelligenz bei MSN entdeckt und mit einem Foto versehen. Dumm nur, dass es sich hierbei nicht um Jade Thirwall handelte, sondern ihrer Band-Kollegin Leigh-Anne Pinnock.
Microsoft äußerte sich bereits und gab an, dass entsprechende Bild sofort ausgetauscht zu haben. Besonders pikant ist allerdings die Tatsache, dass das Personal von MSN angewiesen wurde, kritische Berichte über den Fall zu löschen. Dies wurde ironischerweise erschwert, da die neue KI diese Artikel durchaus als interessant einstufen konnte. Die menschlichen Mitarbeiter mussten daher stehts darauf achten, diese Artikel abzufangen und die KI an der Veröffentlichung auf MSN zu hindern.
Laut Aussagen eines Mitarbeiters hat Microsoft Sorge, die ganze Sache könnte die Reputation der eigenen KI Systeme beschädigen. Ob eine großangelegte Löschaktion kritischer Artikel dabei jedoch wirklich hilfreich ist, darf bezweifelt werden. Ein offener Umgang mit dem Fehler wäre vermutlich die bessere Wahl gewesen.
Wie seht ihr das? Sollte Microsoft lieber wieder auf menschliche Redakteure setzen oder gehören solche Fehler einfach dazu?
via The Guardian
Bevor wir mit dieser neuen Meldung beginnen, nein, dies ist keine Bill Gates Verschwörungstheorie, von…
Dieses Mal möchten wir die Gelegenheit nutzen und Euch einen 3-in-1 Multifunktionsdrucker aus dem Hause…
Windows 11 tut sich wirklich schwer damit, Nutzer des Betriebssystems Windows 10 davon zu überzeugen,…
Die EU-Kommission hat ein Verfahren gegen den Facebook-Mutterkonzern Meta auf den Weg gebracht. Es geht…
Heute möchten wir Euch einen besonderen Deal vorstellen, denn er wird nicht nur als Amazon-Tipp…
Für viele Gamer ist Twitch mittlerweile die Anlaufstelle schlechthin, wenn es um Streaming geht. Das…
Diese Webseite benutzt Cookies.
Zeige Kommentare
Das eine KI ein Bild falsch zuordnet kann passieren. Ist halt an dieser Stelle besonders blöd. Dass die KI jedoch im allgemeinen diese Artikel versucht zu zeigen liegt einfach daran, dass sie durchaus recht hat. Die KI soll interessante Artikel zeigen und genau das macht sie (das Thema ist halt aktuell sehr prominent). Die entsprechende Reaktion von Ms hätte jetzt jedoch sein müssen, dass eine zweite KI zum Einsatz kommt, welcher man einfach sagen kann welche Themen aktuell nicht gezeigt werden sollen. Diese kann die entsprechenden Artikel dann aussortieren.
Zu der Frage: Nein ich finde nicht, dass hier mehr auf Redakteure gesetzt werden sollte. Die Frage ist hierbei eher das Einsatzgebiet. Eine KI sollte sich im Grunde also nur um die Zusammenstellung der Artikel kümmern, welche am Ende vom Redakteur geprüft und veröffentlicht werden. Bei "besonderen" Themen sollte ein Redakteur grundsätzlich erstmal die Artikel zusammenstellen. Eine KI sollte hier dabei sein um zu lernen.
Was halt gerade bei Nachrichten ein Vorteil der KI ist, ist nunmal die Überprüfung von Falschmeldungen, also anders ausgedrückt: Verschiedene Quellen erhalten unterschiedliche Gewichtung bei unterschiedlichen Themen und die KI kann nun abwägen welche der Quellen nun am besten geeignet ist. Bei Corona wären das wohl eher Wissenschaftsmagazine und nicht gerade die Bild.
Mal abgesehen davon, dass ein Redakteur nur auf die Quellen zurückgreift auf die er zurückgreifen will oder soll, also keine absolute Neutralität bei der Auswahl besitzt, und Quellen müssen bei einer Veröffentlichung angegeben werden, dann handelt er, unterm Strich, nicht besser als eine programmierte KI. Wenn die KI bei einem Redakteur dazulernen soll, dann lernt sie dass, was der Redakteur macht, bzw. was vom Unternehmen gewünscht ist. Die Bild auszuschließen mag ja in gewisser Weise nachvollziehbar sein, aber Wissenschaftsmagazine gibt es eben auch aus demselben Verlag. Man kann der KI natürlich eine Unmenge Einschränkungen für die Auswahl der Quellen geben, aber dann ist es keine KI mehr. Ich denke, die Menschen sollten weiterhin in der Lage sein, sich mit verschiedenen Quellen auseinander zu setzen und herauszufinden welche davon seriös und fundiert sind. Dass vielleicht nicht alle Menschen dazu in der Lage sind mag so sein, aber dass eine KI mir zeigen soll was die Wahrheit ist, halte ich, zur Zeit noch, für suspekt. Mit "zur Zeit" meine ich mindestens die nächsten Jahrzehnte. Egal was für dubiose Quellen sich auftun, die Menschen sollten sich weiterhin frei entscheiden können welchen Standpunkt sie vertreten. Ansonsten wäre es eine gewisse Form der Diktatur.