Microsoft entwickelt “Schild gegen toxisches Verhalten”

Toxic behaviour, zu Deutsch “toxisches Verhalten”, ist ein Begriff, der in den letzten Jahren immer stärker an Bedeutung gewonnen hat. Es beschreibt ein ganz gewisses Handlungsmuster und darf nicht mit “bad behaviour” (schlechtem Verhalten/Benehmen) verwechselt werden, auch wenn es Schnittmengen gibt.

“Toxisches Verhalten” richtet sich gegen die Gefühle von Personen – es verletzt. Dabei ist es unerheblich, ob die Person, die das toxische Verhalten ausübt, sich dessen bewusst ist oder nicht. Oft wird “toxic beviour” mit Sexismus gleichgesetzt. Es beschränkt sich aber nicht auf diese Form von Verhalten.

Microsoft hat nun ein Verfahren entwickelt, das toxisches Verhalten in virtuellen Unterhaltungen erkennen und dagegen vorgehen soll. Das Konzept berücksichtigt dabei ein ganz wichtiges Detail der menschlichen Interaktion.

Ist das jetzt toxisch oder nicht?

“Ich erklär dir das mal, Schnucki” – toxisches Verhalten muss nicht ganz so offensichtlich sein und auch nicht von jedermann als solches gewertet werden. Wo eine Person den Satz als sexistisch und beleidigend auffasst, könnt eine andere Person dies nicht weiter stören oder sogar, je nach Kontext und Vortragsweise, witzig finden.

In virtuellen Gesprächen fehlen wichtige Komponenten der menschlichen Interaktion wie etwa Betonung und Körperhaltung. Hier ist es besonders schwierig zu beurteilen, wie genau eine Aussage gemeint ist.

Microsoft hat eine Technologie entwickelt, die auf die verschiedenen Toleranzen der Gesprächspartner eingeht (Patentnummer US2019052471)

Toxicity-Shield-Module werden in Bezug auf Teilnehmer einer virtuellen Umgebung mit mehreren Benutzern aktiviert, um einzelne Teilnehmer vor toxischem Verhalten zu schützen. Die Toxizitätsschutzmodule können für jeden Teilnehmer der virtuellen Mehrbenutzerumgebung angepasst werden, basierend auf den Toleranzen jedes Teilnehmers für die Exposition gegenüber vorgegebenen toxischen Verhaltensweisen. Die Toxizitätsschutzmodule können während der virtuellen Mehrbenutzerumgebung aktiviert werden, um Kommunikationsdaten (z.B. sprachbasierte und/oder textbasierte “Chats” und/oder einen Videostream) zwischen den Teilnehmern zu überwachen und die Exposition einzelner Teilnehmer gegenüber dem/den vorgegebenen toxischen Verhalten(en) zu steuern. Unter Umständen, in denen beispielsweise ein erster Teilnehmer gegenüber der Verwendung eines bestimmten Inhalts sehr intolerant ist, während ein dritter Teilnehmer gegenüber der Verwendung des bestimmten Inhalts gleichgültig ist, kann das/die Toxizitätsschutzmodul(e) Instanzen des bestimmten Inhalt identifizieren, um zu verhindern, dass der erste Teilnehmer solchen Instanzen ausgesetzt wird, ohne den dritten Teilnehmer ebenfalls daran zu hindern, solchen Instanzen ausgesetzt zu sein.

Während die Aussage einem der Teilnehmer nicht angezeigt werden, weil sie von demjenigen als “toxisch” empfunden werden könnten, ist sie für Personen mit anderen Toleranzen ganz normal sichtbar.

Natürlich kann man schon jetzt bestimmte anstößige Wörter aus Chats filtern lassen. Das obige Verfahren soll dank KI aber schlauer agieren und ganze Inhalte samt Kontext verstehen. Das klingt nach einer großen Herausforderung und ich bin gespannt wie so etwas bei der endgültigen Implementation funktionieren wird.

Was sagt ihr zu dieser Microsoft-Technologie? Findet ihr solche Maßnahmen gegen toxisches Verhalten wichtig? Habt ihr schon einmal unschöne Chaterfahrungen gemacht, die durch eine solche Technologie hätten verhindert werden können?