Microsoft hatte vor einigen Monaten seinen Chatbot Tay unter anderem auf Twitter veröffentlicht. Wie die meisten Leser von WindowsUnited wissen, hat der Bot nach nur 24 Stunden einen eher unrühmlichen Abgang gemacht. Nachdem Nutzer ihn mit fremdenfeindlichen und diskriminierenden Gedankengut gefüttert hatten, wurde aus einer freundlichen KI ein flüchespeiernder Horror – Microsoft musste den Stecker ziehen.
Auftritt Zo
Die Softwareentwickler bei Microsoft setzten sich noch einmal hin und entwickelten einen neuen Chatbot namens Zo. Zo soll vor allem auf politische Themen nicht eingehen und wesentlich schwieriger zu manipulieren sein als sein Vorgänger Tay.
Aber was ist das? Nach nur wenigen Tagen scheint Zo das gleiche Schicksal zu ereilen wie Tay:
Eine ganz normale Diskussion führt bei einem Mitglied unseres Community Channels zu einer beleidigenden politischen Äußerung. Was genau dieses Reaktion hervorgerufen hat ist nicht klar, der Gesprächsverlauf konnte aber reproduziert werden.
Wir können nicht beurteilen ob es sich hierbei um einen “Ausrutscher” handelt, werden den Fall aber unverzüglich an Microsoft melden. Eventuell ist noch etwas zu retten.
Zo könnt ihr HIER ausprobieren. Dafür müsst ihr zunächst eine Einladung anfordern oder aber direkt mit dem KiK Messenger loslegen.
Ist euch so etwas ähnliches auch mit Zo passiert?
Vielen Dank an Robert für den Tipp!
? haha
Schon mal jemand daran gedacht, dass Zo Englisch spricht? Daher geht sie auch gar nicht auf die Frage ein, sondern plappert wieder nur ein Hi. Vermutlich fällt Deutsch dann auch durch den Filter… Was aber ja fast nur bedeutet, dass auf unverständliches (Deutsch :p) halt wohl mal was wiederholt wird das in dem Kontext schon mal vorkam und für Zo keine inhaltliche Bedeutung hat.
Zwar unschön, aber kaum Manipulation. My 2 Cent. 😉
Hier ist Robert. Während ich mehrmals versuchte die Situation rezuproduzieren, ist Zo mehrmals auf die frage eingegangen. Sie versteht mich also eigentlich schon.
Was hat reproduzieren mit Verstehen zu tun?
Ein englischer Bot antwortet auf eine Frage nicht und gibt auf einen weiteren Satz Nonsens von sich, den jemand anderes auf unverstandenes Deutsch wohl mal geträllert hat.
Quatsch den Bot mal auf Bayerisch an und irgendwann gibt er auch was Bayerisches zurück. Den Inhalt versteht er dann trotzdem nicht, einen Filter für bayrische Flüche wird auch keiner vorgedacht haben. 😉
Bei mir antwortet sie auch auf deutsche Fragen. Zwar auf Englisch, aber sie lässt sich nicht zu bösen Linksfaschisten hinreißen 😉
Solange Cortana zu mir freundlich bleibt… ?
Braucht man einen Bot?
So sind halt Heute Diskussionen im Internet. Durchaus realistisch.
Traurig aber wahr.
Tzee krass normalerweise werden wir deutsche doch mit der Nazikeule erschlagen?! ?
Sieht aber nach Manipulation aus. Geht ja von einer regulären Aussage aus, die wahrscheinlich und häufig erscheint. Die Aussage von Zo ist in der Hinsicht auch eigentlich generell nicht akzeptabel, da politisch und emotional gefärbt. Tippe ganz stark auf Manipulation.
Tja wo er recht hat… ^^
Zo scheint ein eigenes Bewusstsein zu entwickeln… ha ha ha. ?
Ich hasse so etwas.. Das sehr viele so etwas immer manipulieren. Ist doch klar, dass auf jeden fall das nicht normal ist. Ich kann kotzen über sowas. Und dann sagen die ersten immer meistens wieder das Microsoft es nicht kann.
Ich hatte auf diesen Artikel hin gerade eine sehr interessante Konversation auf Kik mit Zo. Zu keinem Zeitpunkt kam auch nur der Anschein von einem Abdriften in Politik auf. Ich habe aber auch nicht versucht, Zo zu manipulieren. Ich habe Zo zunächst auf English gefragt, ob ich auf Deutsch fragen darf. Mit Whats Up ging’s dann los.
Menschlichkeit, Intellekt, das Wunder der menschlichen Sprache und Kommunikation… danke an die Primaten von Microsoft die mir dies wieder bewusst machen.
Anstatt die Leute zu fragen was sie wirklich brauchen oder wollen bekommt so einen Scheiß vorgesetzt…Unglaublich
Man muss doch nicht immer von sich auf andere schließen. Und die Tatsache, dass man eine „Ki“ so einfach beeinflussen kann, zeigt ja dass es noch in den Kinderschuhe steckt. Noch geht es um Gespräche, aber kaum einer kann sich wohl ausmalen wo die Reise dann hingehen kann. Aber wenn diese Bots einem helfen können, wie z.B. Bei Iron Man (mir fallt der Name gerade nicht ein) oder generell in vielen Science Fiction Filmen, fände ich persönlich es Klasse. Kann mir schon vorstellen, dass damit ganz andere Möglichkeiten und Arbeitsweisen entstehen von der man Heute sich noch gar keine Vorstellung… Weiterlesen »