Call of Duty: Activision hält ab MW3 per KI den Sprachchat sauber

Spiele-Publisher kämpfen seit jeher gegen toxisches Verhalten beim Online-Gaming. Activision will auch Voice-Chats in Zukunft sauber halten können – durch künstliche Intelligenz. Erstmals zum Einsatz kommen soll die neue Echtzeit-Moderation in Call of Duty: Modern Warfare III, das am 10. November erwartet wird.

ToxMod erkennt toxische Äußerungen per KI

Wie Activision in einem neuen Blogbeitrag erklärt, soll die Moderation des Sprachchats in dem neuen Call-of-Duty-Ableger durch eine KI-gestützte Moderationstechnologie namens ToxMod erfolgen, die von dem auf toxisches Spielerverhalten spezialisierten Unternehmen Modulate entwickelt wurde. Diese sei etwa in der Lage, toxische Äußerungen wie Hassreden, Belästigungen und diskriminierende Aussagen in Echtzeit zu erkennen und entsprechende Maßnahmen einzuleiten, um einen weiteren Missbrauch der Chatsysteme zu unterbinden.

Wie aus einem Interview mit dem Modulate-CEO Mike Pappas hervorgeht, verwende ToxMod dafür maschinelle Lernmodelle, die nicht nur erkennen, „was die einzelnen Spieler sagen, sondern auch wie sie es sagen – einschließlich ihrer Emotionen, Lautstärke, Prosodie und mehr“. Dies sei für den Erfolg der Technologie entscheidend, da eine Aussage, die in einem Kontext schädlich sei, in einem anderen Kontext harmlos oder sogar nützlich sein könne.

Beta-Test ist bereits angelaufen

Ein erster Beta-Test des neuen Moderationssystems, der zunächst auf Spieler in Nordamerika beschränkt sei, finde schon seit dem 30. August über die bestehenden Call-of-Duty-Teile Modern Warfare II und Warzone statt. Vorerst stehe das System nach dem globalen Start am 10. November nur für die englische Sprache zur Verfügung, später sollen aber weitere folgen. Welche Sprachen als nächstes ergänzt werden und nach welchem Zeitplan deren Einführung stattfindet, lässt Activision allerdings noch offen. Den FAQ zu der neuen Chat-Moderation zufolge soll dies zu einem späteren Zeitpunkt angekündigt werden.

Sanktionen verzögern sich

In den FAQ heißt es außerdem, die Erkennung erfolge zwar in Echtzeit, jedoch sei in vielen Fällen eine zusätzliche Überprüfung der Sprachaufzeichnungen erforderlich, um von Spielern getätigte Aussagen in den richtigen Kontext zu setzen, bevor ein Gesprächsteilnehmer tatsächlich sanktioniert werde. Daher sei zwischen der Erkennung eines Verstoßes und der Umsetzung von Maßnahmen mit Verzögerungen zu rechnen, wobei sich die Reaktionszeiten im Laufe der Zeit verbessern sollen. Damit ist jedoch auch klar: Der Sprachchat wird permanent aufgezeichnet. Jedem, der das nicht will, bleibt letztendlich nur die Möglichkeit, den Sprachchat in den Einstellungen des Spiels zu deaktivieren.

Bestehendes Moderationssystem hat bereits zahlreiche Spieler sanktioniert

Der Publisher nutzt die Gelegenheit der Ankündigung, um auch nochmal die Erfolge des bereits bestehenden Systems für den Kampf gegen toxisches Spielerverhalten hervorzuheben. Seit der Veröffentlichung von Modern Warfare II habe das Chat-Moderationssystem des Unternehmens mehr als eine Million Spielerkonten eingeschränkt, die gegen den Verhaltenskodex von Call of Duty verstoßen haben sollen. Bei rund 20 Prozent aller Spieler, die von dem System ein Mal verwarnt wurden, sollen sich die Regelverstöße im Anschluss nicht wiederholt haben. Alle anderen Spieler habe das Moderationssystem nach einem erneuten Verstoß durch vorübergehende Kontosperrungen oder Zugriffsbeschränkungen auf die Chatsysteme sanktioniert.