Uitgescholden worden omdat je niet goed genoeg speelt, omdat je het verkeerde personage hebt gekozen of gewoon zonder reden. Het is een bekend fenomeen in competitieve online games. Ook Overwatch heeft in toenemende mate te maken met dergelijke online scheldpartijen en tirades. Blizzard heeft nu echter iets bedacht om dit probleem beter aan te pakken: computers die ongewenst taalgebruik kunnen herkennen en aanpakken.

Om de scheldkanonnades is Overwatch aan te pakken, experimenteert Blizzard met machine learning. Op deze manier kunnen games zelf ongewenst taalgebruik herkennen en actie ondernemen. Daardoor hoef je niet meer te wachten op een rapport dat vaststelt of iets ongewenst is, om pas daarna actie te kunnen ondernemen, aldus game director Jeff Kaplan in een interview met Kotaku:

We’ve been experimenting with machine learning. We’ve been trying to teach our games what toxic language is, which is kinda fun. The thinking there is you don’t have to wait for a report to determine that something’s toxic. Our goal is to get it so you don’t have to wait for a report to happen.

Ook zonder machine learning heeft Blizzard de afgelopen tijd al de nodige vooruitgang geboekt in het aanpakken van abusief gedrag. Ongewenst taalgebruik in de chat is met 17 procent gedaald en de rapporteerfunctie wordt 20% vaker gebruikt. De traagheid en problemen van deze functie zorgen er echter voor dat Blizzard het probleem op een andere manier wil aanpakken. Machine learning is daarin de volgende stap.