大型游戏创作平台《罗布乐思》已运用机器进修AI技术开展语音聊天审核职业长达一年之久。鉴于该平台拥有庞大的儿童用户群体，企业始终将审核职业视为重中之重。在近日举行的GDC 2024游戏开发者大会上，《罗布乐思》企业顶级技术总监Kiran Bhat和语音安全负责人Hannes Heikinheimo透露，虽然AI审核成效显著，但在某些情况下，人工审核仍具有不可替代的优势。

　　Bhat在演讲中指出：“实时监控语音并非易事，由于这不仅需要识别语音内容，还需捕捉说话者的语气和强度，从而准确判断某段话是否带有恶意。”他进一步解释道，“上下文信息同样是判断话术是否冒犯的决定因素影响，这使得难题变得更为复杂。”

　　为应对这些挑战，企业采用了将违规内容划分为4个主要类别的策略，并发现85%的违规内容均属于这些类别，且“绝大多数”可通过50个决定因素词进行捕捉。Bhat表示：“若能涵盖这些类别的前50个决定因素词，审核职业便已等于到位。”

　　语音安全负责人Heikinheimo则强调了AI监管所取得的令人瞩目的成果：经过一年的运行，该体系已覆盖31个民族和地区，且每段“活跃聊天时刻”的违规举报数量减少了一半。他提到，AI的壹个显著优势在于其无情感且不会疲惫，因此在处理“特别明显的违规情况”时，机器比人类更为高效和稳定。然而，他也承认，在领会意图和进行判断方面，“人类仍强于机器”。

　　Heikinheimo解释道：“在处理那些也许接近判定边缘的情况，或在数据稀缺、机器进修体系难以充分训练的罕见情况下，人类审核员的表现仍更为出色。”

赞壹个！ ()