敏感词的风险、捕捉与解决
用户在使用WPS AI时,有时会出现“我还在不断学习中,暂时无法解释此内容,请尝试选择其他内容”的异常回答。
经过多次试验,发现一切的罪魁祸首是敏感词“小母狗”
现在进行控制变量法:我们去除敏感词,修改成其他非敏感词,例如,把小母狗改成小猫咪。
数据可以正常显示,这表明,敏感词容易使得AI出现bug。事实上,“小母狗”有时带有侮辱女性的意思,AI误解了动物类故事的意图。
用户在使用WPS AI时,有时会出现“我还在不断学习中,暂时无法解释此内容,请尝试选择其他内容”的异常回答。
经过多次试验,发现一切的罪魁祸首是敏感词“小母狗”
现在进行控制变量法:我们去除敏感词,修改成其他非敏感词,例如,把小母狗改成小猫咪。
数据可以正常显示,这表明,敏感词容易使得AI出现bug。事实上,“小母狗”有时带有侮辱女性的意思,AI误解了动物类故事的意图。
创作者俱乐部成员