1. 猴哥笔记首页
  2. 行业动态

面对30位反低俗测试员的吐槽,我们找来了“灵犬”一一解答

今天,“灵犬”反低俗助手正式结束了为时两个月的内测期,即将正式上线。1月底,我们曾面向全社会招募反低俗测试员,最终从超过5000位报名用户,选出了30位代表,包括政府部门工作人员,媒体记者、编辑,大学教授、学生,互联网公司产品经理和技术人员,自媒体人等。

感谢这些测试员。在内测阶段,我们根据他们的意见反馈,增加了大量人工策略,帮助完善“灵犬”小程序。增加的重要策略,包括:对于权威媒体报道和诗词类内容,予以算法推荐倾斜;对于时政等机器难以直接处理的内容,必须交由人工审核判断。

我们在这里公开测试员们对于“灵犬”的吐槽和疑问,并让“灵犬”一一解答。

面对30位反低俗测试员的吐槽,我们找来了“灵犬”一一解答

 

1号吐槽人:刺猬公社记者
Q:最开始并不清楚这个东西是做什么的,辨识度不高。

灵犬:让我重新自我介绍下,我是一款鉴定低俗信息的小程序,脱胎于今日头条反低俗算法模型。给我一段文字或文章链接,我就能帮你检测它的健康指数。你可以把我看作是一个简便的低俗信息检测工具

 

2号吐槽人:中国青年网编辑
Q:带图片和视频的链接,检测效果都不太好。

灵犬:目前使用我检测带图片、视频的链接,确实会有误差。因为图片、视频提取需要较长的时间,返回结果较慢,考虑到工具的即时性,暂时还不支持检测。

 

3号吐槽人:国家新闻出版广电总局工作人员
Q:输入文字,为什么必须超过10个字才能检测?

灵犬:如果你给一个人的爱越多,她对你的好感就会越强烈。对于像我这种机器呢,你给我的上下文、语境这些信息越充分,我判断的准确度就会越高。为了让我更敏锐,有充分的信息做出准确判断,请多给我一些字,最好是一段链接。

 

4号吐槽人:新浪记者
Q:不太清楚背后的算法机制,如何判断一段文字或网址链接是低俗?

灵犬:算法模型处理低俗内容的一般路径,是“收集数据-标注样本-训练模型”。我的母体,就是一个使用人工智能技术反复训练的反低俗模型。对于你输入的文字或链接,我会先进行提取、分词和语义识别,然后根据设定的规则,输出对应的分数、评级和结论。

 

5号吐槽人:阿里巴巴程序员
Q:“灵犬”与头条审核机制有何不同?

灵犬:如果我是一条犬,头条审核机制就是一支工作犬部队。换句话说,我只是头条审核机制中反低俗部分的一个简化版本。在内容审核方面,今日头条目前投入了4000多人专业审核团队,是国内最大的审核团队,并搭建色情、低俗、标题党、虚假信息、低质模型180多个,结合人工、技术手段,有效提升了内容审核的效率和准确度。

 

6号吐槽人:浙报传媒编辑
Q:希望在建模的时候,能考虑优质文章的来源对于健康度指数的影响。

灵犬:谢谢你的意见。在最新版本的我,已经对于权威媒体报道的内容,予以算法推荐倾斜。

 

7号吐槽人:新浪记者
Q:我测了“你饿不饿我下面给你吃”,这个有51%的健康概念,但我觉得挺中性的呀。

灵犬:不同于色情信息,处理低俗信息的一个难点在于,人们对于低俗的判断标准具有一定的主观性。色情信息很直接,低俗信息偏隐晦,对于像我这种机器就更难了。今日头条的做法是,把低俗的标准分为两个层次:几乎所有人看来都会一致同意的标准底线,和因人而异的主观判断。我认为你这个测试标题,是一个因人而异的话题,仁者见仁智者见智。

 

8号吐槽人:四川大学副教授
Q:我测了标题党“你永不知道云飞在2017年春晚唱这歌有多好听,花500000万也买不到”,结果是健康概率99%,可以获得算法推荐。

灵犬:我的母体是今日头条反低俗算法模型,所以对于标题党识别不太准确,就像你很难用温度计去测一杯水的深度。仅仅从反低俗角度而言,我认为这个标题并不低俗。但在实际审核过程中,今日头条有专门的技术模型和专业的内容审核编辑,做打击标题党工作,他们做得比我更专业。

 

9号吐槽人:中国人大教授
Q:我测“驿外断桥边,寂寞开无主”,健康概率只有12%。

灵犬:这是因为此前的我认为“寂寞”有低俗的嫌疑。这是我的缺陷。程序员已经通过人工策略纠正了。如果你现在测类似的内容,会得到较高的健康概率。最新版本的我,对于诗词类内容,也予以了算法推荐倾斜。

 

10号吐槽人:清华大学教授
Q:“今天有152年不遇的蓝月亮”(健康概率83%)和“今晚有152年不遇的蓝月亮”(健康概率71%),一字之差,健康概率差12%?

灵犬:一个字的改变,确实会影响我对事物的认知和判断。对于很多短文本、没有上下文的语句,我的判断不如人类那么准确。这也是为什么在今日头条实际审核工作中,需要庞大的内容审核编辑团队。算法仍有缺陷,我们希望借助更多人的力量,完善算法模型,更好地服务社会。

 

来源:今日头条

原文链接:https://www.toutiao.com/a6537518984441364996/?tt_from=weixin&utm_campaign=client_share&timestamp=1522199946&app=news_article&utm_source=weixin&iid=28746897848&utm_medium=toutiao_android&wxshare_count=1

猴哥笔记合作、推广、报道请加猴哥助理微信:houge6788

除非注明,本网站均为原创。发布者:依然,转载请联系QQ 405375506 侵权必究,本文地址:https://www.hougebiji.com/3474.html

发表评论

电子邮件地址不会被公开。 必填项已用*标注