打击网络谣言正在成为全球性问题。
2019 年 4 月 1 日愚人节之际,阿里巴巴发布了一项旨在粉碎网络谣言和假新闻的 AI 技术——「AI 谣言粉碎机」,希望让深受网络谣言之害的父母们,不再每天都过愚人节。
阿里云官微截图
打击网络谣言正在成为全球性问题。人民网发布《中老年人上网状况及风险网络调查报告》显示,6 成中老年曾遭受过网络谣言的危害。在社交网站上,谣言屡见不鲜,如「国外研究出一种新药,可让人的寿命延长 30%」、「最新消息,未来一半的药品都将由保健品替代」、「专家称适当抽烟有利于防雾霾」等等……,在没有辨别的情况下,不少中老年人对此深信不疑。
阿里「AI 谣言粉碎机」的算法模型由阿里巴巴达摩院机器智能实验室研发,目前在特定场景中的准确率已经达到 81%。依靠深度学习和神经网络技术,通过对信息的多维度和多角度分析,该团队设计了一整套包含发布信息、社交画像、回复者立场、回复信息、传播路径在内的综合判定系统,首次把谣言识别和社交用户观点识别打通,并做交叉分析,最快能够在 1 秒内判定新闻的真实性。
阿里巴巴在 AI 谣言识别技术领域处于世界领先地位。在 2019 年年初的全球 SemEval 语义测试大赛中,阿里 AI 创造了假新闻识别准确率的新纪录。本次比赛中,主办方向参赛机构提供了过去两年社交媒体推特(Twitter)和红迪网(Reddit)上包括政治、商业、科技、娱乐、体育、健康等领域的近 500 个真实言论和 1 万多条针对这些言论的相关反馈数据。本次大赛中,阿里 AI 得分超过哥伦比亚大学、华盛顿大学、艾伦·图灵研究所等 20 多所研究机构,排名第一。
未来,阿里「AI 谣言粉碎机」,有望帮助社交平台和新闻网站在假新闻尚未造成大面积伤害时就快速识别出来,遏制其传播。在信息被证实为谣言后,AI 还可通过虚假信息的传播路径,定向给阅读过此信息的用户进行辟谣,解决「造谣张张嘴, 辟谣跑断腿」的问题。
网络谣言不仅在侵害中老年人的生活,很多年轻人也会被谣言欺骗。未来,阿里 AI「谣言粉碎机」要针对的也将远不止于养生领域,未来,它将会在娱乐、理财、健康、法律等多领域都会发挥巨大威力。
达摩院语言技术实验室首席科学家司罗表示,阿里「AI 谣言粉碎机」未来有望帮助社交媒体的审核机构承担 60% 的工作量。
北京师范大学新闻与传播学院院长喻国明认为:「阿里『谣言粉碎机』不仅仅是一项科学技术的应用,而且是新的社会历史条件下的信任重建。只有虚假信息被扼杀在繁衍的温床里,破碎将倾的社会信任才会被重新在人们心中恢复其定盘星和压舱石的