首页 > 文章内容

如何辨别 AI 写的假文章?最好的办法还是用回 AI

解铃还须系铃人。

这句话的意思是谁引起了麻烦,那么就由谁去解决。而如今,这句话用在麻省理工学院的 AI 查文工具 GLTR(巨型语言模拟器)上似乎也同样合适。

GLTR 是一款由麻省理工学院和哈佛大学 IBM 沃森人工智能实验室的人工智能文本识别工具。这款工具的工作原理,是通过检测文本撰写逻辑、文本用词来对文章进行判断,即通过文章语句的组成方式、对单词运用的手法进行人工撰写和 AI 撰写的识别。

比如,当 AI 炮制出一篇新闻,那么它只是会以复述的形式机械地向读者陈述事件,并没有主观情绪和意识,也没有写作手法特点,那么 GLTR 就会判断出该文章为 AI 撰写文本。

同理,当评论语句是由简单的单词组成,那么 GLTR 也能识别出由 AI 灌水的评论。

GLTR 的「对手」,其实是近年由马斯克倡导成立的 OpenAI,不过说来也是有趣,OpenAI 同时也充当着 GLTR 的「孵化器」角色。GLTR 的「孵化器」角色。

今年初,OpenAI 公布了一款文本生成工具(GPT-2),这款工具能根据用户给出的多个信息点去整理并生成出一篇假新闻。尽管 OpenAI 在展出这款软件后一再强调它的作用只是用于未来的 AI 语言建模,即通过 AI 对人类的使用习惯进行学习,继而在未来以接近用户的编写方式去自动补充文本内容,演示的新闻编写只是工具能力的展示方式。

但由于该工具已经具备基础的内容编写能力,所以也不排除这款工具在未来会参与到假新闻、假评论创作当中。因此,IBM 沃森人工智能实验室以 OpenAI 的公开代码为蓝本,在编译功能的基础上加以改良,最后推出了这款具备逆向检测功能的 GLTR。

正如大家经常开的一个玩笑:AI 当中出现了「叛徒」。

GLTR 的预测结果分为容易(绿)、较难(红/黄)、很难(紫)几种。其中「很难」为最接近人类用词撰写的词语或句子;「容易」则最有可能是由 AI 编写的语言,因为 AI 所获得的信息量有限,而且句式搭配单一和机械,因为 AI 能根据单词和词组对内容进行筛选,最后得出是否由 AI 撰写内容的结果。

怎样的句式才属于人类创作?哪些措辞是 AI 常用的?

澎湃新闻的记者用工具对《哈姆雷特》的其中一小段进行检测,最后发现单单一页纸的内容,就已经能找到多达 20 个标紫的结果。

比如在文章中,莎士比亚就用了「暴虐」、「炽热的光彩」来修饰命运和光彩,这些都是常用不常用的写作手法,对于 AI 来说,这些可以说是从入门到精通的超能级别了。

▲ 图片来自:澎湃新闻

相比于人类对 AI 内容的辨别,GLTR 在实验中已颇显成效。根据 GLTR 研究团队的测试结果,在同一篇由 AI 杜撰的文章中,参与测试的哈佛学生辨别出了近 50% 的虚假文本,而在使用 GLTR 工具后,辨别能力提升到了 75%。

虽然在复杂的现实场景中,GLTR 尚未做到 100% 的准确率,也尚未真正能投入使用,但在测试中能为人类提升 25% 的效率,也已经是个相当喜人的表现了。

果然是知己知彼才是最重要的。

有学者认为,随着社交平台、内容媒体在近年井喷发展,假新闻、假消息、假评论也随之在网络泛滥。而 GLTR 在未来有望能成为人类辨别 AI 假内容的辅助工具,它能帮助用户及时避免假新闻、假评论所可能会带来的损害。

实际上除了哈佛和麻省理工的 GLTR 以外,华盛顿大学和艾伦人工智能研究所也在早些时候推出了一个同样是基于 OpenAI 代码设计的文本检测工具,名为 GROVER。比 GLTR 更有意思的是,GROVER 除了具备文本预测能力外,还能对某些刊物的写作风格进行模仿,包括《纽约时报》、《连线杂志》等等。

比如我在 GROVER 的官网选择《自闭症与疫苗的关系》这么一个标题,系统就能模仿 CNN 的写作风格帮我生成了一篇假新闻。而且我还能在编辑框中调整文章的撰写日期、作者和标题,甚至还能对正文进行微调,以达到以假乱真,真上加真的目的。

而通过 AI 生成一篇有理有据的评论文要多久?GROVER 的官网说要 30 秒,但实际上在网络畅通的时候,只需 10 秒就能得到一篇由 AI 炮制的假新闻了。

而与 GLTR 一样,GROVER 同样也提供了文本预测功能,这让我不禁想起《猫鼠游戏》中的弗兰克——他是一个造假支票的专家,同时也是验假支票的专家。

随着 AI 的算法不断学习和升级,AI 撰文在今天可以说已经达到了能以假乱真的地步,这也间接催生出了如 GLTR、GROVER 这些识别软件的问世。当然,人类想要辨别出假文章也不一定全靠 AI 辅助,比如按照 GLTR 的逻辑,本文的第一句话就能证明这是一篇由人类撰写的真文章,而且本文我总共花了 30 分钟撰写,比 AI 足足慢了 60 倍呢。

#欢迎关注爱范儿官方微信公众号:爱范儿(微信号:ifanr),更多精彩内容第一时间为您奉上。

责任编辑:

相关推荐

屈冬玉正式接任成联合国粮农组织首位中国籍总干事
保时捷女司机红灯随便闯扣分随便消?警方回应
英镑大跌:无协议脱欧的威胁没吓住欧盟吓坏了市场
苹果借财报东风有望重新加入万亿俱乐部
瓦努阿图群岛海域发生6.7级地震 初判不会引发海啸
种草神器出事!"网红"App小红书被下架为啥"红"到翻车
驻港部队司令员:绝不容忍香港极端暴力事件
小红书回应"涉黄" "全面下架":系谣言 没有大问题
团伙盗秦始皇先祖陵园 主犯获刑10年8个月
瓦努阿图群岛发生6.7级地震 震源深度190千米
房地产又遭央行"点名" 房地产调控全面升级
皇马热身赛首发:阿扎尔+伊斯科出战 本泽马突前
大陆暂停47城居民赴台个人游试点 台媒的反应来了
《乐队的夏天》暴露了欧阳娜娜的吸粉秘诀
刷屏的这则公告震动台湾岛内 台网友:苦日子要来了
Twitter大中华区总经理:中国业务团队一年间增长三倍
【壮丽70年・奋斗新时代】富民:农村综合改革领跑全省
上港俱乐部高层+4球员探班新球场 慰问施工人员
传Facebook将推类似机顶盒设备:可用电视打视频电话
赴台个人游暂停 台湾业界估计损失760亿新台币
内蒙古科右中旗“马力”全开助农牧民脱贫致富
午盘:等待美联储利率决定 美股小幅攀升
一天大事:苹果总市值时隔8个月重回万亿美元
【津云微视】社区党委书记张燕霞谈工作中坚持斗争精神不怕被报复...
韩媒:尤文入境只用了26分钟 内德维德曾威胁罢赛
申通与阿里签署购股权协议 完成后阿里将成控股股东
种草神器出事!"网红"App小红书被下架为啥"红"到翻车
中国一东盟外长会达成五方面重要共识
小红书回应“涉黄”“全面下架”:系谣言 没有大问题
我总领馆就奥克兰大学学生因香港事件冲突表态:支持
捧红杨洋杨幂李易峰的公司财务造假 股民的债怎么追?
华为难关半渡:国内市场帮助逆转局面
申通与阿里签署购股权协议 完成后阿里将成控股股东
报告称内地海归比其他地区同类人才更易拿到丰厚收入
科创板首发“拒绝”造车新势力:创新技术缺乏 盈利遥遥无期
小红书回应“涉黄”“全面下架”:系谣言 没有大问题
南岸集团(00577)进一步延长出售保华建业集团51.76%股权期限
美财政部预计在暂停债务上限后8周内发债1600亿美元
油市去年暴跌41.2%也只是小事?你们这些担忧可能都是多余的
油价走势仍看伊朗脸色!想真正突破上行 要靠靓丽经济数据“神助攻”
台海核电收关注函:账面资金过亿为啥不兑现3千万分红
历史上 美联储降息后市场反应如何?
欢瑞借壳星美上市涉“假” 不能让违法获利者全身而退
南岸集团(00577.HK)延长出售保华建业集团截止日期
EIA原油库存降至去年11月来最低 但美国原油产量如期恢复
滴滴披露“失联”大数据:超6成因手机出现问题造成
约翰逊就任一周 脱欧阴霾笼罩英国
雷诺江铃“弱弱联合”能否解燃眉之急?
EIA原油库存下降849.6万 原油反应平淡
PSA在华危机难破 发力电动化遭质疑
三季度盈利指导疲软 Tenable Holdings(TENB.US)跌超10%
三菱日联:通胀数据超预期 但澳洲联储可能并不在乎
转型之路再遇坎坷 福特在华召回4.4万辆探险者
与创业者一道打地铺 每天新设企业超90家
夏窗大事记:大圣东游险撬动世界 最大赢家竟是申花
中超二转支出1.06亿超过去两年总和 位居世界第9
黄金努力抑制膝跳反应 维持升势 这一情形下金市还将暴涨
历史上 美联储降息后市场反应如何?
市场需求十分火爆 产品质量参差不齐 亲子游不能变成炒概念
上半年全市城镇居民人均可支配收入16656元
子公司业绩差 中国西电打算干脆“撤销”董事会
暴风集团披露冯鑫被拘留原因:涉嫌行贿
ST厦华半年度净利润“转正” 一笔200万的赔付款帮了大忙
又被指抽逃股东出资 *ST康得麻烦不断
澳新银行:继续定价“无协议” 英镑/美元目标1.20
捧红杨洋、杨幂、李易峰的这家公司 连续4年财务造假!股民的债 该怎么追?
历史上 美联储降息后市场反应如何?
油价走势仍看伊朗脸色!想真正突破上行 要靠靓丽经济数据“神助攻”
森美控股(00756)拟向控股股东发行1.06亿港元债券及7400万港元可换股债券
种草神器出事了!“网红”App小红书被下架 为啥“红”到翻车?
EIA原油库存降至去年11月来最低 但美国原油产量如期恢复
行情一触即发!FOMC决议很快登场 欧元、英镑、加元、黄金及原油走势预测
印度马哈拉施特拉邦发生一起车祸致7死1伤
明天起 这些新规将影响你我生活!第一条就很“省事”
埃及发掘出古希腊罗马时代建筑遗址
访“00后”国乒新星孙颖莎启蒙学校 师生齐祝福
上市公司半年报进入披露季 社保、保险、QFII的最新持仓来了
空客上半年收入和利润大增
7月行情收官:股票基金最高赚13.16% 能源类QDII表现最差
vivo Z5 发布:有大电池和 4800 万像素,一款集结了主流元素的中端木桶机
瓦努阿图群岛发生6.7级地震 震源深度190千米
海正药业:欧盟药品管理局发布关于公司台州工厂的《GMP不符合声明》
中国一东盟外长会达成五方面重要共识
刚刚黄金突然迎来一波急跌 美联储决议来袭市场蓄势待发
博腾股份上半年扣非净利大增225% 制药服务平台起航
入行多年!TVB甘草演员演尽坏人角色:现在仍觉得自己是新人
中国-东盟外长会达成五方面重要共识
GoPro App 结合短视频剪辑工具 Quik App 推出一站式手机剪辑应用程式
TVB小生疑暗讽黄心颖 重拍《法证先锋4》:所有东西都比上次好
周末综艺指南 |《极限挑战5》《青春环游记》收官,《中餐厅3》开播
这是一档迟到了14年的“团综”
不可错过的良机!8月或是黄金逢低做多的最后机会
夏季青少年溺水事故频发 如何扎牢安全篱笆?
美联储近十年首次降息?做多黄金无可厚非
原著粉剧粉屡屡“开撕” 影视化改编怎样才能不被喷?
西安秦东陵特大盗墓案主犯被判处有期徒刑10年8个月
厦门台胞社区主任助理获聘“消防安全宣传大使”
四川甘洛县暴雨灾害转移安置2200余人 救援仍在进行

相关新闻

回到首页 回到顶部

网站简介 - 广告服务 - 诚聘英才 - 联系我们 - 法律声明 - 友情链接