人工智能:吓坏创造者的“深度造假写手”

乔治·奥维尔 Image copyright Getty Images
Image caption 英国著名作家乔治·奥维尔(George Orwell)1949年写出传世经典,政治荒诞讽刺小说《1984》

你能从下面这两段文字里品味出什么区别?

“四月间,天气寒冷晴朗,钟敲了十三下。”

“我坐在小汽车里,前往西雅图开始一份新工作。给车加油,插入钥匙,让它自己开。我沉入冥思,想象这会是怎样的一天。”

第一段文字,是英国著名作家乔治·奥维尔(George Orwell)的传世经典,政治荒诞讽刺小说《1984》开篇第一句话。

第二段文字,是把第一段文字输入一个叫GPT2的人工智能文字编写程序后,这个AI系统的自动续写。

仅输入一句话,GPT2显然就精确的抓住了乔治·奥维尔《1984》的荒诞、压抑、恐惧和反乌托邦的笔调,洋洋洒洒的续写起来:

“一百年后,2045年, 我在中国一个贫穷农村地区的所中学教书。我先开始教的是中国历史和中国科技史......”。

“深度造假”

GPT2人工智能文字编写程序可以写小说,可以编新闻,可以草拟发言稿,可以发短信推文。

程序开发者给它的绰号精确的概括了它的功能:“深度造假文字”(deepfakes for text)。

它的“造假能力”如此令人信服,程序的开发者,非营利性人工智能研究公司,开放AI( Open AI),做出了一个不许寻常的决定:暂不公开GPT2的技术信息,以免该技术被恶意使用。

GPT2简单概括而言,就是一个文字发生器。把文字输入这个AI系统,可以是只言片语,也可以是大段文字,然后让程序根据它的判断接下来应该怎么写来写作。

它产生的文字,从质量到数量到适应范围,都远远超出了设计者的预期。

Image copyright Xinhua
Image caption 2018年11月,模仿真人的全球首个“AI合成主播”在新华社上岗

以假乱真

与其它类似的AI文字编写程序相比,它没有使用此类系统经常露出的马脚,比如写着写着忘了在写什么,或夹杂一些莫名其妙的词汇等。

英国《卫报》记者把该报报道英国脱欧的一些标题词汇输入GPT2,它写出了这样的一段“新闻稿”:

“当被要求对有关报道做出澄清时,梅首相的发言人说:‘首相已经明确表明,她要做的是尽快完成脱欧,这在上周的女王年度施政讲话中有明确授权。’”

开放AI的研究负责人阿莫迪(Dario Amodei)对《卫报》说,GPT2从两个方面具有革命性的突破。一是它的数据储藏能力巨大,是现有最前沿的AI文字发生器数据储量的12倍。这使得它能更好的理解掌握写作文风,笔法和意图。

这也导致了它的第二个突破,即它的写作质量和应用的广泛性。

但正是它生产出的文字达到了真假难辨的程度,也促使开放AI公司决定暂时不公开GPT2的技术。

开放AI公司下一步将测试使用GPT2可能出现的任何结果、如何防止恶意使用。公司表示,使用AI技术的道德原则是一个全新的领域,他们还在探索之中。

更多有关此项报道的内容