本文为动点科技/TechCrunch 我国独家稿件。未经答应，制止转载。
在用机器学习东西“
开明星车
”这件事上，最近有了一些新的发展。咱们 TechCrunch 的记者泰勒·海特梅克 (Taylor Hatmaker) 近来报导
，Reddit 发布了新的内容条款，禁掉了这种假造色情内容，并封闭了相关的沟通版块。而 Pornhub 和另一些媒体渠道也在最近几周内出台了相似的规矩。但是，人工黄片仅仅内容造假的初步。本周早些时候，政治学者亨利·J·法瑞尔（Henry J. Farrell）和《尼克松禁地》（Nixonland，暂译）作者里克·珀斯坦（Rick Perlstein）在《纽约时报》的专栏里宣布了一篇标题为
《黑化政坛》
的文章。在文中的反乌托邦社会里，离间者能够经过假造其性侵未成年人的视频诬害党派提名人。作者忧虑，“假造的音视频或许会变得愈加真假难辨，使得这些根据逐步失掉应有的法律效力。”在一个以内容揣度为现实根据的民主社会里，咱们能够很快习惯要靠真凭实据结论的日子。一如咱们置身独裁社会时需求时间防范任何“大好现象”相同。但是，当草创公司，科技企业以及政党乃至政府都要面临这个问题时，它就没有看上去那么简略了。
Reddit 迟早要面临这样的境况：一段政客同未成年人产生性关系的渣画质视频上传到了这儿（趁热再用一次这个假定）。视频的实在性无从可考，而且也没有显着的篡改痕迹，尽管真的或许仅仅假造的。这时 Reddit 要怎样去处置呢？出于安全考虑，它会去禁掉或许是“世纪政治丑闻”的所谓“根据”么？
这却仅仅仅仅它的表象。理清它的细枝末节，需求咱们进行上述事例之外更深一步的讨论。幻想独裁政权的异见人士用手机录下了前者为维护政权而大规模残杀抵挡市民的暴行视频。随后，这个现场实录的视频被匿名上传到了网上。
它的忽然呈现让这个被虚妄控制的社会有些措手不及——这段视频究竟是什么来头？反对派用假造视频的办法招引媒体留意并非无稽之谈。而执政政权所公示的视频画面里的大街洁净整齐，并无异常。反对派的信众也能够相同去信赖执政政权，至于现已站在另一边的人士则会持续坚持自己的观点。原始视频天然无法令人信服了。
在我看来，这儿最可行的处理战略将是：为视频构建一个加密且可溯源的“监督链”（没错，我指的正是某种“区块链”）。假设之后一切的视频都不可信，那就用加密技能生成让每一个特定部分都可追溯源头的元数据。实际上，现已有比如
Prover.io
这样的草创公司把目光瞄向了这块商场，经过供给视频验证服务
然后精准把控上述问题的呈现。而此刻仅有的问题就只剩这些链的先允条件——身份（或许说是设备）辨别了。究竟咱们正在测验的是“监督链”，需求去了解这些视频源自哪里。当然这些信息对独裁政权则更为重要，它很愿意知晓对面的“开枪者”是谁，而且给予（实在的）反击。
或许视频创作者能够挑选把控元数据的辨别者，在政府无从知晓的情况下把视频供给给“纽约时报”们。或许“监督链”能够匿名运用，然后能够维护异见者。但是，请留意，咱们所尽力的是证明视频的实在牢靠，那些每一个企图混杂创作者身份的行为都是抵挡政权的行为。
另一个可行的泛用战略是运用认证程序，经过滤查视频的办法辨别其是否经过假造。机器学习或许会在这一范畴大放异彩，尽管它并不能确保每一块像素都实在无误。咱们现已有了满足多的办法辨别某种特定图片是否被“PS”过。之后，咱们或许很快就能把握分辩印象是否被机器学习东西处理过的算法。
我认可这种技能会会持续存在，但它会议现出更大的潜力么？Politifact 上为政客所（滥）用的
“Truth-o-Meter”
是一个经过验证的，公平客观的第三方认证服务。它满足优异，但却不能阻挠政客们把现实根据用作歧途，而且也无法阻挠他们的推举造假。所以，为什么咱们会如此以为这种认证程序会比人们的所见更有力呢？另一方面，用来阻挠这种假造视频传达的政治行为相同令人穷困。这些视频背面所运用的技能有许多合法的用处，如好莱坞特效制造等等。从这一点来说，禁掉它们是没有意义的。而管控这些用处相同白费。许多视频都是匿名制造而成，而且能够任意传达，使得强制钳制愈加不或许。言论自由（至少就美国来说）也会为它们开绿灯。只需把“诋毁”替换成“艺术”或许“挖苦”就能让人无从争辩反驳。
或许杰出的教育能够进步咱们对这类视频的抗性。或许造假并不会像咱们幻想的这样高超。或许能够经过过滤废物内容的办法拯救咱们对这些前言的信赖。或许吧。
但就现在来说，更多的或许是咱们不得不去承受与咱们朝夕相处的文字、图画乃至影音现已遭到了篡改，乃至彻底假造的现实。于咱们而言，于草创企业的负责人而言，与整个生态系统的一切其他人而言，咱们都正准备着手帮忙民主的国泰民安。但是，人工黄片和假新闻早已在此等候，咱们却仍未找到趁手的抗击兵器。