以假乱真！专家忧Deepfake恐沦数位霸凌和性别暴力工具
-
曾有媒体使用最新科技变造美国前总统欧巴马演说影片，使他在影片中辱骂美国前总统川普。美联社(photo:UDN)网红「小玉」朱玉宸日前以深伪技术（Deepfake）做出换脸色情影片牟利，造成上百名女性艺人、网红、政治人物受害，近期被爆出遭前男友林秉枢家暴的民进党立委高嘉瑜也是受害者。专家表示，换脸软体操作技术门槛低，只要会用智慧型手机就能使用，且难以辨识成品真伪，可能沦为数位霸凌和性别暴力工具。
国外甚至有开发商堂而皇之地在应用程式商店和数十个成人网站打广告，标榜应用程式能将脸换成任何人，以「想要演电影或上电视吗」宣传口号吸引用户下载。
科技巨擘谷歌（Google）和苹果（Apple）仅修改使用分级和表示将按照相关条款规范。有些换脸软体开发商建立审查机制防止滥用，有些国家则通过相关法案和罚则。
路透报导，提供网路滥用受害者服务的网路安全公司EndTab创办人兼律师道奇（Adam Dodge）表示：「一旦换脸科技技术门槛非常低，毫无专业技术的人可以做出非常精密、且未经当事人同意的Deepfake色情影片。这就是我们开始遇到麻烦的地方。」
随着科技带来难以遏制的恶果，许多网路安全维权人士、研究员和软体开发者表示，使用换脸科技的关键是要确保当事者知情并同意，但说的总是比做的容易。一些人鑑于滥用风险，主张对合成色情影像採取更严格措施。
侦测和监控合成媒体的荷兰资安公司「Sensity」2019年发表报告指出，他们将超过1万4000部线上发表的Deepfake影片做为样本，发现有96%的影片未经同意就发表，且Deepfake影片数量每6个月约增加一倍。
人工智慧（AI）公司Metaphysic政策和伙伴关系负责人亚杰德尔（Henry Ajder）是研究作者之一。他表示，「Deepfake目前造成绝大多数伤害是种性别数位暴力形式」，因此，应用程式是否确实作为色情影像工具营销存在「重大差异」。
科技巨擘谷歌和苹果应用程式商店对于Deepfake应用程式的描述，没有提到可能会被作为色情用途，且开放12岁以下用户下载。
苹果表示，他们没有对于Deepfake应用程式制定特定法规，但有更广泛指引禁止包括诽谤、歧视和可能侮辱、威吓及伤害任何人的应用程式上架。苹果补充，他们禁止应用程式开发者以误导性方式行销产品，也和应用程式开发商合作，确保他们遵守指引。
谷歌没有回覆路透置评请求。他们被路透联络要求评论成人网站上的「Deepfake色情广告」后，暂时下架原本被评为全年龄皆可使用的相关应用程式，并因「性相关内容」将其改为适合13岁以上用户才能使用，重新上架。
亚杰德尔表示，尽管成长中的换脸软体产业中有不良行为者，但许多软体防止消费者遭网路霸凌。他举例，虽然防护措施不一定都有用，但一些换脸应用程式只允许用户切换至预先选择的场景，或需要被切换的当事人进行验证，及使用AI侦测色情影像上传。
Reface是世界最热门的换脸应用程式之一，自2019年以来累计达到全球超过1亿下载人次。应用程式鼓励用户将影像换脸成名人、超级英雄和迷因角色，创作有趣短片。
Reface告诉路透，他们使用自动和人工审查机制审核内容，包括色情影像过泸器，及其他管制和避免滥用措施包含标记和视觉浮水印，标註影片为合成内容。他们说：「换脸科技刚问世和Reface刚成为一间公司时，就意识到合成媒体科技可能被滥用。」
随着Deepfake科技和合成媒体品质进步，更多消费者能透过智慧型手机获得这类强大功能。
EndTab创办人道奇和其他专家接受路透访问时表示，换脸工具在2017年刚被开发时，需要大量数据输入，通常共需要上万张图片合成才能达成相同品质，而现在可能只要一张照片就够了。
英国非营利组织色情复仇求助热线（Revenge Porn Helpline）经理苏菲．莫蒂默说，「随着这类影像品质变得非常高，光是进行『这不是我！』（It's not me）抗议活动根本不够」，且如果影像真的看起来很像你，那么它带来的影响和「影像中真的是你」差不多。
希望监管Deepfake科技的政策制订者仅有零星进展，同时面临新科技和伦理问题纠缠。中国大陆、南韩和美国加州等司法机构以通过特别针对Deepfake科技滥用的法律。加州规定，未经当事人同意恶意绘制他人色情内容，及散布相关素材，依法可处以15万美元（约台币415万）赔偿金。
美国南加州大学电脑科学系副教授黎颢去年一月参加瑞士达沃斯世界经济论坛时，在会场内参观将自己的脸换成英国前首相梅伊的脸深伪科技软体（Deepfake）。路透(photo:UDN)
