微软和 Meta 制定人工智能规则以保障选举
微软正在加大力度遏制欺骗性政治广告的制作，本周与 Facebook 母公司 Meta 一起推出了新政策，针对 2024 年选举季到来之际由人工智能生成的误导性政治广告。
在周二的一篇博文中，微软总裁 Brad Smith 和基本权利技术副总裁 Teresa Hutson 阐述了这家科技巨头将如何在政治广告中应用人工智能。
微软表示：“到 2024 年，世界可能会看到多个独裁民族国家寻求干预选举进程。” “他们可能会将传统技术与人工智能和其他新技术结合起来，威胁选举系统的完整性。”
史密斯和赫特森表示，微软对选民的选举保护承诺包括有关选举的“透明和权威的信息”、候选人有能力确认竞选材料的来源，以及当人工智能扭曲他们的肖像或内容时拥有追索权。该承诺还涉及保护政治运动免受网络威胁。
为了帮助活动保持对其内容的控制，微软表示正在推出“内容凭证即服务”，这是一种使用内容来源和真实性联盟的数字水印的新工具，该水印使用加密技术对有关内容来源的详细信息进行编码。微软还推出了选举通信中心来帮助确保选举安全。
微软表示：“没有任何人、机构或公司可以保证选举是自由和公平的。” “但是，通过加紧努力并共同努力，我们可以在保护每个人自由和公平选举的权利方面取得有意义的进展。”
微软尚未回应Decrypt 的置评请求。
与此同时，社交媒体巨头 Meta 正在瞄准其各个平台上的错误信息和欺骗性政治广告，并于周三宣布政治竞选活动必须披露人工智能的使用情况。
“在新的一年里，通过 Meta 投放有关社会问题、选举和政治的广告的广告商必须披露是否以数字方式（包括人工智能）创建或更改了图像或声音，以展示真实的人们所做或所说的事情。” Meta 全球事务总裁 Nick Clegg在 Twitter 上写道。克莱格解释说，广告商必须完成授权流程，并包含一份声明，说明谁为广告付费。Meta 的新政策规定，只要与社会问题、选举和政治广告相关的广告包含逼真的图像或设计为听起来或看起来像人类的视频和音频，广告商就必须披露。
根据 Meta 的说法，该政策包括以人工智能生成的图像或深度伪造的人做或说他们从未做过的事情为特色的广告。该政策还包括使用真实图像或经过操纵的镜头来歪曲“不存在”事件的广告。
Meta 表示，新政策与图像尺寸调整、裁剪、色彩校正或图像锐化无关，除非这些更改“对广告中提出的主张、断言或问题具有重大影响”。
梅塔说：“这项政策将于新的一年生效，并将在全球范围内实施。”
Meta 尚未回复Decrypt 的置评请求。
随着生成式人工智能的快速发展，政策制定者、企业和执法部门正试图迎头赶上。然而，随着新的人工智能工具不断涌现，打击深度造假是一场艰苦的战斗。上个月，一种名为FaceFusion的新型“换脸”人工智能展示了使用免费开源模型将一个人的脸换成另一个人的脸的速度。
网络犯罪分子还转向生成人工智能模型来加速网络钓鱼攻击。7 月，在暗网上发现了一个名为WormGPT的恶意 ChatGPT 克隆，可用于发起电子邮件攻击。ChatGPT 等聊天机器人及其邪恶表亲使用生成式人工智能根据用户提示创建文本、图像和视频。其他 Darkweb AI 模型网络犯罪分子正在转向包括 FraudGPT、DarkBert 和 DarkBart。
网络安全公司SlashNext 10 月份的一份报告称，自 OpenAI 的 ChatGPT 推出以来，电子邮件网络钓鱼攻击增加了 1265%。人工智能在电视上生成的广告可能更容易处理，但人工智能深度假货在网上的传播已经给互联网监管机构敲响了警钟。
互联网观察基金会首席技术官丹·塞克斯顿 (Dan Sexton) 此前对Decrypt表示：“因此，你无法相信事情的真实性。” “那些能告诉我们事情是否真实的东西并不是100%的，因此，你也不能相信它们。”
8 月，在非营利组织 Public Citizen 提交请愿书要求该机构监管该技术后，美国联邦选举委员会对人工智能生成的深度伪造问题进行了处理。上个月，一个由美国参议员组成的两党团体提出了一项名为“无假货法案”的法案，该法案如果通过，将把未经许可在歌曲、照片或视频中未经授权使用他人肖像的行为定为犯罪行为。该法案将针对每次违规行为处以 5000 美元的罚款以及损害赔偿，并适用于任何个人，包括死后 70 年后的个人。
原文链接：https://decrypt.co/204987/microsoft-facebook-meta-election-politics-ai-deepfakes
转载请注明： 微软和 Meta 制定人工智能规则以保障选举 | 跨境湾
