人工智能正在让人们“质疑自己的现实”：切尔西·曼宁
人工智能再次成为葡萄牙里斯本年度网络峰会讨论的热门话题。在活动闭幕日期间，举报人和活动家切尔西曼宁表达了对人工智能的发展以及人类与技术之间的冲突的担忧。“我们生活在一个被科技包围的时代，”曼宁说。“我遇到过很多关于人类与技术之间冲突的例子，以及技术正在塑造我们彼此互动的方式，以及机构如何参与其中。”
曼宁表示，接触数字领域影响了她的生活，包括无家可归、参军以及 2010 年因向维基解密泄露军事文件而入狱。“我让它驱动我如何整合、看待技术，并希望建立一个更大、更美好的未来，”曼宁说。
曼宁质疑人工智能技术快速发展背后的动机、该技术最终将使谁受益，以及人工智能的推动是否正在使日常生活商品化。
“我们是否只是忘记了人为因素，将我们日常的每一次互动都变成了商品？” 曼宁说道。“这个商品是我们做一些简单的事情，比如在应用程序上滑动或点击一个可爱的小心形图标。”
曼宁将人工智能和大型语言模型称为当今的流行语，并指出这些模型需要大量数据进行训练，并引用维基百科、教科书、视频和图像作为例子。
曼宁指出，与服务器上的文件不同，这些数据嵌入在模型的权重和平衡中，无法简单删除，这与欧盟的《通用数据保护条例》（GDPR）和隐私权形成鲜明对比，个人可以要求数据删除。
“我认为，作为技术人员，我们有责任开发工具，考虑到人们需要拥有某种程度的隐私，并且通信不应该成为一种可以被提取和商品化的资源，”曼宁说道。“我不想生活在一个我们所拥有的关系都是数字价值的世界。”曼宁说，对于大型语言模型，一旦合并了一个人的个人或私人信息，它就会成为模型的永久部分，使得删除变得不可能。
2021 年，曼宁加入瑞士公司 Nym Technologies，担任安全顾问和隐私倡导者。Nym Technologies于 2020 年在Cosmos区块链上推出了专注于隐私的项目Nym，这是一个去中心化身份平台。曼宁说：“我认为，我更广泛和普遍地关注的是通过加密或通过我们拥有的技术手段拥有某种程度的隐私并能够直观地使用它的重要性。” “它不应该很难，而且使用起来也不应该困难。”曼宁还强调了人工智能生成的深度伪造品的兴起和增加。“在过去的六个月里，引起我注意的事情并不是人们在公共话语和讨论中使用深度造假的事实，而是它们可以被制造、它们存在的事实，以及它们被用来引发怀疑的事实。根据实际核实的信息，”曼宁说。“我认为这种趋势不断导致人们越来越质疑自己的现实。”
随着深度造假变得更加先进，政策制定者担心它们可能会影响即将到来的选举或助长网上仇恨。曼宁提出的一种解决方案是使用密码学来验证信息。曼宁此前告诉Decrypt，比特币吸引了她对密码学、保护信息和构建基于密码学的去中心化网络的热情。“我知道我可以选择自己的现实，我可以选择我喜欢的东西，这很有吸引力，”曼宁说。“但现实是，真实的物理物质世界将在某个时刻遇到这种情况。我认为，特别是在气候问题上，我们无法假装不去面对。”
原文链接：https://decrypt.co/206449/chelsea-manning-web-summit-ai-technology-privacy
转载请注明： 人工智能正在让人们“质疑自己的现实”：切尔西·曼宁 | 跨境湾
