ChatGPT 和新的人工智能正在以令人兴奋和可怕的方式对网络安全造成严重破坏
生成式人工智能正在改变网络安全，为攻击者和防御者提供帮助。网络犯罪分子正在利用人工智能大规模发起复杂而新颖的攻击。威胁情报平台 Recorded Future 首席执行官克里斯托弗·阿尔伯格 (Christopher Ahlberg) 表示，防御者正在使用相同的技术来保护关键基础设施、政府组织和企业网络。
生成式人工智能帮助不良行为者创新并开发新的攻击策略，使他们能够领先网络安全防御一步。人工智能帮助网络犯罪分子自动化攻击、扫描攻击面并生成与不同地理区域和人口统计特征产生共鸣的内容，从而使他们能够针对不同国家更广泛的潜在受害者。网络犯罪分子采用该技术来创建令人信服的网络钓鱼电子邮件。人工智能生成的文本可帮助攻击者生成高度个性化的电子邮件和短信，更有可能欺骗目标。
“我认为你不必非常有创意地思考，就能意识到，这实际上可以帮助[网络犯罪分子]成为作家，这是一个问题，”阿尔伯格说。
防御者正在使用人工智能来抵御攻击。组织正在使用该技术来防止泄漏并主动发现网络漏洞。它还可以动态地自动执行任务，例如为特定关键字设置警报和在线检测敏感信息。威胁追踪者正在使用人工智能来识别异常模式并总结大量数据，将多个信息源和隐藏模式之间的点连接起来。
这项工作仍然需要人类专家，但 Ahlberg 表示，我们在 ChatGPT 等项目中看到的生成式人工智能技术可以提供帮助。
“我们希望加快分析周期，以帮助我们以思考的速度进行分析，”他说。“这是一件非常困难的事情，我认为我们在这里看到了突破，这非常令人兴奋。”
阿尔伯格还讨论了高度智能机器可能带来的潜在威胁。随着世界变得越来越数字化和互联，扭曲现实和塑造认知的能力可能会被恶意行为者利用。这些威胁不仅限于民族国家，使得形势变得更加复杂和不对称。
人工智能有潜力帮助防范这些新兴威胁，但它也带来了一系列风险。例如，具有高处理能力的机器可以比人类更快、更有效地入侵系统。为了应对这些威胁，我们需要确保人工智能的防御性使用，并清楚地了解谁在控制之中。
随着人工智能越来越融入社会，立法者、法官和其他决策者了解该技术及其影响非常重要。在技术专家和政策制定者之间建立强大的联盟对于引领人工智能在威胁追踪及其他领域的未来至关重要。
人工智能在网络安全方面的机遇、挑战和道德考虑是复杂且不断发展的。确保人工智能模型公正并保持人类参与决策将有助于应对道德挑战。保持警惕、协作以及对技术的清晰理解对于解决高度智能机器的潜在长期威胁至关重要。
阿尔伯格还对中国、俄罗斯和经济对手部署自主机器表示担忧。这些国家可能不会放慢人工智能的发展或分享道德考虑。虽然拥有“拔掉”此类机器插头的能力是一种明智的保障措施，但他表示，技术融入社会和全球经济可能会使其难以脱离。阿尔伯格强调，设计产品和机器时需要明确谁控制它们。
“互联网在这一切中所做的一件大事是，互联网成为了世界上所有信息迁移的地方，”阿尔伯格说。“这些大型语言模型正在做非常神奇的事情......以加快思维周期。”
他补充道，“未来 25 年，世界将成为互联网的反映。”
原文链接：https://www.zdnet.com/article/chatgpt-and-the-new-ai-are-wreaking-havoc-on-cybersecurity/
转载请注明： ChatGPT 和新的人工智能正在以令人兴奋和可怕的方式对网络安全造成严重破坏 | 跨境湾
