人工智能的机遇与风险

关键要点

在过去的五十年里，科技创新不断推动着社会变革，从个人电脑的出现到互联网、云计算再到SaaS应用的普及。如今，人工智能尤其是生成式人工智能已成为下一个技术热潮。根据Gartner的报道，生成式人工智能已经达到了“过度期待的峰值”，预计在未来两到五年内将带来重大变革。显然，人工智能的影响已经开始显现，涵盖了客服、文案撰写、培训甚至医疗诊断等多个领域。

然而，我们对管理人工智能所带来的风险有多充分准备呢？与之前的技术热潮相比，人工智能的增长速度前所未有。尽管云计算和个人电脑的普及速度较慢，互联网和SaaS技术的传播稍快，但都无法与人工智能的迅速采用相比。随着技术的快速变化，潜在的未管理风险也在上升。因此，行业内的所有相关方，包括开发者、使用者和监管机构，有必要共同理解和优先考虑人工智能的风险。

以下是行业面临的三大紧迫的人工智能风险：

恶意使用人工智能

目前，我们看到的一个危险是人工智能落入不法分子之手。像ChatGPT这样的生成式人工智能工具容易获取，虽然它们能显著提高员工的工作效率，但同时也使恶意行为者在攻击中变得更具生产力。

例如，威胁行为者现在可以比以往更快、更有说服力地撰写社会工程电子邮件攻击。根据我们的调查，过去一年中，我们记录了数千起由人工智能生成的电子邮件攻击。不幸的是，依赖于已知破坏指示的传统威胁检测工具正难以跟上这一变化。

深度伪造技术Deepfake是社会工程威胁的下一个演变。虽然这一攻击手段尚不普遍，但相关事件正在逐步增多，深度伪造即将被用于窃取员工和消费者的资金或敏感信息。

还有一个令人担忧的问题是人工智能模型的中毒AI model poisoning，即恶意行为者故意篡改AI训练数据以操控其输出。通过劫持训练数据集并注入误导性数据，他们能够欺骗系统做出潜在有害的决策，而合法的最终用户对此通常毫不知情。

缺乏透明性和数据隐私

目前大多数人工智能模型被视为“黑箱”，几乎没有决策过程的可见性，这可能导致偏见或不安全的决策。在银行、保险和医疗等行业，当决策对用户影响深远时，潜在风险更加严重，可能会对个人造成直接或间接的伤害。

此外，人工智能系统通常需要收集个人数据，以便定制用户体验或帮助训练模型。如今，用户在使用这些工具时对个人隐私的控制非常有限，也没有相关联邦法律来保护公民免于因人工智能导致的数据隐私违规。

工作岗位损失

近期调查显示，随着人工智能的崛起，未来几年将会有成千上万的公司减少员工人数，一些经济学家甚至预测全球可能会有多达三亿个就业岗位受到影响，尤其是那些重复性高的工作需求下降。

不过，人工智能也有机会创造更多的就业机会。但需要指出的是，这些机会主要集中在技术岗位上，公司必须确保员工具备与人工智能有效协作所需的技能。

技术行业必须开始为这些人工智能挑战做好准备。同时，我们也要意识到，从消费者到企业，甚至政府，每个人都有个人的责任。

消费者需要更加警惕。随着生成式人工智能的社交工程攻击和深度伪造变得更加普遍，他们必须在识别数字内容的真实性和寻找验证方面变得更加敏锐。

企业在管理人工智能风险方面的重要性更高，尤其是那些处于脆弱行业的大型公司，包括通过安全意识培训