应对人工智能六大“癌症”

如何应对人工智能六大“癌症”？
2025-09-09
据美国《福布斯》杂志网站9月2日发表题为《人工智能癌症：威胁人工智能未来的隐藏缺陷》的文章，作者是萨加尔·古普塔。内容如下：
当我们谈论人工智能(AI)时，通常是说起它取得的突破：提升生产力、优化运营效率、提供预测性洞见以及改进用户体验等。然而，尽管到处弥漫着一片乐观情绪，我们现在要面对AI阴暗的一面了：它的痼疾。
作为一名领导过企业级数字化转型、监管过AI系统在医疗、金融和物流领域部署的首席信息官，我已经认识到这些系统性问题不仅仅是漏洞或不足，而且是“AI癌症”。就像生物学意义上的癌症一样，这些缺陷通常悄无声息地扩散，破坏系统的完整性，如果不加以“治疗”，可能造成无法弥补的伤害。
AI癌症
以下是我认为反复出现、困扰AI系统的六大“癌症”。
1.固化不平等的偏见
AI的水平高低完全取决于我们“投喂”给它的数据。遗憾的是，其中很多数据反映了几十年来的社会、种族和经济偏见。从歧视女性的招聘算法到错误识别有色人种的面部识别系统，AI有可能复制甚至放大我们最腐朽的人类偏见。当这种偏见在决策过程中形成机制体系时，其造成的损害不仅仅是技术性的，也是社会性的。
2.捏造事实破坏信任
像聊天生成预训练转换器(ChatGPT)和“双子座”这样的大语言模型是语言学专家，但它们并不总是可信的讲述者。这些模型常常以令人不安的自信态度捏造事实、文献依据和统计数据。我们看到过它们以权威口吻提供臆想的医疗建议、伪造的法律参考文献以及完全错误的信息。在高风险环境中，一个臆想可能会葬送生命、引发诉讼或破坏名誉。
3.目标错位引发意外
AI优化了我们对它的指令，但是它并不总能理解我们的意思。一个推荐系统可能为提高用户参与度而进行优化，却意外助长了分裂性和有害内容的传播。一个欺诈检测模型可能会失衡地标记来自边缘社区的交易。当系统专注为狭隘的关键绩效指标(KPI)工作时，我们常常会无视更宏大的商业或道德目标。这是一个典型的目标错位，是战略失明的“癌症”。
4.数据投毒引发灾难
恶意行为者可通过不易察觉的手段毒害训练数据或操纵AI输入，从而引发灾难性故障。在网络安全领域，我曾目睹过对抗性攻击仅需对输入稍做调整，便能将稳定可靠的模型摧垮成一派胡言。而在自动驾驶领域，停止