布莱切利宣言
人工智能(AI)带来了巨大的全球机遇:它有潜力提升和促进人类福祉、和平与繁荣。为了实现这一点,我们确认,为了所有人的利益,人工智能应该以安全的方式设计、开发、部署和应用,以人为本,值得信赖和负责任。我们欢迎国际社会迄今为止在人工智能方面的合作,以促进包容性经济增长、可持续发展和创新,保护人权和基本自由,并培养公众对人工智能系统的信任和信心,从而充分发挥其潜力。
人工智能系统已经部署在日常生活的许多领域,包括住房、就业、交通、教育、卫生、可达性和司法,它们的使用范围可能还会增加。因此,我们认识到,这是一个特殊的时刻,需要采取行动,确保人工智能安全发展的必要性,以及人工智能的变革机会,以便在我们的国家和全球范围内以包容性的方式为所有人造福。这包括卫生和教育、粮食安全、科学、清洁能源、生物多样性和气候等公共服务,以实现充分享有人权,并努力实现联合国可持续发展的目标。
除了这些机会,人工智能还带来了重大风险,包括在日常生活领域。为此,我们欢迎相关的国际努力,在现有论坛和其他相关举措中审查和解决人工智能系统的潜在影响,并认识到需要解决对人权的保护、透明度和可解释性、公平性、问责制、监管、安全、适当的人为监督、道德、减轻偏见,隐私和数据保护等问题。我们还注意到,操纵内容或生成欺骗性内容的能力可能会带来不可预见的风险。所有这些问题都至关重要,我们确认解决这些问题的必要性和紧迫性。
特别的安全风险出现在人工智能的“前沿”领域,比如那些能力强大的通用人工智能模型,包括基础模型,可以执行各种各样的任务,以及可能表现出造成伤害的能力的相关特定狭义人工智能,这些能力在当今最先进模型中已实现甚至超越。潜在的故意滥用或与人类意图相违背的意外失控问题可能会产生重大风险。这些问题在一定程度上是因为这些能力没有得到充分理解,因此很难预测。我们特别关注网络安全和生物技术等领域的此类风险,以及前沿人工智能系统可能放大虚假信息等风险的领域。这些人工智能模型的最重要功能可能会造成严重甚至灾难性的伤害,无论是故意的还是无意的。鉴于人工智能的快速和不确定的变化速度,以及在技术投资加速的背景下,我们确认,加深我们对这些潜在风险的理解以及应对这些风险的行动尤为紧迫。
人工智能产生的许多风险本质上是国际性的,因此最好通过国际合作来解决。我们决心以包容性的
人工智能(AI)带来了巨大的全球机遇:它有潜力提升和促进人类福祉、和平与繁荣。为了实现这一点,我们确认,为了所有人的利益,人工智能应该以安全的方式设计、开发、部署和应用,以人为本,值得信赖和负责任。我们欢迎国际社会迄今为止在人工智能方面的合作,以促进包容性经济增长、可持续发展和创新,保护人权和基本自由,并培养公众对人工智能系统的信任和信心,从而充分发挥其潜力。
人工智能系统已经部署在日常生活的许多领域,包括住房、就业、交通、教育、卫生、可达性和司法,它们的使用范围可能还会增加。因此,我们认识到,这是一个特殊的时刻,需要采取行动,确保人工智能安全发展的必要性,以及人工智能的变革机会,以便在我们的国家和全球范围内以包容性的方式为所有人造福。这包括卫生和教育、粮食安全、科学、清洁能源、生物多样性和气候等公共服务,以实现充分享有人权,并努力实现联合国可持续发展的目标。
除了这些机会,人工智能还带来了重大风险,包括在日常生活领域。为此,我们欢迎相关的国际努力,在现有论坛和其他相关举措中审查和解决人工智能系统的潜在影响,并认识到需要解决对人权的保护、透明度和可解释性、公平性、问责制、监管、安全、适当的人为监督、道德、减轻偏见,隐私和数据保护等问题。我们还注意到,操纵内容或生成欺骗性内容的能力可能会带来不可预见的风险。所有这些问题都至关重要,我们确认解决这些问题的必要性和紧迫性。
特别的安全风险出现在人工智能的“前沿”领域,比如那些能力强大的通用人工智能模型,包括基础模型,可以执行各种各样的任务,以及可能表现出造成伤害的能力的相关特定狭义人工智能,这些能力在当今最先进模型中已实现甚至超越。潜在的故意滥用或与人类意图相违背的意外失控问题可能会产生重大风险。这些问题在一定程度上是因为这些能力没有得到充分理解,因此很难预测。我们特别关注网络安全和生物技术等领域的此类风险,以及前沿人工智能系统可能放大虚假信息等风险的领域。这些人工智能模型的最重要功能可能会造成严重甚至灾难性的伤害,无论是故意的还是无意的。鉴于人工智能的快速和不确定的变化速度,以及在技术投资加速的背景下,我们确认,加深我们对这些潜在风险的理解以及应对这些风险的行动尤为紧迫。
人工智能产生的许多风险本质上是国际性的,因此最好通过国际合作来解决。我们决心以包容性的
