之间网

新的人工智能测试平台计划旨在提高人工智能技术的安全性

生活
导读 美国国家科学基金会宣布启动一项新计划,投资开发人工智能测试平台,这是推动负责任的人工智能研究和创新的关键基础设施。这些测试平台将允...

美国国家科学基金会宣布启动一项新计划,投资开发人工智能测试平台,这是推动负责任的人工智能研究和创新的关键基础设施。

这些测试平台将允许研究人员在安全的真实环境中研究新的人工智能方法和系统。该计划呼吁研究界规划拨款,以加速测试平台的开发。

该计划与2023年10月签署的关于“安全、可靠和值得信赖地开发和使用人工智能”的14410号行政命令相一致,强调了为人工智能开发创建一个优先考虑安全性、可靠性和可信赖性的强大生态系统的重要性。该行政命令强调了人工智能在解决紧迫社会挑战方面的巨大潜力,同时也强调了可能不负责任地使用人工智能的风险。认识到这种双重潜力,NSF的AI就绪测试平台计划旨在增强和推进研究人员在现实环境中开发、测试和改进负责任的人工智能系统所需的基本基础设施。

美国国家科学基金会主任SethuramanPanchanathan表示:“人工智能在推动众多领域发展方面具有巨大潜力,但其发展必须通过严格的测试和评估,这些测试和评估涉及现实世界中与人相关的决策或接触。通过这一举措,美国国家科学基金会展示了其在人工智能领域创新的决心,并确保这些创新安全可靠,并有益于社会和经济。”

AI就绪测试平台创建了一个环境,AI研究人员可以在其中部署和评估其工作的影响,并研究AI驱动的解决方案的社会和经济影响,包括与安全、保障、隐私和公平相关的各种风险。例如,AI就绪测试平台可能使研究人员能够评估用于交通场景决策的新AI解决方案,或者测试平台可以让AI研究人员创建新的天气模型和可视化效果,并与现场气象学家一起对其进行评估。该基础设施使研究人员能够安全地进行创新并收集对目标用户有益的真实证据。

该计划资助的项目将为研究人员提供可扩展的真实环境来测试新型人工智能方法及其影响奠定基础。这些测试平台将支持跨学科合作,将私人人工智能实验室、学术界、民间社会和第三方评估者聚集在一起,支持人工智能系统的设计、开发和部署,包括相关的隐私增强技术。

该计划将提供规划补助金,以培养积极致力于扩展或增强现有测试平台的研究团队,以评估新AI方法对用户的影响和与用户的互动。这些补助金将促进收集初步数据、组建团队、设计工作以及制定可扩展AI就绪测试平台的治理和管理计划。

NSF鼓励既定竞争性研究促进计划(EPSCoR)管辖范围内的机构提交提案,并鼓励NSFEPSCoR机构牵头提交合作提案。这种方法旨在吸引各种观点和科学人才来应对国家人工智能研究的挑战和机遇。

标签: