美国、英国和其他16个国家签署新的人工智能协议
美国、英国和其他16个国家联合签署新的人工智能协议
包括美国和英国在内的十八个国家签署了一份20页的协议，规定公司必须开发“以安全为设计理念”的人工智能（AI）。
该协议于上周日揭示，被称为首个旨在确保AI安全性并防止滥用的国际协议。虽然该协议没有强制力，但它提出了一般性的建议，比如监控AI系统的滥用，并保护数据免受篡改。美国网络安全与基础设施安全局（CISA）主任詹·伊斯特莉（Jen Easterly）强调了各国共同支持该理念的重要性。
🎉Exciting news! We joined forces with @NCSC and 21 international partners to develop the “Guidelines for Secure AI System Development”! This is operational collaboration in action for secure AI in the digital age: https://t.co/DimUhZGW4R#AISafety #SecureByDesign pic.twitter.com/e0sv5ACiC3
— Cybersecurity and Infrastructure Security Agency (@CISAgov) November 27, 2023
“这是我们首次看到这些能力所要求的不仅仅是酷炫功能、迅速进入市场还是如何竞争以降低成本”，伊斯特莉说道，并补充道，这些指导原则代表了“设计阶段最重要的事情是安全性达到一致的共识”。
美国国土安全部长阿莱杰罗·N·马约尔卡斯（Alejandro N. Mayorkas）表示，他认为世界目前正处在一个“拐点”：
“我们正处在人工智能发展的一个拐点上，这可能是我们这个时代最具影响力的技术。构建安全、可靠的人工智能系统关键在于网络安全。”
他继续说道：“CISA、NCSC以及其他国际合作伙伴今天共同发布的这些指导原则提供了一条通向以网络安全为核心的人工智能设计、开发、部署和运营的常识路径。通过集成‘以安全性为设计理念’的原则，这些指导原则代表了一个历史性的协议，开发者必须投资于保护客户在每个系统设计和开发步骤中的安全。”
各国竞相保持人工智能发展领先地位
所有G7国家的机构签署了该协议，还有其他国家，如捷克共和国、新加坡、以色列、尼日利亚、澳大利亚和智利。
从实际角度来看，这个想法是一个好主意。人工智能技术的整合将具有颠覆性，并且如果被用于恶意目的，可能会带来危险。
这份宪章旨在解决如何防止人工智能落入黑客手中，并为确保新软件在发布前经过严格测试提供指导。
尽管目标崇高，但现实是，非约束性协议在国际舞台上执行起来非常困难，尤其是中国、俄罗斯和印度等重要全球国家不是签署国。历史上，竞争国家会组成集团参与重大国际项目——比如太空旅行。让一个集团以外的国家与另一个集团合作并不容易。
人工智能并不是一个新的领域，但在2022年11月，当ChatGPT正式上线时，它才引爆了公众的关注。这款来自OpenAI的大型语言模型（LLM）聊天机器人引发了人工智能产品开发的激增，并引起了人们对该技术可能被用于大幅削减人类工作岗位、操纵选举过程和犯罪行为的担忧。
精选图片：Pexels
