「欧盟就世界首个人工智能监管协议的谨慎达成协议」
「欧盟谨慎达成世界首个人工智能监管协议的协议」
经过上周马拉松式的讨论，欧盟已经就《AI行动法案》的条款达成了一个初步协议，将这个具有里程碑意义的法规接近生效。
虽然错过了周三的原始截止日期，立法者们在周五深夜终于达成了一项协议，恰好赶在周末前。如果不是这样，该法律将会被推迟到明年，可能会在6月份的欧盟范围选举之后生效。
追赶一个移动的目标并不容易。
《AI行动法案》被誉为世界上首个全面的人工智能立法，最早是在2021年提出的。在此之后的几年里，人工智能的快速发展引发了该联盟在监管计划方面的各种分歧。
最新的分歧是在去年“ChatGPT”的爆炸性发布之后出现的。这个OpenAI的聊天机器人引发了人们对基础模型能力的恐慌和兴奋，基础模型有时被称为“通用”人工智能系统。欧盟各国对监督这些系统的最佳方法意见分歧。
法国、德国和意大利反对制定约束性规定，他们担心这将阻碍创新和国内企业的发展。这三个国家提议改用行为准则。
另一个争议点是生物特征监视的限制。欧盟立法者希望全面禁止，而政府则建议增设国家安全例外。
面向AI系统的风险导向方法
在最后关头，立法者们就《AI行动法案》的原则达成了临时协议，侧重于他们所称的风险导向方法。这种方法遵循分阶段的分类结构：
- 最低风险 – 例如AI推荐系统或垃圾邮件过滤器。免于义务和限制。
- 高风险 – 如关键基础设施系统、医疗设备、接入教育机构或用于招聘人员、执法等。需要遵守包括风险缓解系统、高质量数据集、活动记录、详细文档、人工监督以及高水平的稳定性和网络安全性等要求。
- 不可接受的风险 – 该法案将禁止被认为对人们基本权利构成明显威胁的系统。这包括“旨在绕过用户的自由意志操纵人类行为的AI系统或应用程序”。例如，政府或公司进行社会评分的系统，或者实时对人进行分类的系统。然而，对于执法目的的远程生物特征识别有一个“狭窄的例外”。
- 具体透明度风险 – 用户需要知道他们正在与AI互动，并且深度伪造或由AI生成的内容必须标记为此类内容。
与欧盟科技法规一样，违规行为将面临巨额罚款。这些罚款将从违规应用上的3500万欧元（或全球年营业额的7%，以较高者为准）到提供不正确信息的行为所需缴纳的750万欧元（或年营业额的1.5%）不等。
此外，该法案为通用目标AI模型引入了特定规定。对于可能构成系统性风险的非常强大的模型，将存在“额外的约束义务”，这些义务将通过由行业、科学界、公民社会和其他利益相关者与委员会共同制定的实践准则来“操作化”。
新的欧洲AI办事处
虽然执法工作将由各个成员国负责，该法案还确定了在欧洲委员会内建立新的欧洲AI办事处。与此同时，欧盟产业主管Thierry Breton表示，《AI行动法案》不仅是一本法规手册，还是“欧盟初创企业和研究人员在全球AI竞争中领先的起点”。
Historic!
The EU becomes the very first continent to set clear rules for the use of AI 🇪🇺
The #AIAct is much more than a rulebook — it's a launchpad for EU startups and researchers to lead the global AI race.
The best is yet to come! 👍 pic.twitter.com/W9rths31MU
— Thierry Breton (@ThierryBreton) December 8, 2023
这项规定现在需要进一步的谈判 – 还有更多的游说时间。不过，在明年的欧洲议会选举之前达成全面协议的可能性也很大。
然而，该法律在至少18个月后才可能生效。到那时，人工智能的世界可能会完全不同。
