于2021年，联合国人权理事会咨询委员会在《新的和新兴数字技术对于促进和保护人权可能产生的影响、机遇和挑战》报告，就“对技术的整体理解、对人权采取整体办法，整体的治理和监管努力”提出呼吁。不过这三个方面“整体”的努力，实在无可能摆脱世界各地管治体制差异所引致的价值观之间的竞争和冲突。独裁政权会以维护国家安全、公共秩序、社会稳定和繁荣发展为由，投入资源开发并利用AI技术全天候对个人及社会实行数码监控。

明显地，欧盟现阶段选择了在AI可以产生影响的环节（the point of impact）施以规范和管理，基于保障使用者、知情权、私隐权、知识产权及其他权益而定出应用范围，并运用公权力为我们把关；接下来就是要建立一个具足够权力、资源及公信力的机关，来判定谁须负起产生不良后果的责任。

来源：明报

民主国家普遍担忧政商力量会利用AI技术，在社会及个人层面影响我们的选择和行为，期望AI时代更能有效促进“开放政府、开放社会”的理想，新技术可以巩固民主、自由、人权等价值规范，为公民社会“数码赋权”、开发新的公民参与和决策模式、促进共融多元和社会公义、对权力腐败发出预警，并对当权者及其背后的利益施加更有力的制衡、问责。

在“末日前的美丽新世界”？

同时，欧盟委员会较早前已经执行五项内部操作指引，要求员工“在关键及时间上敏感的流程”中避免使用AI，使用时不可泄漏不在公共领域的信息，要注意AI的回应可能不准确、捏造或带有偏见，AI产生的内容有可能已侵犯知识产权，及用AI生成的内容不可复制到官方文件。

AI技术发展速度之快，实在令我们不能武断地将风险简单二分为“目前的”和“长远的”。唯一可以肯定的是，开发和掌控技术的政经集团会坐拥更多资源及更大权力。问题依然是：他们会为自己和其他人创造一个怎样的未来？为人类社会造成怎样的震撼？

从技术开发的角度来看，这两个目的并不互相排斥，不过前者肯定较后者更能让新技术带来的利益和好处，合理地分配到各阶层及岗位的人；而后者则肯定导致在工序和服务可以转为“自动化”的行业，大幅缩减前线、基层工作岗位，而从整体生产总值提高得以受惠的只有少数人，其他人都不能避免要面对被取代后再被边缘化的厄运。这个“末日前的美丽新世界”的想像，是促使欧盟要定出高风险名单来规管AI技术的基础之一。

欧洲议会日前表决通过全球首项监管AI的法例草案，并与27个成员国就最终立法展开谈判，目标是今年底达成协议。新的法规不止是欧盟市场和管治本身的事情；欧盟作为一个政治及经济实体，为国际社会制订规范（norm entrepreneurship），是发挥其「软实力」的一种方法。

欧盟——规范的先驱

同理，AI会不会令困扰人类社会的深层次矛盾恶化，关键是相关技术开发的主要目的，是在于加强人类整体能力来促进生产力、提升生活质素和应对环境气候变化问题，还是主要借自动化进程来取代人类在劳动、认知、思考、决策和沟通各重要环节的贡献。

不能将风险武断简单二分

欧盟这次通过的草案，对人工智能技术实施多项监管，包括禁止在公众地方使用例如人脸辨识等遥距生物辨识技术，及要求人工智能系统主动披露由AI技术生成的文本、图像、代码、音频等内容。草案也按风险程度规管AI应用，有潜在伤害人类健康、安全、权利或环境可能的，都归类为高风险级别，例如可影响选举结果的人工智能系统，使用人工智能系统的大型社交网络平台、关键基建设施、教育、人力资源、公共秩序和移民管理等，将被列入高风险名单。

研究开发AI（人工智能）及拥有相关技术的企业集团，在全球的影响力正不断扩大，世界各地对这般“颠覆性”（disruptive）的新兴力量趋之若鹜。然而这些私人或公私合营的企业有多可信可靠，又为谁服务？现届特区政府多番强调“无创科、无未来”，那么，市民将要面对的会是怎样的创科？怎样的未来？

在这个情况下，一如其他处理国际社会之中大大小小矛盾和冲突的“互信建立机制”都不会发挥效用，反而各地主管国防和国土安全的部门，不大可能克服将AI“武器化”的诱惑，即一方面模拟策划在“敌方”制造各种混乱、试图干扰经济及操弄出对自己有利的政治结果，另一方面寻求方法来阻吓对方采取相同手段来对付自己。

作者：陈家洛

要及早识别AI这个“有无限可能的”科技所可能构成的风险，并提供有说服力的评估，而非在“末日预言”和“美丽新世界”两者之间随意拣一个立足点然后自说自话，是任何自许着重创科的人必须承担的责任。

欧盟对准了对AI过度依赖造成的风险，演算法把歧视、偏见合理化的可能，虚假消息的制作和传播，对个人行为和私隐的监控侵犯，以及网络安全漏洞等多方面，跟持份者和公民社会反复商讨，期望在保护公众利益的前提下，促进AI研发及扩大投资。

不难想像，国际间就AI技术的开发和规管方式，将会因应各地政治和经济考虑而出现明显差别，就一些本应得到全球关注的共同议题在名义上求同存异，实质是各行各路，很大机会出现“割裂”（fragmentation）形态，并且产生剧烈竞争，促使世界各地的官方及非官方持份者透过AI技术，预备不同方案来进行演习和压力测试，不断加强上文提及的风险辨识和评估能力。

这次欧盟抢先确立AI管治和监管制度，即使该法案预计最早要到2026年才会生效，有关建议已成为该政策范畴的国际合作基础。而欧盟的科研和贸易伙伴须注意相关规定及往后发展，更不能排除因为滞后而未及遵从，或制度上的矛盾所造成的损失。