中国 · CHINA
谁来守护护栏？
如果人工智能不再只是回答问题，而开始执行行动——谁应当拥有独立的权力去授权、设定条件、撤回许可、核实结果或在必要时将其停止？
人工智能正在迅速从只提供信息的系统，走向能够在数字环境乃至现实世界中采取行动的系统。
因此，问题不再只是：AI 能做什么？
更根本的问题是：当 AI 开始行动时，谁拥有权力？
AI 的能力，不等于 AI 的权力。
一个模型可以非常快速、强大和先进，但这并不意味着它也应当成为决定自身授权、范围、监控、升级、撤销或持续运行的最终权威。
因此，Global Integrated Care International（GIC）开发了一种与模型无关的 Gateway 架构，使关键权力功能保持在 AI 模型之外——无论底层模型来自哪一家技术供应商。
指令，不等于可执行的控制。
告诉 AI 系统“不要做某件事”，与由一个独立控制机制真正决定是否允许行动、限制行动、撤回许可、核实结果或将其停止，并不是一回事。
Tri-Alliance 如何分离不同角色？
GIC — 提出拟议的系统或服务。
CON2 — Research & Evaluation Consortium — 独立开展研究、测试和评估，并将符合条件的事项提交审查。
CON1 — Governmental Review Consortium — 进行独立审查，并在现行框架内作出机构性决定。
GIC — 随后在适用法律和监管要求约束下，决定是否以及如何进行商业部署。
Tri-Alliance 不取代适用法律、国家监管机构、行业法规、许可要求或其他法定义务。
它增加了一个独立而互补的问题：我们如何确保允许或停止某项行动的权力，始终独立于 AI 模型自身的能力？
我们如何确保人工智能不仅更聪明，而且始终处于独立、可执行的人类监督与控制之下？
谁来守护护栏？ — WHO GUARDS THE GUARDRAILS?
Huibert H.W. Arnold
President & Founder
Global Integrated Care International (GIC)
电子邮件联系：
President@globalintegrated.care
编辑说明：本文反映 Global Integrated Care International（GIC）President 就独立 AI 治理提出的原则与观点。对公共事件、国家、机构或技术公司的任何引用，仅用于为更广泛的讨论提供背景，并不表示任何政府、机构或技术公司对 GIC、其技术或本页面的认可、批准或支持。