日本 · JAPAN
ガードレールを守るのは誰か？
AIが答えるだけでなく行動できるようになる時、誰が独立して許可し、制限し、撤回し、検証し、必要に応じて停止する権限を持つべきでしょうか。
人工知能は、情報を提供するだけのシステムから、デジタル環境や現実のサービスの中で行動できるシステムへと急速に進化しています。
だからこそ、問うべきことは単に「AIは何ができるのか？」ではありません。
より重要なのは、「AIが行動する時、誰が権限を持つのか？」という問いです。
AIの能力は、AIの権限ではありません。
どれほど高度で強力なモデルであっても、それ自体が自らの許可、範囲、監視、エスカレーション、撤回、継続運用について最終的な権限を持つべきだということにはなりません。
Global Integrated Care International（GIC）はそのために、AIモデルの外側に重要な権限制御を置くことを目的とした、モデルに依存しない Gateway アーキテクチャを開発してきました。
指示は、強制力のある制御ではありません。
AIシステムに「してはいけない」と指示することと、独立した制御機構が実際に行動を許可・制限・撤回・検証・停止できることは、同じではありません。
Tri-Alliance では役割をどのように分けるのか？
GIC — 対象となるシステムまたはサービスを提示します。
CON2 — Research & Evaluation Consortium — 独立して研究、テスト、評価を行い、適格な事項を審査のために提出します。
CON1 — Governmental Review Consortium — 現行の枠組みに基づき独立した審査を行い、機関としての判断を示します。
GIC — その後、適用法令および規制要件に従い、商業展開を行うか、またどのように行うかを決定します。
Tri-Alliance は、適用法、各国の規制当局、業界規則、ライセンス要件、その他の法的義務に代わるものではありません。
それが加えるのは、別の補完的な問いです。すなわち、ある行動を許可または停止する権限を、AIモデル自身の能力からどのように独立させるか、という問いです。
AIをより賢くするだけでなく、独立した、実際に機能する人間の監督と制御の下に置くにはどうすればよいのでしょうか。
ガードレールを守るのは誰か？ — WHO GUARDS THE GUARDRAILS?
Huibert H.W. Arnold
President & Founder
Global Integrated Care International (GIC)
編集注記：本文は、独立したAIガバナンスに関して Global Integrated Care International（GIC）の President が示す原則と見解を反映したものです。公的な出来事、国、機関、技術企業への言及は、より広い議論の背景を提供するためのものであり、いかなる政府、機関、技術企業によるGIC、本技術、または本ページへの承認・支持を意味するものではありません。