AIガバナンスが求められている背景
AIの技術動向を振り返ると、従来のAI、いわゆる機械学習や深層学習は、目的が明確で、人が結果の良し悪しを判断できるものでしたし、開発段階で品質を作り込むという特徴がありました。ところが2023年頃から生成AI、いわゆるLLMやDiffusionモデルが登場し、人が事前に想定していない結果が出るようになってきました。さらに、エージェンティックAIのように外部ツールと連携して業務を実行するもの、そしてフィジカルAIのように現実世界に直接影響を与えるものまで登場しています。
ここで重要なのは、AIは「作って終わり」ではなく、使い続ける中でもガバナンスを意識し続ける必要がある、という点です。
次に規制の動向ですが、日本では「AI基本計画」がつくられ、過度な規制を避けつつ活用を促進しています。米国でも統一的なルール整備が進められており、EUではすでに「AI Act」が有名ですが、さらに負担軽減の議論も進んでいます。日本、米国、EUいずれも共通しているのは、「AIを止める」のではなく「使い続ける前提でどう規制するか」にシフトしている点です。
特に「EU AI Act」は、AI技術を規制するのではなくユースケースで規制する点が特徴です。リスクに応じて「受容できないため原則禁止」「ハイリスク」「透明性義務」などに分類され、用途ごとに対応が求められます。またEU域外の企業でも対象となる点や、開発者だけでなく利用者も規制対象になる点も重要です。日本の「AI基本計画」においても、AIガバナンスの構築・主導が重要視されています。
AIリスクは大きく3つに分けられます。1つ目が技術的リスク、例えばデータ流出やバイアスです。2つ目が社会的リスクで、不適切な出力や著作権問題、企業の信用毀損などです。3つ目が法的リスクで、誤情報によるトラブルや損害賠償などにつながるものです。
これらのリスクがなぜ生じるのかというと、従来のITシステムと生成AIの仕組みの違いにあります。従来のシステムは人が定義したロジックに従って決まった結果を返しますが、生成AIは学習データに基づいて確率的に「それらしい」答えを出します。その結果、一貫性のない出力、バイアス、ブラックボックス、ハルシネーションといった特徴が生まれ、これがリスクの原因になります。
NTTデータのAIガバナンスの取組紹介
AIに対して組織としてどう向き合うべきかというと、やはりAIガバナンスが必要になります。AIは不確実な出力をする、自律的に動くなどの特性があるため、従来の管理手法では不十分です。一方で、新しいビジネス機会を最大化しつつ、社会的な倫理や信頼性にも応えなければなりません。そのバランスを取るのがAIガバナンスです。
AIガバナンスの要素としては、大きく3つあります。1つ目がルールで、社員が正しく利用できるよう判断基準を明確にすること。2つ目が教育で、社員がリスクを理解した上で使えるようにすること。3つ目が仕組みと体制で、個人任せにしない運用を作ることです。
NTTデータでの取り組みをご紹介しますと、当社では、AI活用の推進とガバナンスの徹底を両輪で進めています。ガバナンスはブレーキではなく、安心してアクセルを踏み続けるための「ハンドル」のようなものと捉えています。具体的な取り組みとしては、AIガバナンスの専門組織の設置、共通ポリシーやガイドラインなど方針・ルールの整備、個別プロジェクトのリスク審査やリスク対策など、多岐にわたるAIガバナンス活動を行っています。
実際にはリスクの定義→評価→対応というプロセスで実施しています。法規制やガイドラインをインプットにしてリスクをチェックし、禁止レベル、ハイリスク、限定的などにリスク定義・評価を行って、それぞれのAI案件に対して見直し、リスク低減など適宜対応を行っていきます。
当社サービス紹介
当社ではAI活用を進める中で蓄積してきた知見やノウハウを体系化し、「Responsible ＆ Secure AIサービス」という名称でお客様に提供しています。
このサービスは大きく3つの柱で構成されています。
1つ目がAIガバナンスコンサルティングサービスです。こちらは統制、つまり組織体制の整備やルール策定、コンプライアンス対応に加え、AIのライフサイクル全体を通じたリスク管理のあり方について支援するものです。
2つ目がAI Assuranceで、これはリリース前に評価や堅牢化を行うサービスです。セキュリティ検証と監視、AIソリューションの信頼性と整合性の確保などをAIやシステムのリリース前に実施します。
安全なモデル選択などのＡＩモデル単体の評価に加え、AIモデルを含むシステム全体のセキュリティや脆弱性などの評価を行います。
3つ目がAI Protectionサービスです。こちらはリリース後のリスク対策として、高度なセキュリティ対策、脅威検出、データ保護などを提供します。
社員のAI利用に際しては、倫理的・法的に不適切・有害なAI応答を出力してしまわないよう社員のAI利用を保護するような仕組みです。外部攻撃からのAIシステムの保護では、例えばプロンプトインジェクションなどの攻撃からAIシステムを保護するガードレールを設けています。
