石黒 元洋 さん

ISHIGURO Motohiro

アルサーガパートナーズ株式会社
コンサルティング本部シニアマネージャー

生成AIは「入力した瞬間」にリスクが発生する

——石黒さんのお仕事について教えてください。

私は現在、企業の「セキュリティ」全般をサポートするコンサルティングをしています。簡単に言うと、外部のアドバイザーとして、さまざまな企業が安全にITやAIを使えるように対策を練る仕事です。

キャリアのスタートは、外資系のコンサルティング企業でのシステムエンジニアでした。そこからセキュリティの専門家へと道を進めましたが、最近は特に「AIガバナンス（AIを正しく安全に使うためのルール作り）」や「AIセキュリティ（AIを利用する上でのセキュリティ対策）」に関する相談をいただく機会が急増しており、企業のセキュリティを守るプロとして活動しながら、「AIセキュリティ」のスペシャリストとしても、多くのプロジェクトをリードしています。

——国内企業のAI活用はどのくらい進んでいるとお考えですか？　また、欧米と比べて活用レベルはどの程度なのでしょう？

国内企業のAI活用についてですが、確実に進んでいます。ただし、欧米と比べるとまだ「様子見」の企業が多い印象ですね。海外では、AIを導入した結果、バックオフィス（事務職）の社員を大幅に削減するなど、かなり踏み込んだ活用が進んでいます。一方、日本では「とりあえず使ってみる」「業務効率化に役立てる」といった段階に留まっており、人員削減にまで至っているケースはほとんどない印象です。

その理由の一つが、セキュリティやリスクに対する不安です。実際、企業が生成AIを社内に導入する上で最大の課題は、情報漏えいです。例えば、給与明細などの人事データを分析するために生成AIに入力してしまうと意図せず他のユーザーも情報を目にしてしまう可能性があります。広告代理店であればリリース前の情報、金融機関であればインサイダー情報など、絶対に外に出してはいけないデータが企業には数多く存在します。

生成AIは「入力した瞬間」にリスクが発生します。一度外部のAIに情報を渡してしまうと、それがどのように扱われるか完全にはコントロールできません。だからこそ、企業としては「誰が、何に、どのようにAIを使っているのか」を把握し、統制する必要があります。

こうしたリスクに対して、世界的にルールが整備され始めています。その代表例が「欧州AI規制法（EU AI Act）」です。これは欧州連合が定めたAI規制で、AIの利用をリスクレベルに応じて分類し、厳しく管理する仕組みになっています。例えば、人の行動を過度に監視したり、犯罪を予測したりするようなAIは「許容できないリスク」として原則禁止されています。また、医療や採用などに使われるAIは「高リスク」と位置づけられ、厳格な管理や人間の監督が求められます。

つまり、「AIは自由に使っていいものではない」という考え方が、すでに世界標準になりつつあるのです。ここで重要になるのが私の専門分野である「AIガバナンス」です。

AIを安全かつ適切に使うための
ルールと仕組みが「AIガバナンス」

——AIガバナンスについて、詳しく教えてください。

AIガバナンスとは簡単に言えば、「AIを安全かつ適切に使うためのルールと仕組み」です。私はこれを大きく3つの領域で捉えています。

1つ目が「倫理・透明性（Ethical Governance）」です。AIの使い方が人として正しいか、差別や偏見を生まないか、といった観点です。例えば、感情分析や犯罪予測のように、人権を侵害する可能性のある用途は規制されるべきです。

2つ目が「法令・規制遵守（Legal/Compliance）」です。EUのAI法をはじめとし、AIに関する法律やガイドラインは世界中で急速に整備されています。企業はそれらに適合した形でAIを利用しなければなりません。また、自社のルールやガイドラインに沿って、社員が正しく使えているかをチェックすることも大切です。

つまり企業には、社会的なルールへ適応するだけでなく、「現場の社員がそのルールを遵守して利用しているか」までを確実に把握し、管理する責任が求められています。

3つ目が「技術的安全性（AI Security）」です。これはシステム的な視点からAIの利用における安全を守る領域で、ネットワーク監視やログ分析によって、AIがどのように使われているかを確認し、不自然な使い方があれば検知します。また、AI自体の弱点（脆弱性）を見つけたり、危ない使い方ができないようにシステム側で自動的に制御することも重要な役割です。技術の力を使って「危ない使い方ができない状態」を作り出すことも、非常に大切です。

この3つはどれか1つだけでは意味がなく、すべて揃って初めてAIガバナンスが成立します。

——企業はAIガバナンスをどのように進めていくべきなのでしょうか？

現実的には、「人的な統制」と「技術的な統制」の両方を組み合わせることが重要です。人的な統制としては、AI利用を申請制にし、法務部門がチェックする仕組みをつくる。技術的な統制としては、ネットワークを監視し、AIの利用状況を可視化する。こうした二段構えが基本になります。

最近では、こうした管理を効率化する「AIガバナンスツール」も登場しています。代表的な機能としては、AI利用の申請・承認フローの管理、AIツールの台帳管理、リスクの自動検出、監査ログの記録などがあります。選定の際には、「倫理・法務・セキュリティ」の3領域をどれだけカバーできているかが重要なポイントになります。

AIを使う前に一度じっくり考えてほしい

——AIガバナンスについて、高校生や大学生が知っておくべきことはありますか？

ここまで少し難しい話をしてきましたが、高校生や大学生の皆さんに一番伝えたいのは、「AIを使う前に一度じっくり考えてほしい」ということです。AIは非常に便利ですが、その回答をそのまま使うだけでは、自分の力にはなりません。まず自分で考え、その上でAIを使い、さらにその結果を検証する。このプロセスがとても重要です。

また、これからの時代は「AI×○○」という掛け算ができる人材が強くなります。例えば、金融×AI、医療×AI、教育×AIといったように、自分の専門分野とAIを組み合わせることが求められます。セキュリティの世界でも同じで、単に技術を知っているだけでなく、「それをどう使うか」を考えられる人が価値を持ちます。

AGI（汎用人工知能）からASI（超人工知能）の時代へ

——今後、企業や行政機関は生成AIをどのように活用していくと思いますか？

今後、AIはさらに進化し、エージェント化、自律化が進んでいきます。エージェント化とは人間の代わりに仕事を行うこと。自律化は一歩進んで、AI自身が判断して、仕事を行うようになることと考えていいでしょう。

AIに興味がある皆さんなら、AGIやASIという言葉を聞いたことがあると思います。AGIはArtificial General Intelligenceの略で日本語では「汎用人工知能」、ASIはArtificial Super Intelligenceの略で「超人工知能」と訳されています。現在の生成AIがツールとしてのAIなら、AGIはパートナー、ASIは社会の変革者になっていくと予想されています。

この段階になるとAIだけで社会が回るような未来がやってきます。そのときに重要になるのは、「AIをどう制御するか」です。つまり、これからは「AIを使う人」ではなく、「AIをコントロールできる人」が求められるようになるのです。

——これからAI・データサイエンス分野を学びたいと思っている受験生にメッセージを。

今、皆さんがAIやデータサイエンス分野に興味を持ち、学ぼうとしているのは、次の時代を切り拓くうえで本当に素晴らしい選択だと思います。ただし、技術を学ぶときに、「それが社会でどう活かされているのか」まで、セットで考えてほしいです。

AIは魔法の杖ではなく、とても強力な「道具（ツール）」にすぎません。大切なのは、AIに使われる人になるのではなく、AIを使いこなす人になることです。だからこそ、AIが出力した情報を鵜呑みにする習慣を絶対につけてはいけない。AIがどんなに進化しても、最後に「これは本当に正しいか？」「この使い方は人を幸せにするか？」を判断しなければなりません。なぜなら、決めるのは人間である皆さん自身だからです。「自分の頭で考える力」を手放さず、大切に育ててほしいと思います。

【プロフィール】

石黒 元洋 さん

外資系総合コンサルファームを経て、2024年にアルサーガパートナーズへ参画。デジタルアイデンティティとゼロトラストを専門とし、製薬・生命保険・自動車など多業種でID管理や認証基盤構築の構想策定から導入までを歴任。現在はセキュリティコンサル部門の立ち上げ・強化を担う。

【取材協力】

DX領域において、コンサルティングからシステム開発、運用までを一貫して行う。事業領域は、DX支援を中核に、システム開発・アプリ開発、Web制作・マーケティングまで幅広く展開。「自由な発想と確かな論理で価値を届ける」をミッションに掲げ、多様なケイパビリティやアセットを活かしながら、お客様に寄り添った支援を通じて企業の競争力向上を実現している。さらに、国内生産およびIT人材の育成に取り組むことで、社会課題の解決にも貢献している。

詳細はこちら
アルサーガパートナーズ株式会社

Text & Photo by 丸茂健一（minimal）