履歴
生成AIの急速な発展により、AI技術の可能性とリスクが同時に注目される時代となりました。そのような中で、AIガバナンスをいかに構築し、イノベーションと安全性を両立させていくかが重要な課題となっています。今回は、ハーバード大学でAIセキュリティ研究に取り組み、Robust Intelligence創業を経てシスコでAI活用の最前線に立つ大柴行人氏にインタビュー。「日本がチャンスを持つ領域」としてのAIガバナンス、そして技術と社会の接点で価値を生み出し続ける視点から、日本発のAIガバナンスモデルが世界に与える可能性についてお話しいただきました。
―― まず、これまでの経歴についてお聞かせください。
高校まで日本で過ごし、大学からアメリカに渡ってハーバード大学でコンピュータサイエンスを専攻しました。そこでAIの脆弱性に関する研究をしていました。2017年から2019年頃、まだLLM（大規模言語モデル）やTransformerの論文が出始めた段階で、AIのセキュリティという分野に取り組む研究者は世界でも20〜30人程度でした。
当時はディープラーニングがバズワードとなり、画像分類で人間の性能を超えるなど変革期だったのですが、多くの人が「AIは魔法の箱で何でもできる完璧なもの」と考えていました。研究を通じてその認識とのギャップを感じ、2019年にハーバードの指導教授だったYaron Singer（ヤロン・シンガー）と一緒にRobust Intelligenceという会社を創業しました。
最初はボストンで1年活動し、2020年にシリーズAの資金調達のタイミングでサンフランシスコに移りました。計5年間会社を経営し、AIのTestingとAI Firewallという2つの機能を提供していました。前者はAIアプリケーションやモデルの問題点をチェックするもの、後者はAIを実際に運用する際のリアルタイムな監視を行うものです。
JPモルガン、IBM、アップル、エクスペディア、米国防総省といった米国の顧客、そして東京海上ホールディングス、リクルート、楽天、NECといった日本企業にもサービスを提供していました。この事業を通じて、日本でAIガバナンスの重要性を広める必要性を強く感じ、高校の同級生でもある佐久間理事と共にAIガバナンス協会を設立しました。協会設立の詳しい経緯については、佐久間理事のインタビューをぜひご覧ください。
そして2023年10月にRobust Intelligenceをシスコに売却し、現在はシスコでFoundation AIというチームを率いています。サイバーセキュリティ領域でのAI活用に関する最先端ソリューションの開発を行っています。
―― AIに対する関心や問題意識はどのように形成されてきたのでしょうか。
私の関心は、純粋に技術的な側面だけでなく、技術が社会に与える影響にあります。大学時代は、セキュリティだけでなく、差分プライバシーの領域を開拓したハーバードの教授から影響を受けましたし、社会科学とAIやデータサイエンスの接点についても学びました。
テクノロジーとスタートアップ、そしてそれらが社会に与える影響を単に分析するだけでなく、実行に移すことで社会を良くしていきたいという思いが一貫したテーマです。最近では「デジタル民主主義」のプロジェクトに関わっていますが、AIのセキュリティやガバナンスは、過去5年から今後10〜20年にかけて最も重要な問題の一つになると考え、継続的に取り組んでいます
―― AIガバナンス協会の代表理事として、どのようなミッションや問題意識を持っていますか。
私が一貫して持っているモチベーションの一つに「グローバルで何かをやる」ということがあります。かつては、日本で頑張ることが直接グローバルに通じる時代もありました。しかし、それが薄れてきている今、世界規模で技術が社会に良い影響をもたらすことに貢献したいと考えています。
その中で、AIガバナンスは日本が大きなチャンスを持つ領域だと思います。理由はいくつかあります。まず、アメリカはかなり政権も変わり、より利用活用推進の勢いが増しています。EUは人権主義的なアプローチでしたが、アメリカの影響も受けてやや方向性を見失っている印象です。日本は成長するアジア地域のなかでもうまく間に立つことができています。
また、日本はAIで解決すべき課題を多く抱えています。労働人口が減少しており、AIの活用領域が多く、欧米のような「AIに仕事を奪われる」という反対が少ないのも特徴です。日本ではむしろ仕事の担い手がいないことの方が大きな問題になっています。
そして、アメリカでは技術開発はシリコンバレー、法整備はワシントンDC、クリエイティブな反応はロサンゼルス、投資はニューヨークと、各領域が地理的に分断されています。一方、日本は東京に一極集中しており、政策立案者、大企業、スタートアップ、クリエイターの距離が物理的に近い。この環境を活かして、マルチステークホルダーの対話を促進することができます。
――AIガバナンス協会の理事として、やりがいを感じる瞬間はどのようなときですか。
最も基本的なところでは、この分野に関心を持つ企業や政府、弁護士、研究者が増え続けていることそのものが嬉しいです。協会の会員は100社を超え、自分が長年大切だと思ってきたテーマに多くの人が関心を持ち、実践しようとしていることに喜びを感じます。
さらに実際的なインパクトも生まれています。協会としての行動目標が各企業の行動目標として採用されたり、人材の流動性が生まれたりしています。この領域に多くの人が参入し、知見が育ち、インパクトが生まれ、その中心にAIガバナンス協会があるというエコシステムができていることが最大のやりがいです。
―― 日本企業がAIガバナンスにおいて直面している課題をどのように見ていますか。
AIガバナンスを経営レベルの課題としてしっかり位置づけることが大きな課題です。実務的なハウツーについては、ベストプラクティスも少しずつ見えてきています。どのようなデータをAIに入れるべきか、どのような環境で運用すべきか、セキュリティチェックをどう行うかなど、技術的なツールも揃ってきています。
問題は、それらを使うか使わないか、使うべきだと認識するかどうかという組織としての意思決定です。例えばシスコのような企業では、セキュリティ製品を提供する企業として、自社のAIツールの使用に関するガイダンスも経営レベルで重視されています。
日米の違いとしては、アメリカは「とりあえず試してみる」文化があり、AIをまず使ってから後からガバナンスを考える傾向があります。一方、日本は逆で、AIを使う前に体制を整えようとします。これが日本でのAI導入の遅れにもつながっていますが、同時にAIガバナンスの重要性は日本の方が高いとも言えます。
なぜなら、AIガバナンスをしっかり行わないことは、リスクだけでなく、機会損失にもつながるからです。石橋を叩いて渡る文化だからこそ、適切なガバナンスを行い、AIの導入を促進するプラクティスを作る必要があります。
――先進的な企業の取り組み例について教えてください。
リクルートは攻めと守りのコラボレーションが非常にアジャイルな好例です。セキュリティやガバナンスの担当者と開発者の間にほぼ垣根がなく、同じプロジェクトのメンバーとして協働しています。そのため、動きが早いのに安全性を損なわないという状態が実現できています。
一方、多くの組織では縦割りの弊害があり、攻めと守りが対立する構図になっています。この課題は、日本企業の組織構造として根深い問題です。
三菱UFJフィナンシャル・グループでは経営企画がAIガバナンスをオーニング（所有）するという良いアプローチを取っています。どこかの部署レベルでオーニングすると影響力も弱く、ブレーキ役と見られがちですが、全体のスキームの中で明確な役割として位置づけることが重要です。
こうした実践的な知見を持ち、現場で実行しているからこそ、協会としても両者のキーパーソンに理事を依頼しており、その経験や視点を社会全体に展開していくことを期待しています。
―― 今後の課題や展望についてお聞かせください。
エンターテインメント、アニメなどのIP関連、製造業、ロボティクスなどのような日本が強い領域でのAIガバナンスを考えることが重要です。特に画像生成AIが発展する中で、クリエイターとの折り合いをどうつけていくかという議論は、豊富なコンテンツを生み出してきた国として枠組みを作る必要があります。
また、長期的には人間とロボットの共存という領域も重要です。10〜20年単位で見ると、ハードウェアとAIの融合が次のフロンティアになります。日本はドラえもんやエヴァンゲリオンなど、漫画やアニメを通じてこのテーマを描いてきた文化的背景があります。AIと人間がフィジカルな環境で共生していくためのインターフェースやUX、社会の仕組みについて、日本が議論をリードしていけるでしょう。
そして、若い人材をこの領域でもっと増やしていく必要があります。AIの倫理やセキュリティに関する教育を通じて、次世代のリーダーを育成することも重要な課題です。
―― AIガバナンスに関心を持つ方や、協会参加を検討する方へメッセージをお願いします。
日本でAIガバナンスに関するしっかりとしたベストプラクティスを作り、それをグローバルでモデルケースとして輸出していけるものにしたいです。それが私たちにできること、そして取り組むべきことだと考えています。
日本は「なんとなく怖いから使わない」という姿勢がデフォルトになりがちです。しかし、AIを使わないことが企業の淘汰につながる可能性があることに危機感を持ち、そのブロッカーを乗り越える方法を考える必要があります。
AIGAは、そのために必要な手立てや言語化を提供し、経営層の近くに置かれるべき存在です。リーディングプレイヤーがAIガバナンスをしっかり行うという段階までは来ています。今後は、そうした先進事例を広め、より多くの企業がAI活用とガバナンスを両立できるよう支援していきますので、ご興味ある方はぜひご連絡いただけますと幸いです。
