変革のための「薬」とその「副作用」、グリーンAIで世界をリードする存在へ

　生成AIをはじめとするAIの活用が、さまざまな領域に広がりつつある。それに伴い、セキュリティリスクも増しているという。最近の潮流や求められる対応、テクノロジーの可能性などについて、NEC技術系トップの2人である、Corporate EVP 兼CSO（最高セキュリティ責任者）兼 NECセキュリティ社長の中谷 昇氏と、Corporate SVP 兼 AIテクノロジーサービス事業部門長 兼 AI Technology Officerの山田 昭雄氏が意見を交わした。

技術革新という「薬」と「副作用」への考え方

――テクノロジーの進化に伴い、セキュリティリスクが高まっているようです。

中谷 昇氏（以下敬称略）　インターネットは不便を便利に変え、世の中が変わってきています。DXに取り組む企業は増えています。AIの活用も進んでいます。

　これらは生産性や企業価値の向上を支援する「薬」ではあるのですが、それに伴う「副作用」も生じています。例えば、プライバシーの侵害やデータ漏洩です。さらに脅威なのは、そのスケールが過去とは全く異なることです。紙情報から電子情報に代わり、今ではテラバイト級の数百万人のデータを簡単にコピーできます。ひとたび漏洩すると大きなインパクトが生じます。

　しかも、あらゆるものがインターネットにつながる社会では、すぐ隣に犯罪者がいるようなものです。情報を守るためのセキュリティ対策の重要性が増していると言えます。

山田 昭雄氏（以下敬称略）　副作用というキーワードは言い得て妙ですね。データ活用は大きな利便性をもたらしましたが、皮肉なことにそれを支えるテクノロジーの進化によって、負の影響がかつてないほど大きい世の中になったわけです。

　ここで特徴的なのは、そこにAIが加わると、スピードという概念も入ってくることです。これまで人間がやっていた「ナチュラル・インテリジェンス（自然知能）」が、「アーティフィシャル・インテリジェンス（人工知能）」になることによって、 意思決定のスピードが圧倒的に加速されます。

中谷　セキュリティの最前線でも、守る方も攻める方もAIを使うようになっていて、いわば攻撃側が使うAI vs 防御側が使うAIの戦いになっています。

　AIの普及が進んだ背景には、人間には見えないものを可視化できることがあります。データの少ない時代には人間の作業でなんとかなりましたが、今ではコンピュータで処理しないと、何が起こっているのか見えなくなっています。

　2023年の日本のGDP（国内総生産）は世界4位で、それ相応の量のデータを排出しているわけですが、日本の企業はまだその意識が低いように思います。

山田　流通データの活用はフローですけれど、このデータを貯めていくと、ストックとして、知識（ナレッジ）の形での活用が可能になります。今、ブームになっている生成AIは、本質的にはデータのストック活用そのものです。

　フローのセキュリティ問題もありますが、ストックのセキュリティ問題も重要です。ナレッジはデータの蒸留された上澄みのようなもので、より価値が高い。企業側はそこを意識する必要があります。

ブラックボックス化によるAIの脅威も生まれる

――AIが進化する中で、新たなリスクが生まれています。セキュリティはどうあるべきでしょうか。

中谷　先ほど、攻撃AI vs 防御AIになっているという話をしました。グローバルでサイバーセキュリティに関するレポートが毎日のように出ているのですが、実はこれを食い入るように見ているのが犯罪組織なのです。

　彼らはそれらのレポートから新しい脆弱性に関するナレッジを得て、それを攻撃できるようにツールに改良を加えています。今はまだ手作業でやっているようですが、近い将来にはそれがAIで自動的にできるようになります。もしかしたら既になっているかもしれない。

　一方で、多くの日本企業では、そうしたリスクへの対応がまだあまり進んでいません。犯罪組織の方が一歩も二歩も先を行っている現状なのです。

山田　サイバー攻撃に限らず、AIに関する主導権を日本企業が握れていないのは大きな課題と感じています。

　中谷さんが指摘するように世界でも有数のデータ排出国である日本ですが、そのデータをLLM（大規模言語モデル）という形でナレッジに変えて持っているのは誰か、コントロールしているのは誰か、という観点で見ると、日本のプレゼンスはまだ決して大きくありません。

　マルウエアのようなプログラムならコードを見れば発見できますが、LLMの中に入り込んだ場合には簡単には判別しにくくなります。AIが不適切な学習をした場合、例えばある日AIアナウンサーが政治的な発言をするようになったりする可能性が考えられます。

　つまり、AIの活用により、プライバシーの侵害やデータ漏洩とは次元の異なる問題も生じるのです。われわれは十分に技術の特性を理解して活用していく必要があります。

中谷　国家の安全保障にも関わる問題ですね。AIがどのようなアルゴリズムを使っているのか、どのようなデータを学んでいるのかという点が、非常に重要になってくるように思います。

セキュリティ対策支援にAIを活用するNEC

――AIとセキュリティが密接に関係しているとのことですが、企業がAIを活用する際に、どのような取り組みが求められていますか。

中谷　サイバーセキュリティの3要素は「CIA」の保護です。Cは機密性（Confidentiality）、Iは完全性（Integrity）、Aは可用性（Availability）です。データに対するアクセス権限を保護・管理し、データが改ざんされないこと、データをいつでも使えることが大切です。

　脆弱性を発見するためにAIを活用することもできます。生産設備を仮想空間に再現するデジタルツインを構築し、シミュレーションを行えば、生産ラインの稼働を止めずに検査なども行えます。

山田　NECでは、生産現場のOT（制御・運用）をAIで行うといった支援も行っています。例えば、化学製品のプラントでは、熟練した社員がさまざまなパラメータを見ながら、経験と勘でOTを行っています。これをAIに置き換えると、人間よりもうまくできるという検証も出てきています。まさにデジタルツインを作って、その上でシミュレーションを繰り返すことで、AIがベストな方法を提案してくれるという仕組みです。

　そこで大事なのは、そのシミュレーション自体が正しいのかという点です。従来は、AIの推奨を実際の観測値と比較して、モデルフィッティングにより調整していたのですが、最近ではこの調整自体もAIが自動的に行うような仕組みになりつつあります。

中谷　NECが開発したLLM「cotomi（コトミ）」は、さまざまな業種・業務ノウハウを基にした特化モデルを提供していますね。私たちセキュリティ部門はAI部門と、「cotomi for security」という、セキュリティに特化した生成AIの開発を進めています。

　大切なのは、事業を通じて蓄積された膨大な脅威データをAIに学習させることで品質の良いデータ量を増やして行くことだと思います。品質の悪いデータからは品質の悪いアウトプットしか出てきませんから。

山田　それはまさにNECがなぜ生成AIを開発するのかというモチベーションの根本ですね。AI Everywhereと言われるように、これからは社会のあらゆるところにAIが入ってきます。

　国の社会システムや、企業の基幹システムの中のAIが正しく動くことを保証するためには、透明性の高いデータを透明性のあるプロセスできちんとコントロールした形で提供する必要があります。NECは日々その実現に向けて挑戦しています。

日本発のグリーンAIで世界をリードする存在へ

――NECとして、日本企業や、政府・自治体などのセキュリティ対策、AI活用をどのように支援していきますか。

中谷　私は、インターポール（国際刑事警察機構）などでサイバーセキュリティ対策などの経験を積みました。NECに入社したのは、日本でサイバーセキュリティを支援する側になりたい、「.jp（ドット・ジェイピー）」を守りたいという思いからです。

　日本の企業にしても政府にしても、DXを止めることはできません。止めることは成長を止めることを意味します。私は、DXをSafe、Secure、Sustainableに進める「DSX（デジタル・セキュリティ・トランスフォーメーション）」が大事だと考えています。そのキードライバーはAIです。NECグループのリソースを最大限活用して、その実現に向けて何ができるか体制の整備も含めて検討しているところです。

山田　私は日本企業、日本の政府や自治体だけにとどまらず、広くグローバルにAI活用サービスを提供していきたいと思っています。ただし、海外のやり方をそのままトレースするのではなく、日本的経営や日本の文化も守っていきたい。AIについても、日本ならではのAIのあり方や活用法を日本からしっかりと発信していくことが重要だと考えています。

中谷　AIはある意味でロボットに似ていると思います。多くの日本人は鉄腕アトムやドラえもんなど、ロボットに親しみを持っています。その点で、AIにもフレンドリーで親和性が高いのではないでしょうか。世界でAIの分野をリードする国になってほしいですね。

山田　私がAIを使ってやりたいことは、社会や企業のシステムにおいて、AIによる効率的かつ安全なオペレーションを支援することです。ただし、それはAIが人にとって代わるということではありません。私はよく「AIは同僚」と言っています。会議で意見を言ってくれるように、業務遂行において人を支援してくれるのがAIです。

中谷　信頼できる事業者をパートナーに選んでいただきたい、とも思います。日本では安心と安全は無料だと考えている人が多いのですが、それは誤りです。日ごろからしっかりと対策を行うことが大切です。そのためには一定のコストも必要です。

山田　もう１つ強調したいのは、地球環境に対するインパクトの有無です。AIを使うことでさまざまな業務が効率化できるかもしれません。

　しかし、そのために大きな環境負荷をかけるようでは本末転倒です。生成AIの登場により、世界の電力消費量の増加が問題になっており、グリーンAIという考え方を意識しなくてはいけません。NECが、ドメイン特化型のコンパクトに凝縮されたAIの開発に力を入れているのもそのためです。地球に優しく、なおかつ私たちの社会を良くしてくれる。そのバランスを考えた解決策を、「BluStellar（ブルーステラ）」 の価値創造モデルの下で追求し提供したいと考えています。

＜PR＞