生成AIが注目されている中、日本電気株式会社（以下NEC）は、独自のLLM(大規模言語モデル)を開発。今回は、社内の業務利用、そしてお客様に向けた生成AIサービス「NEC Generative AI Service Menu」を提供し、LLMの業務活用を加速しようとしているNECの野口さんと石川さんにお話を伺いました。
NEC開発のLLMについてや、生成AIサービス「NEC Generative AI Service Menu」を提供するにあたって自社を最初の顧客と位置付ける「クライアントゼロ」の考え方など興味深いお話をいただきましたのでぜひご覧ください。
プロフィール
野口 圭さん
入社後、12年間はシステムエンジニアとして従事。2019年に顧客との共創による社会価値創造を目的とした「NEC Future Creation Hub」センター長に就任、のべ1万人のお客様との対話を通し、NECとお客様の共創をリードする。2023年に生成AIの事業立ち上げを目的としたNEC Generative AI HUBのシニアエバンジェリストに就任し、現在活躍中。
石川 和也さん
エンタープライズ領域の営業・新事業立上げに従事。2019年NEC全社営業月間準MVP獲得。マーケティング部門に異動、NEC初の大規模オンラインイベント「NEC Visionary Week」を立上げ、当時国内最大規模の3万人を超える集客に成功。現在、NEC Generative AI Hubエバンジェリストとして活動。社内外の様々なイベントへの登壇は100を超え、本音とユーモアに満ちたモデレート/プレゼンテーションで場を盛り上げ、活動開始後2年で15万人以上をエンゲージメントに成功。
業務変革を実現するLLMへ
Q：NECでは、LLMを開発なさったとのことですが、LLMの特長を教えてください。
野口さん：NECが開発したLLMの特長は2点あります。
1つ目は、日本語性が高いことです。LLMを実際の業務で利用するには、日本語に関する知識量及び文書読解力の点で高い性能が求められます。自然言語処理分野で標準的なベンチマークである日本語言語理解ベンチマークJGLUEを用いて、私たちが開発したLLMを独自で評価したところ、世界トップレベルの性能を達成していることを確認しました。
そして、2つ目の特長は、軽量であることです。NEC開発のLLMは高い性能を有しながらもNEC独自の技術により、モデルサイズをコンパクトにしています。これにより、LLMを組み込んだ業務アプリケーションがレスポンス良く動作し、業務運用時の電力消費やサーバコストを抑えることができます。さらに、お客様の業務に特化させたLLMが短期間で容易に構築可能であり、お客様のオンプレミス環境でも動作可能です。
これらの特長を有したLLMは、お客様の業務に寄り添った活用が可能であると考えています
LLMの開発だけにとどまらず企画～検証～導入から運用までを専門家チームでワンストップサポート
Q：「NEC Generative AI Service Menu」について教えてください。
野口さん：NECはLLMを開発・提供するだけでなく、その企画~検証~導入から運用までワンストップで支援するサービス「NEC Generative AI Service Menu」を提供しています。各事業領域(例えば金融など)の専門家と生成AIのスペシャリストが連携し、一貫した支援体制を構築しています。そういった支援を実現するために、「NEC Generative AI Hub」という、生成AIに関する専門家約100名からなる組織をCDO（Chief Digital Officer）直下に設立しました。これにより、ただ技術(LLM)を提供するだけでなく、実際のビジネス現場で役に立つ生成AI導入・活用をサポートします。
自社を最初の顧客と位置づける「クライアントゼロ」議事録作成時間が30分→5分や資料時間半減などの成果
石川さん：NECは、「クライアントゼロ」というアプローチを採用しています。これは、自社（NEC）を最初の顧客と位置付け、自社内で新しいテクノロジーの導入と徹底した価値検証を行い、その後社外へ展開する方法です。具体的には、NECでは、3万人を超える社員がブラウザ画面からNEC開発のLLMやAzure OpenAI Serviceを選択して利用できるようにしています。さらに、ダッシュボードで生成AIの利用状況を可視化し、「Voice of Employee」を通じて従業員の声を直接改善につなげる工夫もしています。また、「Prompt Pad」を用いて、社員が考えたプロンプトナレッジを集約・共有することで業務改善に役立てています。
生成AIによる「クライアントゼロ」活動により様々な成果が出始めています。例えば議事録の作成時間が30分かかっていたものを、生成AIを使うことで5分に短縮され、資料作成時間も半減しました。また、報告作成やカスタマーサポート業務でも時間短縮の成果が出ています。これらの結果は、お客様へのご提案にも繋がっています。このように自社での成功事例をもとにお客様にご提案する活動「クライアントゼロ」を通してお客様にとって本当に価値のある生成AIの導入・活用への貢献を目指しています。
日本の企業全体が生成AIの取り組みを推進できるよう支援
Q：最後に今後の生成AIに関する展望を教えてください。
野口さん：実用的なところの話をすると、属人性が高いタスクやシステムは、企業活動において一定のリスクを孕んでいます。例えば、一人の人が開発した便利なシステムが社内で使用されている場合、OSが変更されたり開発者が退職したりすると、そのシステムの修正や更新が難しくなる場合があります。しかし、生成AIを導入することで、このような問題は劇的に改善される可能性があります。生成AIに適切な学習を施すことで、システムの修正や調整が迅速かつ効率的に行えるようになることが期待されます。
また、生成AIの領域において、現状、日本はまだ世界の先進国に後れを取っている状況にあります。この技術の進歩と普及は、国内の産業全体の競争力を向上させ、さまざまな課題解決の道を開く可能性を秘めています。NECは、この分野でのリーダーシップを発揮し、日本の企業全体が生成AIの取り組みを推進できるよう支援していきます。そして、お客様の業務革新のパートナーでありたいと考えています。
