昨今、話題となっている大規模言語モデル（LLM）を活用したAI。日々新しい情報が展開され、メガバンクへの導入やChatGPTを開発したOpenAI社のCEOであるサム・アルトマン氏と岸田総理大臣が面会したことで、世間を賑わせています。

コンタクトセンターでもAI活用が注目される中、株式会社JR西日本カスタマーリレーションズへ株式会社ELYZAが提供する大規模言語モデルが導入されたことも最近のトレンドとして注目を集めています。

本記事では株式会社ELYZA 松浦様へ取材をさせていただき、JR西日本グループへ提供した大規模言語AIとはどのようなものなのか、AIをコンタクトセンターに導入する際のポイントや、ELYZAの今後の展望等をお伺いしました。

大規模言語モデルやChatGPTなどのAI領域に馴染みがないご担当者様にも、興味を持っていただける内容になっています！ぜひご覧ください。

JR西日本グループのコールセンターへの導入事例

【概要】
外国産AI×国産AI「ELYZA Brain」によるメール内容の要約業務を業界初・最速で導入

（参考：PR TIMES プレスリリース）

プロジェクト期間は驚きの2ヶ月！

―今回GPT系統モデルと国産AIを組み合わせた大手企業への実装は国内初（※1）の取り組みです。ChatGPTが話題になりすぐに発表でしたが、プロジェクトはいつから始められたのですか。
（※1.Web上に公開されている実績・実証実験情報を元にELYZAにて確認。）

松浦様：ChatGPTが公開されたのは2022年11月でしたが、その前の夏ごろからJR西日本カスタマーリレーションズ様からご相談を受けておりました。そこから検討を始め、実際にプロジェクトを開始したのは今年の1月ごろでしたので、プロジェクト期間としては2ヶ月です。

元々弊社が大規模言語モデル（以下、LLM）でビジネスをしていたので、自社開発のLLMをベースにしつつ、一部の領域ではGPTも取り入れることとしました。

ー 一般的なAIプロジェクトはかなり時間がかかるイメージですが、 2ヶ月で実証実験までこぎつけたのですか？

松浦様：AIの精度には事前学習でどれだけ賢い状態にできるかと、その後どのくらい改善できるかが影響してきます。はじめの発射台が高いほど、短期間で成果を出しやすくなりますが、弊社では事前に大量のデータを学習したLLMを保有しており、かつLLMを学習させて精度を出す取り組みを数多くこなしてきたことにより深められた知見があることで、本プロジェクトを高めの発射台から始めることができました。

それに加えて、JR西日本カスタマーリレーションズ様がこれまで蓄積されてきた大量のデータを活用させていただけたことで、2ヶ月という期間で十分な精度の成果を出すことが出来ました。

―JR西日本カスタマーリレーションズ様はこれまで人力で積み上げられてきた土台（データ）がありました。土台が何もないコンタクトセンターでも2ヶ月でプロジェクトは開始可能でしょうか。

松浦様：データの蓄積がない企業でも、現在のLLMは膨大な事前学習がなされているので2ヶ月程度で開始出来る可能性は高いと思います。
例えば、GPTは追加学習をしなくても、高い精度を出すことが可能であり、これまではデータ蓄積がない領域も多かった中、AIの利益を享受しやすいケースが増えてきたかなという印象です。

取り組む事が可能な領域の拡大に加え、期間短縮もポイントであり、これまでのように1年～2年かけてAI開発するという世界ではなくなってきていると思います。

―プロジェクトを進めるにあたり課題はありましたか。

松浦様：弊社として要約領域は色々経験があったのですが、メール内容の要約は実績が無かったため、狙った成果を出せるか手探りでプロジェクトを進めていました。
ただ、取り組む前からJR西日本カスタマーリレーションズ様内でデータがかなり蓄積されていることがわかっていたので、懸念も少なく先方も前向きに取り組んでいただいたおかげでプロジェクトはスムーズに進みました。
プロジェクトを進める際、目的や計画、話すべき事項をどれくらい顧客と目線を合わせながら対話・都度課題を解消できるような、良いプロジェクトチームを組めるかが重要と考えています。
今回はJR西日本カスタマーリレーションズ様と良いチームを組むことができたと思います。

ELYZA BrainとGPT系統モデル、どのように使い分ける？

―まず今回利用しているLLMと従来の言語モデルとの違いを教えてください。

松浦様：アプローチの種類は3パターンあると思っています。

1つ目が、2018年以前の、BERTが登場する前の旧来のアプローチ。
2つ目が、2018年以降の、Googleが発表したBERTを始めとするTransformerを使った事前学習済みの大規模言語モデル。
3つ目が、2020年以降の、GPT-3に代表される超大規模言語モデル、この3種類です。

1つ目のBERT前のアプローチでは、基本的に事前学習をしていないため、一般常識を知らないモデルとなっており、メール要約などの個別タスクで精度を出すためには大量のデータが必要だったり、数十万件のデータがあってもそもそも精度が出なかったり、という状態でした。

2つ目のBERT以降の大規模言語モデルは、事前学習により一般常識を獲得しており、追加で1〜10万件程度のデータがあれば個別タスクで一定の精度を出せるようになりました。
ELYZAの言語モデルも2つ目に当てはまり、その中でも日本語に強いのが特徴で企業が持つデータと組み合わせることで効果を発揮します。

そして3つ目のGPT-3のような超大規模言語モデルは、2番目のモデルをより大規模にしたモデルで、個別タスクのデータを追加で学習させなくてもある程度高精度な出力が期待されます。

性能・コストに応じた技術の使い分けが要諦ではありますが、現状企業における言語AI活用は2018年以降のAIをどのように活用するか？が主なテーマになっています。

―今回の導入事例は、ELYZA BrainとGPT-3を並行利用しているとのことですが、どのように使い分けをされているのでしょうか？

松浦様：メールの要約についてはELYZA Brainをベースに行っております。

要約業務にはこれまでコールセンター側で蓄積されてきた“秘伝のタレ”のようなものがあり、細かい業務ルールに従う必要があります。そのような企業ごとにあるルールに合わせる場合はELYZA Brainを利用して専用モデルにチューニングする方が効果を発揮します。

一方、汎用的な対応が可能なものは外部モデルを利用することもあります。GPT系統に限らず、さまざまな企業がLLMを発表しているので、その時々に応じてパフォーマンスが期待できるものを選択すれば良いと考えています。

JR西日本カスタマーリレーションズ様とは、現在、お客様からの電話応対の要約プロジェクトも進めていますが、こちらはGPT系統モデルの利用を検討しており、間もなく開始予定です。

JR西日本グループで使用しているAI	役割内容
ELYZA Brain	・お客様からのメールでの問い合わせ内容の要約 ・お客様への回答内容の要約
GPT系モデル	・お客様からの電話での問い合わせ内容の要約

―どのあたりが製品の使い分けの境目になりそうですか？

松浦様： AIに求める処理の要件と、文章の内容です。

例えば、要約文章の文字数に一定の制限がある場合や、3つの箇条書きで、1つ目はこういう内容にするといったように、ルールが決まっている場合は出力をコントロールする必要があります。
今回のJR西日本カスタマーリレーションズ様も、細かいルールが多くありました。
企業の中にある、言語化していない・できない・し切れないルールをELYZA Brainによって反映することができるため、ルール毎に出力をコントロールでき、クオリティを上げることができます。

ルールに合わせて、モデルを使い分ける必要もあれば、ルールの方を見直す方針もあると思います。「秘伝のタレがどこまで必要なのか？」という対話をさせていただきながら、細かいルールがある業務などはELYZA Brainをベースに、それ以外（汎用的に対応できる業務など）はGPTベースで対応していく方針で進めています。

【ELYZA 要約ツールのデモ画面】

大規模言語AIってどうなの？コンタクトセンター界隈の方々が気になるポイントを解説

人の仕事は奪われる？結局のところ、完全自動化は可能なのか

―今回の導入事例ですと、品質を担保するために「半自動化」にしたという点が重要ポイントでした。コンタクトセンター界隈の方々が気になるのは「今後、完全自動化されるのか？」というところだと思いますが、その点についてはいかがですか。

松浦様：観点としては2つあると思っています。

まず一つ目の観点としては、仕事がなくなることはなくて、人が対応すべき重要な仕事へのシフトが進むと思います。例えば、コンタクトセンターにおいてCXはすごく重要視されているので、お客様向けのサービス拡充などにシフトしていくのではないかなと思います。

現状すべてのお客様のお電話に対応できないコンタクトセンターは結構あるので、AIで業務効率化することで、まずは応答率を改善して次のステップとしては品質改善に取り組んでいくようになると思います。

2つ目の観点としては、技術的な側面から今のAI技術では当面お客様の前に直接立たせるよりは、オペレーターや管理者の支援をする役割が主になると考えています。 現状、お客様の前に直接AIが立つ可能性があるとすれば、平日だけでなく土日や夜間も受付できるようにボイスボットなどを活用することは考えられますが、あくまで人の対応がメインでAIが取って代わるということはないと考えています。

導入する上での障壁。セキュリティ面や正確性は？

―コンタクトセンターの方々は情報漏えいと情報の正確性、この2つの懸念点からAI導入に進めず困っているケースが多いです。導入イメージが出来ていない企業様に向けて何かアドバイスをいただけますか？

松浦様：私もよくご相談を受けます。そもそもわからないとか、何をやればいいかとかわからないとか、社内説得しようにも説得の仕方もわからない等・・・。

ただ、4月に入ってから少し風向きが変わってきています。ChatGPTを開発したOpenAI社のCEOが岸田総理と面会し、その2日後にメガバンク3社が導入を決めたというニュースが出てからは、コンタクトセンター責任者の方々も「やらない方がいいのではないか」よりは「どうやれば出来るのか」に考え方が変わってきているという肌感は持っています。

「ChatGPTを禁止する会社は多い」という話をよく聞きますが、企業側としてリスクがあるのは、制御されてない状況で従業員が無秩序に機密情報を入力することです。

そのため、企業としては、ガイドラインを整備して、やってよいことや、禁止事項等を明確にすることにまずは取り組むべきでしょう。

例えば、MicrosoftのAzure OpenAIはデータを学習されないので、一部の実験用途などで使える状態にするなど、管理された状態が構築できれば、社内的なハレーションは少ない状態でスタートできるのではないかと思います。 社内に対して納得感を得る状態をつくるのが、ファーストステップとして必要で、その上で取り組みに進めていくのが重要であると思います。

最新のELYZA App Platformとは？なぜELYZAは選ばれるのか

AIを導入する際の進め方 – 企画・AI・システムの3要素

―貴社のAI導入の進め方についてお尋ねします。導入ステップとしては企画や業務コンサルティングから入られるケースが多いのでしょうか？

松浦様：AI導入には、企画・AI（処理フローやモデル構築）・システム（UI）、この3要素あります。

企画については、お客様の事情によって課題や業務が違ってくるため、個別での対応が多く、そこはコンサルティングから入って、初めの前さばきはします。

AIの処理フローやモデル構築は多少各社ごとのカスタマイズが必要なので、半分汎用、半分特注のようなイメージです。

システム（UI）については、SaaSになっていて、 同じものを皆さんに使っていただけるものをご準備しています。

つまりお客様へのサービス提供の進め方としては、各社ごとの事業に合わせて業務要件を整理した上で、土台となる部分は開発済みのものを活かし、各社ごとにチューニングしていくようなイメージです。

―企業様によって運用の仕方が違ったり、業務内容によってルールが違ったりするので、汎用のものをひとつ用意していたら大丈夫というわけではないのですね。

松浦様：将来的には汎用性のあるものを目指したいですが、今は半々という感じですね。

DXアイデアを最短1週間でカタチにする新サービス「-ELYZA App Platform-」とは？

―「コンタクトセンター×ChatGPT」という点について、どのように向き合っていらっしゃいますか？

松浦様：弊社の新しい取り組みとして、「ELYZA App Platform」というサービスがあります。 これが先ほどの話で言うシステムとしては共通化していて、AIを汎用と特注とで使い分ける、お客様のアイデアがあればそれをコンサルした上で形にしていくという、トータルサービスの提供になります。

弊社のスタンスとしては、ChatGPT or ELYZA Brainというよりかは、ELYZA Brain or グローバルモデルという風に整理をしています。

弊社の自社モデルを使いつつ、ChatGPTも使用しますし、それ以外のGoogleのBardなど、今後生じるであろう様々なオプションも、提供可能となった際には提供できる状態にしています。オールインワンで、世界最先端のAIが使える状態を作っていきたいと考えております。

自社記事コンテンツを生成したいとのご要望があれば、「執筆＆校正プロトタイプ」を、お客様の声を適切に分類したいとのご要望があれば、「要約＆分類プロトタイプ」を、社内知見を利活用する仕組みを作りたいとのご要望であれば「整理＆抽出プロトタイプ」を作成するといった事業を今始めているところです。 LLM全体を見据えながら、価値をスピーディに届けるということをやっていきたいなと思っています。

ELYZAの他社に負けない強みとは？選ばれる理由

―LLM関連では連日新しいサービスがさまざまな企業からリリースされています。改めて他の企業と比べたときの貴社としての強みは何ですか？

松浦様：あくまで弊社の認識ですが、LLM、ChatGPTだけだと対応できることは結構限られていると思います。どうAI処理フローを組むか、どうシステムを組み合わせるかというのが重要です。

例えばライティング業務の場合、ChatGPTに「ディープラーニングの登場により、NLPがどう発展したか記事を書いてください。」と指示すると、一見良い文章が生成されますが、内容を見た際に、 嘘があったり、内容が抽象的すぎるといった問題が起こり得ます。

実際に実用に耐えうる状態を実現するには、例えば6段階の処理が有効な可能性があり、LLM以外の情報処理フローも必要なことがわかります。

弊社の強みとしては、例のように業務を分解しLLMの潜在的能力を最大化するための設計ができ、UXまで含めて考えることができるところです。

また、言語AIモデルとしてはChatGPTだけでなく、ELYZA Brainという自社開発の大規模言語モデルがあることやコンタクトセンター系のナレッジがあるのでお客様と同じ目線で取り組むことが出来るのも強みであると考えています。

ELYZAの今後の展望とは

取り組んでいくプロダクト

―メール要約や電話要約などの領域以外でも、今プロダクトとして準備されているものはありますか？

松浦様：JR西日本カスタマーリレーションズ様からはAIの効果もご実感いただけており、今後取り組んでいくプロダクトとしては構想レベルでのお話をさせていただいております。

やはりこのコンタクトセンター×AIの領域はかなりホットかなと認識しています。

ELYZAとしての想い

―最後に今後の展望について教えてください。

松浦様： ELYZAでは創業時からずっと言語AIの可能性を信じ続けています。お客様にもご認識・共感していただけて、ビジネスができる状態になったと思います。 まずはさまざまな成功事例を実現していくことが重要です。失敗事例がたくさん出てしまうと導入はどんどん遅れるので、ELYZAとしては成功した事例をどんどん出していきたいですし、そういった成功事例が出ることで、皆様も前に進もうと思えるのでしっかり足元を地につけてやっていきたいですね。

最後に

今回は「未踏の領域で、あたりまえを創る」をミッションに掲げる企業、株式会社ELYZA 松浦様にお話を伺いました。ELYZAの創業当初からAIの可能性を信じ、社会実装していきたいという松浦様の想いが伺えるインタビューとなりました。

今後も、どんどん大規模言語AI領域での新しいサービスは増え、AIの使い分け・導入により、コンタクトセンターでのDX化は増えていくことでしょう。

誰もがAIの利益を享受しやすい時代になった今、AI導入についてやらない選択よりも、「どうやったら出来るのか」という考え方にシフトチェンジしてみてはいかがでしょうか。

業務効率化・生産性向上のためコンタクトセンターへの生成AI導入をご検討されている方や、株式会社ELYZAへ相談したいというお客様はこちらからお問い合わせください。