Tomori ご相談
Tomori ／ ブログ
設計ノート 読了 約9分

「同意を取る声」自体が海外に送られてしまう ── 音声AIの越境と同意の順序

音声AIが会話するには、お客様の声を外部のAIサービスへ送る必要があります。多くの場合、その送り先は海外です。
そこで「事前に同意をいただこう」と考えるのは自然な発想です。私たちも最初はそうしました。ところが、実装してから気づきました。AIに同意確認をさせると、お客様の「はい」という返事も、その海外のAIに届いてしまいます。同意を取る前に、すでに送っている。この記事は、その矛盾にどう対処したかの記録です。

前提：なぜ海外に送ることになるのか

自然な日本語で会話できる音声AIは、現時点では海外の事業者が提供するものが中心です。応答の速さと日本語の自然さを両立させようとすると、選択肢は限られます。

私たちも、この現実を前提に設計しています。「越境が起きない」とは言えません。言えるのは、どの範囲のデータが、どの時点で送られるかを正確に把握し、その前に告知と同意を置くことだけです。

最初の設計（そして間違い）

当初の流れは、こうでした。

  1. 電話がつながる
  2. AIに接続する
  3. AIが「録音し、外部のAIで処理します」と告知する
  4. そのまま会話を続ける

告知はしています。文言も検討しました。しかし、2番と3番の順序が逆です。

3番でAIが話すためには、2番で接続していなければなりません。そして接続した時点から、お客様の音声はすべて送られます。「ご了承いただけますか」に対する「はい」も、「ちょっと待って」も、全部です。

つまりこの設計では、同意を取るための会話そのものが、同意なしに越境していることになります。告知した気になっているだけで、実態は伴っていません。

気づいたきっかけ

この問題は、個人情報の扱いを一通り点検する作業の中で見つかりました。当初は「告知しているから大丈夫」と整理していた項目です。

指摘は端的でした。「越境リスクは、この方式を使う以上、必ず発生する」。告知の有無ではなく、接続した瞬間に発生する。ならば、告知の位置を接続より前に動かすしかありません。

自分たちで「対応済み」と整理した項目ほど、後から見返すべきだという教訓になりました。

組み替えた設計

現在は、こうなっています。

  1. 電話がつながる
  2. 電話網の側で、日本国内の音声合成が告知を読み上げる
  3. 電話網の側で、お客様の返事を受け取る
  4. 同意が得られた場合にのみ、海外のAIへ接続する
  5. 同意が得られなければ、担当者から折り返す旨を伝えて終話する

要点は、2番と3番を海外のAIに触れさせないことです。告知の読み上げも、返事の聞き取りも、電話をつなぐ仕組みが持つ機能で完結させています。ここまでは、お客様の音声は海外へ出ません。

実際の告知文は、こうです。

「お電話くださり、感謝致します。○○ AI 受付でございます。お話の内容は応対品質向上のため、通話を録音し、米国 OpenAI 社の AI を介して処理いたします」
「ご了承いただける場合は『はい』と、お話しください。よろしくない場合は『人間担当者と話したい』と、お伝えくださいませ」

この文面には、業界の知見が3つ入っています

1.「ありがとうございます」を使っていない

冒頭が「お電話くださり、感謝致します」になっています。弔事の場で謝意を表す言い回しは適さないという、現役の葬儀ディレクターの方からの指摘を反映したものです。同意確認の文面も、弔事の作法の外にはありません。

2. 番号を押させていない

「ご了承いただける方は1を」とすれば、判定は確実になります。しかし現場からは、番号入力を求める応答はクレームに直結すると指摘されています。深夜に、動揺しているご家族に番号を押させることはできません。

そのため、お声で「はい」とお答えいただく方式にしました。判定は難しくなりますが、そこは技術で引き受けるべき負担だと考えています。

3. 断る方法を、具体的に案内している

「よろしくない場合は」で終わらせず、何と言えばよいかを伝えています。断り方が分からない同意は、同意ではありません。お断りになった場合は、担当者から折り返す流れにつながります。

ここは、ヒアリングでいただいた「担当者からの折り返し電話も安心感を高めるポイント」「人が介在する安心感」という言葉とも一致しています。AIを断ることが、行き止まりになってはいけません。

お返事がない場合

一定時間お返事がない場合も、海外のAIには接続しません。「改めて人間担当者よりお電話差し上げます」とお伝えして、通話を終えます。

沈黙を同意とみなさない、という判断です。深夜に電話をかけてこられた方が、言葉を出せないことは十分あり得ます。その沈黙を「はい」と解釈するのは、同意の取り方として適切ではありません。

「はっきりAIと告知すべき」という要望

この告知は、法令上の要請だけで入れているわけではありません。ヒアリングで、現役のディレクターの方から明確な要望をいただいています。

AIであることは、はっきり告知すべき

理由は、隠して対応し、後で気づかれたときに失う信頼のほうが大きいから、というものでした。告知は、規制対応であると同時に、信頼を守るための業務要件です。この2つが同じ方向を向いているのは、幸運な一致だったと思います。

音声AIを検討される方へ：3つの質問

音声AIを比較検討される際、次の3点は必ず確認されることをおすすめします。

  1. お客様の音声は、どの時点で外部に送られ始めますか。「告知しています」ではなく、告知と接続のどちらが先かを聞いてください
  2. 送り先はどこの国の、どの会社ですか。そしてそれをお客様にどう伝えていますか
  3. お客様がお断りになった場合、何が起きますか。断る手段が案内されているか、断った後に行き止まりにならないか

1番目は、私たち自身が一度間違えた箇所です。図に描いてもらうと、順序がはっきりします。

まとめ

ご相談ください

次のような状況でしたら、一度お話をお聞かせください。

Tomori は、葬儀社の夜間・早朝のお電話を AI が一次対応し、引継ぎメモを添えて担当者へお繋ぎするサービスです。

デモ・ご相談のお問い合わせはこちら 株式会社VODE ── 日本の業界知に、音声AIの実装力を。現場のお話を伺うだけのご協力も歓迎しております。

あわせてお読みください