[お話を伺った方]
東京大学
知能機械情報学専攻 教授 二瓶 美里 様
A Tech Ventures株式会社
代表取締役 竹居 邦彦 様
労働人口の減少や高齢化、共働き世帯の増加などの社会構造の変化を受け、日本でもサービスロボットやAI活用が急激に進んでいます。サービスロボットやAIのお陰で娯楽を提供したり、孤独を癒したり、人手不足を補ったりできる側面がある一方で、これらのサービスロボットが提供する情報や振る舞いによりユーザーが操作されたり、騙されたりすることを懸念する声もあります。サービスロボットとの対話や振る舞いは、企業などのサービス提供者の意図によりプログラムが設計（操作）される可能性もあり、日本でも産官学連携で倫理・法的・社会的課題（ELSI）に取り組むことが急務です。
当セミナーでは、支援機器の開発や評価の実践の中でELSIに取り組む東京大学の二瓶教授と、ディープテック分野に深い知見をお持ちの竹居様を招いて、今後のELSIの考え方を伺いました。
目次
・いまELSIに着目する理由
・社会実装として見たロボット、AI活用におけるELSI論点の例
・企業目線でELSIに取組む理由
・ELSIのリスク対応やテクノロジー評価の現実解
・生成AI時代における、人に優しいロボットの振舞い
– なぜ、いまELSIに着目するのでしょうか。
二瓶先生：
わたしは東京大学で生活システム工学の研究室を運営し、障がいのある方や、高齢者を含む人々の生活をサポートする新技術に関する研究をしています。ロボットがどう動くと、高齢者との会話が成り立ちやすいかなど、ロボットも人も共通するところが多くあると考えています。
また、これまで多くの実際の現場での研究を通じていくつもの失敗談があります。例えば事前アンケートで得たユーザーのパーソナル情報をロボットが発話した際、ユーザーがなぜ知っているのかとロボットを訝しんでしまう、といった状況をいくつも経験し、倫理的な課題について向き合う必要があると考えELSIに着目しました。
青木：
ユカイ工学でロボットは、人と人を繋ぐインターフェースと定義しているため、ロボットがユーザーとの信頼関係を築けるようなデザインを心掛けています。ロボットからのメッセージがユーザーに伝わりやすいことをもっと謳いたいけれど、誇張や、予期せぬ結果につながることは避けたいので、アピールが難しいです。
竹居様：コミュニケーションロボットを考えるときには、” 人に寄り添うなにか ” が求められますが、BOCCO emo（以下エモちゃん）が、おはようやおやすみの挨拶を返すときは季語や俳句に着目されていますよね。それはなぜなのでしょうか？
青木：
生成AIを連携させたBOCCO emoに俳句を詠ませたら、おとぼけな雰囲気で面白かったから、というのがはじまりです。ロボットからの声掛けは（利用者が飽きないよう）毎日変化させたいと思っていました。その点「季節」はお出かけや、行動を後押しできるようなキーワードになり得ますし、季節を感じながら日々過ごして欲しいと考えたためです。
二瓶先生：
わたしもこれまで介護に関する多くのプロジェクトに取組んでいますが、ロボットと人の
関係性が重要であることがわかっています。ユーザーに選択肢を提供するのが、行動変容を促すツールとして、大変意味のあることだと思いますね。
– 社会実装として見たロボット、AI活用におけるELSI論点の例
鈴木：
ユカイ工学はロボットメーカーであり、ロボットを通じたサービスの提供者です。法人が主体でロボットを提供する例のほか、ご利用者は、エンドユーザーだけでなく、介護施設、行政などの現場でロボットを管理いただく方まで幅広い方々に関わっていただいています。ELSIの観点でリスクを考える際は、製造責任だけではなく、サービスを提供するその先の先まで考える必要があり、難しさを感じます。
想定できるリスクの範囲でみたときにも、メーカーとしての製造責任だけでなく、企業の利用上のガイドラインと併せて提供しますが、完全にコントロールはできません。これは宅内で利用いただくエンドユーザーの場合も同様です。
またBOCCO emoを通じてAIを活用する仕組みとして、BOCCO emoをインターフェースとして活用し、サーバーやコンテンツ生成のためのデータベースに連携することができます。連携するシステムやコンテンツによっては、家族以外にも行政担当者や医療関係など、提供範囲は多岐に渡ることとなります。
特にBOCCO emoの場合は高齢者だけでなく、子どもも対象としているのでELSIの観点で、多くの質問をいただきます。
■論点の例
1）信頼性・安全性
2）人間の置き換え
3）プライバシー
4）新たな犯罪や悪用
5）依存・思考誘導
6）法律・保険
上記の観点でガイドラインを作成していく上で、すべて網羅されているのか、当社のようなスタートアップでリソースが限られている中どこまで対応すべきなのか難しいと感じています。
二瓶先生：
ELSIの議論となると、開発者が指摘されるだけの存在になってしまいがちです。課題を整理しても、相談できる人も少ないのが現状です。また、開発側に負担があるようなルールだと、せっかくアイデアがあっても、プロダクトを作りづらくなってしまいます。
竹居様：
AI利用に関しては規制をしようとしていますが、具体的に「〇〇してはいけない」という法律はありません。基本的にはソフトローで、関わるメンバーが「ユーザーとってマイナスになることはない」と確認しながら、みんなで開発を進めていくのが良いのではないでしょうか。
青木：
ゲームの世界では、特に国内のソフトウェアメーカーが慎重にもの作りをすることで、親御さんが子どもに「この「メーカーなら大丈夫」とゲームをさせることはできても、海外のスマホゲームでは、あらゆるところで課金を促しますよね。なので、子どもに渡したくはない。信頼感はメーカーが作っていくしかないんだろうなと感じています。
– 企業目線でELSIに取組む理由
鈴木：
確かに様々な観点でのリスクを基にしたアプローチは重要ですが、この活動に企業が資本や工数を投下すべき理由は何でしょうか。
竹居様：
テクノロジーは色んな人に使われないと始まらないものです。
ましてや、法律もない、未開拓のコミュニケーションロボットの分野です。ロボットを活用したら何ができるのか？を、開拓するモチベーションに、そしてモラルを大切にしながら一歩一歩進めていくしかないのではないでしょうか。
二瓶先生：
どういった倫理観を持って何を開発したいのか？と、私が担当している福祉工学という講義で学ぶ工学部の生徒に尋ねると、プライバシーやリスクを踏まえた回答が集まります。開発者は、自身のレベルで、それが人々や社会に及ぼす影響をよくわかっているように思います。問題は経営者で、この開発に挑戦したら社会にインパクトを与えることができる、売り上げが上がると判断して進めますが、生じるリスクにどれだけ真剣に向き合えるか、という観点でも判断をしてほしいですね。
– ELSIのリスク対応やテクノロジー評価の現実解
鈴木：
研究者や企業がELSIの論点を踏まえた製品・サービス開発を行うためにはどのような体制、予算配分、プロセスが必要なのでしょうか。
二瓶先生：
先行事例があるものに関しては把握していただき、AI関連の事例は各省庁がガイドラインを作成されているので、内容を確認いただければと思います。ただ一方で、ガイドラインに縛られすぎてしまうと、今の時代に必要とされ、便利なものが提供できなくなる可能性もあります。ガイドラインをどう踏まえて、どう創造していくのかは表裏一体なので、リスクを軽減する工夫するなどアイデアを捨てずにどう守っていくのかも重要です。
竹居様：
テクノロジーそのものが社会にリスクをもたらすのではなく、テクノロジーの使い方です。社会の中でどのように受け入れてもらうか、早い段階から色んな人と議論するのが必要なのではないかと思います。リスク回避が目的ではなく、新しいビジネスチャンスを作るために行うとテクノロジーの使い道も自ずと出てくるのではないでしょうか。
– 生成AI時代における、人に優しいロボットの振舞い
鈴木：
なぜ青木さんがELSIに興味を持ったのでしょうか。
青木：
ユカイ工学では、人の心を動かし、ポジティブな行動変容に繋げるような製品づくりを行いたいと考えています。ロボットのコミュニケーションが本当にポジティブな行動変容に繋がっているのか、ネガティブな気分になってしまわないか？といったリスクもあるので、ELSIは重要なテーマだと思っているからです。
ELSIという概念をベースにしながら「人に優しい」というのは難しいことでもあるのですが、「人にされたら嫌なことをしない」ということを根底に、それをうまくロボットというインタラクションの中で気を付けていこうと思います。
最後に、働くロボットの三原則ではなくて、「優しいロボットの三原則」のようなものも必要になってくるのかもしれないですね。
IoTシステム開発や
ロボット活用・開発のお困りごとは
ユカイ工学にお任せください