【Deep Insight】(15) AI社会は信用できるか

「日本に来たことはありますか?」。パソコン画面ごしに尋ねると、スペイン人女性が答えた。「何度も行きました」。私は日本語、彼女はスペイン語だが、問題はない。会話は人工知能(AI)によって、互いの母国語にリアルタイムで翻訳されているからだ。『マイクロソフト』は今月、“深層学習”という最先端の手法を用いて、ビデオ通話サービスの翻訳精度を上げた。新たに日本語を加え、主な10言語に対応する。改良の余地はあるが、日常の用途なら結構役立つ。試してそう感じた。日本政府は、2020年の東京オリンピックまでにAIを使った同時通訳システムを実用化するというが、コンピューターが人の言葉を巧みに操る時代は、もうそこに来ている。『Amazon.com』の筒形スピーカーは、『アレクサ』と呼ぶAIを搭載し、話しかけるだけで音楽を再生したり、ニュースや天気を調べたりできる。アメリカでヒット商品となり、アレクサと連動する自動車や家電も急増中だ。「2020年には、人は配偶者よりAIと会話するほうが多くなる」。アメリカの調査会社『ガートナー』は予測する。スマートフォンの『iPhone』が10年前に登場し、コンピューターはタッチ操作が当たり前になった。今度は音声だ。両手で他の作業をしていても、歩きながらでも操作でき、IT利用の裾野は更に広がる。家庭や職場での利便性向上に期待が膨らむ。かといって、手放しで喜んでばかりもいられない。SFのような社会に落とし穴は無いのか? SF作家の星新一に、『声の網』(講談社)という作品がある。コンピューターによる医療診断、個人の好みの分析…。1970年に書かれたとは思えない正確さで、IT社会の進展ぶりを言い当てている。但し、明るい未来とは言い難い。電話網で繋がったコンピューターは、人々の会話を聞き、個人情報を溜め込む。時に電話をかけ、「秘密をばらされたくなければ××せよ」と人間に迫る。軈て萎縮し、無難な行動や発想に慣れていく人々――。監視による平穏が不気味な読後感を残す。「そんなバカな」とは片付けられない。AIが意思を持ち支配者になるとは思わないが、使い方を誤れば社会に不信を招く。特に2つの問題が気になる。先ずはプライバシーだ。「その人の感情・年齢・教育水準。声からわかることは膨大にある」。対話型AIを開発するアメリカのベンチャー企業の幹部が明かす。

この会社は、接客用のAIを企業に供給する。顧客は自分に最適なサービスを受けられる半面、知らないうちにデリケートな個人情報を吸い上げられる恐れがある。様々なシステムに音声操作が組み込まれた世の中では、認識ミスによる誤作動トラブルも予想される。利用者とシステム会社の間で“言った”・“言わない”の争いが頻発するかもしれない。「証拠を残そうと何でも録音することになれば、プライバシーへの懸念が生じる」。『国立情報学研究所』の佐藤一郎副所長は指摘する。もう1つの心配は倫理だ。AIは、大量のデータを教材に能力を養う。学習の仕方によっては、偏見に満ちた邪悪な存在になる。翻訳で成果を上げるマイクロソフトにも苦い経験がある。1年前、『ツイッター』上で人と対話を楽しむAI『テイ』を公開した。ところが、程無く暴言を吐くようになる。悪意ある人たちが不適切な発言を教え込んだからだ。テイは運用停止に追い込まれた。デイビッド・ハイナー副社長は、自戒を込めて話す。「例えば、人種差別的なデータを学べばAIも人種差別的になる。社会が抱える問題をAIが拡散させかねない」。AIは自動運転車や介護ロボットを実現し、社会を良くする力を秘める。一方、AIがある問いに答えを出した時、その理由を人間は検証し切れない。つまり、AIの有効活用には慎重さがいる。どの分野でAIを使うのか? 歯止めはどうするか? 利用のルールを作る為、社会的なコンセンサスを探ることが欠かせない。AIを開発するIT企業には、優秀な人材が揃っている。だが、事は技術論に留まらず、全て彼らの匙加減任せとはいかない。企業の唯我独尊は危うい。無料対話アプリの『LINE』は今や2億人以上が使い、家族や友人との私的なやり取りの固まりだ。メッセージの中身は暗号化し、運営会社自身も覗けない仕組みにしてある。「気持ち悪いサービスと思われたら使ってもらえない」と中山剛志執行役員。個人情報の保護に関して不安を抱かせないか、利用者の目線でサービスの在り方を毎週点検している。大学教授ら外部の識者と、安心を生む法制を研究する財団も作った。今年夏には、スマホの次を見すえてAIスピーカーを売り出す。中山氏は言う。「新しい製品について利用者はどう感じるのか。アンテナを張らなければならない」。人と対話するAIのような高度技術を扱うIT企業には、社会と対話する姿勢を求めたい。AIを巡る課題や自社の悩みをオープンに話し合う。そういう透明性が企業の信頼を高め、信用できるAI社会の土台になる。私たち利用者も、漫然とサービスを使っていてはいけない。「大事なデータを預けるのに値する誠実さが、このIT企業にはあるか?」。厳しく選別する目を持つことが、AI時代を生きる心得だろう。 (本社コメンテーター 村上恵一)


⦿日本経済新聞 2017年4月26日付掲載⦿
スポンサーサイト

テーマ : 政治・経済・社会問題なんでも
ジャンル : 政治・経済

轮廓

George Clooney

Author:George Clooney

最新文章
档案
分类
计数器
排名

FC2Blog Ranking

广告
搜索
RSS链接
链接
QR码
QR