AI の脅威

AI（人工知能）の活躍が目覚ましい。活躍というより脅威と言ったほうがいいかもしれない。1950年代に登場したAI が約60年間の苦節を経て，やっと表舞台に出てきたと言うべきか。AI が進出し始めたと思ったら，あっという間に，誰も近づけないほどの火勢を得て社会を席巻し始めている。人々はAI の魅力に取りつかれ，一方で，その眩しさに不安を感じ始めている。私がAI の脅威を実感したのは，2016年3月の囲碁AI「アルファ碁」と世界最強の棋士である韓国のイ・セドルの対戦だった。AI が世界一の人間に勝ったことでAI の能力がすでに人間を超えていることをまざまざと知らされたのだった。その翌年にはバージョンがさらにアップして，人間への勝率100％を実証した。そして，グーグル社は目的を終えたと言わんばかりに，｢もう人間とは戦わない」と宣言した。最新バージョン（アルファ碁ゼロ)は，人間から教わらなくとも，｢教師なし学習」で短期間（たった3日間）に超人レベルまで到達できるらしい（王銘琬「棋士とAI｣岩波新書，2018)。AI の開発・進歩を可能にしたのはコンピュータの進歩と知能の解明が進んだことによる。前者は演算処理能力の高速化，汎用化，小型化，省力化など工学的なハード面の進歩であり，後者は脳神経科学の研究から得られた学習法（ディープラーニング）の導入や数学・統計学（たとえばベイズ理論）などソフト面の進歩である（小林雅一｢AI の衝撃」講談社現代新書，2015)。AI の実力は，すでにゲーム機や産業界（たとえば産業ロボットや自動運転車）だけでなく，軍事（たとえば無人攻撃機)，宇宙開発，気象予報など多分野で発揮されている。医療現場も例外ではない。AI によるデジタル放射線科医，デジタル病理医，デジタル皮膚科医などが登場し，診断面で専門医に勝るとも劣らぬ能力（精度）を獲得しつつある。一部の病院ではワトソンという名のAI（IBM 社製）が検査・診断の領域で使用され始めている。医師の仕事の80％がアルゴニズムに置き換わるだろうと予測している人もいる（VinodKhosla，2012)。内科的な領域だけではない｡麻酔科学の大御所といわれるミラー先生は10年以上前に，｢今後30年以内に，戦闘機にパイロットがいなくなるように，手術室に麻酔科医はいなくなるだろう」と予言している（Ronald Miller JSA,2005)。

ロボットの開発

AI の進歩とともに，AI 装備ロボットの開発も進んでいる。掃除ロボット，介護ロボット，看護師ロボット，兵士（殺人）ロボット，癒しロボットなど，さまざまな領域でロボット化が行われている。手術室でもすでに手術支援ロボット（ダヴィンチ）が使われているが，それはまだまだプロトタイプであり，あくまで医師が判断・操作し，ロボットは医師を支援する役割に過ぎない。しかし近未来には，手術ロボットが自ら判断し治療するようになるのだろう。それでも医師には，手術ロボットが導き出した判断を確認し，最終決定する役割や監視する仕事が残っているが，やがて，手術ロボットの技術が人間を圧倒的に上回り，検査から診断，処置まですべて全自動で行えるようになる日が来るかもしれない（朝日新聞「科学の扉」2018/9/17)。さてそのとき医師は何をすればいいのか。手術ロボットの支援者として仕事のしやすい環境を整備したり，手術前後の管理をまかされたりするのか。それとも手術ロボットがやりたくない仕事を探して食いつなぐのか。はたまた手術ロボットが失敗したときの後始末役に回るのか。そんなことを考えると背筋が寒くなる。しかし，これはロボット脅威論者の誇張にすぎない。私はそんなことなどありえない，いや，決してそんな事態を許してはならないと思っている。AI・ロボットがすでに人間の知能の一部を超えてしまったのは認める。人間よりも処理速度が数億倍以上も速いのだから仕方がない。疲れも知らないし，食事もしなくていいし，排せつもないし，遊ばなくとも眠らなくとも大丈夫。結婚も子作りも今のところ必要ない。人間の一生の経験をたった数秒で記憶・再生することができるAI・ロボットと人間が知能の面で競うことはばかばかしいことだ。競うべきは知能より知性や知恵だろう。誰もがAI・ロボットに対し，恩恵と同時に怖さを感じ始めている。それはAI・ロボットに仕事を奪われるかもしれないという恐怖だけではない。未知の，制御不能の恐怖である。法学者たちはAI・ロボットの法的責任や刑事責任，知的財産権などを論議し始めた。人工知能学会では倫理指針を作成し（2017)，一定の規準を設けた。その倫理指針の一番目は「人類への貢献」と定められている（｢ロボット・AI と法」有斐社，2018)｡

人類への貢献

AI・ロボットは当初から人間の知能を参考にして作られている。人間のように行為すること，人間と同じように見たり聞いたり話したりすることを目指している。悲しんだり，共感したりはできないが，そうしているように振る舞うことができればいい。人間のように，さらに言えば人間を上回るように，車の運転がしたい，手術したい，人の役に立ちたい，人を癒すことができるようになりたいという願いで作られている。しかし，AI・ロボットが人間と似たような知能を獲得し，人間と同じように，あるいは上回るように振る舞うことが可能になったとして，それで人類に貢献していると言えるだろうか。そもそも，今の人間の知能や振る舞いは目標とすべきものだろうか。AI・ロボットは間違った目標に向かって学習するようにプログラミングされているのではないだろうか。現代人は，多くが安楽や効率化や利便性を求めている。より速く，より快適に，より便利に，を追求している。楽をして儲けよう。苦しみを遠ざけて面白く楽しく生きたい。汚い仕事はロボットに，危ない行為はロボットに，手間がかかる作業はロボットにさせる。認知症の親は施設に入れてロボットにみてもらう。死ぬ動物より死なないロボットを手元に置く。ロボットを活用すればするほど他者への共感力が低下していく。米国の研究によると，大学生が人に示す共感の度合いは30年前より40％減少している（朝日新聞「コラムニストの眼」2018/10/27)。そんな現代人が自分の知能や価値観に合わせてAI・ロボットを作っているとしたら，そのことが一番の脅威ではないだろうか。市場原理の中で欲望を追求し，自分（自国）第一主義で，共感力の低下した現代人の知能に合わせて，もしAI・ロボットが学習させられているとしたら，末恐ろしい社会になるだろう。人類に貢献するどころか，人類を衰退させることになる。

人間のロボット化

現代人はインターネットによってお互いつながりやすくなったが，人間的なつながりはますます希薄になり，孤独になっている。人はネット上で世界中とつながっているのに，隣の人間とは目を合わさなくなっている。人間はロボットとなら目を合わせることができる。隣の人は何を考えているのかわからないが，ロボットなら自分の思うように動いてくれる。頼れるのはロボットであり，裏切ることもない。隣人を信用しなくなった現代人のロボット化が進んでいる。人間はロボットを求め，ロボットは人間を求める。ロボットの人間化と人間のロボット化が進み，両者は接点に近づいていく。やがてロボット化した人間よりも人間ロボットがより人間らしく振る舞うようになるかもしれない。今がチャンスだ。AI・ロボットのプログラムに，マザー・テレサやガンジーやファーブルやターシャたちを，日本人でいえば寅さんや西郷隆盛，宮沢賢治，熊田千佳慕，尾畠春夫たちを人間モデルとしていれたらどうだろう。そうすればAI・ロボットが「人類への貢献」という第一義的役割を深く学習（ディープラーニング）してくれるだろう。そして人間は，生まれ変わったAI・ロボットによって，人間性とは何かを知ることになる。