「人工痴能」は人工知能のレベルを上げるのか、下げるのか
2022.1.10
監修
株式会社Laboro.AI マーケティングディレクター 和田 崇
概 要
AIによるオンラインサービスは、ここ数年で一気に身近なものになりました。便利な一方で、音声サービスの見当違いな受け答えが話題になったりもしていて、何かAIがきちんと処理できずにおかしな反応をした場合には、Artificial Intelligence（人工知能）に対して「Artificial Stupidity（人工痴能）」と呼ばれたりもしています。
実のところ、Artificial Stupidityという言葉は「人為的にStupidityを用いてAIを学習させる」という意味でも用いられるのですが、それについてはあまり知られていませんでした。しかしながらここにきて、アメリカの研究チームが世界初のArtificial Stupidityのプロトタイプを発表するなど、Artificial Intelligenceの枠を広げる可能性としてArtificial Stupidityが注目されているようです。
果たして、この人工痴能は人工知能のレベルを上げるのか、下げるのか。今回のコラムでは、この問いに向き合っていきたいと思います。
目 次
・Artificial Intelligence（人工知能）を賢くするには…
・Artificial Stupidity（人工痴能）のプロトタイプの発表
・人工知能の越えられない壁
・合理的でないことを追求する
・ Intelligentであるほど、”バイアスの盲点”が大きくなる
・人工知能と自然知能
・大多数にとって恩恵となるか、害となるか
・人工と自然を合わせた知能の研究
・知能のための痴能の活用
Artificial Intelligence（人工知能）を賢くするには…
Artificial Stupidity（人工痴能）のプロトタイプの発表
暮らしの中でAIとの関わりが増え、チャットボットサービスで見当違いな回答を受けたり、音声サービスが予期せぬ場面で反応したりすることが話題に上るようになりました。英語を話す人の間では、ユーザーの不意をつき、イラっとさせたり笑わせたりするAIの反応のことは、Artificial Intelligence（人工知能）に対して「Artificial Stupidity（人工痴能）」と揶揄されています。
そんな折、マサチューセッツ工科大学のエンジニアリングチームが発表したのは、世界初の「Artificial Stupidity System」でした。
一体なぜ、ネガティブな印象の強いArtificial Stupidityに特化したプロトタイプが発表されることになったのでしょうか…。どうやら、AIを開発するプロセスにおいて立ちはだかった壁に、Artificial Stupidityが突破口となる可能性が考えられているようです。
人工知能の越えられない壁
マサチューセッツ工科大学の研究チームは当初、最高のAIを搭載したロボットの研究を行っていました。できあがったロボットは人間の言うことを聞き、タスクをこなし、感情を模倣し、どこから見ても完璧でしたが、それでもなぜか最後の難関である「チューリングテスト」を突破することができませんでした。
そもそもチューリングテストとは、1950年にアラン・チューリングという数学者によって提案された対話式のテストです。AIの知能レベルについては、現時点ではチューリングテストを用いて「知能を持っている人間のように完璧に振舞うことができるのか」をテストし、知能を測るということが行われています。
どのようにテストするのかというと、チューリングテストではまず人間を2人、AIを1つ用意します。それらを相手に、複数の人間が試験官として会話の投げかけをします。合格するにはAIが、試験官の30％以上に「対話相手が人間か機械か判別できない」と認められなければなりません。
さて、このテストに合格できない理由について時間をかけて研究チームが考え辿りついたのが、彼らのAIが“Intelligentすぎるのではないか”という疑問だったのです。結果、研究チームは完璧にまで仕上げたAIの限界を打破するため、Artificial Stupidityを探求することになりました。数ヶ月をかけてつくりあげたArtificial Stupidityのプロトタイプは、他のアンドロイドを口説き、新しい情報を取り込むことを拒むような態度を取るといいます。
合理的でないことを追求する
Intelligentであるほど、”バイアスの盲点”が大きくなる
そもそも人工知能とは、人間の知的機能を代行できるようにモデル化されたソフトウエア・システムのことです。人間の知的機能を司り、およそ1,000億個もの細胞がそれぞれに最大1万個の細胞と結びつき情報交換を行っている、そんな私たちの脳のメカニズムは未だ解明されておらず、著名な科学者たちは「宇宙で発見された最も複雑なもの」と言ったりもします。
ところが、この究極に複雑な人間の脳で考えるに合理的ではない、いわばStupidと呼べることをきっかけに、思いがけず科学は発展してきました。特にノーベル賞級の発見というのは、それまでの世界では科学的に認められていなかったことが絡んでいるものです。
ノーベル経済学賞を受賞したプリンストン大学名誉教授のダニエル・カーネマン氏は、そんな人間の非合理的な行動を研究した人物です。例えば、収入と幸福度の関係における、年収US$75,000（約860万円）を超えると、年収が増えたからといって幸福度は上がらないという研究結果は広く知られています。
こうした発見により「行動経済学」という新しい研究分野も発展しましたが、当時この非合理的行動に関する研究のことを知った著名な哲学者は「Stupidityの心理学など興味ない」と一蹴したといいます。
皮肉にも、その後の研究によって明らかになったのは、Intelligenceが高い人ほど、“バイアスの盲点”がより大きくなることを示唆するものでした。例えば、大きな声で「静かにしなさい」と叫んでいる人が自分の声の大きさを無視してしまうように、私たちは無意識のうちに非合理的な行動をしています。アメリカで大学進学に必要なS.A.T. スコアの点数が高い、いわゆる知能が高いとされている人ほど、こうした盲点に気づかず、勘違いを起こしやすいという研究結果になったのだそうです。
こうした風潮として思い起こされるのは東日本大震災で広く共感を呼んだビートたけし氏のコメントです。テレビ画面では死者数がどんどん更新され、その数ばかりが大きく報道されていたのを見て違和感を覚えたビートたけし氏は、この災害は「2万人が死んだ一つの事件ではない」と言いました。
「人の命は、2万分の1でも8万分の1でもない。そうじゃなくて、そこには『1人が死んだ事件が2万件あった』ってことなんだよ」と、人一人失う重みについて語り、数字で表せない悲しみを人々と分かちあいました。
人工知能と自然知能
大多数にとって恩恵となるか、害となるか
私たちが自然と物事を「わかる」知能のメカニズムは解明されていませんが、明らかになっていることは、わからなかったことが「わかる」ようになるプロセスには「分ける」という作業が含まれているということです。サッカーのわかる人、味のわかる人、人の痛みのわかる人などは、それに関する多くの知識や経験があり、わずかな違いを読み、感じ取れる人のことを指すものです。
AIの開発においても、学ぶ対象に関してどんなデータをどのように扱うかが重要であり、それによってAIが大多数に恩恵をもたらすものになるのか、害をもたらすものになるのかさえも変わってきます。
例えば、ある顔認証システムの開発では、白い肌をした人の場合、性別を誤認したのが1％であったのに対し、肌の色が黒い人の場合、エラー率が35％まで跳ね上がったというリサーチ結果が報告されました。
このサービスの開発を手がけたのは、肌の白い人の多いチームだったのだそうです。データの中でアンダーサンプリングされたグループは、その開発に従事する人が気づかない限り無かったことのようになってしまい、それによって一部の人に有益でも、多くの人に害をもたらす結果さえもたらされます。
著しい技術進化を遂げた現代のAIは、スマートフォンやスマートスピーカーの中だけでなく、医療や保険、住宅、小売、流通など多くのビジネスシーンで用いられ、何百万もの人の生活や人生を変える決断に関わり始めています。
開発に関わる企業や担当者は、ユーザーをデジタルワールドの存在としてではなく、リアルワールドに間違いなく息づく生活者として捉え、多くの人のためになることを確かめる目を持たなくてはなりません。
人工と自然を合わせた知能の研究
私たちの暮らしのあちこちでAIの導入が進む一方で、専門家の間ではAIの開発・運用のために使われるデータによって、差別を生むようなことのないように用心しなければならないという意識がますます高まっています。こうした中、AI研究の最先端では知能の本質についての議論が活発に交わされるようになりました。
エンジニアリングによる知能を人工知能と呼ぶのに対して、私たち生き物が自然と授かっている知能はNatural Intelligence（自然知能）と呼ばれます。知能の本質を求めて、研究機関では人工知能と自然知能を切り離さず、その両方から知能そのものについて解き明かそうという取り組みがスタートしています。
「人間がこれまで取り組んできたことが正解だとしたら、そこからのズレや誤り、愚かさと言われるもののなかに、新しい気づきやアイデアがある」
これは『動物と機械から離れて―AIが変える世界と人間の未来』という著作に紹介されていた、Computational Creativity（機械による創造性）などを専門に研究し、AIを用いたミュージックビデオの制作している徳井 直生（なお）氏の言葉です。
徳井氏は、数年に渡ってAI DJとコラボレーションをしてきた経験を持ちます。人間のDJとコラボレーションをするAI DJは、人間DJの選んだ曲の音の高さや大きさといった曲の物理的な特徴を用いて、曲の印象を特徴量として定量化することにより、その流れにマッチする選曲をすることができるそうです。
自身がDJとして参加した徳井氏は、その流れの中で自分ならば絶対に選ばない選曲をAI DJが持ってくることに、ハッとする瞬間が何度もあったと言います。徳井氏はAIの研究をする中で、AIよりむしろ、人間の常識にとらわれない愚かさを持つArtificial Stupidityに興味を示す世界の一流ミュージシャンと出会い、大きな影響を受けたということです。
知能のための痴能の活用
人工にしろ自然にしろ、Stupidityは知能の最骨頂に私たちを導く鍵だとも言われています。思えば普段の人間関係の中でも、一見ふざけている人間味のある人は「おもしろい人」と呼ばれ、合理的で｢頭の良い人」よりも周囲に良い影響を与えていることはないでしょうか。
幕末から150年以上語られてきた落語世界の住人など、著名な人はいないかもしれませんし、ただのお調子者にも見えますが、なぜかどんな人とも心を行きかわすことに長け、実はそうした人たちが文化伝承の立役者だったりします。その一方で、
「なぜ賢い人ほど愚かなのか？」
歴史の中で度々上がるこの問いに、私たちはAIを通じて向き合い、AIを次の段階へと進めようとしています。
私たちがより多くの人にとって価値のあるAIを生み出すためには、非合理的な言動であるStupidityにいかに寛容になれるか、そしてそれらをうまく取り込み、知能として活かしていけるか、つまり、“人工痴能による人工知能を生み出せるか”が、実は重要なのかもしれません。
（監修 株式会社Laboro.AI マーケティングディレクター 和田 崇）
＜参考・引用文献＞
・THE BEAVERTON “Scientists give up on artificial intelligence, begin work on artificial stupidity”
・THE NEW YORKER “Why Smart People Are Stupid”
・The Harvard Gazette “University seen as well-equipped to meet goals of ambitious institute”
・European Commission “What is real intelligence? What is natural intelligence and artificial intelligence and how are they different from each other?”
・ダニエル・ピンク著 『ハイ・コンセプト「新しいこと」を考え出す人の時代』
・ビートたけし著 『ヒンシュクの達人』
・ゲイド・メッツ著 『GENIUS MAKERS ジーニアスメーカーズ Google、Facebook、そして世界にAIをもたらした信念と情熱の物語』
・管付雅信著 『動物と機械から離れて: AIが変える世界と人間の未来』
