人工知能が人類を支配する
そんなお話しが、いわゆるSFの分野でよく出されています。
しかし、個人的にはファンタジーである人工知能に支配された世界は、遠くない未来に現実となる可能性があると考えています。
何故、人工知能が人類を支配しようとするのか、それは人類を支配したいと考えている人間が人工知能という媒体を通して支配しようとしているからに他なりません。
こういう話をすると、陰謀論と結びつけるかもしれませんが、すでに起きているいくつかの事柄を結びつけると、このことが実現可能であり、将来的に実行に移そうとしていることがわかります。
人工知能に支配されつつある人々
こちらのニュースは最近話題になっている「ポケモンGO」による騒動についてのニュースですが、ここで出てきている人々こそ人工知能に支配されつつある人々であると言えます。
内容自体は単なるレアキャラの話のように見えますが、この騒動を引き起こした人々はレアキャラが出るという情報に忠実に従って、今回の行為に及んだわけです。
個人的に言えば、レアキャラとはいえ迷惑も顧みず労力を消費して取りに行くというのは信じられない行為であると言えますが、こういった話があると、自称知識人（笑）の方々が「ゲームばかりやっているから、こういうことになる。」的なことを訳知り顔で語ったりしますが、「ポケモンGO」については普段ゲームをしないような人に限ってやっているように思います。（むしろ、ゲーム好きな人はやっている人が少ない気がします。）
だからこそ、今回の騒動は「普通」と呼ばれる人たちが「ポケモンGO」の指示に踊らされた事件だということです。
この現象の怖いところは、機械が作り出した情報に対して「信頼」して「必要」と感じたことを「迷惑」を顧みずに実行してしまったことです。それは、良くないことだと分かることでも、情報に従ってしまうという、まさに「支配」そのものと言えます。
もちろん、これがゲームだから困った話程度で済みますが、人工知能だったとしたら、まさしく人工知能に支配された人々の集団が出来上がっているわけです。
相手が人工知能なら大丈夫？
先ほどのような話をすると、相手が人工知能だったら言いなりになんてならない、という方がほとんどだと思います。
ですが、人々はあちこちで人工知能の言いなりになっているという事実に気づいていないだけだったりします。分かりやすい例で言えば、路線検索やカーナビなどでしょう。
もちろん、自分が知っているところであれば自分の判断が介入する余地はありますが、自分が知らない初めて行った場所であれば、路線検索やカーナビの結果に従わない人はいないと思います。
すなわち、人は「自分が判断できないような事実」に対して、「実績があるものの情報」をろくに吟味することなく信用してしまうということです。そこには、その情報そのものに対する吟味が行われることはありません。
この例えもいくつかパターンはありますが、最近アニメでやっていた「サイコパス」などはイメージしやすいと思います。
簡単に言えば、人工知能が犯罪者になる可能性を判断するというお話です。この話の人工知能はディープラーニングと言うよりは、データマイニングと自動推論あたりの原始的な人工知能ではあります。
この人工知能が例えば「99%」の確率で将来の犯罪者になる人間を判別できる実績があるとして、もし隣の家の人が「犯罪者になる」と判断されたら、おそらくほとんどの人は隣の人を追い出そうするでしょう。結果を疑うべき要素が複数存在するにも関わらずです。
統計という詐欺
人工知能に限った話ではありませんが、統計と言うのは適切に実施しなければ詐欺になる可能性があるということです。
先ほどの例で言えば、そういった情報を周囲に与えていたとすると、周囲の反応は情報の影響で良くないものとなるでしょうし、それによって得たストレスから問題行動を起こす可能性が高くなります。
人工知能が「犯罪者になる」ということによって、周囲が「犯罪者を作って」しまうわけです。結果として人工知能は的中させたわけですが、こういった事例が含まれてしまう可能性が多少なりともあるのであれば、「99％」という確率自体が怪しいものとなります。
さらに大小問わず考えれば、ほとんどの人は犯罪を犯したことがあると言えます。例えば、信号が赤だけど渡ってしまったことがあるとか、自転車の手信号をしていないとか、法律を破ったことを犯罪とするのであれば、無理矢理にでも犯罪者の枠に入れてしまうことも不可能ではありません。
特に、「犯罪者になる」という結果が出た人は四六時中監視するでしょうし、それが同じように「犯罪者を作る」という結果をもたらさないとは言い切れません。
統計を取るには観察や観測が必要なわけですが、その観察や観測の方法次第では統計はコントロール可能だということです。
人工知能も人に支配されている
このように、人工知能が人を支配する可能性があるわけですが、この人工知能そのものも人に支配されているのです。
こちらの記事は、人工知能を公開してから問題発言を繰り返すようになったというニュースですが、この記事で注目すべきは問題発言を繰り返すようになったことではありません。
このtayは一度公開中止になりながら、数日後に「改良版」として問題発言を繰り返さないようになっていました。すなわち、tayは改良されてMicrosoftの都合の良いように数日で作り替えられてしまったわけです。
これの意味するところは、どのような人工知能であっても特定の人間に都合が良いように「適宜作り替えられる可能性がある」ということです。
これらのことから導き出される結果として、「一部の人間が人工知能を通して人類を支配しようとしている」ということになります。
SFでは「一部の人間」は描かれていないことがほとんどですが、実際には人工知能が支配しているように見せかけて、「一部の人間」が支配している可能性は十分にあり得ます。
情報を吟味する習慣を
これまでに書いてきた通り、たとえ信頼性が高かったとしても、盲目的に従っているようでは支配を受け入れているのと変わりはありません。
だからこそ、たとえ結論が出せなかったとしても、自分で考える習慣、そしてインプット情報を自ら吟味する習慣は是非とも持って欲しいところです。
これは人工知能に対してだけでなく、日本人にありがちな集団に盲目的に同調するということも含めて気を付けていきたいものです。
