辺見

偏った情報・考え方に執着する心。一辺にとらわれた考え方。五悪見の一つ。

 2020年4月5月、新型コロナウイルス感染拡大を受けて、全国に緊急事態宣言が発令され、学校も休校が続き、子どもたちは家に居る時間が増えた。そしてスマホなどに向き合う時間が激増したと統計が報道されていた。youtubeの視聴数やゲームアプリのダウンロード回数ば大幅に増したとのこと。

 

 IT好きの拙僧としては、我が子含めて近所の子どもや門徒の家々で次のことをよく話した。

  

 題して「レコメンドについて子どもに教えたいこと」。

 

 簡単に「レコメンドエンジン」の機能について要約すると、検索エンジンや通販サイト、SNSとかでよくある機能。利用者の好みにあった物品やサービス、情報を推薦する技術。

 利用者の閲覧履歴、検索履歴、購入履歴やアンケート、好みが似た他の利用者の情報を分析し、都合の良い情報や物品やサービスを絞り込んで推薦することにより、売り上げや閲覧回数を高めるのがねらい。

 ビッグデータ学習型AIが可能にした、便利で素晴らしい機能であるが、包丁理論と同じで、便利で必要な道具ではあるが人を傷つけることもできる。便利だけど有害性もちゃんとあるということなのだ。

 だからどのような場合でも、新しい技術が社会に浸透するときは、ルールや倫理も伴うべきだ。企業側は良い面しか言わない場合があるから利用者は気をつけないといけない。

 

 ここからが本題。

 商品やお店のレコメンドぐらいならさほど問題にならない。しかし情報のレコメンド機能は、カルトの行うマインドコントロール(情報のコントロール)と仕組みが似ているので、レコメンドに対して無知・無自覚だと有害性を発揮することがある。

 

 カルトの行う「情報のコントロール」の第一段階は、組織側が対象を自分達にとって都合のいい人格に改造するために、時間をかけて本人に気づかれないように対象を情報的閉鎖環境の中に追い込んで、組織側にとって都合のいい限られた情報しか得られない状態にするのである。

 対象者は自分が情報的な閉鎖環境の中に誘導されたことに気づいていないので「自分でその情報(道)を選んだ」と勘違いしてしまう。客観的に見れば選ばされているのである。これがくり返されると、考え方が組織にとって都合の良いように偏っていって修正できなくなってしまう。(スティーブン・ハッサン「マインドコントロールの恐怖」を参照)

 

 同じように検索エンジンは働いている。履歴と類似から利用者が好むだろう情報をレコメンドして上位に表示してくれるからだ。

 たとえば「Aという悪い人物について」検索をしていたら、徐々にその検索・閲覧傾向からAIが「Aという悪い人物について」という情報やサイトがその人に集まりやすくしてくれる。そして徐々にその分野に関する知識が深まっていき、同時に考え方も偏っていくのだ。この状況がマインドコントロールと似ており、検索者がレコメンドについて無知だったら、情報的閉鎖環境に無自覚でいるのと同じなのだ。「インターネットにもこのように書いてある、私の考え方はやはり正しかった」とレコメンドされた情報しか見ていないのに、確証してしまうのである。そのままAIのお勧めのままに学習を深めていってしまうと、「Aはとても悪い人物だ」というガンコな思想家になって聞く耳をもてなくなる。「実はAにはこういう事情背景があった」とかそういう面の情報を聞いても信じられなくなる。こういう頑なさを仏教的には偏固とかいう。心理的には確証バイアスという。

 

 人生、偏るとまったく損である。

 

 企業やサイトはレコメンド機能をある程度操作している。消費者閲覧者の皆々さんは、情報がコントロールをされていることを自覚しながら利用するべきだ。こんなこと言いながら、なぜ、拙僧自身は利用を止めないのかというと、便利で面白いからもうやめられないのである。わかっちゃいるけどやめられない煩悩がはたらいている。

 これって本当に正しいの? 疑う姿勢を大切に、楽しく情報や商品を漁るのが良い。こういうことを学校で教えてくれたらいいなぁ。

この煩悩と似たようなバイアス……確証バイアス、Google効果、エコーチェンバー効果