レコメンドについて 子どもに教えたいこと

「レコメンドについて子どもに教えたいこと」

 

 簡単に「レコメンドエンジン」の機能について要約すると、検索エンジンや通販サイト、SNSとかでよくある機能。利用者の好みにあった物品やサービス、情報を推薦する技術。

 利用者の閲覧履歴、検索履歴、購入履歴やアンケート、好みが似た他の利用者の情報を分析し、都合の良い情報や物品やサービスを絞り込んで推薦することにより、売り上げや閲覧回数を高めるのがねらい。

 ビッグデータ学習型AIが可能にした、素晴らしい機能であるけど、包丁理論と同じで、便利で必要な道具だけど人を傷つけることもできる。便利だけど有害性もちゃんとあるということ。だから新しい技術が浸透するとき、ルールや倫理も伴うべきだ。企業側は良い面しか言わない場合があるから利用者は気をつけないと。

 

ここからが本題。

 商品やお店のレコメンドぐらいならおkだけど、情報のレコメンドは、マインドコントロール(情報のコントロール)と仕組みが似ているのでレコメンドに対して無知・無自覚だと危険。

 

 情報のコントロールとは、組織側が対象を自分達にとって都合のいい人格に改造するために、時間をかけて本人に気づかれないように対象を情報的閉鎖環境の中に追い込んで、組織側にとって都合のいい限られた情報しか得られない状態にする。自分が閉鎖環境の中にいることに気づいていないので「自分でその情報(道)を選んだ」と勘違いさせるのがねらいだ。客観的に見れば、選ばされているのである。これがくり返されると、考え方が組織にとって都合の良いように偏っていって修正できなくなってしまう。(スティーブン・ハッサン「マインドコントロールの恐怖」を参照してます)

 

 同じように検索エンジンは働いている。履歴と類似から利用者が好むだろう情報をレコメンドして上位に表示してくれるからだ。

 「Aは悪い国」という考え方で検索をしていたら、徐々にその検索・閲覧傾向からAIが「Aは悪い国」という情報やサイトがその人に集まりやすくしてくれる。レコメンドについて無知だったら、情報的閉鎖環境に無自覚にいるのと同じだ。そのままAIのお勧めのままに学習を深めていってしまうと、「Aはとても悪い国」というガンコな思想家になって聞く耳もてなくなる。「Aは良い国」というその国の良い面の情報を聞いても信じられなくなる。こういう頑なさを仏教的には偏固とかいうかな。心理的には確証バイアスという。

 

 人生、偏るとまったく損です。

 

 企業やサイトはレコメンド機能をある程度操作している。消費者閲覧者の皆さんは情報がコントロールをされていることを自覚しながら、利用するべきだ。こんなこと言いながらなぜ僕は利用を止めないかというと、便利で面白いからもうやめられないのであります。

 これって本当に正しいのん? 疑う姿勢を大切に、楽しく情報や商品を漁るのが良いと思います。こういうことを学校で教えてくれたらいいなぁ。