ノーフリーランチ定理と事前知識

投稿者:

ノーフリーランチ定理と事前知識

no-free-lunch theoremについてWikipediaより、
「数学的にありうべき全ての問題の集合について、どの探索アルゴリズムも同じ平均性能を示すこと」
「探索アルゴリズムに必ず何らかの偏向があるため、そのアルゴリズムが前提としている事が問題に当てはまらないことがある」
「あらゆる問題で性能の良い汎用最適化戦略は理論上不可能であり、ある戦略が他の戦略より性能がよいのは、現に解こうとしている特定の問題に対して特殊化(専門化)されている場合のみである」(Ho and Pepyne、2002年)
「問題領域に関する知識を使わずに遺伝的アルゴリズムや焼きなまし法などの汎用探索アルゴリズムを使うことに反対する論拠」
あるいは、朱鷺の杜Wikiより、
事例の分布などについて事前知識がなければ, あらゆる目的関数について他を常に上回るような学習アルゴリズムは存在しないという定理」
ということですが、これはモデルを作成するときに「問題領域に関する知識(事前知識)」を使わないで、アルゴリズムまかせにすることの愚を指摘していると捉えるべきかと思います。
それがどういうわけか、「たくさんの種類のモデリング手法(機械学習アルゴリズム)を網羅的に試して、その問題に最も適した手法を探さなければならない」というふうに読み違えられているような気がします。それで、SASがよいか?Rがよいか?はたまたPythonか?ということなのですが、実際使ってみると、どうもうまくモデルの精度が上がらないというのが、最近の傾向かと思います。
私は何度も口酸っぱく言っているのですが、それぞれの手法はどれか1つでも深く勉強すれば、それだけで研究者になれるぐらい奥が深いものです。たくさんの手法を上っ面だけ勉強して、あれもこれも使おうとしたら、どれもこれも初心者レベルを脱することができず、実践的な結果は何も得られないということになります。
そこで悪知恵の働く人々は、「機械学習は幅広く深い専門知識が必要ですから、専門家の指導を仰ぎなさい」と言って、企業からたんまりとコンサルティング料をせしめています。大きな会社がそういうビジネスをやっていると、つい信用してしまいそうなのですが、SASやR、Pythonのような基礎的ツールで実践的な結果の出せるデータサイエンティストというのは、世界中探してもそうたくさんはいないと思います。
データサイエンティストを数10人とかそれ以上も擁しているデータサイエンティストの派遣会社というのもあるのですが、実際そこに在籍している人材のほとんどは、ほぼ経験のない人ばかりです。これは、(海外ではありえないことですが)コンピュータの知識を持たない文系SEというのが跋扈する我が国のシステム開発の伝統をそのまま引き継いでいます。
どんどんと本質から外れて、金食い虫になってしまうのがオチです。
あれもこれも、たくさんのツール・手法を使いないこなせることよりも、問題領域に対する洞察力が重要です。といっても、これも「どうすればそのような洞察力が得られるか?」という問題は残るのですが。
たとえば、数千点とか数万点の商品があって、特定の商品の販促を行う際に、ほかの商品の購入履歴から、目的の商品を購入しそうな顧客を見つけよう、という問題に取り組むとします。アソシエーションルールがよいか、線形回帰がよいか、あるいはロジスティック回帰か、あるいは単純ベイズか、というような議論になりがちです。
ここで、「どの商品とどの商品を購入しているかの組み合わせパターン」に着目するのは当然のことなのですが、たとえば「購入の合計金額」という新しい説明変数を追加することによって、リフト・チャートが劇的に改善されることがよくあります。なぜなら、消費者は個々の購買力によっても、購買行動のパターンが異なるからです。
問題領域の知識(事前知識)を活用するとは、こういうことです。モデリングの手法にどれを選ぶかよりも、こういうことの方が大きく結果に影響することがあります。
このような知識を使わないでアルゴリズムまかせにするアプローチとして、「潜在クラス回帰」があります。ユーザーが「購入の合計金額」という新しい変数を計算しなくても、購買履歴データから自動的に「購買力」をクラス分けして、層別のモデルを作成するはずです。今のところの私の感触としては、潜在クラス回帰を使用するよりも、「購入の合計金額」というような特徴を抽出できるなら、その方が効率的です。
このような特徴を抽出するのは、ちょうど幾何学の問題を解くときに「補助線」を発見するのが重要な糸口になるのと同じようなことかと思います。
弊社がSOMアプローチのデータマイニングを提唱する理由は、こういうところにあるのです。ViscoveryのSOMローカル回帰が他のどの手法よりも優れているということはありません。SOMローカル回帰が意図しているような非線形性がデータに内在する場合は、ドンピシャですぐれた結果をたたき出します。しかし、当然、データによっては、通常の線形回帰とそれほど変わらないということもよく起こります。つまり、それがノーフリーランチ定理で示されているのと同じ状態です。
しかしながら、SOMアプローチの他と異なるところは、「腹の底からデータを理解できる」というところです。解決の糸口、注目するべき特徴を見つけるためのツールです。

投稿者について