Bayesian Network を用いた確率モデル遺伝的アルゴリズムの解探索特性の検討

Bayesian Networkを用いた確率モデル遺伝的アルゴリズムの解探索特性の検討同志社大学大学院工学研究科知識工学専攻博士前期課程 2002年度724番中村　康昭

研究背景 最適化：目的関数の最大(最小)化 LSIの配置トラス構造たんぱく質の構造解析スケジューリング様々なヒューリスティック手法（ＳＡ，ＧＡ等）が提案されている

遺伝的アルゴリズム Genetic Algorithm(GA) 生物の進化過程を模倣した最適化手法環境により適合した個体が生存する（自然淘汰）選択　親個体の形質を受け継いだ子個体が生まれる（有性生殖）交叉子個体の遺伝子が一部変異する（突然変異）突然変異部分解を組み合わせることにより良好な探索を行う [問題点] 従来の交叉では変数間に依存関係のある問題に対しては部分解を破壊する可能性　[’97 Annie]

変数間に依存関係のある問題 例）関数 f (x,y,z | 0≦x , y , z ≦10 )の最小化問題各変数をそれぞれ小さくすることにより最小化される（依存関係はない） f (x,y,z) = x + y + z x＝0の時：y＝0とすると最小 x≠0の時：yは大きくすると最小 xとyに依存関係がある f (x,y,z) = 2x - xy +y + z

変数間に依存関係のある問題 例）関数 f (x,y,z | 0≦x , y , z ≦10 )の最小化問題各変数をそれぞれ小さくすることにより最小化される（依存関係はない） f (x,y,z) = x + y + z x＝0の時：y＝0とすると最小 x≠0の時：yは大きくすると最小 xとyに依存関係がある f (x,y,z) = 2x - xy +y + z GAにおける交叉解候補１セットにして交叉すべき x y z 解候補２ x y z

変数間に依存関係のある問題 例）関数 f (x,y,z | 0≦x , y , z ≦10 )の最小化問題各変数をそれぞれ小さくすることにより最小化される（依存関係はない） f (x,y,z) = x + y + z x＝0の時：y＝0とすると最小 x≠0の時：yは大きくすると最小 xとyに依存関係がある f (x,y,z) = 2x - xy +y + z GAにおける交叉解候補１ x y z x y z 解候補２ x y z x y z

変数間に依存関係のある問題 例）関数 f (x,y,z | 0≦x , y , z ≦10 )の最小化問題各変数をそれぞれ小さくすることにより最小化される（依存関係はない） f (x,y,z) = x + y + z x＝0の時：y＝0とすると最小 x≠0の時：yは大きくすると最小 xとyに依存関係がある f (x,y,z) = 2x - xy +y + z 解候補１セットにして交叉すべき x y z 解候補２ x y z 依存関係を認識する必要

ベイジアンネットワーク 変数間に存在する依存関係を有向グラフにより表現するデータ構造 xとyの間に依存関係があるとき構築可能なネットワーク構築可能なネットワークから，問題の特性を示すものを選ぶことが必要

ベイジアンネットワークの評価方法

ベイジアンネットワークの活用 x:５０％の確率で０と１０が発現 x:５０％の確率で０と１０が発現 y:xの値に応じて発現確率が変化 x=１０のとき：７５％の確率で１０ y:xの値に応じて発現確率が変化 x=１０のとき：７５％の確率で１０ z: ５０％の確率で０が発現　　残りの確率で１と２が発現する z: ５０％の確率で０が発現　　残りの確率で１と２が発現する良好な解の分布から新たな解の候補を生成することができる最適化手法としてのベイジアンネットワークの適用ネットワークと良好な解から新たな解を生成するネットワーク

確率モデル遺伝的アルゴリズム Probabilistic Model Building Genetic Algorithm (PMBGA，確率モデルGA) （１）良好な個体を母集団から選択分布の推定個体（探索点）（２）確率モデルの構築母集団ベイジアンネットワーク（4）母集団内の個体と置き換え（3）新しい個体を生成部分解の破壊を防止し，良好な探索をすることが可能となる

研究目的 ベイジアンネットワークを用いた確率モデルGA [‘99 Pelikan] 各変数としてバイナリ値{0,1}を用いて検討 • 　依存関係のある問題に対する探索の有効性 • 　母集団の高い収束性実問題をバイナリ値のみで表現するのは困難【目的】・バイナリ値以外の問題にベイジアンネットワークを適用・解探索特性を検討し，遺伝的操作を適用する

対象問題 部分だまし問題・・・ 2 0 1 1 0 1 2 1 1 全設計変数を３変数ずつの部分問題に分割各変数が取ることができる値は{0，1，2}の３種類 ui:３変数中にiが含まれる個数含まれるビットが全て“0,1”のとき 3変数に“2”が含まれるとき

関数評価値の具体的な例 2 2 2 1 1 1 1 1 0 0 0 0 0 0 2 2 0 2 【問題の特徴】高だまし問題が入れ子状態となっている “2” に注目 3変数がすべて“2”の時が評価値は最大　それ以外は“2”の数が多いほど評価値は小 “2” が0個の時 3変数がすべて“1”の時評価値は大　それ以外は“1”の数が多いほど評価値は小評価値低最適解：すべての部分問題で３変数が“２”となるとき

パラメータ

実験結果 • 最適解に到達していない • 個体数が増えると収束までの評価計算が増加する

考察母集団に含まれる個体が増加するにつれて得られる解はよくなるが，最適解に到達していない個体数をさらに増やす評価計算回数の増加につながる最適解に到達していない状態で母集団が収束母集団の多様性を保つ遺伝的操作の適用【対応策】ＧＡにおける突然変異の要素を取り入れ，母集団に含まれる個体の多様性を維持する適用する突然変異について検討を行う

突然変異の適用 Z Z Xa Xb Xc 有効なネットワーク・・・ Z 誤った依存関係を認識して母集団が安定している Xa Xb Xc ・・・ Xa Xb Xc ・・・依存関係を誤認識しているときには，一部のネットワークを除外して値を決定する方法が有効

従来のＧＡにおける突然変異 Z Z Xa Xb Xc 有効なネットワーク 2 2 ・・・各変数が突然変異をするかどうか値の決定後に決まる依存関係を表わすネットワークを無視して1つの変数が変わる誤った依存関係を認識して母集団が安定している Xa Xb Xc 1 1 1 ・・・・・・

本研究で検討する突然変異 Z Z Xa Xb Xc 有効なネットワーク 2 1 2 2 2 子孫ノードの値は突然変異後の値によって決定する依存関係を表わすネットワークが有効に活用される変数を決定する時に各変数について，突然変異を行うかどうか決定する Xa Xb Xc ・・・・・・・・・

パラメータ設定

実験結果 従来の突然変異検討する突然変異検討する突然変異において，良好な結果が得られた

まとめ ベイジアンネットワークを用いた確率モデルＧＡ依存関係を持つバイナリ値以外の問題に対する検討実験【結果】従来の手法では最適解に到達しない解探索特性に沿った突然変異の適用確率モデルを考慮した形での突然変異を行うことにより従来の突然変異を適用したときよりも良好な結果を得た今後の課題より多くの変数値を用いる実問題への適用

質疑応答 ［講演発表］第46回システム制御情報学会研究発表講演会「Actor-Criticを用いた知的ネットワークシステムの提案」

補足資料

実験結果 ・最適解に到達していない・母集団サイズが増えると収束までの評価計算が増加する

コード化 遺伝的アルゴリズムでは，形質を示す値を遺伝子情報に変換する０～２の値をバイナリコーディングコード化ルール０　→　００１　→　０１２　→　１０最初のビットが０のとき：次のビットは０，１最初のビットが１のとき：次のビットは１変数間の依存関係ではない変数間の依存関係「００」など，一つの設計変数を表現するビット群の間に生じている依存関係であり，個々のビット間に生じる依存関係は無意味コード化せずに変数間の依存関係を認識する必要性

ベイジアンネットワークの構築 ３変数があったときに考えられるネットワークの構築パターンについて考える構築可能なネットワーク各ネットワークを解の傾向から評価依存関係を示すネットワークを特定することが可能良好な解の分布からネットワークのモデルを構築する

最適解に収束しなかった試行（掲載する例） 収束しているが，最適解を得ていない試行計算回数適合度個体の持つ遺伝子情報 12150000,111,111,111,111,111,111,111,111,1119.9 9000111,111,111,111,111,111,111,111,000,111 9.9 9900 111,111,111,111,111,111,111,111,111,000 9.9 9450111,111,000,111,111,111,111,111,111,111 9.9 収束していない試行計算回数適合度含有率個体の持つ遺伝子情報 180000000,111,111,111,111,000,111,111,111,111 9.8 18% 180450111,111,111,111,000,000,111,111,111,111 9.8 79%

ベイジアンネットワークの信頼度 親ノード子ノード x1 x2 K2metric K2 metricの大きくなるネットワークとは親ノードの値は分散している親ノードの値が決定したときの子ノードの値は偏っている

３変数中に２が含まれる確率 各変数の値は条件付き確率表(CPT)により決定 CPTは優良個体群の分布に基づき作成 X1から順に値が決定する X1 X2 X3 X1の値の発現確率

３変数中に２が含まれる確率 各変数の値は条件付き確率表(ＣＰＴ)により決定ＣＰＴは優良個体群の分布に基づき作成 X1から順に値が決定する X1 X2 X3 X1の値の発現確率 X3の値の発現確率 X2の値の発現確率 X1=2となる確率が低くなると全体の2の発現確率は下がる

最終的に収束する解 個体数を３００としたときの１試行の例収束する解　[111,111,111,111,222,111,111,111,111,000] 4500（150×30）の変数中，“2”が含まれるのが3個まで淘汰される

実験結果（提案手法：突然変異率1%） 提案する突然変異従来の突然変異検討を行った突然変異において，良好な結果が得られた [デモンストレーション]

最適解が得られていない原因の検討 ベイジアンネットワーク３変数のうち最初の変数に残りの変数が依存 X1 X2 X3 最初の変数が“２”ならば残りの２変数 “２”となると評価値が高くなる 2 2 2 最初の変数が“０”や“１”ならば残りの２変数も｛０，１｝で構成するほうがよい 0 1 0 依存関係のある最初の変数の値の発現確率に残りの変数が影響される

優良個体に含まれる変数値の推移 個体数を３００としたときの１試行の例各部分問題で３変数がともに“２”でなければ評価値が低いため “２”が淘汰されている

従来のＧＡにおける突然変異 X4 すべての変数が決定している状態で各変数について，突然変異を行うかどうか決定する・・・ 2 2 2 1 1 1 X1 X2 X3 X4 X5 X6

従来のＧＡにおける突然変異 X4 すべての変数が決定している状態で各変数について，突然変異を行うかどうか決定する・・・ 2 2 2 2 1 1 X1 X2 X3 X1 X2 X3 X4 X5 X6 X4 X5 X6 ネットワークの依存関係を考慮せずに突然変異する

従来のＧＡにおける突然変異 X4 すべての変数が決定している状態で各変数について，突然変異を行うかどうか決定する・・・ 2 2 2 1 1 1 X1 X2 X3 X4 X5 X6

従来のＧＡにおける突然変異 X4 すべての変数が決定している状態で各変数について，突然変異を行うかどうか決定する 2 2 2 2 1 1 ・・・ X1 X2 X3 X1 X2 X3 X4 X5 X6 X4 X5 X6 ネットワークの依存関係を考慮せずに突然変異する

本研究で提案する突然変異 変数を決定する時に各変数について，突然変異を行うかどうか決定する X1 X2 X3 X1 X2 X3 X4 X5 X6 X4 X5 X6 子孫ノードの値は突然変異後の値によって決定する依存関係を表わすネットワークが有効に活用される

従来のＧＡにおける突然変異 Za Xb Xc Xd 2 すべての変数が決定している状態で各変数について，突然変異を行う Za Xb Xc Xd ・・・ 2 1 1 1 ・・・各変数が突然変異をするかどうか値の決定後に決まる依存関係を表わすネットワークを無視して1つの変数が変わる

研究目的 ベイジアン最適化アルゴリズム（BOA）[‘99 Pelikan] 各変数としてバイナリ値を用いて検討・母集団の高い収束性・依存関係のある問題に対する探索の有効性実問題を取り扱うには，バイナリ値にコード化する必要がある実際の変数間の依存関係コード化前の変数間に生じている依存関係は各ビット間の依存関係は関係がない問題に応じてバイナリ値に依存関係の生じるコード化が必要【目的】コード化せずに表現型の値を変数として用いる

Bayesian Network を用いた確率モデル遺伝的アルゴリズムの解探索特性の検討