(22) 学習機構内蔵型プログラミングシステムの開発

平成８年度委託研究中間報告

１　研究テーマ、研究代表者：
　（１）研究テーマ
                        学習機構内蔵型プログラミングシステムの開発

　（２）研究代表者（氏名、所属、役職）
                        佐藤泰介
                        東京工業大学大学院 情報理工学研究科
                        教授

2. 記述項目：

(1) 研究進捗状況

        PRISM は学習系を備えたこれまでにないプログラミングシステムであり，
        その処理系は翻訳系，学習系，実行系により形成される．各々について 
        Prolog (+ Cルーチン呼び出し) を使った実装を進めており，現在
        PRISM 処理系の動作確認を兼ねた PRISM プログラミングの実験を始めている．

        PRISM ではユーザは Prolog を基にした記述形式を使い，PRISM 処理系内部の
        翻訳器がユーザプログラムを学習と実行に特化した中間プログラムに翻訳する．
        各中間プログラムは Prolog プログラムであり，Prolog 処理系によるコンパ
        イルの後実行される．

        学習系ではユーザプログラム中の組み込みの確率的述語 bsw/3 で指定された
        確率パラメータを教師データにより最尤推定法を用いて訓練し，実行系では
        学習された確率パラメータによりサンプリング実行，特定のアトムの確率計算
        などが行なわれる．現在学習系で使われる確率計算アルゴリズムの改良を
        行ないその実装を進めている．
        
(2) 現在までの主な成果

        (a) Prolog によるプロトタイプの実装がほぼ終り，PRISM プログラムによる学習
        実験が可能になった．
        (b) 学習系における確率計算アルゴリズムの改良を行なった．
            学習系では全解探索の後に各解の確率計算式を並べた確率表を最初に作り，
                次にその確率表を参照しながらEMアルゴリズムによる確率パラメータの
                最適化を反復的に行なう．
            その際確率表のサイズが学習時間に大きな影響を与えるが，我々は理論的
            検討をもとに確率表のサイズの縮小に成功した．結果的に場合によっては
            数分の1になり，学習時間の短縮化が確認できた．

(3) 今後の研究概要

        (a) 現在進行中の実装を完了させる．学習系では最尤推定の一手法であるEMアルゴ
                リズムを用いており，その中の繰り返し計算部分（数値計算）を C 言語で実装
                し直し学習の高速化をはかる．
        (b) GUI を考慮したユーザのインタフェースの設計に着手する．
        (c) HMM の Baum Welch アルゴリズムやPCFG における Inside Outside アルゴ
            リズムなど既存の確率的学習アルゴリズムとの比較対照研究を行なう．

(4) 今年度目標成果ソフトウェアイメージ

        PRISM 処理系を簡単なPRISMプログラミングマニュアルとともに完成させ，配布
        可能な形にする ．ユーザはマニュアルにより学習／実行の相互作用を考慮した
        プログラミング技法を学ぶことができる．ユーザインタフェースは Prolog に
        委ねる予定．