Webクローラ、スクレイピング、自然言語処理、論理学、強化学習、深層学習による人工知能のブログ。
![[備忘録] 正則化問題、統計的機械学習問題、半教師あり学習問題における「敵対的生成ネットワーク（GAN）」と「敵対的自己符号化器」のネットワーク構造](https://media.accel-brain.com/wp-content/uploads/2019/02/supervised_adversarial_autoencoder.png)
問題設定：正則化問題 機械学習の主導的な参照問題の一つは、訓練データだけではなく、新しい観測データポイントの入力に対しても性能を発揮するアルゴリズムの設計が如何にして可能になるのかである。機械学習の多くのアルゴリズムは、訓練誤差が増加する可能性を代償として、テスト誤差が減少することを目指して設計される。こうした方法は、一般的に「正則化(Regularization)」と呼ばれている。 ...
![[備忘録] 異常検知モデルの意味論における自己符号化(Auto-encoder)の機能](https://media.accel-brain.com/wp-content/uploads/2016/04/シャーロックホームズのフリー素材2-150x150.png)
問題再設定：映像データを対象とした異常検知問題の枠組み 分類モデルの応用によって異常検知モデルを組み立てる発想はありふれている。しかし、監視対象が時系列的な信号データや映像データである場合、分類モデルの設計者は次の三つの問題と向き合わなければならなくなる。 1. 教師データのアノテーションコストが高まる。分類モデルでは、最低限「正常」と「異常」を区別できる教師データのアノテーションを用意し...
この記事は『量子力学、統計力学、熱力学における天才物理学者たちの神学的な形象について』で、その他の小史と共に再記述している。 問題設定：前史としての古典力学 古典力学が物理現象を観察する場合、モデル化の対象物となる物体を質点として記述することによって、その複合性の縮減が敢行される。質点を前提とした場合の物理法則として、ニュートンの運動方程式は次のようになる。 $$F_i = m_...
![[備忘録] MXNetのNDArray APIで配列を縦に結合する](https://media.accel-brain.com/wp-content/uploads/2016/01/アノニマスのフリーアイコン-150x150.png)
問題設定：MXNetのNDArray APIにおける配列の結合 MXNetのNArray APIで配列を縦に結合しようとした。 問題解決策：mxnet.ndarray.concatとmxnet.ndarray.stackの区別 API文書のJoining and splitting arraysでは、`mxnet.ndarray.concat` と `mxnet.ndarray....
![[備忘録] 多重解像度アルゴリズムの機能的等価物としてのウェーブレットパケット分解](https://media.accel-brain.com/wp-content/uploads/2018/01/wp_tree-1.png)
フーリエ変換とウェーブレット変換に関わる意味論は、『深層強化学習のベイズ主義的な情報探索に駆動された自然言語処理の意味論』にて、導入を含め一式纏めている。 離散ウェーブレット変換を一般化すると、時間-周波数平面をより柔軟に分轄する方法である「ウェーブレットパケット分解(Wavelet Packet Decomposition)」を導入することができる。ウェーブレットパケットはウェーブレットの...
![[備忘録] 多重解像度アルゴリズムによる離散信号のウェーブレット分解](https://media.accel-brain.com/wp-content/uploads/2016/03/パズルアイコン9-150x150.png)
フーリエ変換とウェーブレット変換に関わる意味論は、『深層強化学習のベイズ主義的な情報探索に駆動された自然言語処理の意味論』にて、導入を含め一式纏めている。 離散ウェーブレット変換における多重解像度アルゴリズムは、離散信号のウェーブレット分解も可能にする。これに準じて、入力信号の解像度で信号の近似成分と詳細成分を離散的に表現することも可能になる。 離散信号$$x_i$$は、有限の長さNを...
![[備忘録] 高速ウェーブレット変換のアルゴリズム設計とその機能](https://media.accel-brain.com/wp-content/uploads/2016/12/8分音符アイコン-1.png)
フーリエ変換とウェーブレット変換に関わる意味論は、『深層強化学習のベイズ主義的な情報探索に駆動された自然言語処理の意味論』にて、導入を含め一式纏めている。 正規直交二進ウェーブレットにおける近似係数、スケーリング関数、そしてスケーリング方程式を組み合わせると、「高速ウェーブレット変換(fast wavelet transform)」のアルゴリズムを確認することができる。このアルゴリズムは、後...
フーリエ変換とウェーブレット変換に関わる意味論は、『深層強化学習のベイズ主義的な情報探索に駆動された自然言語処理の意味論』にて、導入を含め一式纏めている。 正規直交二進ウェーブレットは「スケーリング方程式(scaling equation)」とも関連する。スケーリング方程式はスケーリング関数をそれ自体で縮小して平行移動した形式となる。 $$\phi(t) = \sum_{k}^{}c_...
フーリエ変換とウェーブレット変換に関わる意味論は、『深層強化学習のベイズ主義的な情報探索に駆動された自然言語処理の意味論』にて、導入を含め一式纏めている。 正規直交二進離散ウェーブレットは「スケーリング関数(scaling function)」と関連する。スケーリング関数の機能は、信号のスムージングであると考えられる。それはウェーブレット関数と同一の形式を有している。 $$\phi _...
![[備忘録] 離散二進格子ウェーブレットにおける正規直交ウェーブレット基底の構築機能](https://media.accel-brain.com/wp-content/uploads/2017/09/sensing.png)
フーリエ変換とウェーブレット変換に関わる意味論は、『深層強化学習のベイズ主義的な情報探索に駆動された自然言語処理の意味論』にて、導入を含め一式纏めている。 離散ウェーブレットのパラメタaとbには、一般的にそれぞれ2と1が選ばれる。2のべき乗の対数的なスケール化を拡張と平行移動の双方のステップに利用する方法は、「二進格子配列(dyadic grid arrangement)」と呼ばれている。二...
フーリエ変換とウェーブレット変換に関わる意味論は、『深層強化学習のベイズ主義的な情報探索に駆動された自然言語処理の意味論』にて、導入を含め一式纏めている。 連続時間信号x(t)のウェーブレット変換において、スケールa、位置bにおけるウェーブレット関数は次のようになる。 $$\psi_{a,b}(t) = \frac{1}{\sqrt{a}}\psi (\frac{t-b}{a})$$ ...
フーリエ変換とウェーブレット変換に関わる意味論は、『深層強化学習のベイズ主義的な情報探索に駆動された自然言語処理の意味論』にて、導入を含め一式纏めている。 複素ウェーブレットは実部と虚部を持つウェーブレットである。あるウェーブレットを複素ウェーブレットに変換するには、フーリエ変換が用いられる。複素ウェーブレットは、フーリエ領域において、負の周波数成分をゼロにした上で逆フーリエ変換することで得...
フーリエ変換とウェーブレット変換に関わる意味論は、『深層強化学習のベイズ主義的な情報探索に駆動された自然言語処理の意味論』にて、導入を含め一式纏めている。 信号x(t)に含まれている総エネルギーは、その信号の振幅の二乗積分として定義できる。 $$E = \int_{-\infty}^{\infty}|x(t)|^2dt = ||x(t)||^2$$ この定義が指し示しているのは、...
フーリエ変換とウェーブレット変換に関わる意味論は、『深層強化学習のベイズ主義的な情報探索に駆動された自然言語処理の意味論』にて、導入を含め一式纏めている。 ウェーブレット変換の手続きがその変換の形式としてのマザーウェーブレットを選択するところから始まると見立てた場合、マザーウェーブレットをウェーブレット変換で利用するということが如何にして可能になるのかという問題を設定することが可能になる。 ...
![[備忘録] センシングデータと統計的機械学習問題の枠組みにおける生成モデルの接続可能性](https://media.accel-brain.com/wp-content/uploads/2017/12/symmetric_trapezoidal_probability_distribution.png)
問題設定：RSSIの時系列データに対する確率論的モデル設計 ステファン・ジクラーらは、「確率的データ駆動型RSSI／相対距離モデル(Probabilistic, Data-Driven RSSI / Distance Model)」という確率モデルを設計することで、受信したRSSI(Received Signal Strength Indication)から送信機の位置を推定する解法を展開してい...