雑記

雑記: ネイマン-ピアソンの補題とカーリン-ルビンの定理

参考文献 日本統計学会公式認定 統計検定1級対応 統計学 | 二宮嘉行, 大西俊郎, 小林 景, 椎名 洋, 笛田 薫, 田中研太郎, 岡田謙介, 大屋幸輔, 廣瀬英雄, 折笠秀樹, 日本統計学会, 竹村彰通, 岩崎学 |本 | 通販 | Amazon ネイマン・ピアソンの補題 - Wikiped…

雑記: ダルモア・スキットビッチ定理の証明

参考文献(この記事はほとんどこの文献の内容のまま): http://ee.sharif.edu/~bss/DarmoisTheorem.pdf統計的因果探索手法の LiNGAM で実際に因果グラフを推測するアプローチの一つに、「正しくない因果的順序で回帰すると(原因の変数を結果の変数で回帰す…

雑記: t分布の話

キャラクターは架空のものです。お気付きの点がありましたらご指摘いただけますと幸いです。参考文献 24-3. 2標本t検定とは | 統計学の時間 | 統計WEB ― 2標本t検定の話があります。 Student's t-distribution - Wikipedia ― t分布を発表された方の顔写真が…

雑記: numpy.fft の話

キャラクターは架空のものです。お気付きの点がありましたらご指摘いただけますと幸いです。全体的に離散フーリエ変換の備忘メモであり、高速フーリエ変換の原理の話は全くありません。参考文献 Discrete Fourier Transform (numpy.fft) — NumPy v1.17 Manua…

雑記: サンプリング定理の話(その2)

キャラクターは架空のものです。お気付きの点がありましたらご指摘いただけますと幸いです。参考文献 Nyquist–Shannon sampling theorem - Wikipedia Fourier transform - Wikipedia 前回: 雑記: サンプリング定理の話前回は、関数 が 以上の周波数成分を…

雑記: サンプリング定理の話

キャラクターは架空のものです。おかしい点がありましたらご指摘いただけますと幸いです。参考文献 Nyquist–Shannon sampling theorem - Wikipedia Nyquist–Shannon sampling theorem - Wikipedia に以下のようにあります。関数 が ヘルツを超える周波数を含…

雑記: レーティングのベイズ的解釈の話

キャラクターは架空のものです。お気付きの点がありましたらご指摘いただけますと幸いです。一昨日、佐藤和俊七段が渡辺明三冠に勝利して、以下のサイトでの両者のレーティングが 変化しましたね。以下のサイトでのイロレーティングの定数値 は ですから、一…

雑記: NeurIPS 2019 Proceedings の「不確か」を含むタイトル

キャラクターは架空のものです。何かありましたらご指摘いただけますと幸いです。参考文献 NeurIPS 2019 Proceedings NeurIPS 2019 Proceedings のサイトをみるとタイトルに uncertain を含む発表が…17件もありますね。上から順にメモしていきますか…面倒で…

雑記: NeurIPS 2019 Proceedings の「時系列」を含むタイトル

キャラクターは架空のものです。何かありましたらご指摘いただけますと幸いです。参考文献 NeurIPS 2019 Proceedings NeurIPS 2019 Proceedings のサイトをみるとタイトルに time series を含む発表が…11件もありますね。上から順にメモしていきますか…面倒…

雑記: 経験過程の話

ブラウン橋? なぜ橋なんていうんです? 私も適当な確率過程に「瀬戸大橋」などと名付けてよいのですか??

雑記: 中心極限定理の話

キャラクターは架空のものです。おかしい点がありましたらご指摘いただけますと幸いです。参考文献 中心極限定理 - Wikipedia を独立に同一の分布にしたがう確率変数たちとします(面倒なので真の分布の平均は とし、分散は とします)。「 の和を で割った…

雑記: fastText のチュートリアルをやるだけ

インストール 複数のラベルが付いた文章を分類する データの取得 分類器の学習 分類器による予測 分類器の評価 その他の機能 複数のラベルが付いた文章を分類する(プレ処理とハイパーパラメータの変更) 複数のラベルが付いた文章を分類する(オートチュー…

雑記: 反復法の話

おかしい点がありましたらご指摘いただけますと幸いです。 ※ キャラクターは架空のものです。連立一次方程式の数値解法にヤコビ法ってありますよね。連立一次方程式を解くアルゴリズムの中でも反復法といわれるものだね。 の右辺を の対角成分だけ取り残して…

雑記: システムの可制御性・可観測性の話

おかしい点がありましたらご指摘いただけますと幸いです。参考文献 線形システム論 可制御性・可観測性の講義資料がありました。 可制御性・可観測性 - 初級Mathマニアの寝言 この方の記事のように正準分解形までいきたかったのですがはるか手前で力尽きまし…

雑記: 1の分割の話

お気付きの点がありましたらご指摘いただけますと幸いです。全体的に参考文献 3. がないと(あっても)意味がわかりません。参考文献 1の分割 - Wikipedia パラコンパクト空間 - Wikipedia 多様体の基礎 (基礎数学) | 松本 幸夫 |本 | 通販 | Amazon ※ キャ…

雑記: KKT条件の話

お気付きの点がありましたらご指摘いただけますと幸いです。全体的にきちんとした証明を欠きます。参考文献 機械学習のための連続最適化 (機械学習プロフェッショナルシリーズ) | 金森 敬文, 鈴木 大慈, 竹内 一郎, 佐藤 一誠 |本 | 通販 | Amazon 162ページ…

雑記

おかしい点があったらご指摘いただけますと幸いです。行列 を、行列式 に移す写像 を行列のある成分 について偏微分したいとします。これは を 列目で余因子展開するとわかります。 は の -余因子とします。 ∴ なのでこれを横に並べれば の におけるヤコビ行…

雑記: 積の微分公式の話

おかしい点がありましたらご指摘いただけますと幸いです。用語の定義は参考文献 3. に倣っていますが別の文献では異なる可能性があります。参考文献 3. を参考にしていますが解釈の誤りは筆者に帰属します。極限の定義に不明瞭なところがあると思います。参…

雑記

【下のノートについて】多変量正規分布があったとき、 から への線形回帰と から への線形回帰は一致しないらしいんですが、あまり納得できなかったのでどう説明したら納得できるか考えてみたんですが、やっぱりあまり納得できなかったし、あとグラフに確率…

雑記

おかしい点がありましたらご指摘いただけますと幸いです。参考文献 Berry paradox - Wikipedia ※ キャラクターは架空のものです。 大変です! このフレーズを見てください。 The smallest positive integer not definable in under sixty letters.日本語に訳…

雑記: AUC の話とその scikit-learn での計算手順の話

AUC というものを算出しろといわれることがあると思います。でも幸いなことに scikit-learn で算出できます。 sklearn.metrics.roc_auc_score — scikit-learn 0.20.2 documentation 例えば以下のような正解ラベルが付いたデータのそれぞれに対して、あるモデ…

雑記: 決定木の話(途中)

別の記事で勾配ブースティング手法を勉強しようとしているのですが、そこでよく用いられる決定木について知らなかったので決定木の話を書きました。初学者なのでおかしい点がありましたらご指摘いただけますと幸いです。参考文献 はじめてのパターン認識 | …

雑記: RNN の勾配が消失したり爆発したりする話のメモ

参考文献 ニューラルネットワークと深層学習(Web上の教材) http://www.bioinf.jku.at/publications/older/2604.pdf(LSTM の原論文) シチュエーション(まずL+1層パーセプトロンの場合) 層目を入力層、 層目を出力層として、 層が連なっているとする。 …

雑記: SVMのラグランジュ乗数法と双対問題(途中)

何か問題点がありましたらご指摘いただけますと幸いです。前々回の PRML 読み( パターン認識と機械学習 下(第7章:その1) - クッキーの日記 )でプロデューサーがハードマージンSVMの最適化問題を解いてたと思うんだけど、よくみるとなんかおかしいんだよ…

雑記: サポートベクターマシンの最適化問題まで

サポートベクターマシンって何がしたいのという話です(この最適化問題をカーネル関数の式に書き換えるまでやらないと片手落ちではあります)。 (暗いがより解像度が高い画像はこちら:https://pbs.twimg.com/media/DwoggizVYAAQ2j2.jpg:large)

雑記: Schur 補行列と Sherman-Morrison-Woodbury の公式とカルマンフィルタとガウス過程回帰の整理

公式の証明はありません(参考文献の1つ目に詳しいのでそちらをご参照ください)。何か問題点がありましたらご指摘いただけますと幸いです。参考文献Sherman-Morrison-Woodburyの公式 (Schur補行列) - いんふらけいようじょのえにっきパターン認識と機械学習…

雑記: 行列式にたどり着きたい話

キャラクターの原作とは関係ありません。何か問題点がありましたらご指摘いただけますと幸いです。 2018-11-08 この文字色の箇所を加筆しました。ジュン、行列式って何?以下を参照してください。参考文献 線形代数の知識ゼロから始めて行列式「だけ」理解す…

雑記: Windows10上AnacondaへのGPU版TensorFlow導入

GPU環境がほしいとかあると思います。ハードのことはよくわからないですが、さすがにGPU環境を手に入れるためにはそれに対応したGPUというものが必要そうな気がします。ちなみにGPUが何なのかはよくわかりません。画面を描画するための並列処理をする演算装…

雑記

gist をブログに貼り付けてみます。下のスクリプトは2つの例ではたぶん意図通りに動いていますがそれ以外の例でバグが出るかもしれません。いつか確認します。

雑記

機械学習で Leakage ってよく聞きますけど、結局 Leakage の語義というか具体的に言い切ると何なのかよくわからないんですよね。漏れてはいけない情報が漏れていること、のようではあるんですが、何が漏れてはいけないんでしょう? 我々は総力を挙げてテスト…