機械学習のための特徴量エンジニアリング: ノート2

以下の本を読みます。キャラクターは架空のものです。解釈の誤りは筆者に帰属します。お気付きの点がありましたらコメント等でご指摘いただけますと幸いです。 機械学習のための特徴量エンジニアリング ―その原理とPythonによる実践 (オライリー・ジャパン)…

機械学習のための特徴量エンジニアリング: ノート1

以下の本を読みます。キャラクターは架空のものです。解釈の誤りは筆者に帰属します。お気付きの点がありましたらコメント等でご指摘いただけますと幸いです。 機械学習のための特徴量エンジニアリング ―その原理とPythonによる実践 (オライリー・ジャパン)…

ベイズ統計の理論と方法: ノート1

以下の本を読みます。キャラクターは架空のものです。解釈の誤りは筆者に帰属します。おかしい点がありましたらコメント等でご指摘いただけますと幸いです。 ベイズ統計の理論と方法作者: 渡辺澄夫出版社/メーカー: コロナ社発売日: 2012/03/01メディア: 単…

論文読みメモ: GBrank(その2)

以下の論文を読みます。Zhaohui Zheng, Keke Chen, Gordon Sun, Hongyuan Zha. A Regression Framework for Learning Ranking Functions Using Relative Relevance Judgments. In SIGIR, pages 287-294, 2007. https://www.cc.gatech.edu/~zha/papers/fp086-…

雑記

おかしい点がありましたらご指摘いただけますと幸いです。参考文献 Berry paradox - Wikipedia ※ キャラクターは架空のものです。 大変です! このフレーズを見てください。 The smallest positive integer not definable in under sixty letters.日本語に訳…

雑記: AUC の話とその scikit-learn での計算手順の話

AUC というものを算出しろといわれることがあると思います。でも幸いなことに scikit-learn で算出できます。 sklearn.metrics.roc_auc_score — scikit-learn 0.20.2 documentation 例えば以下のような正解ラベルが付いたデータのそれぞれに対して、あるモデ…

論文読みメモ: GBrank(その1)

以下の論文を読みます。Zhaohui Zheng, Keke Chen, Gordon Sun, Hongyuan Zha. A Regression Framework for Learning Ranking Functions Using Relative Relevance Judgments. In SIGIR, pages 287-294, 2007. https://www.cc.gatech.edu/~zha/papers/fp086-…

雑記: 決定木の話(途中)

別の記事で勾配ブースティング手法を勉強しようとしているのですが、そこでよく用いられる決定木について知らなかったので決定木の話を書きました。初学者なのでおかしい点がありましたらご指摘いただけますと幸いです。参考文献 はじめてのパターン認識 | …

NeurIPS2018読みメモ: CatBoost: unbiased boosting with categorical features(その-1: そもそも gradient boosting がわからない)

以下の論文を読みます。Liudmila Prokhorenkova, Gleb Gusev, Aleksandr Vorobev, Anna Veronika Dorogush, Andrey Gulin. CatBoost: unbiased boosting with categorical features. In Proceedings of NIPS 2018. https://papers.nips.cc/paper/7898-catboo…

NeurIPS2018読みメモ: Deep State Space Models for Time Series Forecasting(その1)

以下の論文を読みます。Syama Sundar Rangapuram, Matthias Seeger, Jan Gasthaus, Lorenzo Stella, Yuyang Wang, Tim Januschowski. Deep State Space Models for Time Series Forecasting. In Proceedings of NIPS 2018. https://papers.nips.cc/paper/800…

雑記: RNN の勾配が消失したり爆発したりする話のメモ

参考文献 ニューラルネットワークと深層学習(Web上の教材) http://www.bioinf.jku.at/publications/older/2604.pdf(LSTM の原論文) シチュエーション(まずL+1層パーセプトロンの場合) 層目を入力層、 層目を出力層として、 層が連なっているとする。 …

Reinforcement Learning: An Introduction〔Second Edition〕(その4)(途中)

以下の本を読みます。何かお気付きの点がありましたらご指摘いただけますと幸いです。 Sutton & Barto Book: Reinforcement Learning: An Introduction〈参考〉過去に強化学習についてかいたものへのリンク 「これからの強化学習」勉強会#1 「これからの強化…

雑記: SVMのラグランジュ乗数法と双対問題(途中)

何か問題点がありましたらご指摘いただけますと幸いです。前々回の PRML 読み( パターン認識と機械学習 下(第7章:その1) - クッキーの日記 )でプロデューサーがハードマージンSVMの最適化問題を解いてたと思うんだけど、よくみるとなんかおかしいんだよ…

雑記: サポートベクターマシンの最適化問題まで

サポートベクターマシンって何がしたいのという話です(この最適化問題をカーネル関数の式に書き換えるまでやらないと片手落ちではあります)。 (暗いがより解像度が高い画像はこちら:https://pbs.twimg.com/media/DwoggizVYAAQ2j2.jpg:large)

パターン認識と機械学習 下(第7章:その2)

以下の本を読みます。上巻を読むこともあります。何か問題点がありましたらご指摘いただけますと幸いです。パターン認識と機械学習 下 (ベイズ理論による統計的予測)作者: C.M.ビショップ,元田浩,栗田多喜夫,樋口知之,松本裕治,村田昇出版社/メーカー: 丸善…

NIPS2018読みメモ: Graphical model inference: SMC meets deterministic approximations(その1)

以下の論文を読みます。解釈誤りは筆者に帰属します。問題点がありましたらご指摘いただけますと幸いです。Fredrik Lindsten, Jouni Helske, Matti Vihola. Graphical model inference: Sequential Monte Carlo meets deterministic approximations. In Proc…

Reinforcement Learning: An Introduction〔Second Edition〕(その3)

以下の本を読みます。何かお気付きの点がありましたらご指摘いただけますと幸いです。 Sutton & Barto Book: Reinforcement Learning: An Introduction〈参考〉過去に強化学習についてかいたものへのリンク 「これからの強化学習」勉強会#1 「これからの強化…

Reinforcement Learning: An Introduction〔Second Edition〕(その2)

以下の本を読みます。何かお気付きの点がありましたらご指摘いただけますと幸いです。 Sutton & Barto Book: Reinforcement Learning: An Introduction〈参考〉過去に強化学習についてかいたものへのリンク 「これからの強化学習」勉強会#1 「これからの強化…

パターン認識と機械学習 下(第7章:その1)

以下の本を読みます。上巻を読むこともあります。何か問題点がありましたらご指摘いただけますと幸いです。パターン認識と機械学習 下 (ベイズ理論による統計的予測)作者: C.M.ビショップ,元田浩,栗田多喜夫,樋口知之,松本裕治,村田昇出版社/メーカー: 丸善…

NIPS2018読みメモ: Precision and Recall for Time Series

以下の論文を読みます。解釈誤りは筆者に帰属します。問題点がありましたらご指摘いただけますと幸いです。Nesime Tatbul, Tae Jun Lee, Stan Zdonik, Mejbah Alam, Justin Gottschlich. Precision and Recall for Time Series. In Proceedings of NIPS 2018…

Reinforcement Learning: An Introduction〔Second Edition〕(その1)

以下の本を読みます。何かお気付きの点がありましたらご指摘いただけますと幸いです。 Sutton & Barto Book: Reinforcement Learning: An Introduction〈参考〉過去に強化学習についてかいたものへのリンク 「これからの強化学習」勉強会#1 「これからの強化…

パターン認識と機械学習 下(第6章:その6〈終〉)

以下の本を読みます。上巻を読むこともあります。何か問題点がありましたらご指摘いただけますと幸いです。パターン認識と機械学習 下 (ベイズ理論による統計的予測)作者: C.M.ビショップ,元田浩,栗田多喜夫,樋口知之,松本裕治,村田昇出版社/メーカー: 丸善…

パターン認識と機械学習 下(第6章:その5)

以下の本を読みます。上巻を読むこともあります。何か問題点がありましたらご指摘いただけますと幸いです。パターン認識と機械学習 下 (ベイズ理論による統計的予測)作者: C.M.ビショップ,元田浩,栗田多喜夫,樋口知之,松本裕治,村田昇出版社/メーカー: 丸善…

雑記: Schur 補行列と Sherman-Morrison-Woodbury の公式とカルマンフィルタとガウス過程回帰の整理

公式の証明はありません(参考文献の1つ目に詳しいのでそちらをご参照ください)。何か問題点がありましたらご指摘いただけますと幸いです。参考文献Sherman-Morrison-Woodburyの公式 (Schur補行列) - いんふらけいようじょのえにっきパターン認識と機械学習…

パターン認識と機械学習 下(第6章:その4)

以下の本を読みます。上巻を読むこともあります。何か問題点がありましたらご指摘いただけますと幸いです。パターン認識と機械学習 下 (ベイズ理論による統計的予測)作者: C.M.ビショップ,元田浩,栗田多喜夫,樋口知之,松本裕治,村田昇出版社/メーカー: 丸善…

パターン認識と機械学習 下(第6章:その3)

以下の本を読みます。上巻を読むこともあります。何か問題点がありましたらご指摘いただけますと幸いです。パターン認識と機械学習 下 (ベイズ理論による統計的予測)作者: C.M.ビショップ,元田浩,栗田多喜夫,樋口知之,松本裕治,村田昇出版社/メーカー: 丸善…

パターン認識と機械学習 下(第6章:その2)

以下の本を読みます。上巻を読むこともあります。何か問題点がありましたらご指摘いただけますと幸いです。パターン認識と機械学習 下 (ベイズ理論による統計的予測)作者: C.M.ビショップ,元田浩,栗田多喜夫,樋口知之,松本裕治,村田昇出版社/メーカー: 丸善…

パターン認識と機械学習 下(第6章:その1)

以下の本を読みます。上巻を読むこともあります。何か問題点がありましたらご指摘いただけますと幸いです。パターン認識と機械学習 下 (ベイズ理論による統計的予測)作者: C.M.ビショップ,元田浩,栗田多喜夫,樋口知之,松本裕治,村田昇出版社/メーカー: 丸善…

雑記: 行列式にたどり着きたい話

キャラクターの原作とは関係ありません。何か問題点がありましたらご指摘いただけますと幸いです。 2018-11-08 この文字色の箇所を加筆しました。ジュン、行列式って何?以下を参照してください。参考文献 線形代数の知識ゼロから始めて行列式「だけ」理解す…

直感 Deep Learning: 5章メモ(単語分散表現)(番外編)

以下の本を読みます。直感 Deep Learning ―Python×Kerasでアイデアを形にするレシピAntonio Gulli Sujit Pal 大串 正矢 オライリージャパン 2018-08-11売り上げランキング : 1992Amazonで詳しく見る by G-Toolsキャラクターの原作とは関係ありません。本読み…