雑記

雑記

参考文献 CUDA on WSL :: CUDA Toolkit Documentation WslRegisterDistribution failed with error: 0x800701bc - Qiita GPU in Windows Subsystem for Linux (WSL) | NVIDIA Developer CUDA Toolkit 11.6 Update 2 Downloads | NVIDIA Developer cuDNN Arch…

雑記

この日記は WSL + CUDA 環境を構築しようとしているが以下の 2 点を怠っているために失敗している。Windows 11 もしくは Windows 10 version 21H2 をインストールする。 NVIDIA CUDA on WSL driver をインストールする。自分では前者が満たされていなかった…

雑記

お気付きの点がありましたらご指摘いただけますと幸いです。 [2001.04451] Reformer: The Efficient Transformer https://github.com/google/trax/tree/master/trax/models/reformer 以前の記事に Reformer について以下の記述が残されていたのですが、読み…

雑記

2022-04-05 解釈がおかしいのでそのうち修正します。改行がおかしいのは修正できません。 参考文献 井手 剛. 入門 機械学習による異常検知―Rによる実践ガイド―. コロナ社, 2015. 入門 機械学習による異常検知―Rによる実践ガイド: ノート2 - クッキーの日記 …

雑記

参考文献 福水 健次. カーネル法入門. 朝倉書店, 2010. [1] の 59 ページのアルゴリズムをかこうとして R が下三角になっていってほしいが途中である。 import numpy as np def imcomplete_cholesky(A): R = np.diag(np.diag(A)) A_dash = A.copy() P = np.i…

雑記: コレスキー分解の一意性の証明

2022-04-02 加筆しました。 2022-04-03 加筆しました。 参考文献 linear algebra - How to prove the existence and uniqueness of Cholesky decomposition? - Mathematics Stack Exchange. https://math.stackexchange.com/questions/2509810/how-to-prove-…

雑記: Nyström 近似は右下ブロック以外正確である話

2022-04-03 加筆しました。 参考文献 Using the Nyström Method to Speed Up Kernel Machines, https://proceedings.neurips.cc/paper/2000/hash/19de10adbaa1b2ee13f77f679fa1483a-Abstract.html(2022年3月19日参照) NIPS 2000(当時は NIPS)の論文であ…

雑記: Nyström が読めない話

カーネル法におけるグラム行列の低ランク近似手法の一つとして知られる Nyström 法は、近年 Transformer の計算量削減への応用もみられる [11] [12]。ところで本質的ではないことだが、Nyström 法の仮名表記はこれといったものが確立されていないように思わ…

Git での歴史改変と歴史改変後やってはいけないこと

git-filter-repo - Qiita git-filter-repo/git-filter-repo.txt at 0cd8a1fd392b329df05f05babd942f7fc4318a72 · newren/git-filter-repo · GitHub Git で歴史改変したいとします。もっと限定して、これまでのすべてのコミットから特定のファイルの存在を抹…

雑記

以下の2つの原稿を準備していますが内容がないです。 https://cookiebox26.github.io/notes/20211226_spring_boot/main.pdf https://cookiebox26.github.io/notes/20211223_sequence_models/main.pdf

雑記

NeurIPS の論文をぶわーっと参照したいときがあると思います。 github.com 手打ちしていると途方もないのでプロシーディングズサイトの個別論文ページからつくります。 from bs4 import BeautifulSoup import re """ response : str プロシーディングズサイ…

雑記

お気付きの点がありましたらご指摘いただけますと幸いです。 ※ 本記事中の参考文献の番号は以下の記事におけるナンバリングです。 NeurIPS 2021 pre-proceedings の(時)系列っぽいタイトル 【前編】 NeurIPS 2021 pre-proceedings の(時)系列っぽいタイトル …

NeurIPS 2021 pre-proceedings の(時)系列っぽいタイトル 【後編】

前編: NeurIPS 2021 pre-proceedings の(時)系列っぽいタイトル 【前編】最終更新日: 2021-12-31 アブストラクトを読んだのみの想像であることに留意ください。お気付きの点はご指摘いただけますと幸いです。 NeurIPS 2021 pre-proceedings 後編のまとめ …

雑記

お気付きの点がありましたらご指摘いただけますと幸いです。 Unbiased Gradient Estimation in Unrolled Computation Graphs with Persistent Evolution Strategies 参考文献 1. の 5.4 節では「簡単な2次元の回帰問題」で提案手法「パーシステント進化戦略…

NeurIPS 2021 pre-proceedings の(時)系列っぽいタイトル 【前編】

後編: NeurIPS 2021 pre-proceedings の(時)系列っぽいタイトル 【後編】最終更新日: 2021-12-22 アブストラクトを読んだのみの想像であることに留意ください。お気付きの点はご指摘いただけますと幸いです。 NeurIPS 2021 pre-proceedings 前編のまとめ「…

系列データを扱うネットワークの誤差逆伝播の話(途中)

お気付きの点がありましたらご指摘いただけますと幸いです。Paul Vicol, Luke Metz, Jascha Sohl-Dickstein. Unbiased Gradient Estimation in Unrolled Computation Graphs with Persistent Evolution Strategies. In Proceedings of the 38th Internationa…

雑記: 文字の組織とそのコードネームの話(符号化文字集合と文字符号化方式の話)

お気付きの点がありましたらご指摘いただけますと幸いです。 Unicode HOWTO — Python 3.10.0b2 ドキュメント(日本語)Unicode HOWTO — Python 3.10.0 documentation(英語) 文字符号化方式 - Wikipedia Unicode C0制御文字と基本ラテン文字 - CyberLibrari…

雑記: 動的ポートフォワードする話

お気付きの点がありましたらご指摘いただけますと幸いです。 ssh(1) - OpenBSD manual pages ssh - Difference between "local port forwarding" and "dynamic port forwarding"? - Unix & Linux Stack Exchange PAC ファイルについて | Japan Developer Sup…

雑記

Output appears in "Captured stderr call" but is unavailable in capsys or capfd · Issue #5997 · pytest-dev/pytest · GitHub 以下のように Pokemon というクラスを実装したとします。Pokemon クラスは types を渡してインスタンス化しますが、types の…

雑記

pytest fixtures: explicit, modular, scalable — pytest documentation pytest のフィクスチャとは、以下の擬似コードのように1回だけ yield するジェネレータ関数の形式でテスト時の要請(前処理、ほしいもの、後処理)を登録しておくと、テストに関数名と…

雑記: pytest の monkeypatch の話

pytest でテストをするとき monkeypatch でモジュールや環境変数をモックすると思います。一昨日の記事のように pytest が利用可能な pipenv 環境を構築すると以下の(無意味な)テストが実行できると思います。 import os def test_fuga(monkeypatch): monk…

雑記: パッケージが Windows 非対応だったときにごまかす話

昨日の記事では、並列させたくない処理を並列させないため、この世に1つだけの通行手形を発行するのに fcntl というパッケージを利用しました。しかし、実はこのパッケージは Windows に対応していません。昨日の記事の test.py(ワンオペ版)を Windows で…

雑記: Python の asyncio の話

multiprocessing - How to synchronize between multiple async processes in Python? - Stack Overflow fcntl --- fcntl および ioctl システムコール — Python 3.9.4 ドキュメント 太郎と次郎がレストランに来たとします。2人は知り合いとかではなくただ同…

雑記: Pipfile に指定したパッケージの依存パッケージがプラットフォームに依存するとき→

→プラットフォームによって要不要が分かれる依存パッケージは明示的に Pipfile に記述しなければ Pipfile.lock にそれが必要だという情報が欠ける。 なお、逆に元々プラットフォームによってインストールしたいことを明示しているパッケージに依存パッケージ…

雑記: Pipfile.lock の冒頭のハッシュ値の話

【この記事の内容】Pipfile.lock の冒頭のハッシュ値は、Pipfile のファイルハッシュ値ではなく、Pipfile の内容をキーでソートした JSON 文字列を UTF-8 形式でバイト列にしたもののハッシュ値というだけです。 例えば以下のような Pipfile を記述します。…

RNN を進化戦略で最適化する話(準備)

お気付きの点がありましたらご指摘いただけますと幸いです。Paul Vicol, Luke Metz, Jascha Sohl-Dickstein. Unbiased Gradient Estimation in Unrolled Computation Graphs with Persistent Evolution Strategies. In Proceedings of the 38th Internationa…

雑記

キャラクターの原作とは無関係です。お気付きの点がありましたらご指摘いただけますと幸いです。 TFIDFSimilarity (Lucene 7.4.0 API) BM25Similarity (Lucene 7.4.0 API) 例えば僕たちのカードの中で「焼き芋」に関連するカードを探したいとします。普通に…

雑記

お気付きの点がありましたらご指摘いただけますと幸いです。Mehryar Mohri -- Foundations of Machine Learning - Book参考文献1. は序文を読むと、機械学習のトピックを理論的基盤から紹介する本なのですね。但しグラフィカルモデルやニューラルネットにつ…

雑記: 連続的に変化する状態を捉えたい話(仮題)

キャラクターの原作とは無関係です。お気付きの点がありましたらご指摘いただけますと幸いです。James Morrill, Cristopher Salvi, Patrick Kidger, James Foster, Terry Lyons. Neural Rough Differential Equations for Long Time Series. arXiv preprint …

雑記

お気付きの点がありましたらご指摘いただけますと幸いです。Haoyi Zhou, Shanghang Zhang, Jieqi Peng, Shuai Zhang, Jianxin Li, Hui Xiong, Wancai Zhang. Informer: Beyond Efficient Transformer for Long Sequence Time-Series Forecasting. arXiv prep…