AAAI・WSDM 2017論文読み会： 参加メモ（途中）

勉強会

AAAI・WSDM 2017論文読み会に参加させていただきました。
connpass.com
以下、自分の感想が入り混じったメモ。

GLOMA: Embedding Global Information in Local Matrix Approximation Models for Collaborative Filtering
　出典： http://chenkehan.me/papers/gloma_aaai17.pdf

  • 全アイテムの情報をぎゅっと凝縮しておいて、ユーザについて最適化する
  • 全ユーザの情報をぎゅっと凝縮しておいて、アイテムについて最適化する
  • サブグループにしてしまわず全部の情報をつかって最適化しているのがいいところ
  • これを確率的勾配降下で学習
    • ぎゅっと凝縮したやつも更新する
  • マルチタスク学習： 「算数のテストの成績」「100m走のタイム」を同時に学習する
  • サブグループの決め方（ユーザ数がすごいので k-means とかでは時間がかかりすぎる）： DSDPというクラスタリング手法（k-means++ の 1000 倍速い）
    • 評価の星の数の頻度をつかう（？）
    • クラスタ初期化がランダムっぽいけどそんなに速い？

A Concise Integer Linear Programming Formulation for Implicit Search Result Diversification
　出典： http://www.dc.fi.udc.es/~roi/publications/wsdm2017-yu.pdf

  • SRD： ユーザがほしい情報をカバーするように多様な結果セットを返す手法
    • Ex. 「サーバル」と検索したときに、検索した人がほしい情報はネコ科の動物なのかアニメキャラなのか
  • 最適解にたどり着く implicit SRD の解法がほしい → 今回の提案法： ILP4ID
    • 整数線形計画問題にすることで従来法より最適値が得られる（分枝限定法）
    • DFP その他さまざまな implicit SRD の解法は ILP4ID の特別な場合に相当
    • 従来法はデータが大きくなるほどつかうのが危なくなる

Scalable Algorithm for Probabilistic Overlapping Community Detection

  • ソーシャルネットワークのような巨大なグラフ構造をクラスターに分割したい（overlapあり）
  • Bag-of-nodes 表現： 後々自然言語処理のようなことをしたいので、グラフ構造に Bag-of-words モデルに相当する表現を与えておく
  • Latent Dirichlet Allocation (LDA) を適用する（この手法の採用理由は決め打ち）
  • 従来手法だとデータセットが巨大だとそもそもメモリ的に実行できなかったり

Unimodal Thompson Sampling for Graph–Structured Arms
　出典： https://arxiv.org/pdf/1611.05724.pdf

  • 最適腕が存在するという強い仮定（unimodal）
  • 多腕バンディットタスクを解くのにグラフを利用
    • エッジは存在し、最良のノードへのエッジがどれかは不明
  • Thompson サンプリング： 以前以下の記事にメモした
  • 各腕をグラフのノードに対応させる
  • 限られた範囲で Thompson サンプリングを実行、最適腕に向かって登っていくようにする
  • 腕の数が多いとグラフを利用する意味がそこそこ出てくるらしい
  • この手法が有効なケースが限られる（腕の数、単峰性、…）

その他感想