2018/07/19

朝7時に起きた。

今日はだいぶ熱がひいて、腹痛も和らいできた。幸い食中毒ではなかったそう (食中毒ならくるはずの連絡が来なかった)。

ということで今日は研究室へ。今日も研究をすすめる。

この間のミーティングで研究の方針が特定ドメイン内での Query Expansion と決まったので、とりあえずちょうど比較手法となりそうな次の論文を読んでみる。

Diaz, F., Mitra, B., & Craswell, N. Query Expansion with Locally-Trained Word Embeddings. ACL. 2016.

これは特定の topic の文章のみで学習させた embedding は expansion に有効という話で、まさに自分がやろうとしていることだった。この論文のすごいところは、locally-trained embedding が有効であると思われる根拠として言語学の論文を多数ひいているところで、著者の造形の深さが伺える。

夕方はセミナー発表。今日のお題は自動微分で、代表的な深層学習のフレームワークがどうやって (解析的に) 微分を行っているか、という話だった。ざっくり言うとこれらは偏微分の連鎖率を利用して、原始関数を primitive な関数に切り分けてどんどん計算していくというもの。