いないち日記

大阪で Information Retrieval を勉強する大学生の日記。

2019/02/18-2018/02/24

だいぶ日がたってからの更新。
これからはまた日本での日常が始まって、定期的に更新できるはず。

インターン先で中間報告があった。練習回数をかなり積んで、先週の発表よりは大分改善された。質問もたくさん出た。質問がたくさん出たのはよい発表だということで、メンターの#さんもほめてくださった。

Transformer を触ることになった。self-attention なんかはインターン前に勉強したけど忘れてしまった。まぁモデルの内部挙動は Github から借りてくる (今回は
https://github.com/jadore801120/attention-is-all-you-need-pytorch を使用) として、今回はエンジニアリング的に、入出力のフォーマットを把握することに専念した。