いないち日記

大阪で Information Retrieval を勉強する大学生の日記。

2019/03/25-2019/03/31

インターン最終週。様々なことが詰まった一週間だった。

Exit interview をやった。ここでは詳しく書かないが、とてもいいフィードバックをもらえた。特にお世話になったメンターの$さんとはとても充実した exit interview ができてよかった。

Friday Presentation で PyTorch と Tensorboard (TB) のチュートリアルをした。内容は Learning rate や Embedding、Graph を実際にサンプルコードを見せながら可視化するというもの。チュートルアル中で「TSNE や PCA は次元縮退をしているのである程度の情報は失われるが、Embedding について大まかな考察をするのには役立つ」というようなことをいったら、#が「その考察は元の空間においてどれだけ正しいのか」という質問をしてくれて、ああ確かにそうだなと気づかされた。

最後はみんなとハグしてお別れ。思い出が詰まった3ヶ月だった。

飛行機は Hawaian Airline で、SFO - HNL - KIX。合計12時間ほどで体がバキバキになった。次はちょっと無理してでもビジネスでいきたいな...

2019/03/18-2019/03/24

インターンは最終発表に向けて大詰め。

イチローの引退が発表された。それもあって週末はシアトルに飛ぶことにした。あまりに急で SJC からのチケットはとれず、SFO 発のチケットをなんとかとれた。

シアトルに着いてから早速 T-mobile Park へ。イチローグッズはほとんど売り切れいてた。その中でも残っていたTシャツをいくつか買う。公式ショップがセキュリティチェックをしていたのが印象的。

シアトルの街は、$さんが言っていた通りよかった。治安もよく、町並みもよく、気候もよかった。海岸沿いのホテルに泊まったので、朝海沿いを散歩するととても心地よかった。今のところアメリカで住むならここがいいなぁという気持ち。

2019/03/11-2019/03/17

最終発表に向けて大詰め。

先週からのアイデアがあまりうまくいっておらず、少し軌道修正する。$さんとのミーティングでは軌道修正した場合のストーリー作りについて話し合う。自分がこのインターンで学んだものに story telling の重要性があって、特に研究というものを始めたばっかりの自分にとって熟達した人とアイデアを練れることは非常によい経験になっている。

水曜日に阪大の北米支部の集まりがあるということで顔を出してきた。阪大の学生の数を考えるとまだ少ないのかなぁという印象。アメリカで働くということについていろいろ聞こうと思っていたけど、振り返ってみると自分がいろいろ質問に答える側になってしまっていてちょっと後悔。

途中からは#がアメリカに来てくれた。土日はLAに飛んでディズニーや Angels Park にいったりした。

2019/02/25-2019/03/03

インターンが残り一ヶ月を切る。

文献管理アプリについて # さんと話し合った。# さんは以前日本語でメモをとっていたそうで、これを英語でとっておけば今に役立ったのに、、という言葉が印象的だった。この言葉をきっかけに、自分の研究関連のメモはこれから英語でとることにした。文献メモについても同様。また文献管理は散々迷ったあげく、Evernote を使うことにした (コードブロックが搭載されたことが決め手になった)。

ちなみにブログも始めた。将来的に文献情報を自作ツールで link できたらいいなと思って、カスタマイズ性を考えて github.io で作成。
tarohi24.github.io

情報の整理というか、こういうことを考えていると結構わくわくする。

2019/02/18-2018/02/24

だいぶ日がたってからの更新。
これからはまた日本での日常が始まって、定期的に更新できるはず。

インターン先で中間報告があった。練習回数をかなり積んで、先週の発表よりは大分改善された。質問もたくさん出た。質問がたくさん出たのはよい発表だということで、メンターの#さんもほめてくださった。

Transformer を触ることになった。self-attention なんかはインターン前に勉強したけど忘れてしまった。まぁモデルの内部挙動は Github から借りてくる (今回は
https://github.com/jadore801120/attention-is-all-you-need-pytorch を使用) として、今回はエンジニアリング的に、入出力のフォーマットを把握することに専念した。

2019/02/11-2019/02/17

引き続き仕事は忙しい。

今週はスキがないと思われていた既存手法にも実は本質的な (重箱の隅ではない) 問題が残っていることがメンターさんの実験でわかって、それについて自分でも大きな発見をする。この発見は我ながらよく見つけたと思う。こういうのが研究の楽しさなんだろうな。

さいきん英語力不足を痛感する。ぜんぜん聞けていないし、話せてもいない。自分なりに Error analysis をしてみると、聞く方は個々の単語は聞き取れるんだけど、それに精一杯で文意を取れていない。話す方は日本語でまだまだ思案してしまっているので "英文" として出てくるのにかなりのタイムロスがある。話したいことが話せない時は (特に抽象的なアイデアとか) 本当に惨め。

初任給を Check でもらったので Bank of America に預けると、2週間ほど hold された。聞きに行くと、最近口座開設した人が多額の check を預けた場合はそうなるらしい。またお金がない...

2019/02/04-2019/02/10

今週から朝輪というものをメンターと始めている。これは毎朝1本論文を読んで、その内容について話し合うというもの。これまで輪講の経験はあっても、同じ論文を他の人と読む経験はやってこなかった。これがかなりいい勉強になって、経験豊富な人がどういうふうに論文に目を通すのかがわかってきた。

インターンの仕事はかなり忙しい。連日新たな手法を実装したり、実験結果をまとめたり。どうやってきれいに実装するかを考えていろいろ試行錯誤していたら、リファクタリングはあとでもいいと怒られる (時間は無限にはない)。

アメリカで仕事をする上で感じたこと and メンターにも言われたこととして、日本は slide 文化、アメリカは writing 文化という違いがある。これはどちらがいいという話ではないけど、郷に入りては郷に従えで、writing を練習してみることにする。メンターに進められたのは "snack writing" というもので、襟を正さずにとにかく毎日書くという練習法。試しに一日の作業を毎日1パラグラフで書いてみることにする。

土曜日は朝から San Fransisco に行って、昼からは UC Berkeley に行って鬼塚研にインターンで来ていた$にキャンパスを案内してもらう。