Trickle 〜最近の自分が最も気に入っているサービス〜
TL;DR
- Trickle という topic 毎につぶやいたりフォローできたりする Twitter のようなアプリがリリースされた
- 後から見直しやすい topic 毎の公開ロガーとして使える、他人の特定の topic だけ見れる、ということで自分のニーズにマッチしている
- このサービスが長続きするように、自分以外の多くの人にもぜひ使ってもらいたい
ウェブで投げ銭するための方法論（2018/11/10時点）
「機械学習のエッセンス」を読んだ
TL;DR
- 数学や Python の基礎があやふやな人が自分で機械学習のコードを書いてみる、というのに良さそう
- とはいえ機械学習の話が始まるまでが長く（275ページ以降に現れる）、読み手のモチベーションがどこまで続くのかはよく分からない
- 機械学習以前の話が多かったり SVM が一番厚く取り上げられていたりしてトピックはいまいち同意ができなかった
独力で車輪の再発明をするのは良いことだと思う
TL;DR
- 知人と話して自分の力で車輪の再発明をするのは良いことだという話をした
- 出した結論が既知であっても、その過程は自身の胸裡に財産として積み重なっていく
- そのような積み重ねが理解を深めたり新しいことを発想する土台になると思う
- どんどん車輪の再発明をしていこう
月30~40時間くらいでちょうど良い感じの仕事があったらやりたい
肩こり対策に関して見直してみる
TL;DR
- 今年の目標の一つに「肩こり許すまじ」がある
- 肩こりに良さそうなことを年初から色々と試してみているので、その効果のほどを振り返ってみる
- 多少効果があるものもあるが、机での作業時間が支配的な気がするのでより良い方法を考える必要がありそう
機械学習の理論と実装はどう学んでいくと良いのだろうか
TL;DR
- 機械学習エンジニアは理論と実装の両方が求められる場合が少なくない
- この二つは割と異なる学びの過程がある気がしているが、自分を例にとってそれを考えてみる
- かなり強引に言うなら、理論は要素を積み重ねて全体を理解するやり方で、実装は全体から必要な要素を削り出していくやり方、な気がする
- 自分は実装に関してはどうトレーニングを積んでいくのが良いかいまいち分かっていない
「マリオオデッセイ」をクリアした
TL;DR
- switch でマリオオデッセイをクリアした
- ムーン 500 個集めて月の国もっと裏までクリアしたので結構頑張った
- 前評判通りで完成度が高いゲームだった、満足
数理科学「機械学習の数理」を読んだ
TL;DR
- 数理科学201808号「機械学習の数理」を読んだので感想を書いておく
- トピックは幅広くて眺めていて面白いが、基礎となる数理というより応用例みたいな感じ
- （致し方ないことだが）頁数的に説明が省略気味なので数式を追うのは結構辛い
ReLU6 とは何者なのか？
TL;DR
- MobileNet で使われていることで有名な ReLU6 を復習してみた
- 初出の論文（と思われるもの）では sparse feature を得るために使うという導入だった
- MobileNet の文脈では固定小数点数の演算に適している（上限を与えない場合と比べて resolution が高い）
- とはいえ 6 は実験によって決めるべきパラメタでしかなく、それ以上に深い意味はない（と思う）
Chrome で Overleaf v2 を使う
TL;DR
- Overleaf の version 2 が出たので試してみた
- Chrome で遭遇するエディタのカーソルがズレる問題を解決した（フォントのカスタマイズで固定幅フォントを「Monaco」にする）
- reference search など新しい機能が使えて全体的に良い感じ
- 具体的な例は こちら
A Mini-Introduction To Information Theory を眺めてみた
TL;DR
- ひょんなことから Witten が書いたレビュー論文を眺めてみた
- 特に前半の古典の話は物理っぽい書き方で好き（Stirling の公式は前提となるが）
- 古典と量子の違いは意識的に書かれていて読みやすかった
- 分からないところも色々あるが、そのうち何かのきっかけでちゃんと勉強するかもしれない（しなそう）
「ベヨネッタ２」をクリアした
TL;DR
- switch でベヨネッタ２をクリアした
- ノーマル全クリとハード一部、それとウィッチトライアルをクリアしてロダンも倒した
- 面白かったけど個人的には前作の方が良かった（単に思い出補正の可能性あり）
- ウィッチトライアルとロダンが難しくてストレスが溜まった。ゲームでストレス良くない
機械学習案件に携わってきてどんな理論的トピックを扱ってきたか
TL;DR
- 機械学習を仕事で使う人はどんな理論的内容を扱っているのか
- コードは GitHub にあるし研究は論文になるが、実業務で必要な理論的トピックに関してはなかなか目にする機会がない
- 自分がこれまでどんなことをしてきたのかを簡単にまとめてみた
咳がヤバイ
TL;DR
- GW終盤から発生した断続的な咳が治らずヤバイ
- 二度ほど病院に行ったが根本的な原因は分からず。アレルギーも絡んだ喘息のような感じがするが果たして…
- こうすれば快方に向かうというのが分からないというのはかなりのストレスであることに気付かされた
arXiv の論文を google drive に保存する Chrome extension を作った
TL;DR
- iPad Pro で論文を読む際に Notability を使いたいが Mendeley などと異なり論文管理は手間
- Chrome extension を使って arXiv の論文を google drive に保存できるようにした：Repository
- Notability との連携が改善されれば文句なしなのだが…
機械学習をやる上で線形代数のどのような知識が必要になるのか
TL;DR
- 「機械学習をやるなら線形代数はやっとけ」的な話が出るけど具体的な話があまり見当たらない
- 研究でなく実務レベルで機械学習を扱う場合にどのような線形代数の知識が必要になるのか考えてみた
- 高校でやるベクトル・行列＋αくらいあれば概念的には十分で、計算が苦じゃない基礎体力が重要では？
論文読み会で発表したい人はそんなにいないのでは？という気付き
TL;DR
- WSDM2018論文読み会 に人が集まらなかった
- 有意義な会ならちょっと宣伝すれば人が集まると思ってたのは見当違いだった
- 論文読み会で発表したいと思っている人は割と少ないのでは？
Deep Learning with Python を読んだ
TL;DR
- Deep Learning with Python を読んだ
- よく書かれている本で、特に初学者〜中級者が Keras を使ってモデル構築ができるようになるには最適
- 扱っているトピック自体は他の本と比べてそこまで変わっていないが、一つ一つの質は高い
- 個人的には Keras の実装の話などをもっとして欲しかった
「ゼルダの伝説 ブレス オブ ザ ワイルド」をクリアした
TL;DR
- switch を買った
- ゼルダの伝説 ブレス オブ ザ ワイルド をクリアした
- 純粋に素晴らしく、いまの自分が他人の作ったゲームでこんなに楽しめるなんて思ってなかった
- 開発エピソードを眺めたりすると良い作品を作るには良い手法が重要なんだなぁと思う
過去に XXX をしておけば良かった、という命題は真か偽か
TL;DR
- 自分の場合はほとんど偽、と思う
- ただプログラミングは何かしらやっておければ良かったのかもしれない
プレゼン用の資料作成のためのツールをいくつか試した
TL;DR
- プレゼンで資料を作るときに自分に合うものをちょっと探してみた
- 結論としては Deckset（もしくは gitpitch）が良さそう
論文を読んだ際のメモをレポジトリの issue に残していくことにした
TL;DR
- 論文読みのメモを GitHubのレポジトリのissue で管理することにした
- 数式は screencloud で imgur に保存してそれを貼るということにした。自分で書けないのは不便もあるが、数式が多すぎない論文なら大丈夫そう
- 小さい単位でコメントとして残していくスタイルはまあまあ良さそう
確定申告の提出書類を作成した
TL;DR
- 平成29年分の確定申告の提出書類を作成した
- 検討の結果、会計ソフトなどは何も使わずに全て自分で作成した
- 作ったのは確定申告書Bと青色申告決算書と医療費控除の明細書
家にホワイトボードがあると良いことがあります
TL;DR
- 家にホワイトボードを買って計算をしよう
MiSTEL BAROCCO MD600 を買った
TL;DR
- MiSTEL BAROCCO MD600 分離式 英語配列 茶軸 を購入
- 付属品のケーブルが短くてキーボードがあまり離せないので、micro(B)オス-mcro(B)オスのケーブルも購入
- マクロプログラムモードでキーの割当をする場合にwindows環境でのファームウェアupgradeが必要かも
iPad Pro で論文を読む
TL;DR
- Mendeley + PaperShip
- 計算などをノートにする場合は Notability
2017年のまとめ
TL;DR
- 2017年も頑張った、何はともあれ自分を褒める
- 2017年は仕事の時間が長かったので、2018年はもう少し時間配分を変えよう
Dynamic Routing Between Capsules を読んだ
TL;DR
- neuron をまとめてベクトル化した capsule という概念を導入。各成分は特徴量の表出を parametrize
- routing という手法を導入し、in と out の内積値で低次カプセルから高次カプセルへの値の受け渡しを記述
- CapsNet というモデルを具体的に構成し、特に MNIST の画像を重ねた MultiMNIST で高い性能を発揮
- capsule は CNN では効率的に扱えてない平行移動以外のアフィン変換を効率的に扱い得るもので、発展性がある
DLを誤認識させるノイズの話
TL;DR
- 普遍的な摂動ノイズによって様々な画像がDLで誤認識されるという論文を読んで発表した
Deep Learning の汎化性能に関して論文を読んで発表した
TL;DR
- Deep Learningの汎化性能に関して軽くまとめてその内容を発表した
CNNの発展に関して簡単にまとめた
TL;DR
- CNNの発展に関して軽くまとめてその内容を発表した
Why does deep and cheap learning work so well? を読んだ
TL;DR
- この論文を読んでその内容を発表した
Googleのニューラル機械翻訳APIでarXivのsummaryを翻訳してサクッとチェックする
TL;DR
- Google Cloud Translation API premium edition ではニューラル機械翻訳が使用可能
- arXivのAPIを使用して論文のsummaryを取得し、日本語でチェックできるnotebookを作った ( repository )
- ニューラル機械翻訳おもしろい
Googleの超解像RAISRの論文を読んだ（その２）
TL;DR
- その１の内容は理解しているという前提で進める
- 画像を同じような輝度勾配情報を持つbucketに分け、ローカルの情報を考慮してフィルタを学習する
- 処理高速化のために勾配情報をハッシュ化したテーブルを構築する
- 他のstate of the artと比べて遜色のない精度で、速度は2桁も速い
Googleの超解像RAISRの論文を読んだ（その１）
TL;DR
- その１では RAISR の話はせず、前段となる定式化や基本的概念を説明する
- 基本となる考えは、bilinear補間のようなcheapな補間にさらにフィルタを適用して高精度化するというもの
- フィルタの学習には低解像度画像と高解像度画像のペアを用いる
- 学習したフィルタはバンドパスフィルタのような振る舞いをすることが示された
ubuntuでlinux kernelのversionを固定する
TL;DR
- nvidia-docker と不整合を起こさないように linux kernel version を固定するようにした
jekyllで作成したページをローカルでプレビューする
TL;DR
- Ubuntu Desktop 環境で jekyll serve を使えるようにした
iMacのNVIDIA GPUをデュアルブートしたUbuntu16.04のnvidia-dockerで使う
TL;DR
- タイトルまま
ブログ開始
TL;DR
- ブログを始めた
- 日々のあれこれを書いていくことにする