自分がデータ分析/機械学習で成し遂げたいこと

TL;DR

  • Ubie 株式会社に入社して一年くらい経ったので振り返りをする
  • 改めてデータ分析/機械学習で何がしたいのかを考えているが、自分はデータから普遍的な知識を得たい人間で、その観点では（まだまだ先は長いけど）やりたいことができている
  • 人によって目的は色々だと思ういますが、みなさんはどうですか？

hikifunefm 反省会会場

TL;DR

  • 15 回ほど配信をしたのでここらで hikifune.fm の振り返りをしてみる
  • 配信ドリブンで色々勉強したのでそこそこためになったし、シリーズ物はやってみて結構よかった
  • 二人で収録するメリットはあまり感じられなかったので今後どうするかは考え中

clasp と TypeScript で GAS の開発環境を整えた備忘録

TL;DR

  • ちょっとした仕事で GAS を使うときがある
  • ローカルで clasp と TypeScript を使って開発する環境を整えた（が、いまの自分の用途ではここまでしなくてもよかった）
  • 完全に忘れそうなので備忘録としてブログに残しておく

2020年のまとめ

TL;DR

  • 2020 年も頑張った（4 年連続 4 回目）。
  • 4 月に社会復帰して途中で折れずに働き続けた超人として自分を褒め称える
  • 2021 年も頑張っていきますか〜！！！

在宅作業環境

TL;DR

  • 在宅勤務が中心になったので、在宅作業環境を整えた
  • QOL を高めるのはやはり昇降式デスクとホワイトボード

Jasper による（データ分析系）タスクの作業ログ管理

TL;DR

  • リモートワークでより一層作業ログを残すのは重要になったが、Jasper での管理がめちゃくちゃ捗る
  • 分析系のタスクは SQL クエリだけだと情報が不十分なことが多く、作業ログに過程を残しておくと便利
  • チームで同じように作業ログを残しておくと作業追いやすいしコメントとかも随時入れられるのでよい

hikifune.fm という Podcast を始めた

TL;DR

  • 機械学習関連で勉強した内容をアウトプットする場として hikifune.fm という Podcast を始めた
  • 一人で喋っててもあまり面白くないので、チームの人と一緒にワイワイやっていくスタイル
  • できるだけ手間をかけずに配信したり show notes を管理する方法を考えておいたのでまとめておく

マネーフォワードで家計管理する方法を調べた

TL;DR

  • 結婚もしたのでマネフォで家計に関係する分のみを管理したくなったのでどうすべきか調べた
  • 家族用口座を作成し、夫婦別々にアカウントを作成して同じ口座を見るようにするしかない
  • 有料機能を使いたかったら二つの有料アカウントが必要だし、家族用途で使うのを想定してないサービスなのね…

幻？の TPUEstimator ファンブックを読んだ

TL;DR

  • karino2 さんが 4,5 部だけ刷ったという TPUEstimator ファンブックを読んだ
  • 15 ページ程度の短さながら TPUEstimator に関する理解と考察が述べられていてとても良かった
  • こういう深みのある技術文書が増えて欲しい（自戒を込めて）

機械学習アルゴリズムの学習法

TL;DR

  • 機械学習のアルゴリズムには詳しくなりたいけど実装はしない、という立場の人向けの学習資料まとめ
  • 知人向けで、具体的には同僚医師がターゲット読者（めちゃ狭い！）だが、一定度他の人にも役に立つかも
  • 改めて色々眺めてみてやっぱり大学の講義は質の高いものが多いと思った

花粉症との闘い in 2020

TL;DR

  • 花粉症シーズンが終わったので振り返りの記録
  • 2020 は大したことはなく、危険な日を避け、メガネとマスクで防御をすれば薬がなくても問題なしだった

尤度とはなんだったのか

TL;DR

  • Ubie という会社で働いていて尤度とかを改めて見直す機会があったのでブログにまとめておく
  • 尤度主義のような、自然と使っていたが明示的には知覚できてなかったものの存在を知った
  • 主義や哲学に関しても言及するが、それらの良し悪しについて述べるものではない

2019 年分の確定申告をした

TL;DR

  • 2019 年分の確定申告を終えた
  • 作業として新たに勉強する内容はほぼなかったが、外国税額控除の作業は煩わしい
  • 計算ミスもあり今年は 10 時間 10 分ほど掛かったので、もう少し効率化したい

無職を支えるお金

TL;DR

  • 一年間無職生活をした結果 2,973,667 円掛かった
  • 独身プログラマなら少し働けば貯めることができる額なので、気軽に無職になって人生をやっていこう！

ランダウの記号をいま一度勉強してみる

TL;DR

  • 関数の漸近的挙動を表現するためのランダウの記号をちょろっと勉強し直してみた
  • そもそも物理学者の Lev Landau が考案したものかと思っていたら、ドイツの数学者 Edmund Landau が考案したものだった。すみませんでした
  • 新しい話は特にない

2019年のまとめ

TL;DR

  • 2019 年も頑張った（3 年連続 3 回目）。
  • 無職になって様々な煩わしさから解放された真に悠々自適な時間を過ごすことができた
  • 2020 年は社会復帰してまた頑張っていくぞ！

やっぱり学術書は紙の書籍が良い、というお話

TL;DR

  • ほぼ電子書籍の生活になってから久しかったが、学術書はやはり紙の書籍が良いなと思うようになってきた
  • 電子書籍と違って読もうと思ってない本を手に取りやすかったり、空間的な位置で関係性を持たせたりできる
  • 漫画とか論文に関しては電子書籍で管理するのが良いと思う

Mac の Chrome で Overleaf を使っているときに文字が打てなくなるバグの原因を突き止めた

TL;DR

  • Chrome で Overleaf を使っていたら時々入力を受け付けなくなる状況が発生していた
  • 調べたら、Mac の日本語入力システムでテキストを打っていて変換を確定する前に打ち込んでいる文字を全部消すと入力を受け付けなくなる、ということが分かった
  • ゲストモードでは普通に使えたので色々調べてたら、自分の環境では Chrome の画面縮小で 75% 以下にすると発生するバグだと判明した

「宇宙と宇宙をつなぐ数学」を読んだ

TL;DR

  • 宇宙と宇宙をつなぐ数学 を読んだ
  • 考えている問題がなぜ難しいのか、それをどういう発想で解いたのか、を驚くべき平易さで執筆した意欲作
  • 技術的な詳細は分からない（それは本が目指すところではない）が、一線級の数学者がこのような一般向けの本を書いてくれるのは実に有難い

アメリカ東海岸旅行記

TL;DR

  • 9月下旬から10月はじめまでアメリカ東海岸に旅行に行ってきた
  • タラハシー → プリンストン → マンハッタンという旅程で知人に会いながら観光
  • 東海岸は行ったことなかったので色々観光できて楽しかった

TensorFlow Hub のソースコードを読む

TL;DR

  • default で準備されているモデルで embedding を得る場合、 Module class の call メソッドに input を渡して実行するようになっている
  • モデルは Tensorflow Hub が提供するものをダウンロードしてきて “default” とかで所定の tensor を名前引きして結果を得るようになっている
  • モデルの情報がちゃんと残ってないのが辛い…

最近の作業スペース

TL;DR

  • 東京に戻ってきてから作業する場所がだいたい固まってきた
  • 基本的に KERNEL HONGO とビズコンフォートのライトプランを使っている
  • 運動不足という以外はまあまあ良い環境になっているのではないか

「ディープラーニングと物理学」を読んだ

TL;DR

  • reference が充実している点、3,4章のブラケット記法の導入、5章のサンプリングの説明、は良かった
  • 7章以降の物理への応用に関しては、お話的な内容だったりどのくらい嬉しいことなのかぱっと見で判断できないものも多かった
  • 物理の言葉や例で説明されている部分も多く、物理を学んでいる（た）人がディープラーニングを学ぶときに読んでみる本、という印象

Kotlin Coroutine の勉強経過記録

TL;DR

  • Kotlin の Coroutine を勉強したときの記録
  • 勉強した内容をまとめる目的じゃなくて、何をどういう順番でやって何が分かって何が分からなかったかを残しておく目的

Remote Development with VS Code を試してみた

TL;DR

  • VSCode で container の中などでの開発をシームレスに実施できる拡張が発表された
  • こういう機能は前から欲しかったので、ローカルで docker container 使って試した際のメモを残しておく
  • まだ VSCode Insiders が必要な preview だけど、良い感じなので正式に取り込まれるのが楽しみ

宜野湾での生活

TL;DR

  • いま宜野湾に住んでて、ビーチが近いのと家が広いのと自炊できるのはとても良い
  • そろそろ梅雨に入るし、作業環境の面では前のところが上回っていたし、そちらに戻る予定
  • あと一ヶ月くらいしたら東京に戻るので、住むのに良い場所あったら誰か教えてください

Kotlin で初の Android アプリを作った

TL;DR

  • 初の自作 Android アプリである FingerBoardCheck を作った
  • ギタータブ譜読み用のトレーニングアプリで、めちゃくちゃ簡単なものだけど、とにかく作った
  • 色々学びながらどんどん自分の作りたいものを作っていこう

沖縄でリモートワーク、みたいなの増えるといいな

TL;DR

  • 寒い時期や花粉症の時期に沖縄でリモートワークするのが増えるといいなぁ
  • (無花粉による生産性変化分)+(リモートワークによる生産性変化分) >= 0 が成し得るかみんな検証してくれ
  • ちなみに自分はいまギークハウス沖縄に滞在していてなかなか良い感じ

ふつうの Linux プログラミングを読んだ

TL;DR

  • 途中まで読んで止まっていた「ふつうの Linux プログラミング」を読んだ
  • C 言語で Linux のライブラリ関数や HTTP サーバの実装などを介して必要な要素を学ぶスタイル
  • 平易な言葉で書かれていて、自分のように基礎知識がない人の学び始めには良さそう

無職になって色々な人に話を聴きに行った感想

TL;DR

  • 二月は色々な人（主として機械学習業務を生業にしている人）に話を聴きに行ったので感想を書いてみる
  • バラエティに富んでいて面白かったが、ある程度見通しがついているタスクに取り組むという感じが多かった
  • 技術的に今だからこそ出来そうという新しいプロダクトに取り組むという話はそんなになくて、機械学習系の人はこういう思考・志向の人が少ない感じがする
  • 偉そうに言ってるけど自分こそがまさにそうだったので、無職期間に何を作りたいのか意識的に考えていかねば

すごいHASKELLたのしく学ぼう！ を読んだ

TL;DR

  • 何となく Haskell 勉強してみようと思って「すごいHASKELLたのしく学ぼう！」を読んだ
  • 文章とか挿絵とかかなり独特だったが、内容はとても良く書けていてかなり面白かった
  • せっかくなので Functor から Monad に関する現在の理解をブログに残してみる
  • 今後も圏論とか勉強しつつ趣味で触っていこうかな、と思えるくらいには好きになった

AWS Loft Tokyo を使ってみた

TL;DR

  • 無職になって作業スペースを探してたので AWS Loft Tokyo を使ってみた
  • AWS のアカウントさえ持っていれば誰でも無料で利用可能で、なかなか環境が良い

仕事を辞めて無職になりました

TL;DR

  • 1/31 を退職日として無職の仲間入りをしました
  • しばらく（最長一年くらい？）再就職する予定はなく、自分のやりたい勉強などを自由にやるつもりです
  • 色んな会社の人がどんなことをやっているかは知りたいので、よかったら会社に遊びに行かせてください

御岳山と日の出山にハイキングに行ってきた

TL;DR

  • 知人に誘われて御岳山と日の出山にハイキングに行ってきた
  • 奥多摩とか混んでるのかなと思ったけど、時期もあるのか思ったより人も少なかった
  • 最後はつるつる温泉で温泉にも入り、なかなかの満足度だった

2018年のまとめ

TL;DR

  • 2018年も頑張った、去年も頑張ったという記録が残っているので二年連続二回目の頑張りで凄い
  • 2018年は外向きの活動は例年より減らして落ち着きのある一年にした（つもり）
  • 2019年は自分の得意分野以外の勉強に重点を置きつつアウトプットも増やす

ブログの DISQUS 連携を止めてコメント欄廃止した

TL;DR

  • ブログのコメント欄に DISQUS を使っていたが、気付いたら広告を出すようになっていた
  • ほとんどコメントないし、広告を消すのに月額 9 ドルは今の自分の状況では払い難いのでコメント欄を廃止した
  • なんか物申したいことがあれば Twitter で @yohei_kikuta に言ってください

Trickle 〜最近の自分が最も気に入っているサービス〜

TL;DR

  • Trickle という topic 毎につぶやいたりフォローできたりする Twitter のようなアプリがリリースされた
  • 後から見直しやすい topic 毎の公開ロガーとして使える、他人の特定の topic だけ見れる、ということで自分のニーズにマッチしている
  • このサービスが長続きするように、自分以外の多くの人にもぜひ使ってもらいたい

ウェブで投げ銭するための方法論（2018/11/10時点）

TL;DR

  • 前提として、A->B の現金のやりとりができる（Bは銀行などに現金を移せる）ものを考える
  • 純粋に現金を直接やりとりするなら pring がよさそう（AもBもアカウント必要）
    招待コードは L3DK96 をどうぞ (11/15 23:59 まで)
  • 何か商品を準備してその対価として現金をやりとりするなら BOOTH がよさそう（Bのみアカウント必要）
  • paypal は現時点では公式HPには日本で解説したアカウントでは個人送金不可と書かれている

「機械学習のエッセンス」を読んだ

TL;DR

  • 数学や Python の基礎があやふやな人が自分で機械学習のコードを書いてみる、というのに良さそう
  • とはいえ機械学習の話が始まるまでが長く（275ページ以降に現れる）、読み手のモチベーションがどこまで続くのかはよく分からない
  • 機械学習以前の話が多かったり SVM が一番厚く取り上げられていたりしてトピックはいまいち同意ができなかった

独力で車輪の再発明をするのは良いことだと思う

TL;DR

  • 知人と話して自分の力で車輪の再発明をするのは良いことだという話をした
  • 出した結論が既知であっても、その過程は自身の胸裡に財産として積み重なっていく
  • そのような積み重ねが理解を深めたり新しいことを発想する土台になると思う
  • どんどん車輪の再発明をしていこう

肩こり対策に関して見直してみる

TL;DR

  • 今年の目標の一つに「肩こり許すまじ」がある
  • 肩こりに良さそうなことを年初から色々と試してみているので、その効果のほどを振り返ってみる
  • 多少効果があるものもあるが、机での作業時間が支配的な気がするのでより良い方法を考える必要がありそう

機械学習の理論と実装はどう学んでいくと良いのだろうか

TL;DR

  • 機械学習エンジニアは理論と実装の両方が求められる場合が少なくない
  • この二つは割と異なる学びの過程がある気がしているが、自分を例にとってそれを考えてみる
  • かなり強引に言うなら、理論は要素を積み重ねて全体を理解するやり方で、実装は全体から必要な要素を削り出していくやり方、な気がする
  • 自分は実装に関してはどうトレーニングを積んでいくのが良いかいまいち分かっていない

「マリオオデッセイ」をクリアした

TL;DR

  • switch でマリオオデッセイをクリアした
  • ムーン 500 個集めて月の国もっと裏までクリアしたので結構頑張った
  • 前評判通りで完成度が高いゲームだった、満足

数理科学「機械学習の数理」を読んだ

TL;DR

  • 数理科学201808号「機械学習の数理」を読んだので感想を書いておく
  • トピックは幅広くて眺めていて面白いが、基礎となる数理というより応用例みたいな感じ
  • （致し方ないことだが）頁数的に説明が省略気味なので数式を追うのは結構辛い

ReLU6 とは何者なのか？

TL;DR

  • MobileNet で使われていることで有名な ReLU6 を復習してみた
  • 初出の論文（と思われるもの）では sparse feature を得るために使うという導入だった
  • MobileNet の文脈では固定小数点数の演算に適している（上限を与えない場合と比べて resolution が高い）
  • とはいえ 6 は実験によって決めるべきパラメタでしかなく、それ以上に深い意味はない（と思う）

Chrome で Overleaf v2 を使う

TL;DR

  • Overleaf の version 2 が出たので試してみた
  • Chrome で遭遇するエディタのカーソルがズレる問題を解決した（フォントのカスタマイズで固定幅フォントを「Monaco」にする）
  • reference search など新しい機能が使えて全体的に良い感じ
  • 具体的な例は こちら

A Mini-Introduction To Information Theory を眺めてみた

TL;DR

  • ひょんなことから Witten が書いたレビュー論文を眺めてみた
  • 特に前半の古典の話は物理っぽい書き方で好き（Stirling の公式は前提となるが）
  • 古典と量子の違いは意識的に書かれていて読みやすかった
  • 分からないところも色々あるが、そのうち何かのきっかけでちゃんと勉強するかもしれない（しなそう）

「ベヨネッタ２」をクリアした

TL;DR

  • switch でベヨネッタ２をクリアした
  • ノーマル全クリとハード一部、それとウィッチトライアルをクリアしてロダンも倒した
  • 面白かったけど個人的には前作の方が良かった（単に思い出補正の可能性あり）
  • ウィッチトライアルとロダンが難しくてストレスが溜まった。ゲームでストレス良くない

咳がヤバイ

TL;DR

  • GW終盤から発生した断続的な咳が治らずヤバイ
  • 二度ほど病院に行ったが根本的な原因は分からず。アレルギーも絡んだ喘息のような感じがするが果たして…
  • こうすれば快方に向かうというのが分からないというのはかなりのストレスであることに気付かされた

機械学習をやる上で線形代数のどのような知識が必要になるのか

TL;DR

  • 「機械学習をやるなら線形代数はやっとけ」的な話が出るけど具体的な話があまり見当たらない
  • 研究でなく実務レベルで機械学習を扱う場合にどのような線形代数の知識が必要になるのか考えてみた
  • 高校でやるベクトル・行列＋αくらいあれば概念的には十分で、計算が苦じゃない基礎体力が重要では？

Deep Learning with Python を読んだ

TL;DR

  • Deep Learning with Python を読んだ
  • よく書かれている本で、特に初学者〜中級者が Keras を使ってモデル構築ができるようになるには最適
  • 扱っているトピック自体は他の本と比べてそこまで変わっていないが、一つ一つの質は高い
  • 個人的には Keras の実装の話などをもっとして欲しかった

「ゼルダの伝説 ブレス オブ ザ ワイルド」をクリアした

TL;DR

  • switch を買った
  • ゼルダの伝説 ブレス オブ ザ ワイルド をクリアした
  • 純粋に素晴らしく、いまの自分が他人の作ったゲームでこんなに楽しめるなんて思ってなかった
  • 開発エピソードを眺めたりすると良い作品を作るには良い手法が重要なんだなぁと思う

確定申告の提出書類を作成した

TL;DR

  • 平成29年分の確定申告の提出書類を作成した
  • 検討の結果、会計ソフトなどは何も使わずに全て自分で作成した
  • 作ったのは確定申告書Bと青色申告決算書と医療費控除の明細書

MiSTEL BAROCCO MD600 を買った

TL;DR

  • MiSTEL BAROCCO MD600 分離式 英語配列 茶軸 を購入
  • 付属品のケーブルが短くてキーボードがあまり離せないので、micro(B)オス-mcro(B)オスのケーブルも購入
  • マクロプログラムモードでキーの割当をする場合にwindows環境でのファームウェアupgradeが必要かも

2017年のまとめ

TL;DR

  • 2017年も頑張った、何はともあれ自分を褒める
  • 2017年は仕事の時間が長かったので、2018年はもう少し時間配分を変えよう

Dynamic Routing Between Capsules を読んだ

TL;DR

  • neuron をまとめてベクトル化した capsule という概念を導入。各成分は特徴量の表出を parametrize
  • routing という手法を導入し、in と out の内積値で低次カプセルから高次カプセルへの値の受け渡しを記述
  • CapsNet というモデルを具体的に構成し、特に MNIST の画像を重ねた MultiMNIST で高い性能を発揮
  • capsule は CNN では効率的に扱えてない平行移動以外のアフィン変換を効率的に扱い得るもので、発展性がある

Googleの超解像RAISRの論文を読んだ（その２）

TL;DR

  • その１の内容は理解しているという前提で進める
  • 画像を同じような輝度勾配情報を持つbucketに分け、ローカルの情報を考慮してフィルタを学習する
  • 処理高速化のために勾配情報をハッシュ化したテーブルを構築する
  • 他のstate of the artと比べて遜色のない精度で、速度は2桁も速い

Googleの超解像RAISRの論文を読んだ（その１）

TL;DR

  • その１では RAISR の話はせず、前段となる定式化や基本的概念を説明する
  • 基本となる考えは、bilinear補間のようなcheapな補間にさらにフィルタを適用して高精度化するというもの
  • フィルタの学習には低解像度画像と高解像度画像のペアを用いる
  • 学習したフィルタはバンドパスフィルタのような振る舞いをすることが示された

ブログ開始

TL;DR

  • ブログを始めた
  • 日々のあれこれを書いていくことにする