初期のモデル(ネオコグ二トロン)は1982年に，福島邦彦さんによって考え出された人間のもつ視覚野の神経細胞(S細胞とC細胞)の２つの働きを模したもの1998年に，ヤン・ルカン氏によってLeNetと呼ばれるモデルが考えられるネオコグ二トロンは勾配計算はしないが，LeNetはバックプロパゲーション（勾配計算）を行う畳み込みに用いるフィルターをどのようにすれば良いか学習する「位置ずれ」に強いので画像処理に適している2012年にILSVRCで圧倒的な精度で優勝したAlexNetが出てくる CNN (Convolutional Neural Network)についてCNNは，通常のニューラルネットワークとよく似ています． 学習可能な重みとバイアスを持つニューロンで構成されているため，一般的なニューラルネットワークが理解できれば，それほど難しいものではありません． CNNではただ単に，入力データが画像
事前知識 テンソルで理解しておくべきことは意外と少ない 畳み込みとは 畳み込み 畳み込みニューラルネット 畳み込みニューラルネットの畳み込み処理 空間フィルタ 畳み込み層 RGB画像を扱う場合 畳み込み層まとめ 分類の方法について プーリング層 活性化関数 全体のまとめ 事前知識 テンソルで理解しておくべきことは意外と少ない 畳み込みニューラルネットワークでは非常にたくさんの添字が現れます。 しかし決して難しいものではありません。実はとてもシンプルな処理を繰り返しているだけです。そのことを理解するためには、テンソルの概念を知っておくと便利です。 言葉が聞き慣れないだけで全く難しくありません。 テンソルのインターネットで検索すると何やら難しい話が出てきます。 以下はWikipediaの引用です（読む必要ありません。テンソルって聞くとこんな話が出てきますが、気にしないでくださいということが言い
Deleted articles cannot be recovered. Draft of this article would be also deleted. Are you sure you want to delete this article? 「1x1畳み込みを使うと計算効率がよくなるよ」という話は聞いたことあっても、具体的にどれだけ良くなるのかを理論的に議論されることはあまり多くないように思います。自分の理解も含めて、一度これをちゃんと整理したいと思います。少し数式多めですがご勘弁ください。 実験のコードはこちらにあります。 https://github.com/koshian2/Inception-bottleneck Summary 入力チャンネルがc, 出力がf, $c=\beta f$で、ボトルネックでのチャンネル圧縮が$\frac{f}{\alpha}$のとき、ボ
TL;DL MobileNetsはDepthwise Separable Convolutionを用いることで、通常のCNNと比べて軽いネットワークを構築することがでる。また2つのハイパーパラメータである、width multiplierとresolution multiplierを導入することで、latencyとaccuracyを調節することができる。この技術を用いることで、性能や応答時間に制限があるモバイル上のアプリケーションなどにおいても認識や分類モデルへの応用が可能になる。 MobileNet Architecture Depthwise Separable Convolution depthwise separable convolutions depthwise convolution pointwise convolution (1×1 convolution) という構造に
こんにちは Ryobot (りょぼっと) です． テンソル分解は 2017 年の密かなブームだったかもしれない． 論文数は多くないが，テンソル分解を用いた手法が中規模言語モデル [1]，大規模言語モデル [2]，機械翻訳 (本紙) [3]，動作認識 [4] で軒並み SOTA を達成している． Breaking the Softmax Bottleneck: A High-Rank RNN Language Model [1] Factorization tricks for LSTM networks [2] Depthwise Separable Convolutions for Neural Machine Translation [3] Learning Compact Recurrent Neural Networks with Block-Term Tensor Decompo
by m01229 1989年にMac OSとAmiga OS向けに発売された「シムシティ」は、何も建造物のない土地に住宅地や工業地区、鉄道などを設置して自分の好きなように都市を作ることができる人気シミュレーションゲームです。この「シムシティ」シリーズを遊んできたプレイヤーの中には現実でも都市設計に携わる仕事に就く人も登場しているとのことで、本業の人が「シムシティ」シリーズをどのように評価しているのかについてLos Angeles Timesがまとめています。 From video game to day job: How ‘SimCity’ inspired a generation of city planners - Los Angeles Times https://www.latimes.com/business/technology/la-fi-tn-simcity-inspi
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
