東京大学のDeep Learning基礎講座の演習コンテンツを無償公開しました。松尾研で作成したもので、ニューラルネットの基礎から始まり、CNN、RNN、Attentionまで網羅。個人の勉強にぜひお使いください。（商業利用不可）
weblab.t.u-tokyo.ac.jp/en/deep-learni…
DLHacks
897 posts
DLHacks
@DL_Hacks
DeepLearningに関する勉強会（輪読、実装会）。 東京大学松尾豊研究室、Deep Learning JPのメンバーが中心に運営しています。DeepLearningのニュースや論文・実装などをツイートします。youtube.com/@DL-vk7ug
Joined July 2017
- ニューラルネットの更新を微分方程式としてみるという全く新しい概念を提案。NeurIPSのベストペーパー。ここ最近読んだ中で一番面白かった論文（個人的感想）。 slideshare.net/DeepLearningJP…
- 【松尾研Diffusion勉強会資料公開】 拡散モデルの数理的な背景を解説。拡散モデルは無限層VAEとスコアマッチングという2つの方向から導出できるが、両者は確率微分方程式を用いることで統一的に解釈できる。
- 松尾研内で有志で開催されている、Diffusionに関する勉強会についての資料を展開します。 拡散モデルの数理的な背景を解説。拡散モデルは無限層VAEとスコアマッチングという2つの方向から導出できるが、両者は確率微分方程式を用いることで統一的に解釈できる。
- DeepMindが提案したGenerative Query Network（GQN）について，深層生成モデル（VAE）の基礎から説明した．合わせて，複数のGQN系関連研究についても紹介し，GQNと世界モデルの関係についても説明した． slideshare.net/DeepLearningJP…
- 深層学習異常検知に関わる包括的かつ体型的なまとめ論文。 深層異常検知の各手法ごとの説明だけでなく、 現実世界の様々な領域に対しての異常検知の活用・研究状況や課題について言及されている。
- GANを用いた異常検知。GANを用いることにより、異常データがほとんどない場合でも異常の検出を可能にする。pixelレベルとpatchレベルの2つのネットワークを用いてend-to-endな効率的なモデルが提案された。 slideshare.net/DeepLearningJP…
- ガウス過程は，その性能の高さから様々な分野で利用されているが，計算量がO(N^3)と膨大であることが知られている．本研究では，入力空間ではなく，再生核ヒルベルト空間でミニバッチ学習による最適化をするGPNetを提案． slideshare.net/DeepLearningJP…
- 深層生成モデル(特にVAE)を用いた表現学習に関するサーベイ．VAEでは，「良い表現」を学習するために，正則化項を加えたり分布に制約を加えたりする．最近，相互情報量に基づくモデルやmetricベースの手法が数多く提案されており，それらも俯瞰的にまとめている．
- DeepMind社のCEO，Demis Hassabis氏による人工知能研究と神経科学分野の研究の相互作用に関するレビュー論文．今後，人工知能研究に応用できる可能性のある神経科学上の知見をまとめている． slideshare.net/DeepLearningJP…
- 松尾研が主体となって翻訳したGoodfellow氏のDeepLearningの日本語版が2/28に出版決定。DeepLearningの教科書的な本です。 amazon.co.jp/%E6%B7%B1%E5%B…
- 【松尾研Diffusion勉強会資料公開】 拡散モデルへの時刻の入力の有無の影響を調査．時刻の有無で最適解がほとんど変化しないことを証明した．実際，拡散モデルで時刻を入力せずに学習すると性能は低下するが大幅には低下しない．フローマッチングだけは性能向上する．
- Google BrainやDeepMind，UCバークレーを中心に活発に研究されている，オフライン強化学習のSergey Levine先生によるレビュー論文をまとめた．医療や実ロボットなど実環境での探索が難しい問題での活用が見込まれ，データドリブンな強化学習への道が開きつつある．slideshare.net/DeepLearningJP…
- 手法が興味深い「LLMのハルシネーション検出手法」を2つ紹介。正解ラベル不要でシンプル。１つは商用LLMでの利用も可。ディープラーニングの他領域の研究に手法や考え方の応用可能性あり。実装も公開。
