CNNの構造をmathematical programmingで探索することで短時間で高性能なモデルを探索した論文を読んだのでメモ。 論文：DeepMAD: Mathematical Architecture Desig […]
カテゴリー: 論文
【論文読み】Point Transformer
一言でいうと Vision Transoformerを使って点群データを処理する方法を考案 論文リンク https://arxiv.org/abs/2012.09164 著者所属機関 Hengshuang Zhao1 L […]
Pinterestにおける機械学習システムの性能改善論文：『Shop The Look: Building a Large Scale Visual Shopping System at Pinterest』
概要 KDD 2020 Applied Data Science Track Paper の以下の論文を読んだ。 Shop The Look: Building a Large Scale Visual Shopping […]
機械学習パイプラインのデバッガについての論文：Debugging Machine Learning Pipelines
タイトルの通り、機械学習パイプラインのデバッグを行うツールを開発した論文「Debugging Machine Learning Pipelines」を読んだ。 International Workshop on Data […]
Embeddingの違いによる後段タスクへの影響推定：Understanding the Downstream Instability of Word Embeddings
MLSys 2020の論文より。Embeddingが異なった場合、後段のNLPタスクに対してどれだけの影響があるかを、後段モデルの訓練を行わないで推定しようという論文の「Understanding the Downstr […]
ニューラルネットワークのPruningをメタアナリシスした論文：What is the State of Neural Network Pruning?
MLSys 2020という学会で発表された面白そうな論文を読んだ。タイトルは「What is the State of Neural Network Pruning?」で、Neural Network Pruningにつ […]
対話生成におけるマルチカリキュラム学習の活用論文：Learning from Easy to Complex Adaptive Multi-curricula Learning for Neural Dialogue Generation
AAAI 2020の論文「Learning from Easy to Complex: Adaptive Multi-curricula Learning for Neural Dialogue Generation」よ […]
文字認識をWatermarkで騙す手法の論文：「Attacking Optical Character Recognition (OCR) Systems with Adversarial Watermarks」
「Attacking Optical Character Recognition (OCR) Systems with Adversarial Watermarks」という論文を読んだ。 概要 OCRシステムを騙すための […]
論文読み：Squeeze-and-Excitation Networks
元論文：Squeeze-and-Excitation Networks 最近良くCNN関連のタスクでよく使われる手法なので、論文を読んでみたときのメモ。 ググると他にも詳しい解説記事があるので、あくまでも個人的なメモとし […]
小規模データセットに対するニューラルネットの汎化性能の理由に迫る論文：Modern Neural Networks Generalize on Small Data Sets
NeurIPS 2018の論文で「Modern Neural Networks Generalize on Small Data Sets」という論文があったので読んでみた。 ニューラルネットは大規模データで成功を収めて […]