Vision and Languageモデルの学習には非常に大きなデータセットが必要といわれている。そのデータセットを小さく圧縮する論文があったので読んでみた。論文：Too Large; Data Reduction f […]
[論文読み] Vision-Language学習データセットを圧縮：Too Large; Data Reduction for Vision-Language Pre-Training
カテゴリー: 機械学習
[論文読み] シンプルなカリキュラム学習で精度を保って高速化 EfficientTrain: Exploring Generalized Curriculum Learning for Training Visual Backbones
単純なアイデアで学習精度を保ったまま高速化を実現した、カリキュラム学習の論文を読んだ。 論文：EfficientTrain: Exploring Generalized Curriculum Learning for T […]
[論文読み] 高速にunlearningを実現、Boundary Unlearning
読んだ論文：Boundary Unlearning (CVPR 2023) どんなもの？ Unlearning手法の一つとしてboundary unlearningという手法を提案。boundary unlearning […]
[論文読み] 未ラベル画像を大量に使用し高精度 Depth Anything: Unleashing the Power of Large-Scale Unlabeled Data
TikTokから出ている単眼深度推定の論文「Depth Anything: Unleashing the Power of Large-Scale Unlabeled Data」を読みました。 URL: https:// […]
[論文読み] NuScenes-MQA: Integrated Evaluation of Captions and QA for Autonomous Driving Datasets using Markup Annotations
LLMを活用して完全自動運転を目指すTuring社からの論文を読みました。 論文：NuScenes-MQA: Integrated Evaluation of Captions and QA for Autonomous […]
[論文読み] Global Features are All You Need for Image Retrieval and Reranking
Global Features are All You Need for Image Retrieval and Reranking (https://arxiv.org/abs/2308.06954) ICCV 202 […]
[論文読み] Tracking Everything Everywhere All at Once
論文：Tracking Everything Everywhere All at Once（ICCV 2023）デモページ：https://omnimotion.github.io/ どんなもの？ OmniMotionと […]
[書評]『 大規模言語モデルは新たな知能か』を読んだ
大規模言語モデルに関連する知識を俯瞰的に見につけようと思い、まずは『大規模言語モデルは新たな知能か』から読み始めた。初学者やChatGPTなどのLLMシステムを使用する人が、いったいどのような仕組みで、大規模言語モデルが […]
[論文読み] DeepMAD: Mathematical Architecture Design for Deep Convolutional Neural Network
CNNの構造をmathematical programmingで探索することで短時間で高性能なモデルを探索した論文を読んだのでメモ。 論文：DeepMAD: Mathematical Architecture Desig […]
【論文読み】Point Transformer
一言でいうと Vision Transoformerを使って点群データを処理する方法を考案 論文リンク https://arxiv.org/abs/2012.09164 著者所属機関 Hengshuang Zhao1 L […]