| 講演抄録／キーワード |
| 講演名 |
2026-09-04 09:30
異種モデルを用いたデータセット蒸留におけるマルチタスク勾配統合の検討
○向瀬友哉・顧 淳祉・李 文敏・長谷川達人（福井大） |
| 抄録 |
（和） |
データセット蒸留は大規模データを少数の合成データに集約する枠組みであるが，特定のモデルで蒸留した合成データは，異なるアーキテクチャで評価した場合に性能が低下することがある．そこで本研究では，その一因としてモデル間の勾配方向の不一致に着目した．HMDCは複数モデルの勾配規模と特徴表現を整合するが，勾配方向は直接扱わないため，後段にPCGrad，GBM，GradDropを適用し，アーキテクチャ間汎化性能への影響を検証した．CIFAR-10実験では，Raw Avgで大きな勾配規模差を確認し，GradDropはHMDC基準条件と比較して，UnseenとOverallで改善傾向を示した． |
| （英） |
Dataset distillation condenses a large dataset into a small synthetic dataset; however, synthetic data distilled using a specific model may perform poorly when evaluated with different architectures. We focus on model-specific discrepancies in gradient directions as one possible cause. Although HMDC aligns gradient magnitudes and feature representations across multiple models, it does not directly address gradient directions. Therefore, we applied PCGrad, GBM operation, and GradDrop after HMDC and evaluated their effects on cross-architecture generalization. Experiments on CIFAR-10 revealed a large gradient-magnitude imbalance under Raw Avg, while GradDrop tended to improve Unseen and Overall performance compared with the Native HMDC baseline. |
| キーワード |
（和） |
データセット蒸留 / 異種モデル / マルチタスク学習 / / / / / |
| （英） |
Dataset Distillation / Heterogeneous Models / Multi-Task Learning / / / / / |
| 文献情報 |
映情学技報, vol. 50, no. 24, ME2026-74, pp. 1-6, 2026年9月. |
| 資料番号 |
ME2026-74 |
| 発行日 |
2026-08-28 (ME) |
| ISSN |
Online edition: ISSN 2424-1970 |
| PDFダウンロード |
|
| 研究会情報 |
| 研究会 |
IEICE-LOIS ME IEE-CMN |
| 開催期間 |
2026-09-03 - 2026-09-04 |
| 開催地（和） |
北九州学術研究都市（FIT2026と併催） |
| 開催地（英） |
Kitakyushu Science and Research Park |
| テーマ（和） |
マルチメディア通信/システム，ライフログ活用技術，IP放送/映像伝送，メディアセキュリティ，メディア処理(AI，深層学習)，一般 |
| テーマ（英） |
|
| 講演論文情報の詳細 |
| 申込み研究会 |
ME |
| 会議コード |
2026-09-LOIS-ME-CMN |
| 本文の言語 |
日本語 |
| タイトル（和） |
異種モデルを用いたデータセット蒸留におけるマルチタスク勾配統合の検討 |
| サブタイトル（和） |
|
| タイトル（英） |
Multi-Task Gradient Aggregation for Dataset Distillation with Heterogeneous Models |
| サブタイトル（英） |
|
| キーワード(1)（和/英） |
データセット蒸留 / Dataset Distillation |
| キーワード(2)（和/英） |
異種モデル / Heterogeneous Models |
| キーワード(3)（和/英） |
マルチタスク学習 / Multi-Task Learning |
| キーワード(4)（和/英） |
/ |
| キーワード(5)（和/英） |
/ |
| キーワード(6)（和/英） |
/ |
| キーワード(7)（和/英） |
/ |
| キーワード(8)（和/英） |
/ |
| 第1著者 氏名（和/英/ヨミ） |
向瀬 友哉 / Yuya Mukose / ムコセ ユウヤ |
| 第1著者 所属（和/英） |
福井大学 (略称： 福井大)
University of Fukui (略称： Univ. of Fukui) |
| 第2著者 氏名（和/英/ヨミ） |
顧 淳祉 / Chunzhi Gu / グー チュンジー |
| 第2著者 所属（和/英） |
福井大学 (略称： 福井大)
University of Fukui (略称： Univ. of Fukui) |
| 第3著者 氏名（和/英/ヨミ） |
李 文敏 / Wenmin LI / リ ウェンミン |
| 第3著者 所属（和/英） |
福井大学 (略称： 福井大)
University of Fukui (略称： Univ. of Fukui) |
| 第4著者 氏名（和/英/ヨミ） |
長谷川 達人 / Tatsuhito Hasegawa / ハセガワ タツヒト |
| 第4著者 所属（和/英） |
福井大学 (略称： 福井大)
University of Fukui (略称： Univ. of Fukui) |
| 第5著者 氏名（和/英/ヨミ） |
/ / |
| 第5著者 所属（和/英） |
(略称： )
(略称： ) |
| 第6著者 氏名（和/英/ヨミ） |
/ / |
| 第6著者 所属（和/英） |
(略称： )
(略称： ) |
| 第7著者 氏名（和/英/ヨミ） |
/ / |
| 第7著者 所属（和/英） |
(略称： )
(略称： ) |
| 第8著者 氏名（和/英/ヨミ） |
/ / |
| 第8著者 所属（和/英） |
(略称： )
(略称： ) |
| 第9著者 氏名（和/英/ヨミ） |
/ / |
| 第9著者 所属（和/英） |
(略称： )
(略称： ) |
| 第10著者 氏名（和/英/ヨミ） |
/ / |
| 第10著者 所属（和/英） |
(略称： )
(略称： ) |
| 第11著者 氏名（和/英/ヨミ） |
/ / |
| 第11著者 所属（和/英） |
(略称： )
(略称： ) |
| 第12著者 氏名（和/英/ヨミ） |
/ / |
| 第12著者 所属（和/英） |
(略称： )
(略称： ) |
| 第13著者 氏名（和/英/ヨミ） |
/ / |
| 第13著者 所属（和/英） |
(略称： )
(略称： ) |
| 第14著者 氏名（和/英/ヨミ） |
/ / |
| 第14著者 所属（和/英） |
(略称： )
(略称： ) |
| 第15著者 氏名（和/英/ヨミ） |
/ / |
| 第15著者 所属（和/英） |
(略称： )
(略称： ) |
| 第16著者 氏名（和/英/ヨミ） |
/ / |
| 第16著者 所属（和/英） |
(略称： )
(略称： ) |
| 第17著者 氏名（和/英/ヨミ） |
/ / |
| 第17著者 所属（和/英） |
(略称： )
(略称： ) |
| 第18著者 氏名（和/英/ヨミ） |
/ / |
| 第18著者 所属（和/英） |
(略称： )
(略称： ) |
| 第19著者 氏名（和/英/ヨミ） |
/ / |
| 第19著者 所属（和/英） |
(略称： )
(略称： ) |
| 第20著者 氏名（和/英/ヨミ） |
/ / |
| 第20著者 所属（和/英） |
(略称： )
(略称： ) |
| 第21著者 氏名（和/英/ヨミ） |
/ / |
| 第21著者 所属（和/英） |
(略称： )
(略称： ) |
| 第22著者 氏名（和/英/ヨミ） |
/ / |
| 第22著者 所属（和/英） |
(略称： )
(略称： ) |
| 第23著者 氏名（和/英/ヨミ） |
/ / |
| 第23著者 所属（和/英） |
(略称： )
(略称： ) |
| 第24著者 氏名（和/英/ヨミ） |
/ / |
| 第24著者 所属（和/英） |
(略称： )
(略称： ) |
| 第25著者 氏名（和/英/ヨミ） |
/ / |
| 第25著者 所属（和/英） |
(略称： )
(略称： ) |
| 第26著者 氏名（和/英/ヨミ） |
/ / |
| 第26著者 所属（和/英） |
(略称： )
(略称： ) |
| 第27著者 氏名（和/英/ヨミ） |
/ / |
| 第27著者 所属（和/英） |
(略称： )
(略称： ) |
| 第28著者 氏名（和/英/ヨミ） |
/ / |
| 第28著者 所属（和/英） |
(略称： )
(略称： ) |
| 第29著者 氏名（和/英/ヨミ） |
/ / |
| 第29著者 所属（和/英） |
(略称： )
(略称： ) |
| 第30著者 氏名（和/英/ヨミ） |
/ / |
| 第30著者 所属（和/英） |
(略称： )
(略称： ) |
| 第31著者 氏名（和/英/ヨミ） |
/ / |
| 第31著者 所属（和/英） |
(略称： )
(略称： ) |
| 第32著者 氏名（和/英/ヨミ） |
/ / |
| 第32著者 所属（和/英） |
(略称： )
(略称： ) |
| 第33著者 氏名（和/英/ヨミ） |
/ / |
| 第33著者 所属（和/英） |
(略称： )
(略称： ) |
| 第34著者 氏名（和/英/ヨミ） |
/ / |
| 第34著者 所属（和/英） |
(略称： )
(略称： ) |
| 第35著者 氏名（和/英/ヨミ） |
/ / |
| 第35著者 所属（和/英） |
(略称： )
(略称： ) |
| 第36著者 氏名（和/英/ヨミ） |
/ / |
| 第36著者 所属（和/英） |
(略称： )
(略称： ) |
| 講演者 |
第1著者 |
| 発表日時 |
2026-09-04 09:30:00 |
| 発表時間 |
20分 |
| 申込先研究会 |
ME |
| 資料番号 |
ME2026-74 |
| 巻番号（vol） |
vol.50 |
| 号番号（no） |
no.24 |
| ページ範囲 |
pp.1-6 |
| ページ数 |
6 |
| 発行日 |
2026-08-28 (ME) |