| 講演抄録／キーワード |
| 講演名 |
2022-02-22 15:20
画像注視時の脳活動信号を用いた圧縮再構成ネットワークに基づく視覚認知内容の推定に関する検討
○東 孝明・前田圭介・小川貴弘・長谷山美紀（北大） |
| 抄録 |
（和） |
本稿では，画像注視時に取得される脳活動信号を用いた，注視画像の再構成に関する検討を行う．具体的に，注視画像を再構成可能な圧縮再構成ネットワークを構築し，中間層から潜在変数として取得される画像の圧縮表現を脳活動信号を用いて推定可能とすることで，圧縮再構成ネットワークのデコーダによる注視画像の再構成を実現する．さらに，提案手法では多入出力な圧縮再構成ネットワークを構築し，注視画像に加え，注視画像から得られる画像特徴量も再構成可能とすることで，画像の意味的な情報を考慮した潜在変数の抽出を可能とする．画像の意味的な情報の考慮により，脳活動信号からの潜在変数の推定精度およびデコーダによる画像再構成精度の向上が期待できる． |
| （英） |
In this paper, we propose a method to reconstruct a perceived image using brain signals obtained during gazing images. Specifically, a compressive reconstruction network, which can reconstruct a perceived image, is constructed. We estimate the compressed representation of the perceived image obtained as latent variables from brain signals, and the decoder of the compressive reconstruction network can reconstruct the perceived image. Furthermore, in our method, we construct a multimodal compressive reconstruction network that can reconstruct not only a perceived image but also visual features of the image. Then, latent variables considering semantic information of the perceived image can be extracted. By taking account of semantic information of the perceived image, it is expected to improve both the estimation accuracy of the compressed representation and the reconstruction accuracy of the perceived image. |
| キーワード |
（和） |
brain decoding / functional magnetic resonance imaging / convolutional neural network / 機械学習 / multimodal VAE / / / |
| （英） |
brain decoding / functional magnetic resonance imaging / convolutional neural network / machine learning / multimodal VAE / / / |
| 文献情報 |
映情学技報, vol. 46, no. 6, ME2022-53, pp. 349-353, 2022年2月. |
| 資料番号 |
ME2022-53 |
| 発行日 |
2022-02-14 (MMS, ME, AIT) |
| ISSN |
Print edition: ISSN 1342-6893 Online edition: ISSN 2424-1970 |
| PDFダウンロード |
|
|