複数写真から自由視点画像を生成　Googleなど「NeRF」開発

米カリフォルニア大学バークレー校、米Googleの研究部門であるGoogle Research、米カリフォルニア大学サンディエゴ校による研究チームが開発した「NeRF」は、さまざまな角度から撮影した写真を機械学習を用いて処理し、自由な視点から見られる画像を生成する技術だ。

この技術を用いて出力した画像は、見る視点を変えても、その視点に合わせた新しい画像が連続的に生成されるため、立体感を保ったまま閲覧できる。

　この画像を生成するために、MLP（Multilayer perceptron）ニューラルネットワークで学習する。特徴的なのが、機械学習で画像生成を行う際に一般的に用いられるCNN（Convolutional Neural Network）を使っていないこと。CNNなしで従来の類似研究より高精度な成果を出せたという。

学習したモデルは、撮影した画像の各点の位置（複数視点の3次元座標）と見る角度（2次元の視線方向）を入力として物体の密度と色（RGB）を予測し、これを基に画像を合成する。合成した画像は、光の反射も再現しており、見る視点を変更すると同時に反射具合が変わるため、写実的な表現と感じ取ることができる。

　出力した画像内の手前にある物体の後ろにバーチャルオブジェクトを隠すオクルージョンも可能だ。