AIスタートアップ

セミナー情報

【第41回AIセミナー】「ABCIグランドチャレンジ2019成果報告会」

終了しました。

AI橋渡しクラウド（AI Bridging Cloud Infrastructure、ABCI) は、国立研究開発法人産業技術総合研究所が構築・運用する、世界最大規模の人工知能処理向け計算インフラストラクチャであり、2018年8月に運用が開始されました。ABCIの狙いは、550ペタフロップス（半精度）という膨大なAI処理能力を研究者や開発者に提供することにより、我が国のAI／ビッグデータ処理の進歩を加速することです。産総研では、ABCIを用いて莫大な演算能力によりはじめて可能になる人工知能分野の最重要課題への挑戦を支援するため、「ABCIグランドチャレンジ」プログラムを実施しています。本プログラムは、ABCIがもつ最大計算ノード数である1,088ノード（4,352GPU）を最大24時間、無償で、1チームでの占有利用ができる公募型チャレンジプログラムです。本セミナーでは、2019年に実施されたABCIグランドチャレンジ2019の参加者を講師としてお招きして、各チームでのチャレンジの内容や成果、今後の取り組みについてご紹介いただきます。

＜新型コロナウイルスの対応について＞
【参加者の皆さまへのお願い】
・発熱などの症状がある方は来場をご遠慮ください。
・新型コロナウイルスへの感染の疑いがある方は来場をご遠慮ください。
・ご来場の際には、手洗い、消毒液のご利用、マスクの着用等、感染予防対策へのご協力をよろしくお願いいたします。
受付時にも同様の確認を行います。
条件に該当した方の参加・入場は、その場でお断りする場合もございます。ご協力・ご理解のほどよろしくお願いいたします。

名称	【第41回AIセミナー】「ABCIグランドチャレンジ2019成果報告会」
日時	2020年2月21日（金）15：00 - 17：20（開場14:20）
受付時間	14:20〜17:20
場所	東京都江東区青海二丁目5番10号テレコムセンタービル東棟14階
URL	https://mono.jpn.com/telecom-center-access/
定員	200名
参加登録	https://airc.doorkeeper.jp/events/103503
参加費用	無料
主催	産業技術総合研究所人工知能研究センター
連絡先	人工知能セミナー窓口
セミナー詳細	本セミナーは、国立研究開発法人新エネルギー産業技術総合開発機構（NEDO）による委託事業「次世代人工知能・ロボット中核技術開発（次世代人工知能分野）」による活動となります。
注意事項・他の方に参加の機会をお譲りするためにも、参加ができないと分かった場合は早めのキャンセルをお願いします。・産総研は、お送りいただいた情報をセミナー運営以外の目的には使用しません。・懇親会の予定はありません。

お申込み

プログラム

15:00-15:10	「ABCIグランドチャレンジ2019概要」小川　宏高産業技術総合研究所人工知能研究センター／実社会ビッグデータ活用オープンイノベーションラボラトリ研究チーム長／ラボ長
	概要 AI橋渡しクラウド（ABCI）は世界トップクラスの実効性能と省電力性能を有する、わが国の人工知能技術開発のためのオープンで先進的な高速計算基盤である。ABCIの目的は、産学官連携や多様な事業者による利用を促進し、高い計算能力を活用した人工知能技術の研究開発・実証を加速するとともに、人工知能分野の最重要課題に挑戦することである。その活動の一環として、産総研では莫大な演算能力によりはじめて可能になる人工知能分野の最重要課題への挑戦を支援するため、「ABCIグランドチャレンジ」プログラムを実施している。本発表ではABCIグランドチャレンジ2019の実施概要を報告する。
	略歴 1998年東京大学大学院工学系研究科博士課程中退 1998-2003年東京工業大学大学院情報理工学研究科助手 2003-現在産業技術総合研究所人工知能研究センター人工知能クラウド研究チーム長、実社会ビッグデータ活用オープンイノベーションラボラトリラボ長を兼務。博士（理学）。講演の撮影講演中の撮影可否 : 未定
15:10-15:30	「大規模深層学習における学習時間最小化への挑戦」笠置　明彦株式会社富士通研究所シニアリサーチャー
	概要 ABCIグランドチャレンジにおいて、我々は巨大ミニバッチによる分散並列深層学習の高速化を実施した。画像認識に用いられるResNet-50を用いて多数のGPUによるデータ並列学習を行い、ILSVRC2012のデータセットに対して精度が75.9%を超えるまでの実行時間を計測する。我々はこれまでABCIの512ノード(2048GPU)を用いたResNet-50の学習高速化を実施してきたが、本ABCIグランドチャレンジでは全てのノードが利用可能であるため、上記ResNet-50の学習をどこまで高速化できるか挑戦した。 1分以内での学習完了を目標に挑戦したが、巨大ミニバッチによる分散並列深層学習特有の課題に直面。最終的に768ノード(3072GPU)を用いて62.1秒での学習完了を達成した。
	略歴 2015年広島大学情報工学科博士課程後期を修了。同年、株式会社富士通研究所に入社。アクセラレータを用いた大規模な分散並列処理の高速化に従事。現在は深層学習を対象に高速化研究に携わる。講演の撮影講演中の撮影 : 可能講演資料公開予定なし
15:30-15:50	「想定外を想定する津波即時予測AIの構築」大石　裕介株式会社富士通研究所　主任研究員
	概要津波予測における想定外回避に向け，大量の学習データを用いて，沖合の津波波形から沿岸付近の津波を即時予測するAIの構築を行った．ランダム生成された津波波源に基づくデータの学習に関し，MXNetで実装したニューラルネットワークの処理速度は，約36.2 PFLOPSに達した．構築した津波予測AIの予測精度を測定したところ，最大波高の予測値と正解値との相関係数は0.99を超え，十分な予測性能が得られた．
	講演の撮影講演中の撮影可否 : 未定講演資料公開予定なし
15:50-16:10	「ABCIを活用した大規模分散DNN学習への取り組み」田中義己ソニー株式会社　シニアAIシステムリサーチャー
	概要本セミナーでは、ソニー独自のディープラーニング・フレームワークとABCIを活用した大規模な分散DNN学習の取り組みについて説明する。ソニーは2010年から独自のフレームワークの開発を進めており、これにより開発者は直感的にニューラルネットワークを設計することが可能となる。また、同フレームワークとABCIを活用した大規模な分散DNN学習の開発を進めている。大規模GPUを利用した分散DNN学習では、バッチサイズが巨大になるため学習が収束しないことが知られている。特にABCIの4000基強のGPUを活用して学習を進めるためには100Kを超えるバッチサイズが必要となる。今回、我々は独自のオプティマイザ(STiLL)により、128K超のバッチサイズでの学習に成功した。
	略歴 2001年ソニー株式会社に入社。VAIO(PC)等の商品開発に従事し、2007年より研究開発部門でデジタルサイネージにおけるユーザーインタラクションの研究開発を行う。その後、2011年より分散並列処理の研究開発に携わっており、2016年からは分散DNN学習に取り組んでいる。講演の撮影講演中の撮影 : 可能講演資料 PDF:1,571KB
16:10-16:30	「A Scalable Framework for Instant High-resolution Image Reconstruction」陳　鵬産業技術総合研究所
	概要 Computed Tomography (CT) is a widely used technology that requires compute-intense algorithms for image reconstruction. We propose a novel back-projection algorithm that reduces the projection computation cost to 1/6 of the standard algorithm. We also propose an efficient implementation that takes advantage of the heterogeneity of GPU-accelerated systems by overlapping the filtering and back-projection stages on CPUs and GPUs, respectively. Finally, we propose a distributed framework for high-resolution image reconstruction on state-of-the-art GPU-accelerated supercomputers. The framework relies on an elaborate interleave of MPI collective communication steps to achieve scalable communication. Evaluation on a single Tesla V100 GPU demonstrates that our back-projection kernel performs up to 1.6 times faster than the standard FDK implementation. We also demonstrate the scalability and instantaneous CT capability of the distributed framework by using up to 2,048 V100 GPUs to solve a 4K and 8K problems within 30 seconds and 2 minutes, respectively.
	略歴 Peng Chen was born in Hubei, China, in 1981. He received the B.E. degree in navigation from Dalian Maritime University, Liaoning, China, in 2005, and the M.E. degree in traffic information engineering and control from Shanghai Maritime University, Shanghai, China, in 2007. He is currently a Ph.D. student in Tokyo Institute of Technology, Tokyo, Japan, and also working at AIST-Tokyo Tech Real World Big-Data Computation Open Innovation Laboratory, National Institute of Advanced Industrial Science and Technology, Japan. His research interests include parallel computing, image processing, and machine learning. 講演の撮影講演中の撮影 : 可能講演資料 PDF:2,433KB
16:30-16:50	「超高速タンパク質間相互作用予測システムMEGADOCK 5.0による細胞内タンパク質間相互作用の網羅的解明」秋山　泰東京工業大学情報理工学院　教授
	概要細胞内のタンパク質間相互作用 (protein-protein interaction, PPI) の網羅的な理解は新薬開発や疾病メカニズムの解明に重要である。本研究では、東京工業大学秋山研究室にて開発されたPPI予測プログラムMEGADOCK 5.0によって、ヒト細胞内PPIの網羅的解明に向けた実証評価実験を実施した。MEGADOCKはマルチGPU・マルチノード計算が可能なPPI予測プログラムであり、version 5.0ではABCI向けに2,000 GPU超の大規模並列環境を想定した並列性能向上のための改善を施した。本実施では主に次の3つの項目を達成した。1) ABCI 512ノード（2,048 GPU）によって2,500万ペア超の大規模なPPI予測計算を約8.8時間で完了できることを示した。 2) 並列実行性能計測において512ノードで強スケーリング0.967 （対16ノード値）の並列実行性能を達成した。 3) 同システムのSingularityコンテナによる仮想化版において、ネイティブ環境と同等性能（強スケーリング0.964）で計算できることを示した。
	略歴 1990　慶應義塾大学大学院理工学研究科　電気工学専攻博士課程修了　工学博士 1990　工業技術院電子技術総合研究所　研究官 1992　京都大学化学研究所　助教授 1996　新情報処理開発機構　並列応用つくば研究室長 2000　工業技術院電子技術総合研究所　主任研究官 2001　産業技術総合研究所　生命情報科学研究センター　研究センター長 2007　東京工業大学　大学院情報理工学研究科　教授（2016年　組織変更により現職）講演の撮影講演中の撮影 : 可能講演資料公開予定なし
16:50-17:20	「二次最適化を用いた巨大な言語モデルの学習およびFRNNを用いたプラズマ挙動予測」横田　理央東京工業大学　学術国際情報センター　准教授
	概要近年BERTなどの巨大なTransformerを用いた言語モデルの大規模分散並列学習が盛んになってきている。本研究では、二次最適化の汎化性能と計算量の問題を解決した独自技術を言語モデルに応用し、その収束性の向上および学習時間の低減を目指す。これまでに行ってきたImageNetの学習ではデータセットが小さすぎたため二次最適化の短所である過学習の問題が起きていたが、巨大な言語モデルの学習には何TBものデータを用いるため過学習は起きにくく、二次最適化の長所である収束の早さが活かせる。また、これとは別にプリンストン大学のチームが行った再帰型のニューラルネットを用いたプラズマの挙動予測についても紹介する。
	略歴 2009年　慶應義塾大学　博士（工学）取得 2009年　ブリストル大学　博士研究員 2010年　ボストン大学　博士研究員 2011年　アブドゥラ国王科学技術大学　常勤研究員 2015年　東京工業大学　学術国際情報センター　准教授講演の撮影講演中の撮影 : 可能講演資料 PDF:7,662KB

PageTop

15:00-15:10	「ABCIグランドチャレンジ2019概要」小川　宏高産業技術総合研究所人工知能研究センター／実社会ビッグデータ活用オープンイノベーションラボラトリ研究チーム長／ラボ長
	概要 AI橋渡しクラウド（ABCI）は世界トップクラスの実効性能と省電力性能を有する、わが国の人工知能技術開発のためのオープンで先進的な高速計算基盤である。ABCIの目的は、産学官連携や多様な事業者による利用を促進し、高い計算能力を活用した人工知能技術の研究開発・実証を加速するとともに、人工知能分野の最重要課題に挑戦することである。その活動の一環として、産総研では莫大な演算能力によりはじめて可能になる人工知能分野の最重要課題への挑戦を支援するため、「ABCIグランドチャレンジ」プログラムを実施している。本発表ではABCIグランドチャレンジ2019の実施概要を報告する。
	略歴 1998年東京大学大学院工学系研究科博士課程中退 1998-2003年東京工業大学大学院情報理工学研究科助手 2003-現在産業技術総合研究所人工知能研究センター人工知能クラウド研究チーム長、実社会ビッグデータ活用オープンイノベーションラボラトリラボ長を兼務。博士（理学）。講演の撮影講演中の撮影可否 : 未定
15:10-15:30	「大規模深層学習における学習時間最小化への挑戦」笠置　明彦株式会社富士通研究所シニアリサーチャー
	概要 ABCIグランドチャレンジにおいて、我々は巨大ミニバッチによる分散並列深層学習の高速化を実施した。画像認識に用いられるResNet-50を用いて多数のGPUによるデータ並列学習を行い、ILSVRC2012のデータセットに対して精度が75.9%を超えるまでの実行時間を計測する。我々はこれまでABCIの512ノード(2048GPU)を用いたResNet-50の学習高速化を実施してきたが、本ABCIグランドチャレンジでは全てのノードが利用可能であるため、上記ResNet-50の学習をどこまで高速化できるか挑戦した。 1分以内での学習完了を目標に挑戦したが、巨大ミニバッチによる分散並列深層学習特有の課題に直面。最終的に768ノード(3072GPU)を用いて62.1秒での学習完了を達成した。
	略歴 2015年広島大学情報工学科博士課程後期を修了。同年、株式会社富士通研究所に入社。アクセラレータを用いた大規模な分散並列処理の高速化に従事。現在は深層学習を対象に高速化研究に携わる。講演の撮影講演中の撮影 : 可能講演資料公開予定なし
15:30-15:50	「想定外を想定する津波即時予測AIの構築」大石　裕介株式会社富士通研究所　主任研究員
	概要津波予測における想定外回避に向け，大量の学習データを用いて，沖合の津波波形から沿岸付近の津波を即時予測するAIの構築を行った．ランダム生成された津波波源に基づくデータの学習に関し，MXNetで実装したニューラルネットワークの処理速度は，約36.2 PFLOPSに達した．構築した津波予測AIの予測精度を測定したところ，最大波高の予測値と正解値との相関係数は0.99を超え，十分な予測性能が得られた．
	講演の撮影講演中の撮影可否 : 未定講演資料公開予定なし
15:50-16:10	「ABCIを活用した大規模分散DNN学習への取り組み」田中義己ソニー株式会社　シニアAIシステムリサーチャー
	概要本セミナーでは、ソニー独自のディープラーニング・フレームワークとABCIを活用した大規模な分散DNN学習の取り組みについて説明する。ソニーは2010年から独自のフレームワークの開発を進めており、これにより開発者は直感的にニューラルネットワークを設計することが可能となる。また、同フレームワークとABCIを活用した大規模な分散DNN学習の開発を進めている。大規模GPUを利用した分散DNN学習では、バッチサイズが巨大になるため学習が収束しないことが知られている。特にABCIの4000基強のGPUを活用して学習を進めるためには100Kを超えるバッチサイズが必要となる。今回、我々は独自のオプティマイザ(STiLL)により、128K超のバッチサイズでの学習に成功した。
	略歴 2001年ソニー株式会社に入社。VAIO(PC)等の商品開発に従事し、2007年より研究開発部門でデジタルサイネージにおけるユーザーインタラクションの研究開発を行う。その後、2011年より分散並列処理の研究開発に携わっており、2016年からは分散DNN学習に取り組んでいる。講演の撮影講演中の撮影 : 可能講演資料 PDF:1,571KB
16:10-16:30	「A Scalable Framework for Instant High-resolution Image Reconstruction」陳　鵬産業技術総合研究所
	概要 Computed Tomography (CT) is a widely used technology that requires compute-intense algorithms for image reconstruction. We propose a novel back-projection algorithm that reduces the projection computation cost to 1/6 of the standard algorithm. We also propose an efficient implementation that takes advantage of the heterogeneity of GPU-accelerated systems by overlapping the filtering and back-projection stages on CPUs and GPUs, respectively. Finally, we propose a distributed framework for high-resolution image reconstruction on state-of-the-art GPU-accelerated supercomputers. The framework relies on an elaborate interleave of MPI collective communication steps to achieve scalable communication. Evaluation on a single Tesla V100 GPU demonstrates that our back-projection kernel performs up to 1.6 times faster than the standard FDK implementation. We also demonstrate the scalability and instantaneous CT capability of the distributed framework by using up to 2,048 V100 GPUs to solve a 4K and 8K problems within 30 seconds and 2 minutes, respectively.
	略歴 Peng Chen was born in Hubei, China, in 1981. He received the B.E. degree in navigation from Dalian Maritime University, Liaoning, China, in 2005, and the M.E. degree in traffic information engineering and control from Shanghai Maritime University, Shanghai, China, in 2007. He is currently a Ph.D. student in Tokyo Institute of Technology, Tokyo, Japan, and also working at AIST-Tokyo Tech Real World Big-Data Computation Open Innovation Laboratory, National Institute of Advanced Industrial Science and Technology, Japan. His research interests include parallel computing, image processing, and machine learning. 講演の撮影講演中の撮影 : 可能講演資料 PDF:2,433KB
16:30-16:50	「超高速タンパク質間相互作用予測システムMEGADOCK 5.0による細胞内タンパク質間相互作用の網羅的解明」秋山　泰東京工業大学情報理工学院　教授
	概要細胞内のタンパク質間相互作用 (protein-protein interaction, PPI) の網羅的な理解は新薬開発や疾病メカニズムの解明に重要である。本研究では、東京工業大学秋山研究室にて開発されたPPI予測プログラムMEGADOCK 5.0によって、ヒト細胞内PPIの網羅的解明に向けた実証評価実験を実施した。MEGADOCKはマルチGPU・マルチノード計算が可能なPPI予測プログラムであり、version 5.0ではABCI向けに2,000 GPU超の大規模並列環境を想定した並列性能向上のための改善を施した。本実施では主に次の3つの項目を達成した。1) ABCI 512ノード（2,048 GPU）によって2,500万ペア超の大規模なPPI予測計算を約8.8時間で完了できることを示した。 2) 並列実行性能計測において512ノードで強スケーリング0.967 （対16ノード値）の並列実行性能を達成した。 3) 同システムのSingularityコンテナによる仮想化版において、ネイティブ環境と同等性能（強スケーリング0.964）で計算できることを示した。
	略歴 1990　慶應義塾大学大学院理工学研究科　電気工学専攻博士課程修了　工学博士 1990　工業技術院電子技術総合研究所　研究官 1992　京都大学化学研究所　助教授 1996　新情報処理開発機構　並列応用つくば研究室長 2000　工業技術院電子技術総合研究所　主任研究官 2001　産業技術総合研究所　生命情報科学研究センター　研究センター長 2007　東京工業大学　大学院情報理工学研究科　教授（2016年　組織変更により現職）講演の撮影講演中の撮影 : 可能講演資料公開予定なし
16:50-17:20	「二次最適化を用いた巨大な言語モデルの学習およびFRNNを用いたプラズマ挙動予測」横田　理央東京工業大学　学術国際情報センター　准教授
	概要近年BERTなどの巨大なTransformerを用いた言語モデルの大規模分散並列学習が盛んになってきている。本研究では、二次最適化の汎化性能と計算量の問題を解決した独自技術を言語モデルに応用し、その収束性の向上および学習時間の低減を目指す。これまでに行ってきたImageNetの学習ではデータセットが小さすぎたため二次最適化の短所である過学習の問題が起きていたが、巨大な言語モデルの学習には何TBものデータを用いるため過学習は起きにくく、二次最適化の長所である収束の早さが活かせる。また、これとは別にプリンストン大学のチームが行った再帰型のニューラルネットを用いたプラズマの挙動予測についても紹介する。
	略歴 2009年　慶應義塾大学　博士（工学）取得 2009年　ブリストル大学　博士研究員 2010年　ボストン大学　博士研究員 2011年　アブドゥラ国王科学技術大学　常勤研究員 2015年　東京工業大学　学術国際情報センター　准教授講演の撮影講演中の撮影 : 可能講演資料 PDF:7,662KB