セミナー情報
【第73回AIセミナー】「ABCI グランドチャレンジ 成果報告会」
終了しました。
AI橋渡しクラウド(AI Bridging Cloud Infrastructure、ABCI) は、国立研究開発法人 産業技術総合研究所が構築・運用する、世界最大規模の人工知能処理向け計算インフラストラクチャです。2018年8月に本格運用を開始し、2021年5月には最新のGPUノード等を追加して「ABCI 2.0」にアップグレードを行っています。
ABCIの狙いは、合算で851.5ペタフロップス(半精度)という膨大なAI処理能力を研究者や開発者に提供することにより、我が国のAI/ビッグデータ処理の進歩を加速することです。産総研では、ABCIの莫大な演算能力によりはじめて可能になる人工知能分野の最重要課題や人工知能やビッグデータを活用した社会的重要課題への挑戦を支援するため、「ABCIグランドチャレンジ」プログラムを実施しています。本プログラムは、ABCIがもつ最大計算ノード数、計算ノード(A)においては120ノード(960GPU)、計算ノード(V)においては1,088ノード(4,352GPU)を最大24時間、1研究グループでの占有利用ができる公募型チャレンジプログラムです。ABCIグランドチャレンジ2023では、計算ノード (V) 136ノード(544GPU)を最大1週間占有利用できるクラスも受け付けました。
本セミナーでは、ABCIグランドチャレンジ2022の第3回とABCIグランドチャレンジ2023の第1回と第2回の参加者を講師としてお招きして、各チームでのチャレンジの内容や成果、今後の取り組みについてご紹介いただきます。
※都合により、当初のご案内から講演順が変更になっております。
以下は、変更後のプログラムとなります。ご了承いただきますようお願いいたします。
名称 | 【第73回AIセミナー】「ABCI グランドチャレンジ 成果報告会」 |
---|---|
日時 | 2024年1月11日(木) 15:10 - 17:00 |
受付時間 | 接続可能時間:15:00 - |
場所 | Zoomウェビナーによるオンライン開催 ※お申し込み後に自動配信されるメールにて参加URLをご案内いたします。 |
定員 | 500 |
参加費用 | 無料 |
連絡先 | 人工知能セミナー窓口 |
注意事項 ・定員になり次第締切ります。・産総研は、お送りいただいた情報をセミナー運営以外の目的には使用しません。 ・講演の録画やアップロードはご遠慮ください。 |

プログラム
15:10 - 15:20 | ABCI グランドチャレンジ 2022 & 2023 概要 谷村 勇輔(産業技術総合研究所) |
---|---|
15:20 - 15:40 | 日本語BigBirdの構築 河原 大輔(早稲田大学 教授) |
概要 |
|
略歴
1997年京都大学工学部電気工学第二学科卒業。1999年同大学院修士課程修了。2002年同大学院博士課程単位取得認定退学。東京大学大学院情報理工学系研究科学術研究支援員、独立行政法人情報通信研究機構主任研究員、京都大学大学院情報学研究科准教授を経て、2020年より早稲田大学基幹理工学部情報通信学科教授。自然言語処理、知識処理の研究に従事。博士(情報学)。文部科学大臣表彰科学技術賞(研究部門)、言語処理学会20周年記念論文賞等を受賞。 |
|
15:40 - 16:00 | 学習済みText to Image拡散モデルの動画生成タスクへのfinetuning 早川 顕生(株式会社ソニーリサーチ リサーチサイエンティスト) |
概要 |
|
略歴
2018年3月 東京大学大学院情報理工学系研究科 修士課程修了 2018年4月 ソニーグループ株式会社入社 2023年4月 株式会社ソニリサーチ 出向 大規模分散学習や画像生成モデルに関する研究開発に従事。 |
|
16:00 - 16:20 | 分布外汎化・較正性能向上のための事前学習済みモデルの大規模な比較実験 幡谷 龍一郎(理研AIP 特別研究員) |
概要 |
|
略歴
2022年9月 東京大学大学院情報理工学系研究科創造情報学専攻修了 2022年10月〜2023年10月 理化学研究所情報統合本部先端データサイエンスプロジェクト特別研究員 2023年11月〜 理化学研究所革新知能統合研究センター高次元因果解析チーム特別研究員 講演資料
20241011 |
|
16:20 - 16:40 | 量子化学計算の大規模厳密解法実行 高 虹(富士通研究所コンピューティング研究所 研究員) |
概要 |
|
略歴
2009年7月に中国石油大学(北京)を卒業し、2012年3月群馬大学大学院工学研究科を卒業しました。 2012年4月に富士通研究所に入社し、現在は大規模化の量子化学計算を研究していました。 2018年情報処理学会業績賞を受賞しました。 |
|
16:40 - 17:00 | 日本語大規模言語モデル学習の三点スケールアップとオープンソース化 坂口 慶祐(東北大学 准教授) |
概要 得られた成果の一つとして、日本語を中心として英語やソースコードにも対応したTokenizerモデルを新たに開発した。またV100(FP16)による大規模言語モデルの訓練で頻発するLossの発散への対応に関する知見を得た。例えば大規模言語モデルの活性化関数として広く使われているGeLUとFP16は相性が悪く、ReLUを代わりに使うことでLossの発散を防ぎ学習を安定させる効果があることを示した。 |
|
略歴
東北大学大学院情報科学研究科准教授。専門は自然言語処理。 2005年早稲田大学第一文学部哲学専修卒業。2006年英国University of Essex 心理神経言語学 修士課程卒業。理化学研究所脳科学総合研究センター、日本IBMシステムズエンジニアリング社を経て、2013年奈良先端科学技術大学院大学情報科学研究科修士課程卒業、2018年米国Johns Hopkins UniversityにてPh.D. (Computer Science) を取得。米国Allen Institute for Artificial Intelligence(AI2)リサーチサイエンティストを経て、2022年より現職。 |
|
17:00 - | クロージング |