マルチメディア推進フォーラム PART933【オンライン限定】
「機械学習がもたらすコンピューティングとネットワーキングの融合」
WEBでお申込み メール申込用フォーマット PDFファイル(FAX申込書付き) | |
開催日 | 2023年11月29日(水) 13時00分~16時50分 |
---|---|
場所 | オンライン限定 |
受講料 | 52,150円 (消費税込) |
趣旨・論点
●データセンタネットワークの技術動向●ML Opsを支えるデータセンタのコンピューティング
●ML Opsを支えるデータセンタのネットワーク
ChatGPTは大規模言語モデルと呼ばれる機械学習モデルを駆動し、プロンプトエンジニアリングを行いながら、5000億以上のパラメータを学習することで、高い品質の自然言語処理タスクを実行できる能力を有するようになっています。大規模言語モデルの学習のためには多量のGPUが必要であり、多量のGPUを組み合わせたGPUクラスタの構築が世界中で進展しています。
一方で、大規模言語モデルを含む機械学習モデルは、従来のソフトウェアのライフサイクル管理と同様にライフサイクル管理が必要です。機械学習モデルの開発プロジェクトにおいては、データの前処理、モデルトレーニング、モデルの評価、デプロイメント、監視などの工程を絶えず繰り返す必要があります。 MLOps(Machine Learning Operations)は、機械学習モデルの開発プロジェクトやワークフローを効率的かつ持続可能に展開・運用するために、ソフトウェア開発におけるDevOpsの原則とベストプラクティスを機械学習の世界に応用したもので、機械学習のライフライクルのステップを効率化し、機械学習モデルの開発とデプロイメントサイクルを迅速かつ信頼性の高いものにするために不可欠となっています。
データセンタでの機械学習タスクの増加に伴い、データセンタネットワークのトラフィックも大幅に増加しています。機械学習タスクでは大規模なデータセットを使用しており、分散処理やクラウドコンピューティングを使用した学習では、データセンタ内の複数のマシンや複数のデータセンタ間でデータの転送が行われています。ネットワークインフラストラクチャを拡張し、光イーサネットなどの高速ネットワーク接続、SDN技術を用いたネットワークトラフィックの制御やセキュリティポリシーの適用、ネットワークの可視化と監視、ネットワークトポロジーの最適化などにより、対策を講じる必要があります。このように新たなコンピューティングパラダイムの登場に伴い、データセンタネットワークの技術に革新を起こすためには、コンピューティングとネットワーキングの両方の技術に精通する必要が出てきています。現状のデータセンタネットワークにおけるコンピューティングとネットワーキングの融合や今後の展望について有識者を交えて議論することは有意義であると考えられます。
本フォーラムでは、生成AIをはじめとする機械学習を実現するためのハードウェアとソフトウェアの最新技術、MLOpsによるLLMモデル開発、クラウドを活用したLLMトライアル、データセンタネットワークの最新技術の観点から第一線でご活躍の方にご登壇いただき、機械学習がもたらすコンピューティングとネットワーキングの融合について最新動向と今後の展望を議論いたします。
(座長-総合司会)
東京大学 名誉教授 齊 藤 忠 夫
スケジュール
各講演最後に質疑応答を設けてあります。
- (基調講演)「機械学習がもたらすコンピューティングとネットワーキングの融合」
- ●コンピューティングの歴史
●集中型のデータセンタを支える分散コンピューティング技術
●フォンノイマン型からデータ駆動型へ
- 東京大学 名誉教授
齊 藤 忠 夫 氏
- 東京大学 名誉教授
- 「LLMモデル開発を支えるLLMOps」
- ●LLMOpsとは?
●Weights & Biasesを用いたLLM開発のためのベストプラクティスと事例紹介
- Weights & Biases Japan株式会社
機械学習エンジニアCustomer Success
鎌 田 啓 輔 氏
- Weights & Biases Japan株式会社
(休憩)
- 「生成AIをはじめとする機械学習を実現するためのハードウェアとソフトウェアの最新技術」
- ●GPUの最新動向
●GPUクラスタとは
●生成AIのためコンピューティングシステム
- エヌビディア合同会社
エンタープライズ事業本部
シニアマネージャー DGXビジネスデベロップメント
鈴 木 元 哉 氏
- 「クラウドを活用したLLMトライアル」
- ●大規模言語モデルに必要なGPUクラスタ
●クラウドを用いたGPUクラスタの構築
株式会社ジーデップ・アドバンス
担当営業
佐 藤 一 彦 氏
- エヌビディア合同会社
(休憩)
- 「機械学習の効率を高める最新のネットワーキング技術術」
- ●データセンタネットワークの最新技術
●シスコシステムズの取り組み
●ネットワーク標準化とコンソーシアムの動向
- シスコシステムズ合同会社
専務執行役員CTO
河 野 美 也 氏
- シスコシステムズ合同会社