成島 康史
本稿では2021年8月23日－25日にオンラインで実施された，連続最適化および関連分野に関する夏季学校の実施報告を行う．本夏季学校は統計数理研究所統計思考院公募型人材育成事業として実施されたものであり，学生を含む若手研究者や隣接領域の初学者の連続最適化とその関連分野 （凸解析, 数値計算, 線形代数など）における基礎力の養成，および，新たな研究テーマの発見を目標としている．また，それにより連続最適化分野の研究者のすそ野を広げることも期待している．本夏季学校のホームページ（リンクはこちら）では，スケージュールなどのほかに，当日使用した資料なども掲載しているので，ご参照いただきたい．
今回は，2件の授業を用意した．1件目は明治大学の飯塚秀明先生による「不動点理論と最適化」で，2件目が京都大学の佐藤寛之先生による「リーマン多様体上の最適化理論とその周辺」となっている．2件の授業ともに，講義３コマと演習２コマ＋演習の発表・解説１コマという構成で実施していただいた．本夏季学校のメインターゲットは若手研究者や初学者であるため，講義においては基本的な事項の解説から始めていただき，適宜補足を含めて最先端の研究動向までを解説していただいた．本夏季学校の特徴の一つとして，講義を聴く時間に加えて, 講師に作成していただいた演習問題を参加者が解き, 講師の前で解答を発表する時間を設けた. これにより, 講義で扱われた内容を頭だけでなく手でも理解することができた (あるいは理解したつもりがそうでもないことを痛感できた) ように思われる．演習の方法については，対面方式であれば周りの参加者と自由に議論したりすることも可能だが，オンラインであるため，問題ごとにブレイクアウトセッションを作成し，議論したい参加者は解きたい問題のセッションに入って議論してもらうようにした．参加総数は118名と非常に多くの方にご参加いただき，後で記すように，オンラインではあるが，非常に活発な議論が行われた．
さて，次に2名の講師による講義の内容や，講義中の様子などについて書きたいと思う．
1件目の授業は飯塚先生による「不動点理論と最適化」である．講師の飯塚先生は最適化問題, 機械学習, 不動点問題におけるアルゴリズムに関する多数の論文を執筆されている．講演の最初で飯塚先生は，数学の問題を高い立場で俯瞰的にとらえることで，他者とは異なった視点で機械学習に現れる問題を見ることができ，それが研究につながっている，と述べられていた．講義ではその元となった，ヒルベルト空間上の不動点理論において，「不動点とは何か?」，「不動点を見つけるとなぜ嬉しいのか?」といった内容に焦点を当て，それらを紐解いていくことで最適化問題を含む広い応用例へと話が展開していった．
講義の一時間目で飯塚先生は，ヒルベルト空間の定義を有限次元のユークリッド空間と比較しながら分かりやすく解説するとともに，ヒルベルト空間上の不動点問題や最適化問題を扱うときによく使用する等式や不等式などについても演習を交えた紹介された．テクニカルな部分として，ヒルベルト空間上の近似法の収束解析の中で，どの部分で紹介された等式や不等式が使用されるのかについても説明がなされた．二時間目では不動点の定義から始まり，中でも非拡大写像の不動点問題を中心に扱った．重要な非拡大写像の例として，空でない閉凸集合の共通部分に対し，それぞれの閉凸集合への射影の積を考えると非拡大写像となることを取り上げた．また，その不動点の集合が元の閉凸集合の共通部分と一致するため，機械学習や最適化分野の問題へと応用が可能なことを説明し，いくつかの応用例を紹介している．三時間目には，不動点を見つけるための方法であるKrasnosel’skiĭ-Mannの不動点近似法が紹介された．さらに，その収束性の解析について，1時間目に説明された手順に基づいて，証明が行われた．それぞれの講義時間中やQ&Aの時間には，様々な質問が出て，非常に活発な議論が行われた．オンラインということで，どの程度議論が活性化するかは未知数であったが，全くの杞憂であったように思える．
演習の時間には，参加者は事前に作成していただいた演習問題に取り組んでもらった．演習の2コマは2日間に分かれており，最初の1コマ目に問題に取り組んでもらった後，夜（懇親会終了後）にも時間を使えるように，あえて2日間にまたがるようにスケジュールした．演習の総括の時間には，発表希望者に自身の解答を発表をしてもらい，講師がその解答についてコメントを与える形式で進められた．発表者は学生が多かったが，その解答には熱心に取り組んだ跡が見られ，中には鮮やかに解答する発表者もいて，非常に有意義な演習になったと考えている．
2件目の授業は佐藤先生による「リーマン多様体上の最適化理論とその周辺」である．リーマン多様体上の最適化は，機械学習などへの応用もあり，近年，非常に盛んに研究が行われている分野の一つである．また，MATLABのツールボックスなどの開発も行われており，今後さらに発展することが期待されている．佐藤先生の研究テーマはリーマン多様体上の連続最適化で, 理論とアルゴリズム, ならびに数値線形代数・制御・統計などへの応用を研究されている．さらに，これらの研究成果をまとめた著書 Riemannian Optimization and Its Applications が2021年にSpringer より出版されている．
講義の一時間目では，最初にリーマン多様体上の最適化問題の例がいくつか挙げられた．佐藤先生は，その一つとして，球面上の最適化問題を考え，それが通常の(ユークリッド空間上の)最適化手法では失敗するということを指摘し，それらがリーマン多様体上の最適化の重要性につながっていることを説明された．次に，リーマン多様体上の最適化アルゴリズムを考える初歩として，球面上の最急降下法を取り上げ，さらに，多様体上の最適化の理解に必要な概念についての解説がなされた．多様体論に慣れていない人にとっては初めて聞く用語や概念も多かったと思うが，佐藤先生は具体例や図などを用いて丁寧に解説なさっていたため，初学者でもわかりやすい内容であったと感じる．二時間目は，一時間目の続きでリーマン多様体における諸概念の説明から始まり，それらを用いて，リーマン多様体上の最適化問題に対するアルゴリズムの一般論，および，最も基本となる最急降下法の解説がなされた．直線探索などといったアルゴリズムの基本的な枠組みはユークリッド空間上の最適化手法をリーマン多様体に拡張するという方針であるが，レトラクションなどといったリーマン多様体特有の概念を用いて巧妙に拡張を行うという点が個人的には興味深かった．三時間目は，リーマン多様体上の非線形共役勾配法が紹介された．これも，無制約最適化問題に対する非線形共役勾配法を拡張する形でアルゴリズムが構築されるが，リーマン多様体上の最適化特有の問題を解決するために，ベクタートランスポートと呼ばれる概念が用いられている．佐藤先生はリーマン多様体上の非線形共役勾配法を盛んに研究されており，リーマン多様体上の非線形共役勾配法を考える上での留意点や，最近の研究動向などの説明も詳細に行われた．これらは，この夏季学校の目的の一つである，新たな研究テーマの発見，という意味で非常に重要であったように感じられる．飯塚先生の講演時と同様に，佐藤先生の講演に関しても多くの質問が出て，活発に議論が行われた．なかなか議論の切れ間がなく，時間がおしてしまったのはうれしい悲鳴である．
演習の時間は，初日と同様の形式で行われた．演習問題は大問6題で，それぞれが小問に分かれているため，なかなかのボリュームであった．難易度の高い問題も含まれていたように感じるが，総括の時間には学生を中心に解答の発表が行われ，多くが正しい解答であった．このことから，参加者のこの夏季学校に対する意気込みが伝わってきて，実施者側としては非常にうれしく感じられた．
さて，開催の裏話的なことも含めて，夏季学校を実施した所感を述べておきたいと思う．まず，この夏季学校の世話人は田中未来先生（世話人代表・統計数理研究所），檀寛成先生 (関西大学)と成島（慶應義塾大学）の3人である．本夏季学校は2019年の終わりごろ，田中先生が若手研究者向けの合宿形式の夏季学校を発案したことに始まる．世話人として上記の3人で事前準備を始め，2020年の夏に実施を予定していた．ところが，ちょうど準備を進めている最中にCOVID-19の感染が広がっていき，合宿形式を計画していたため，2020年度の開催はあきらめざるを得なくなってしまった．今年度は早めにオンライン実施と決めて，今回の実施に至った．講師の先生方の魅力的な講義内容に加えて，オンラインという参加しやすさもあったためか，参加者数は118名という当初の予想を上回る盛況となった．参加者の所属に関しても，もちろん学生の比率が最も多かったが，予想よりも企業の方の参加も多く，連続最適化分野の研究者のすそ野を広げるという意味でよい会になったのではないかと考えている．今回の夏季学校はオンラインでの実施であったが，一方で対面での交流の再開が待ち遠しくも感じられた．演習や懇親会などは，ざわざわした雰囲気の中，議論や歓談を行い，そこでの交流が後々の人脈につながることが多い．オンライン開催は，参加のしやすさなどのオンラインならではのメリットもあるが，交流という面ではなかなかそこまでは難しく感じられた．また当初は，参加者同士の交流の促進のために，参加者が自身の研究内容を簡単に話して自己紹介を行うセッションを企画していたが，参加希望者が少なかったため実施しなかった，という経緯もある．この夏季学校は次年度も開催予定であるので，実施形態や参加者同士の交流の促進方法に関しては検討課題であろう．
最後に，授業を引き受けてくださった飯塚先生と佐藤先生に，この場を借りて感謝させていただきたい．本夏季学校が盛況のうちに終われたのは，ひとえに，質の高い講義と演習を提供くださった講師の先生方のご尽力の賜物である．また，御用意していただいた講義および演習の資料も力作である．冒頭で述べた通り，それらの資料は夏季学校のホームページからダウンロード可能であるので，この記事を読んで興味を持たれた方は夏季学校のホームページにアクセスしていただければ幸いである．
なるしま やすし
慶應義塾大学
[Article: G2109A]
(Published Date: 2021/12/10)