今回は、深層学習の最難関国際会議であるInternational Conference on Learning Representations (ICLR) 2025に共著論文が3件採択されましたので、ICLRについて紹介していきたいと思います。今回は、ざっくりと私の目線から機械学習系の研究室がどのようなところで発表するか等紹介していけたらと思います。
ジャーナル?プロシーディングス?
まず前提ですが、自然科学系の研究室はNature, Cell, Scienceといった超有名誌を目指すことが多いと思いますが、機械学習やコンピュータサイエンス分野では国際会議のプロシーディングにて発表することが一般的です。これはジャーナルは掲載までに時間がとてもかかり、機械学習や人工知能といった速報性が重要なのでプロシーディングが多いです。ただ、投稿すれば発表できるとかそういう感じではなく、一般的に最難関の国際会議(NeurIPS, ICML, ICLR, AISTATS)では20〜30%程度の採択率となっているようです。最近ではNeurIPS, ICLR, ICMLは投稿数が10000を超えていて、競争率が激しくここに発表するのは結構大変です。国内の大学院だったら、大体1本か2本ここに論文があれば博士課程の学位が取れます。海外だともっと必要なケースが多いですが、大体みんな3〜5本くらい発表している気がします。
International Conference on Learning Representations (ICLR) とは?
今回論文の通ったICLRは機械学習系の分野では比較的新しい(とはいってもすでに13年くらい時間が経ってますが)国際会議です。ICLRがどういう経緯でできたかは私もよくわかってないですが、基本的には深層学習関係の研究を発表する国際会議という位置付けです。論文の投稿時期は例年10月頃で結果は年明けの1月下旬頃にわかることが多いです。同時期に開催されるArtificial Intelligence and Statistics (AISTATS)も同じ時期に募集されていますが、こちらはより統計的機械学習の論文 (非深層学習)の報告が多いです。なので、基本的には深層学習系だったらICLR、それ以外の機械学習だとAISTATSに投稿することが多いです。(ただ最近はこの辺の境界がだいぶ曖昧になってきていて、ICLRでもAISTATSに投稿されていたような論文が増えてる気がします) 私はAISTATSは過去に10件以上発表してるくらい好きな国際会議ですが、最近は深層学習系の研究も増えてきたので、ICLRにも投稿することが多いです。また、投稿時期が5月はNeurIPS、ICLRの結果後の1月下旬がICMLです。我々機械学習の研究者は、NeurIPS, ICML, ICLR, AISTATSあたりを目指して報告することが多いので、年中常に締め切りに追われている感はあります…
ICLRもできて初期の時期は私たちも深層学習の大御所が新しい国際会議始めたのか…くらいに思っていて、しかも初期は割と論文も通りやすかったんですが、深層学習研究の人気の高まりと投稿数増加によって今では最難関国際会議の一つになり通すのめちゃくちゃ難しくなってます。最近だとTMLRとかができましたよね。TMLRもすでに人気が出始めていますが、これも良い論文が増えることでより良いジャーナルになっていくのだと思います。(そもそも位置付けとしては新規制があれば通すジャーナルのはずなんですが、徐々に難しくなっている気がします)
ICLRの特徴としてはOpenreviewというシステムを利用して、すべての査読と返信を誰でも見ることができるようになってます。なので、普通のジャーナルとかだと返信は基本的に1回のみですが、これでは返信期間であればかなり多くのやり取りをすることができます。基本的には良いシステムだと思いますが、査読者側にもかなりの負担がかかるので、レスポンスがない場合もそれなりにあります。
どうやったらICLRに通せる?
ICLRに通すためにはまずは面白い機械学習の研究をする必要があります。その上で、論文執筆の仕方や返信の仕方をきちんと学ぶことで通せるようになると思います。1番の近道は、自分の近くでICLR, NeurIPS, ICMLに論文を通している人と一緒に研究することだと思います。私たちの研究ユニットでも定期的にこれらの国際会議に通せてはいますが、それでも実際に通すのはとても難しいです。5件以上投稿して0件採択とかは普通にあり得る感じです。とりあえず一旦投稿して、査読者からコメントいただいた上でそれを元に論文を修正して再投稿するというのが一般的になっていると思います。
ICLRに通せると何が嬉しい?
AI系の会社ではNeurIPS, ICLR, ICML等の国際会議論文の出版歴が問われることが多いです。なので、そもそもここに論文がないと書類選考を通ることも難しいです (あっても難しいです) なので将来的にAI系の会社に就職を検討される人は挑戦してみると良いと思います!
コメント