Connect(); の時点では英語しか公開されていませんでしたが、Download Language から日本語を選ぶと日本語版の ISO を言語パックをダウンロード出来るようになっていました。
既に英語版を入れた人や Azure の仮想マシンで用意されているイメージを使った人は、言語パックをインストールすれば日本語が選択できるようになります。Visual Studio 2015 本体のダウンロードには Microsoft アカウントが必要になるみたいですね。*1
この後、Azure 仮想マシンに用意してあった英語版に言語パックを入れてみたところ、綺麗に全て日本語になってくれました。
これでやっと本腰入れて使っていこうという気になりました。
*1:自分の場合はサブスクリプション的に 2013 Ultimate 使えるぜ！と言われた
