vagrant の中で起動した firefox を x forwarding してみたら文字化けている

mac で、 XQuartz 2.7.8 (xorg-server 1.16.4) を利用して、 vagrant の中の ubuntu 14.04 の、 firefox を x forwarding してみようとしています。

Vagrantfile で、 config.ssh.forward_x11 = trueを設定した状態で、vagrant sshをして、入った ubuntu 上でまず firefox をインストール(sudo apt-get install firefox)して、firefoxを起動しました。

問題なくホスト(mac)側で、画面を表示することができたのですが、添付ファイルの通り、日本語をうまく取り扱えず文字化けが起こってしまっています。

firefox を起動した端末上では、

(firefox:20994): Gtk-WARNING **: Locale not supported by C library.
    Using the fallback 'C' locale.

と表示されているので、これが原因なのではないかと考えているのですが、これをどう解消したらよいのかがわかりません。

質問:

• 文字化けを解消するにはどうしたらいいでしょうか。

---

追記@2/21
@aliceinwire さんのコマンドを一通り(何回か)実行してみたのですが、やっぱり文字化けています。その際に、いくつかエラーが発生していたので、それが原因なのではないか、と考えているのですが、やっぱりどうしたらいいのかよくわかりません。

vagrant@vagrant-ubuntu-trusty-64:~$ sudo dpkg-reconfigure locales
perl: warning: Setting locale failed.
perl: warning: Please check that your locale settings:
    LANGUAGE = (unset),
    LC_ALL = (unset),
    LC_CTYPE = "UTF-8",
    LANG = "en_US.UTF-8"
    are supported and installed on your system.
perl: warning: Falling back to the standard locale ("C").
locale: Cannot set LC_CTYPE to default locale: No such file or directory
locale: Cannot set LC_ALL to default locale: No such file or directory
Generating locales...
  en_US.UTF-8... up-to-date
  ja_JP.UTF-8... up-to-date
Generation complete.
vagrant@vagrant-ubuntu-trusty-64:~$ locale -a
locale: Cannot set LC_CTYPE to default locale: No such file or directory
C
C.UTF-8
en_US.utf8
ja_JP.utf8
POSIX
vagrant@vagrant-ubuntu-trusty-64:~$ firefox 

(firefox:22320): Gtk-WARNING **: Locale not supported by C library.
    Using the fallback 'C' locale.
Fontconfig warning: ignoring UTF-8: not a valid region tag