PHPのヘッダでダウンロードファイル名を指定した時のIEの挙動について

　こんにちは、お世話になります。

　PHPのヘッダで、下記のような感じでファイル名を指定しています。

header('Content-Disposition: attachment; filename="test#1.txt"');

　この記述で、FirefoxやMicrosoftEdgeなどのブラウザではうまくいくんですが、IE11だとシャープがアンダーラインに置き換わってしまい、ダウンロードしたファイル名が「test_1.txt」となってしまいます。
　これを解決する方法はありますでしょうか。
　もし方法があるようでしたら、教えていただけると幸いです。
　以上、よろしくお願いいたします。