コントラストマスク（コントラストマスキング）とは
コントラストマスク（コントラストマスキング）とは海外で古くから利用されているコントラストを下げるテクニックになります。特に明暗差が激しいシチュエーションで用いられることが多く、一般的に通常のコントラスト補正とは違った結果が得られるようです。マスクとついているので選択範囲を思い浮かべるかも知れませんがコントラストをマスクする（隠す→薄くする？）というようなイメージで使われているのではないかと考えています（確証はありませんのであしからず）。
コントラストマスク（コントラストマスキング）を適用する手順
手順については、海外でもほぼ同じ手順になっているようです。
背景レイヤーのコピー
コピーしたレイヤーの彩度を下げる
「イメージ」→「色調補正」→「彩度を下げる」あるいは「command（Ctrl）＋shift＋U」
レイヤーの階調を反転
「イメージ」→「色調補正」→「階調の反転」あるいはcommand（Ctrl）＋I（アイ）
階調を反転させ、白黒ネガ画像を作成します。
ぼかし（ガウス）フィルターをかける
ぼかしの数値は諸説あるのですが、10〜100の間で調整するのが一般的なようです。もしわからなければ36MPのカメラで60px、24MPのカメラで50くらいを目安にするとよいかも知れません。
ぼかし（ガウス）をかけなくても効果に大きな違いは出ないようですので、色々試してみてもよさそうです。また、やり直し可能にするために「スマートオブジェクト」に変換してもよいと思います。
レイヤーのブレンド（描画）モードを「オーバーレイ」に変更
レイヤーのブレンド（描画）モードを「オーバーレイ」に変更します。
レイヤーの不透明度を調整
上記操作ではコントラストが弱まりすぎる場合もあるので、必要に応じてレイヤーの不透明度を下げることで効果を調整してみてください。
コントラストマスク（コントラストマスキング）の仕組み
レイヤーのブレンド（描画）モードをオーバーレイにすると明るい部分はより明るく、暗い部分はより暗くなります。コントラストマスクでは階調を反転し、ネガ画像を作成することでもともと明るい部分を暗く、暗い部分を明るくすることで結果的にコントラストが下がっている道理になります。彩度を下げているのは輝度のみに効果を与えるためです。
まとめ
参考；
