Olá vamos aplicar uma borda arrendondada...

abra sua foto...

use essa aqui se quiser.

agora selecione a ferramenta Rounded rectanglen tool e configure segundo a imagem abaixo

faça um desenho sobre a imagem.

veja que após fazer esse passo, na palheta layer surgiu uma nova camada.

Segurando CTRL clique na camada que surgiu. a camada sera selecionada( você saberá que a camada foi selecionada se ficar varios pontos circulando a imagem)... veja a imagem abaixo

após isso desabilite a camada que surgiu e selecione a camada em que se aplicará o efeito.

a imagem deve ficar igual a de baixo...

agora inverta a selação vá em SELECT> INVERSE. ou simplesmente aperte CTRL+SHFIT+I

após isso é só deletar a imagem.

se quiser dar um efeito para ficar melhor fique a vontade...