1 - Inicie uma nova imagem e cria uma nova layer.

2 - Faça a seleção que desejar.

 

3 - Vá no menu SELECT > MODIFY > SMOOTH.

 

4 - Aparecerá esta janela, deixe nela configurado quantos PIXELS você quer que sejam arredondados nos cantos. Aqui usaremos como exemplo 5PX.

5 - Dê OK e Pronto, sua seleção esta "redonda".

5.1 - Pinte-a para ver