Explanation

Surprise is a verb which means حیران رہ جانا

We use at after surprise.

At is a preposition here. 

All of them are surprised at his rudeness ہم سب آپ کی بدتمیزی پر حیران ہیں