Tu ne peux pas simplement vérifier tes paquets au niveau de ton application (dans la fonction qui traite les messages des WebSockets) ?
Ça m'étonnerait que ton pare feu (je suppose iptables) soit capable de faire de l'inspection de paquets à la couche application, donc c'est pas son boulot d'analyser les paquets du protocole WebSocket pour éventuellement les filtrer.
Si tu veux externaliser ça de ton application, tu peux utiliser un reverse proxy qui lui peut parler WebSocket et analyser les données, et choisir de les passer ou non à ton application. N'oublie pas que si tu fais du WebSocket over SSL, c'est ton reverse proxy qui va devoir utiliser le certificat publique, et plus ton application qui ne causera qu'avec le proxy. Si tu veux un soft en particulier, apparemment HAProxy est capable de gérer les WebSockets out of the box (et faut le dire, ce soft a un nom fantastique
).