Alors, personnellement l'approche que j'enployerai est la suivante :
1) Créer une extension pour browser qui cherche les ressource sur le web et afficher un bouton "VLC" lorsqu'il en trouve (à toi de choisir comment l'implémenter).
2) Le lien doit faire référence à un protocole custom par exemple au lieu de "http://www.youtube..." tu mets "govlc://youtube:XXXXX" par exemple.
3) Tu enregistre le nouveau protocole sur le système. J'ai trouvé un lien qui explique comment faire mais je l'ai juste parcouru vite fait.
https://support.shotgunsoftware.com/entries/86754-How-to-launch-external-applications-using-custom-protocols-rock-instead-of-http-
Je suis pas certain de ça fonctionne mais à toi de le découvrir. 