La régression à l'infini n'est gênante que si tu présupposes dès le départ que le monde physique est par nature fini et aurait donc un commencement, ce qui impliquerait nécessairement l'intervention d'un déclencheur préexistant à ce monde.
Mais on peut être rétif à ton présupposé lui-même : pourquoi considérerait-on que tout ce qui existe a une cause ? Ce n'est pas parce que toute chose finie dont nous avons l'expérience directe se présente à nous comme ayant une cause qu'il n'y a pas des choses débordant notre expérience qui seraient sans cause.
De toute manière, qu'on admette l'existence d'un monde physique sans instant zéro - donc comme ayant toujours été - ou que l'on s'arrête en cours de régression à un Créateur, on en revient nécessairement à une première cause qui, parce qu'elle est première, est cause d'elle-même. Dans le cas d'un univers présent depuis toujours, son acte d'être (pourquoi y a-t-il quelque chose plutôt que rien ?) est un mur au-delà duquel on ne peut plus remonter : oui, il y a de l'être, on le constate et puis c'est tout. Dans le cas d'une intervention créatrice, Dieu devient ce mur : avant même que ne soit le monde, pourquoi y a-t-il Dieu plutôt que rien ?
Après on peut gloser : parce que Dieu étant un être parfait, il est de l'essence même de sa perfection d'exister ; et parce qu'il est parfait, il ne manque de rien ; ne manquant de rien, il ne manque donc pas de bonté et parce qu'il est bon il donne au monde d'être, etc. Mais au fond, c'est tout à fait spéculatif, et le croyant n'est pas tellement plus avancé que l'athée. L'un et l'autre constatent qu'il y a de l'être : l'athée en laisse régresser la cause à l'infini, tandis que le croyant déplace l'infini dans une première cause pour ne plus avoir à régresser.
Ça revient à peu près au même, non ?