J'imagine que ca depend ce que tu fais avec. L'exemple typiqe est de generer des faces humaines et c'est super couteux. (ou du moins ca l'etait il y a deux ans). Par exemple, les image realistique produite par BigGAN https://www.fastcompany.com/90244767/see-the-shockingly-realistic-images-made-by-googles-new-ai avaient pris 512 TPU pendant 48 heures pour produire une image de 512 pixels.
Apres j'imagine que ca depend de ce que tu veux construire avec. Mais l'utilisation des GAN reste un probleme difficile aujourd'hui. regarde le tuto GAN de google ( https://developers.google.com/machine-learning/gan ) et tu vas te rendre compte que ce n'est absoluement pas plug-and-play.