Salut,

Y en a a qui auraient une idée de comment changer de dataset dans un training via l'API d'object detection de tensorflow SANS relancer le training / réinitialiser la session etc ?

J'aimerais faire de l'online + active + transfer learning sur différents modèles d'object detection mais pour ça me faut avoir changer de dataset sans stopper le training

Le soucis c'est les queues de batch (BatchQueue objects définis dans l'API) qui ne semble pas se vider/recharger après avoir changer le fichier de TFRecords ...

Une idée ?

Tu peux pas push des nouvelles data dans ta queue ?

Bah c'est bien le soucis, j'ai aucune idée de comment faire avec cette api

J'ai tenté de redéfinir toute la partie training/inut reader etc moi même, je vais tester ça ce matin

Le 15 juin 2020 à 23:15:25 FanDeTwingo a écrit :
Tu peux pas push des nouvelles data dans ta queue ?

Je sais qu'en Pytorch les datasets peuvent être dupliqués sur plusieurs threads pour paralléliser le chargement des données donc ils sont figés une fois définis (le modifier ne modifie pas celui sur tous les threads). Enfin tu peux toujours recréer la partie chargement des données sans affecter le modèle ou l'optimizer.
Et rien ne t'empêche pendant l'entrainement d'en utiliser deux différents, faut faire deux loader et tu charges/utilises les données du dataset que tu veux.
En Tensorflow par contre je sais pas, et encore moins avec une API spécifique qui a son propre fonctionnement. Sur TensorflowV1 ça m'étonnerait pas que ça soit impossible vu que TF se pensait comme une pipeline entrée=>sortie très figée, mais avec TFv2 je sais pas.

Si j'utilise pas des API en DL c'est justement parce qu'en général dès que tu t'écartes d'un fonctionnement très proche de celui défini à la base, les algorithmes ne sont plus flexibles, du coup faut comprendre tout ce qui a déjà été fait par d'autres, ce qui revient à peu près à refaire les choses toi même. 95% du temps t'as pas à le faire, mais si tu dois, tu galères