Trl至少0.18.0才会在Grpo_Trainer初始化时维护self.llm, self.llm在WebArena_env.py中进行了调用。 参考环境给的是0.16.0dev0
Trl至少0.18.0才会在Grpo_Trainer初始化时维护self.llm, self.llm在WebArena_env.py中进行了调用。
参考环境给的是0.16.0dev0