你好👋,
我尝试在你们的模型的基础上做一些尝试性的改进, 最近刚好想自己用你们original的baseline在rope3d上跑150个epoch,然后比较一下你们提供的 checkpoint 和我自己跑的checkpoint 的 evaluation的结果。
配置参数的部分除了batch size(因为受设备限制, 没那么多资源😂),其余没改。。就是按照paper4.2: implementation details的部分
最后比较了下结果有点出入, 请问你们的checkpoint在参数方便有微调么?或者在script有什么修改的 hard coding的部分么?
非常感谢你的文章
祝圣诞愉快!
你好👋,
我尝试在你们的模型的基础上做一些尝试性的改进, 最近刚好想自己用你们original的baseline在rope3d上跑150个epoch,然后比较一下你们提供的 checkpoint 和我自己跑的checkpoint 的 evaluation的结果。
配置参数的部分除了batch size(因为受设备限制, 没那么多资源😂),其余没改。。就是按照paper4.2: implementation details的部分
最后比较了下结果有点出入, 请问你们的checkpoint在参数方便有微调么?或者在script有什么修改的 hard coding的部分么?
非常感谢你的文章
祝圣诞愉快!