- html - 出于某种原因,IE8 对我的 Sass 文件中继承的 html5 CSS 不友好?
- JMeter 在响应断言中使用 span 标签的问题
- html - 在 :hover and :active? 上具有不同效果的 CSS 动画
- html - 相对于居中的 html 内容固定的 CSS 重复背景?
我无法调用 learner.fit
因为它会引发上述错误。
具体来说,
我正在尝试训练一个采用文本文件并将其转换为 LanguageModelData
的语言模型并通过 get_model
将其提供给 RNN
md = LanguageModelData.from_text_files(PATH, TEXT, **FILES, bs=bs, bptt=bptt, min_freq=10)<br/>
learner = md.get_model(opt_fn, em_sz, nh, nl,
dropouti=0.05, dropout=0.05, wdrop=0.1, dropoute=0.02, dropouth=0.05)
learner.reg_fn = partial(seq2seq_reg, alpha=2, beta=1)
learner.clip=0.3
learner.fit(3e-3, 4)
ValueErrorTraceback (most recent call last)
<ipython-input-7-579772ee6693> in <module>()
----> 1 learner.fit(3e-3, 4)
/nfsroot/data/home/yeshwanth/misc/fastai/fastai/courses/dl1/practice/fastai/learner.py in fit(self, lrs, n_cycle, wds, **kwargs)
285 self.sched = None
286 layer_opt = self.get_layer_opt(lrs, wds)
--> 287 return self.fit_gen(self.model, self.data, layer_opt, n_cycle, **kwargs)
288
289 def warm_up(self, lr, wds=None):
/nfsroot/data/home/yeshwanth/misc/fastai/fastai/courses/dl1/practice/fastai/learner.py in fit_gen(self, model, data, layer_opt, n_cycle, cycle_len, cycle_mult, cycle_save_name, best_save_name, use_clr, use_clr_beta, metrics, callbacks, use_wd_sched, norm_wds, wds_sched_mult, use_swa, swa_start, swa_eval_freq, **kwargs)
232 metrics=metrics, callbacks=callbacks, reg_fn=self.reg_fn, clip=self.clip, fp16=self.fp16,
233 swa_model=self.swa_model if use_swa else None, swa_start=swa_start,
--> 234 swa_eval_freq=swa_eval_freq, **kwargs)
235
236 def get_layer_groups(self): return self.models.get_layer_groups()
/nfsroot/data/home/yeshwanth/misc/fastai/fastai/courses/dl1/practice/fastai/model.py in fit(model, data, n_epochs, opt, crit, metrics, callbacks, stepper, swa_model, swa_start, swa_eval_freq, **kwargs)
159
160 if not all_val:
--> 161 vals = validate(model_stepper, cur_data.val_dl, metrics, seq_first=seq_first)
162 stop=False
163 for cb in callbacks: stop = stop or cb.on_epoch_end(vals)
/nfsroot/data/home/yeshwanth/misc/fastai/fastai/courses/dl1/practice/fastai/model.py in validate(stepper, dl, metrics, seq_first)
220 stepper.reset(False)
221 with no_grad_context():
--> 222 for (*x,y) in iter(dl):
223 y = VV(y)
224 preds, l = stepper.evaluate(VV(x), y)
/nfsroot/data/home/yeshwanth/misc/fastai/fastai/courses/dl1/practice/fastai/nlp.py in __next__(self)
135
136 def __next__(self):
--> 137 if self.i >= self.n-1 or self.iter>=len(self): raise StopIteration
138 bptt = self.bptt if np.random.random() < 0.95 else self.bptt / 2.
139 seq_len = max(5, int(np.random.normal(bptt, 5)))
ValueError: __len__() should return >= 0
最佳答案
看起来您的数据在 1 个 .txt 文件中,LanguageModelData.from_text_files()
期望处理包含许多文件的文件夹
UPD: 已解决!每个文件夹中必须至少有 bs
个文件!否则 LanguageModelData
的 LanguageModelLoader
的数据为空。
我在验证过程中遇到了同样的错误,问题似乎出在 LanguageModelData()
构造数据集的方式上:
for (*x, y) in md.trn_dl:
set_trace()
x
应该是一个 pytorch 张量或形状 (smth, batch_size)
,y
- 一个一维张量 smth*batch_size
。与 md.val_dl
相同。在您的情况下,很可能没有 (*x, y)
。数据出了点问题。 len(md.trn_dl)
和 len(md.val_dl)
不能等于 0。
我会很感激任何解决方案,谢谢你的问题!
此外,较新版本的语言模型删除了 torchtext
并使其更易于调试:https://github.com/fastai/fastai/blob/master/courses/dl2/imdb.ipynb
关于deep-learning - 法泰 : ValueError: __len__() should return >= 0,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/51170775/
关闭。这个问题不符合Stack Overflow guidelines .它目前不接受答案。 想改进这个问题?将问题更新为 on-topic对于堆栈溢出。 6年前关闭。 Improve this qu
我有实体: @Entity @Table(name = "CARDS") public class Card { @ManyToOne @JoinColumn(name = "PERSON_I
我正在尝试计算二维多边形的表面法线。我正在使用 OpenGL wiki 中的 Newell 方法来计算表面法线。 https://www.opengl.org/wiki/Calculating_a_S
关闭。这个问题不符合Stack Overflow guidelines .它目前不接受答案。 这个问题似乎与 help center 中定义的范围内的编程无关。 . 关闭 7 年前。 Improve
关闭。这个问题是off-topic .它目前不接受答案。 想改进这个问题吗? Update the question所以它是on-topic用于堆栈溢出。 关闭 9 年前。 Improve this
我这里有以下 XML: Visa, Mastercard, , , , 0, Discover, American Express siteonly, Buyer Pay
即将发生的 Google 政策变更迫使我们实现一个对话框,以通知欧盟用户有关 Cookie/设备标识符用于广告和分析的情况。我只想向欧盟用户显示此对话框。我不想使用额外的权限(例如 android.p
本文分享自华为云社区《华为大咖说 | 企业应用AI大模型的“道、法、术” ——道:认知篇》,作者:华为云PaaS服务小智。 本期核心观点 上车:AGI是未来5~10年内,每个人都无法回避的技
我有一个与酒精相关的网站,需要先验证年龄,然后才能让他们进入该网站。我使用 HttpModule 来执行此操作,该模块检查 cookie,如果未设置,我会将它们重定向到验证页面。我验证他们的年龄并存储
在欧盟,我们有一项法律,要求网页请求存储 cookie 的许可。我们大多数人都了解 cookie 并同意它们,但仍然被迫在任何地方明确接受它们。所以我计划编写这个附加组件(ff & chrome),它
以下在 C 和/或 C++ 中是否合法? void fn(); inline void fn() { /*Do something here*/ } 让我担心的是,第一个声明看起来暗示函数将被定义
我是一名优秀的程序员,十分优秀!