【ChatGPT研究】自回归语言模型-RNN神经网络模型v2

叮小当 · 发表于 2023-4-17 10:54:51

本帖最后由叮小当于 2023-4-17 11:23 编辑

琪诺兔发表于 2023-4-17 01:35
大佬，我尝试用三十万字对话文本作为训练素材，跑跑就会出现数组成员错误，后来减少到十万还是不行。实验发 ...

我也发现了这个错误，并已经修正了代码，详见下方图片

这个模型只是一个简单的演示，想要达到理解问答的程度，还需要对文本进行标注，保证每行数据都是一个完整的问答，才可能达到想要的效果
以下是修正后的代码，并增加了可继续训练的功能，不会清空大脑

自回归语言模型.e (216.48 KB, 下载次数: 59)

琪诺兔 · 发表于 2023-4-17 01:35:38

本帖最后由琪诺兔于 2023-4-17 01:46 编辑

大佬，我尝试用三十万字对话文本作为训练素材，跑跑就会出现数组成员错误，后来减少到十万还是不行。实验发现，大部分情况是数组越界，32位只能使用3.99内存，可能是爆内存？

光影魔术 · 发表于 2023-4-16 23:05:59

感谢分享源码

alanwoo · 发表于 2023-4-15 23:55:09

学习一下

airaz · 发表于 2023-4-15 16:10:41

大哥建个qq群吧

忧郁之子 · 发表于 2023-4-15 11:12:39

牛，可以自己做自己的chatGPTl了

无极 · 发表于 2023-4-14 14:35:26

多谢楼主分享哟

kantal · 发表于 2023-4-14 07:59:24

支持开源~！感谢分享

aadada · 发表于 2023-4-13 23:03:01

可以多多益善，但是这个还是PY的东西多，C 或是 C++ 其他的语言的模型结构代码很少

sanclyj · 发表于 2023-4-13 21:45:39

向量矩阵复杂算法

		自动登录	找回密码
密码			注册

[易源码分享] 【ChatGPT研究】自回归语言模型-RNN神经网络模型v2