GPT4.0更新内容

GPT-4.0是OpenAI的一款语言理解系统，它与先前的版本相比有显著的升级。首先，GPT-4.0增加了1.5B参数(以前的版本都在115M参数左右)，保持类似水平时能够扩展出10到100倍之间不同大小的语料库。此外，GPT-4.0使用Reformer运行递归神经体带来了性能上巨大的提升：根据测试对各项任务中表现得20-100% 的整体准确度上升(包括GLUE, SuperGLUIE, 等)。考虑到Reformer在内部乘法运作方面40~80X 更快，因此GTP 4.0 在各个方面都会看出强大性能上显著性能上奇妙升级。