最近通义千问更新了，这次的更新最大的特性就是「地表最强」的上下文能力，基本上可以实现一次性读1000万中文的性能。
说实话，我觉得这已经突破上下文的概念了，因为不管是ChatGPT还是其他的任何一家的大模型，通常的上下文在200k，也就是20万就已经很惊为天人了。
但是通义千问，把这个指标直接拉高了将近50倍，直接读1000万，这是什么概念呢，轻轻松松读20本三体（一本50万字左右），3部哈利波特全集等等。
这对于一些人来说就是神器，因为很多资料其实是非常长的，比如芯片的体系架构资料，动不动就是上千页，甚至上万页，对于一个人来说，这种资料几乎不可能读完，顶多当成一步词典来找资料。
但是有了大模型+大记忆能力，长文本不再是问题了，完全可以通过用AI大脑对长文本进行充分的理解，比如说一个关键名词，通义千问可以找出来并且整体性的解释。
我这个文章将对通义千问的强悍阅读能力进行简单的测试以及使用经验分享。
1 处理内容长度测试
通义千问理论上可以处理10000页左右的文档，但我接触过的文章很少有这么多，因为一篇博士论文一般也就大几百页，理工科的论文在300页左右，字数在4000左右。
我就拿了我电脑上保存的一些雅思资料作为测试材料，这8个文件加起来有个6000页左右，有pdf有word，文件大小差不多60多MB。
可以看到，8个文件都被顺利的读取了，并成功的输出了结果。
这个对于学习来说非常的有用，比如学习英语或者某一个学科，有很多的学习资料，但是检索起来非常的麻烦，这种超大的读取能力可以让学习事半功倍。
我又试了一个非常大的人工智能报告，300多页，要自己读的话得好几天。比如我想知道这个报告里的K12教育中，AP computer science考试的男女参加比例是多少。
这是原文中的内容。
这是我让通义千问粉丝和检索到的内容，不知道你注意到没，原文是英文，而我问的是中文，所以它回答的也是中文，并且回答的出来的结果完全正确。
这就是长文上下文的好处，你总是可以非常轻易的获取你想要的内容。
2 多文件读取并理解
这次我们测试的同时读取很多个文档，按照1000万字的读取能力，理论上一次性读100多个文档是比较轻松的，我们这里就在arxiv按照关键词LLM找了最新的论文。
选择了最新的15篇并下载了下来，就先读取这15篇文章。
可以看到，非常轻松的就把这15篇内容加载到了通义千问上
并且提了一个需求，就是分析这些
还是一样的丝滑，可以非常轻松的将这些文章上传并进行处理。
这个特性有个非常强大的使用场景，就是做文件综述，一般的文件综述需要看很多的论文，几十篇粗读是非常正常的，读个上百篇也不是不可能。
这个方法可以将繁琐的写综述变得十分的轻松，这是一个对于总结某些知识点非常有用的功能。
3 读取不同来源的文件
我们之前读的文件要么是pdf，要么是word，本质上都是可以一键被下载下来的，而有些文章只能在网页上读取，比如公众号文章，知乎文章等等。，要么设置了不能复制，要么就是根本无法下载。
这种方式想要读取也是可以的，你只需要输入他们的网页链接。
比如这篇公号里的文章，你只需要复制它的链接。
同样的，别的网页链接也可以，只需要复制到通义千问的对话框里，然后提问，他们就可以直接读取网页里面的内容。
在实际上学习中，会遇到很多种不同的文档，比如pdf，word，txt，markdown等等，不可能说只会碰到其中一个，所以能够处理不同种类文件的能力也是非常需要的。
并且更多的时候，多种形式的资料反而是常态，能够处理不同类型的文件对于学习非常的重要。
我的感想就是ChatGPT将上下文对话，所谓的contextual对话功能，也就是带着记忆的对话功能给开发了出来，所以才会让你很惊艳。
而ChatGPT其实做的很初级，因为你在一个session，也就是一个对话框里输入的内容它能记得住，但是你再重新开一个session，它之前的内容就记不全了。
这其实只是非常短期的记忆，而真正长期的记忆，你得有更长的上下文以及记忆存储空间。
通义千问的这个feature，我觉的就是对于超常记忆能力最好的补丁。
这个超长的记忆功能，我觉得是AI往前迈进另一步的关键步骤，因为拥有金鱼记忆的脑子肯定不会是聪明的脑子。
当然了，一次性可以处理100个文档，每个文档可以高达150MB的怪物，我这个使用方法只是抛砖引玉，肯定还会有更加聪明的使用方法。 |
|
