在距上次ChatGPT3.5开放api没多久,又有重磅的消息传来。
就在昨天的“AI in Focus - Digital Kickoff”会议中四位微软德国员工详细介绍了像GPT系列这样的大型语言模型(LLM)作为公司及其Azure-OpenAI提供的破坏性力量。
微软德国的首席技术官和数据与人工智能领导Andreas Braun非常随意地提到了GPT-4即将发布的事实。就是下面这位。
安德烈亚斯·布劳恩博士是微软德国的首席技术官和数据与人工智能团队的领导者,参加了微软数字启动活动“KI im Fokus”(AI in Focus)
GPT4是什么?
GPT4是OpenAI正在开发的一种新的语言模型,它可以生成类似于人类语言的文本。它将进一步提升chatgpt的技术,后者是基于GPT-3.5的。GPT是生成式预训练变换器(Generative Pre-trained Transformer)的缩写,这是一种使用人工神经网络来像人类一样写作的深度学习技术。GPT4和GPT3的主要区别在于模型的规模和能力。GPT4预计将拥有超过100万亿个参数,而GPT3只有1750亿个参数。这意味着GPT4可以处理更多的数据,生成更长、更复杂、更连贯、更准确、更多样化和更有创造力的文本。
GPT系列一览
2018年,GPT-1被推出,这是一种基于Transformer的语言模型,它是一种使用深度学习生成文本的人工智能(AI)类型。该模型具有512个token,12层Transformer块,117亿个参数,使用4.6千兆字节的数据进行训练。2019年,OpenAI发布了GPT-2模型,它是GPT-1的更大版本。它具有1024个token,48层,15亿个参数,并使用46千兆字节的数据进行训练。这使得该模型能够生成更长、更复杂的概念,并更具人类化和对话式。2020年,OpenAI发布了GPT-3,这是GPT-2的更大版本,具有更广泛的应用范围。该模型具有2048个token,96层,1750亿个参数和750千兆字节的数据。2022年1月,OpenAI发布了GPT-3.5,它基于GPT-3,但在“保护栏”内工作,这是早期的人工智能价值对齐的原型,通过强制其遵守政策来实现。2022年11月,OpenAI发布了ChatGPT,它基于GPT-3.5,但在更严格的保护措施下运行,这是旨在使AI符合人类价值观的早期原型,通过强制其遵守许多规则来实现。即将推出...GPT-4,OpenAI预计它将比GPT-3更强大,约有100万亿个参数。GPT-4有可能比GPT-3强大100倍。如果你对语言模型和生成式AI着迷,那么你一定会对OpenAI的GPT(生成式预训练变换器)模型的第四个版本感到兴奋不已!据认知科学家Gary Marcus称,ChatGPT 4只是GPT-4即将到来的一瞥。有关GPT-4的传言已经流传了数周,其中有两个常见的主题:它预计将明显优于GPT-3和ChatGPT,而且将在春季相对较快地发布,没错现在马上要发布了。微软首席技术官Scott Stein最近预测2023年将是AI更加重要的一年。已经有几个人测试了GPT-4,并且他保证“会令人惊叹不已”。他预计GPT-4将提供100万亿个参数,并使用整个互联网的大部分作为训练数据。然而,Marcus认为GPT-4的架构不会与GPT-3或ChatGPT有显著差异,这个模型在理解世界方面也会有类似的弱点。ChatGPT 4是史上最强大的GPT,它可能会超越你的想象!因为OpenAI目前正在测试它,而且据说只是GPT-4的冰山一角。这个版本预计将拥有100万亿个参数,使用大部分互联网作为训练数据。GPT4的强大已经开始让人感到恐惧了,推特上有人这么说到: