万博登录入口主页_万博ManBetX登录注册入口

技术精华：生成式AI2023（附下载）

时间：2024-03-21 05:40:32   作者: 隧道照明方案

  如果说 2022 年被称为生成式人工智能之年，扩散模型应用取得突破，ChatGPT 出世，一系列开创性的研究论文发表，2023 年则把大模型推向了一个高峰，GPT-4的发布，标志着生成式人工智能，进入了面朝通用AI创新应用的阶段研究、应用、监管，合力开辟着生成式人工智能的发展之路。

  创新应用生成式人工智能的生态包括了基础设施层、模型层与应用层，创新在每一个层面发起，竞争也在科技巨头、行业龙头和初创公司之间展开。

  在整个生态中，受益于以参数规模为代表的大模型不断扩张，算力目前是最稀缺的资源，也处于最容易获利的要津。算力是大模型成本结构中最大的一块，GPU的性能，决定了这个新兴行业的步调。但是，GPU性能提升的速度，已经落后于大模型训练和推理需求的增长。

  面对这一革命性的技术，不论是主动还是被动，企业都被卷入其中。不管是技术的守成者、创新者还是采纳者，业务模式都将发生明显的变化，进而影响企业的发展。

  当前，生成式A1尚处于技术发展的早期阶段，基础架构和核心技术并不成熟;科技巨头忙于研发大模型，尚未顾及深度切入具体的应用场景。但巨头何时添加相似的功能(feature)始终是悬在初创企业头上的达摩克利斯之剑，而大模型能力边界的扩张也可能在未来挤占初创企业的发展空间，可以说，这是初创企业的蓝海，但也有航道下的暗礁。

  在中国，目前从模型出发的公司受到看好，通用大模型和重直大模型的创业如火如荼，而自建模型的应用也在努力构建着自己的壁垒;同样，科技巨头正在利用自身算力优势来构建大模型。我们有理由相信，在众多模型层和科技大厂的合力下，模型层的整体能力将加强完善，在未来为应用层公司可以提供可靠的支撑。

  生成式AI领域的一个突出特征，是研究与创新过程的密切结合，许多在企业内部实现，迅速推出用例和产品。这种研究与创业的一体化，初创企业和风险资本起到了重要的作用，而美国科技巨头和主要AI企业的研究投入、人才密集度、包括一些底层技术的研究，这些年来已超越了大学等研究机构。

  GPT-4 进发出通用AI的“火花”，需要研究和解决的问题反而更多了，如信心校准、长期记忆、持续学习、个性化、规划和概念跨越、透明度、认知谬误和非理性，等等。而过去半年最重要的研究方向，是破解和理解大模型神秘而又令人兴奋的智能“涌现”。大模型既需要超越对下一个词的预测能力，也需要一个更丰富、更复杂的“慢思考”深层机制，来监督“快思考”预测下一个词的机制。

  大模型不仅用来生成文章和图片，还能够当成智能代理:帮助管理和执行更复杂的任务。开源模型实现了低成本、小型化、专业化的训练，与闭源的基础模型竞争互补，一同推动了生成式人工智能技术的应用，也加快了模型向边缘侧和移动端部署。生成式人工智能大模型日益向多模态发展，具身智能也成为一个重要研究方向，帮助生成式人工智能更好地理解和处理现实世界的复杂性和多样性。大模型更安全、让智能更可信，成为新兴的研究热点。生成式人工智能对于就业和经济的广泛影响，正在吸引经济学、社会学、心理学等不相同的领域的研究兴趣。但仍然需求实证性的研究。

  生成式人工智能加快了中国、欧盟和美国的监管和立法的进程。欧盟努力在今年底让《人工智能法案》生效，为全球AI立法定下基调。中国也预计将于明年提出综合性的人工智能立法。而美国重点在于建立风险控制技术标准。

  中国对通用AI表现出很大热情与期待。地方政府中北京、上海、深圳是第一梯队，均提出了较具雄心的人工智能科研、创新与产业目标。中国研究人员发布的论文在数量上已超越了美国，但在金字塔顶端，无论是研究还是创业，美国仍然占据明显的优势，

  科技部要求AI企业应该接受科技伦理审查;审查主体应该设立科技伦理(审查)委员会。美国AI企业较早开始设立负责任与可信人工智能部门，从去年到今年以来经过一些调整，反映出在生成式人工智能发生变革之际，企业正在寻求用更好的技术和方案，来安全和负责地部署新技术。

  基于上述研究，报告对未来一至三年的大语言模型、多态模型和商业竞争态势，做出了十点前瞻。